SD Muhammadiyah 06 Semarang, berada di tengah pemukiman perkotaan ± 6 km dari pusat Pemerintahan Kota Semarang, dan + 3 km dari pusat pemerintahan Provinsi Jawa Tengah tepatnya berlokasi di Jl. Cinde Utara No. 40 Kelurahan Jomblang Kecamatan Candisari Kota Semarang Jawa Tengah. Sebelah Timur SD Muhammadiyah 06 dibatasi oleh gedung SDN Jomblang 01, sebelah Utara dibatasi oleh Masjid Mujahidin dan Jalan Raya Tentara Pelajar, sedangkan sebelah Selatan dan Barat dibatasi oleh pemukiman penduduk.
Letak SD Muhammadiyah 06 Semarang, dekat jalan raya yang ramai. Meskipun begitu secara fisik gedung SD Muhammadiyah 06 tergolong sangat memprihatinkan karena bangunannya sudah banyak yang mengalami kerusakan terutama atap dan kusen jendela dan pintu. Gedung SD Muhammadiyah 06 berdiri di atas tanah seluas 499.5 M2.
Gedung SD Muhammadiyah 06 dahulunya adalah satu komplek dengan gedung SMP Muhammadiyah 3, karena baik SD maupun SMP Muhammadiyah 3 keduanya di bawah naungan Majlis Dikdasmen Muhammadiyah PDM Kota Semarang yang merupakan lembaga Pendidikian Muhammadiyah yang ada di Kota Semarang, SD Muhammadiyah 06 Semarang didirikan pada 47 tahun yang lalu. Tepatnya pada tanggal 1 Januari 1967. Dengan tujuan sebagai berikut :
Sama dengan tujuan pendidikan, yakni menjadikan manusia muslim yang murni dan sesuai dengan tuntutan zaman.
Dengan menampung anak usia sekolah dasar, khususnya dari masyarakat sendiri dan dari sekitar Kelurahan Jomblang dan Lamper Kidul.
Menunjang program pemerintah di bidang pendidikan dalam rangka mencerdaskan kehidupan bangsa.
Pada awal berdirinya SD Muhammadiyah 06 Semarang merupakan lembaga pendidikan di bawah pengelolaan jama’ah kuliah Ahad pagi Masjid Mujahidin. Setelah proses belajar mengajar berlangsung selama 5 tahun, tepatnya pada tahun ajaran 1972 SD Muhammadiyah 06 Semarang berada di bawah naungan DIKDASMEN Muhammadiyah, sehingga yang semula hanya SD yang difungsikan untuk menampung anak para jama’ah Masjid, kemudian berubah nama menjadi SD Muhammadiyah 06 dan terdaftar di Majlis Pendidikan Pengajaran dan Kebudayaan Wilayah Jawa Tengah dengan Nomor : 3331/I-201/JTG-67/79
Penambahan nama Muhammadiyah pada lembaga pendidikan SD ini karena mengingat para pengelolanya adalah orang-orang yang juga menjadi pengurus Muhammadiyah baik di tingkat Ranting, Cabang maupun Daerah yang menegaskan bahwa lembaga pendidikan SD Muhammadiyah 06 sejak saat itu merupakan bagian dari organisasi Muhammadiyah, baik secara struktural maupun kebijakan. Maka terjadi perubahan arah birokrasi dan kebijakan, lembaga yang semula berdikari bersama jama’ah masjid Mujahidin saja, kini organisasi Muhammadiyah menaungi lembaga pendidikan SD Muhammadiyah 06 tersebut.
Sejak berdirinya pada tahun 1967, SD Muhammadiyah 06 Semarang mengalami beberapa kali perubahan Kepala Sekolah. Adapun 25 tahun terakhir ini dipimpin oleh :
Bapak Soeparman tahun 1990 - 1994
Bapak Kofani tahun 1994 - 1996
Bapak Imam Budaya tahun 1996 - 2005
Bapak Syukri, S.Pd.I tahun 2005 - 2013
Bapak Arifin, S.Ag tahun 2013 - sekarang
