SMP Muhammadiyah 2 Godean didirikan atas inisiatif Pimpinan Ranting Muhammadiyah Sidomulyo Godean Sleman Yogyakarta yang dilatarbelakangi :
- Masih banyak anak tamatan Sekolah Dasar yang belum tertampung dijenjang Pendidikan Sekolah lanjutan Tingkat Pertama yang ada.
- Sebagai organisasi sosial yang bergerak dalam dunia pendidikan merasa berkewajiban untuk berpartisipasi aktif dalam usaha mencerdaskan bangsa sesuai dengan amanat yang tertuang dalam pembukaan Undang-Undang Dasar Negara Republik Indonesia 1945 alinea 4.
Oleh Pimpinan Ranting Muhammadiyah Sidomulyo inisiatif tersebut dimasukkan ke Pimpinan Cabang Muhammadiyah Godean, setelah musyawarah dicapai mufakat untuk meneruskan usul tersebut ke Pimpinan Daerah Muhammadiyah Kabupaten Sleman. Dan dibentuk Panitia Pendiri sebagai berikut:
| Ketua | : 1. Suyudi |
| 2. Suhudiarto | |
| Sekretaris | : 1. Ngaliobowo |
| 2. Wahadi | |
| Bendahara | : 1. Sutarjo PS |
| 2. Sudarto, BSC | |
| Pembantu | : 1. Umar, BA |
| 2. Asy’ari |
Atas ijin Allah SWT maka tanggal 12 Juli 1979 berdirilah SMP Muhammadiyah 2 Godean yang beralamat : Sembuh Lor, Sidomulyo, Godean, Sleman, Yogyakarta.
Pada masa-masa awal ruang belajar dan kantor menumpang di rumah Bapak Sasro Suwarno, Bapak/Ibu Joyo Suharsoyo dan Bapak Asy’ari yang semuanya berlokasi di Sembuh Lor, Sidomulyo, Godean, Sleman. Sementara itu Pimpinan Ranting berusaha untuk memperoleh tempat (tanah) untuk mendirikan gedung sekolah dan Masjid. Alhamdulillah, pemerintah Daerah Istimewa Yogyakarta berkenan memberi bantuan, berupa sebidang tanah seluas 3005 m2 yang berlokasi di Desa Rewulu, Sidomulyo, Godean dengan status hak pakai (SK Kepala Daerah Istimewa Yogyakarta Nomor 168/1972 tertanggal 5 Juni 1972).
Selanjutnya dibentuk Panitia Pembangunan Gedung antara lain Bapak H. Suharto Prowiro, Bapak Hadi Suprapto, BA dan Umar, BA dan secara bertahap telah membangun gedung sekolah maupun masjid. Sehingga mulai awal tahun Pelajaran 1988/1989 seluruh kegiatan belajar mengajar telah dilaksanakan di satu lokasi yaitu di komplek Masjid At Tauhid. Pembangunan tersebut dapat terlaksana berkat partisipasi masyarakat sekitar terutama yang tergabung dalam ikatan wali murid (IKWAN atau BP3)
