RS PKU Muhammadiyah awalnya didirikan berupa klinik dan poliklinik pada tanggal 15 Februari 1923 lokasi pertama di Jagang Notoprajan No. 72 Yogyakarta. Awalnya bernama PKO (Penolong Kesengsaraan Oemoem) dengan maksud menyediakan pelayanan kesehatan bagi kaum dhuafa'. Didirikan atas inisatif H. M. Sudjak yang didukung sepenuhnya oleh K.H. Ahmad Dahlan. Seiring dengan waktu, nama PKO berubah dengan PKU (Pembina Kesejahteraan Umat). Pada tahun 1970-an status klinik dan poliklinik berubah menjadi RS PKU Muhammadiyah Yogyakarta.

RS PKU Muhammadiyah Yogyakarta memiliki Visi Menjadi rumah sakit Muhammadiyah rujukan terpercaya dengan kualitas pelayanan yang Islami, bermutu dan terjangkau. Dengan Misi Memberikan pelayanan kesehatan paripurna bagi semua lapisan masyarakat sesuai dengan peraturan/ketentuan perundang-undangan; Menyelenggarakan upaya peningkatan mutu Sumber Daya Insani melalui pendidikan dan pelatihan secara profesional yang sesuai ajaran Islam; Melaksanakan da’wah Islam, amar ma’ruf nahi munkar melalui pelayanan kesehatan, yang peduli pada kaum dhuafa’.