Pada awalnya, madrasah ini bernama Pendidikan Guru Agama Negeri (PGAN) 3 tahun dan selanjutnya berubah menjadi PGAN 6 Tahun. Saat itu PGAN sangat populer di kalangan pelajar Pekanbaru. Selain terkenal dengan pendidikan agamanya, PGAN juga terkenal dengan ekstrakurikulernya pada waktu itu yang paling menonjol adalah Pramuka.
Pada tahun 1993, PGAN beralih status menjadi MAN 2 Pekanbaru. Di bawah pimpinan Drs. H. Mukhlis Munaf sebagai kepala sekolah, prestasi MAN 2 Pekanbaru terus menanjak sehingga membuatnya berstatus sebagai madrasah percontohan di Riau, hingga namanya berubah menjadi MAN 2 Model Pekanbaru.
Pada tahun 2009, Kantor Wilayah Kementerian Agama merencanakan MAN 2 Model sebagai Madrasah Nasional Bertaraf Internasional. Untuk mewujudulkannya, pihak madrasah menjalin kerja sama dengan MAN Insan Cendikia Serpong, Banten.
Pada tahun 2013, MAN 2 Model Pekanbaru didapuk sebagai madrasah terbaik keempat nasional dengan meraih Madrasah Award dari Kementerian Agama . Madrasah ini juga dipercaya sebagai Madrasah Pendamping Kurikulum 2013.
Pada tahun 2018, kampus 2 MAN 2 yang terletak di Jl. H.R. Soebrantas, Pekanbaru, dipisahkan menjadi MA Negeri 3 Pekanbaru. Peresmiannya diresmikan oleh Menteri Agama Lukman Hakim Saifuddin.
Diakhir tahun 2018, MAN 2 Pekanbaru menjadi satu-satunya Madrasah di Riau yang menjadi Madrasah Unggul rujukan nasional karena prestasinya. Madrasah ini akan membuka jalur PPDB Nasional untuk siswa se-Indonesia.
Pada tahun 2019 , MAN 2 Model pekanbaru resmi melepaskan status percontohan dan berubah nama menjadi MAN 2 Kota Pekanbaru. meskipun tidak memakai nama model lagi, MAN 2 Kota Pekanbaru tetap menjadi salah satu dari 7 Madrasah rujukan nasional pada tahun 2020 dan menjadi salah satu Madrasah percontohan nasional untuk penerapan sistem pembelajaran berbasis SKS.
Selain menjadi Madrasah rujukan, Pada penerimaan tahun 2020 MAN 2 Kota Pekanbaru juga membuka program kelas keterampilan yang dibagi ke dalam 9 kelas keterampilan (diluar reguler & SKS Percepatan).
