MTs Negeri 2 Cilacap yang dulunya bernama MTs Purbayasa yang didirikan pada tanggal 10 Mei 1985 oleh Yayasan Ma’arif yang dirintis oleh Bapak Dardiri dan tokoh masyarakat sekitar, pada waktu itu beliau adalah seorang Guru Agama Islam.
Perkembangan MTs Purbayasa selanjutnya adalah pada tahun 1988 dimana pelaksanaan Ujian Negara menginduk kepada MTs Negeri Karanganyar Purbalingga. Sedangkan Pada tahun 1992 pelaksanaan Ujian menginduk pada MTs Negeri Purwokerto, dan selanjutnya menginduk ke MTs Negeri Majenang Cilacap. Pada tanggal 25 Nopember 1995 terjadi periubahan nomenkelatur MTs Purbayasa di Negerikan melalui SK Menteri Agama No. 151A menjadi MTs Negeri Karangpucung Kabupaten Cilacap.
Berdasarakan Keputusan Menteri Agama Nomor 810 Tahun 2017 tanggal 3 Okotober 2017 terjadi perubahan nomenkelatur yang kedua, MTs Negeri Karangpucung Kabupaten Cilacap menjadi MTs Negeri 2 Cilacap sampai sekarang.
MTs Negeri 2 Cilacap memiliki Tenaga Pendidik dan Tenaga Kependidikan yang handal dan profesional dengan kualifikasi pendidikan S1 maupun S2. Jumlah Tenaga Pendidik 42 Orang, sedangkan Tenaga Kependidikan 11 Orang. Untuk tenaga Pendidik Jumlah kualifikasi pendidikan S1 sebanyak 32 orang, S2 sebanyak 3 Orang dan Calon S2 sebanyak 7 Orang. MTs Negeri 2 Cilacap berdiri kokoh dengan alamat Jl. Raya Sindangbarang Karangpucung KM 04 Desa Sindangbarang Kecamatan Karangpucung.