Di masa muda, Ba’asyir dikenal sebagai aktivis Himpunan Mahasiswa Islam Solo yang kemudian masuk struktur kepengurusan Pemuda Al-Irsyad Solo, Gerakan Pemuda Islam Indonesia, dan Lembaga Dakwah Mahasiswa Islam.
Pada awal dasawarsa 1970-an, Ba’asyir mulai merintis pendirian perguruan Islam. Ia akhirnya resmi mendirikan pondok pesantren Al-Mukmin di Dusun Ngruki, Kabupaten Sukoharjo, Jawa Tengah pada 1972.
Seiring waktu berjalan, Ba’asyir berhadapan dengan pemerintahan Soeharto. Ia, bersama rekannya Abdullah Sungkar, ditangkap dengan tuduhan menghasut orang menolak asas tunggal Pancasila dan melarang hormat pada bendera Merah Putih. Ba’asyir beranggapan perbuatan itu syirik.
BACA JUGA : Aa Gym Positif Covid-19, Langsung Isolasi Mandiri, Begini Gejala Awalnya!
Selain itu, Ba’asyir juga dituding bagian dari gerakan Hispran (Haji Ismail Pranoto), salah satu tokoh Darul Islam/ Tentara Islam Jawa Tengah.
Ba’asyir mendekam di bui kali pertama dengan vonis 9 tahun penjara. Pada 1985 saat Ba’asyir dan Abdullah menjadi tahanan rumah, keduanya melarikan diri ke Malaysia.
Di negeri jiran, Ba’asyir disebut memupuk pembentukan gerakan radikal Jamaah Islamiyah (JI) yang menjalin hubungan dengan Al-Qaeda. Namun, Ba’asyir menolak dikatakan demikian.
Ia mengaku tidak membentuk satu gerakan apa pun. Meskipun begitu, Ba’asyir masuk ke dalam laporan badan intelijen Amerika Serikat (CIA).
Ba’asyir menginjakkan kaki kembali di tanah air ketika Orde Baru runtuh. Ia terlibat dalam organisasi Majelis Mujahidin Indonesia (MMI) yang bertekad menegakkan syariat Islam.
Pada 8 Agustus 2002, Majelis Mujahidin Indonesia mengadakan kongres I di Yogyakarta untuk membentuk struktur kepemimpinan. Ba’asyir terpilih sebagai Ketua Mujahidin sementara. Tak lama setelah itu, ia pun kembali mengajar di Pesantren Ngruki.
