KH. Shalahudin Wahid, atau kita lebih akrab mengenal beliau Gus Sholah, menjelaskan sebenarnya yang mempunyai gagasan untuk membentuk atau mendirikan Jam’iyyah Nahdlatul Ulama adalah KH. Wahab Hasbullah, salah seorang santri Mbah Hasyim. Beliau adalah Kiai yang hebat dalam menemukan gagasan dan mewujudkan gagasan itu. Kiai Wahab sadar bahwa untuk bisa berhasil dalam mendirikan Jam’iyah NU, maka Jam’iyyah itu harus didirikan oleh Hadratussyaikh. Beliau matur kepada Hadratussyaikh dan menunggu kesediaan Sang Kiai.
Lama sekali beliau menunggu tetapi tidak ada tanggapan positif dari Hadratussyaikh. Maka beliau sowan kepada Syaikhona Cholil yang merupakan guru Hadratussyaikh dan juga Guru KH. Wahab Hasbullah dan mohon supaya Syaikhona berkenan ndawuhi Hadratussyaikh untuk bersedia menyatakan berdirinya Jam’iyah NU dan memimpinnya. Syaikhonan lalu mengutus Kiai As’ad Syamsul Arifin yang saat itu masih muda untuk menyampaikan pesan mendorong Hadratussyaikh agar bersedia menyatakan bedirinya NU. Sang utusan juga dibekali tongkat sebagai perlambang seperti yang diberikan kepada Nabi Musa.
Ternyata Hadratussyaikh masih belum bersedia, karena itu Syaikhona mengutus lagi Kiai As’ad, kali ini sambal membawa tasbih besar. Beberapa bulan setelah itu Hadratussyaikh baru bersedia. Jam’iyyah NU didirikan pada Rajab 1344 H atau Januari 1926 oleh Hadratussyaikh KH. M Hasyim Asy’ari, KH. Wahab Hasbullah, KH. Bisri Syansuri, dan belasan Kiai dari pesantren terkemuka di pulau jawa.
Gus Sholah menambahkan kepemimpinan Hadratussyaikh diakui oleh seluruh umat islam Indonesia, tidak memandang organisasi atau madzhab. Beliau diminta menjadi Ketua Majelis Syuro Partai Masyum yang dijabat sampai beliau wafat pada 1947. Beliau selalu mengemukakan di berbagai forum supaya umat islam Indonesia bersatu, jangan sampai terjadi perpecahan. Pada saat Hadratussyaikh dimohon untuk menyatakan berdirinya NU dan memimpinnya, beliau kuatir berdirinya NU akan membuat umat islam di wilayah Hindia Belanda justru semakin terkotak-kotak.
Apa yang disampaikan Gus Sholah di atas senada dengan laporan Sayyid Muhammad Asad Syihab dalam bukunya Al-Allamah Muhammad Hasyim Asy’ari Wadhi’u Lubnah Istiqlali Indonesiya dalam bab Al-Ukhuwah Al Islamiyah beliau menjelaskan;
Hadratussyaikh Hasyim Asy’ari sangat tidak menyukai fanatisme karena dapat memecah belah umat islam. Beliau selalu mengajak ukhuwah Islamiyah dan bersatu secara menyeluruh serta meninggalkan fanatisme buta. Beliau sepakat dengan al-Allamah Syaikh Muhammad Husein Abi Kasyif as-Shatha tentang ajakannya untuk mempersatukan dan menyatukan umay islam; meninggalkan fanatisme buta dan perselisihan antara kaum muslimin, dan berusaha menjauhkan segala sesuatu yang dapat memperlebar jurang pertentangan antara sesama umat islam.
Beliau berusaha sekuat tenaga untuk mewujudkan pemahaman-pemahaman kaum muslimin untuk memperkokoh kesatuan umat islam. Seringkali beliau berkata,
“bagaimana bisa kaum muslimin berpecah belah, selama kitab suci mereka satu, Al-Qur’an, nabi mereka satu, nabi Muhammad SAW, kiblat mereka satu, Ka’bah Al-Musyarofah. Tidak ada dai yang mengajak berpecah-belah, apalagi mengkafirkan satu sama lain. Perpecahan ini hanyalah menguntungkan musuh-musuh kaum muslimin.”
Dengan motivasi agama ini, ketika melihat perpecahan umat islam menjadi banyak organisasi dan perkumpulan, dan tidak ada pemersatu yang menyatukan mereka beliau berpikir untuk menyatukan organisasi-organisasi dan perkumpulan itu ke dalam satu wadah, agar menjadi satu pejuang islam. Dan atas dasar ini beliau terus berusaha merealisasikan tujuannya sampai berhasil.
Maka pada tangggal 21 September 1937 beliau mendirikan “al-Majlis al-Islami al A’la Lil Indonesiyyin/ Majelis Islam Tertinggi Indonesia” yang menghimpun partai-partai, organisasi-organisasi masyarakat dan perkumpulan islam dengan beraneka ragam madzhab, tujuan dan keyakinan agamanya. Inilah kali organisasi islam pertama yang menghimpun umat islam dalam satu lembaga.
Hadratussyaikh KH. Muhammad Hasyim Asy’ari selalu mengatakan, “selama kaum muslimin konsisten dengan keislamannya, maka masalah khilafiyah madhzabiyah dan masalah-masalah furu’iyah yang tidak prinsip, tidak boleh dijadikan alasan untuk memecah belah persatuan umat islam dalam keadaan apapun. Sesungguhnya masalah yang diperselisihkan itu adalah sepele”.