Haji Agus Salim membangun Hollands Inlandsche School (HIS), yaitu sebuah sekolah dasar swasta di kampung halamannya, Kota Gadang, setelah ia bekerja di Arab Saudi selama 5 tahun. Berdirinya Hollands Indische School (HIS) di Kota Gadang, selain sebuah tradisi berbakti dalam adat Minangkabau, juga dilandasi dari pemikiran Haji Agus Salim yang berpendapat bahwa pendidikan adalah hal yang sangat penting. Salah satu penyebab dijajahnya bangsa Indonesia oleh bangsa Belanda karena bangsa Indonesia belum terdidik. Memajukan pendidikan orang Indonesia adalah salah satu alat untuk melepaskan bangsa Indonesia dari penjajahan.
Di sekolah yang didirikan Haji Agus Salim ini, berlaku aturan yang istimewa. Anak-anak yang yang cerdas, tetapi tidak mempunyai biaya untuk sekolah, maka akan dibebaskan dari biaya sekolah. Guru-gurunya mengajar dengan sukarela, mereka tidak mendapat gaji. Pendidikan kebangsaan adalah pelajaran yang penting untuk disampaikan di dalam kelas di sekolah yang dikelola oleh Haji Agus Salim ini. Haji Agus Salim berpendapat: “Bibit kebangsaan perlu ditanamkan kepada anak-anak disamping pelajaran-pelajaran lainnya. Anak-anak yang bersekolah di sini, dipersiapkan untuk menjadi pemimpin, yang akan menggantikan pemimpin yang telah tua’’.