Sejarah pembukaan Jelebu selalu dikaitkan dengan kedatangan orang-orang Minangkabau.

Namun pada mulanya Jelebu didiami oleh kaum asli Jakun dari Suku Biduanda. Mereka merupakan penduduk asal Jelebu dan suku Biduanda masih ada hingga ke hari ini. Kisah bermula apabila Batin Terjali iaitu anak Maharaja Alif yang memerintah kerajaan Pagar Ruyung Minangkabau, keluar mengembara untuk mencari pengalaman dan meluaskan pemerintahan ayah baginda. Setelah lama berjalan menyeberang laut dan sungai akhirnya Batin Terjali dan orang-orangnya sampai di Bukit Kundang Kundik di Jelebu. Kedatangan mereka disambut baik oleh orang-orang asli di kawasan tersebut. Semasa berada di Jelebu, Puteri Embong Sari iaitu isteri Batin Terjali melahirkan seorang anak lelaki lalu diberi nama Datok Niko Menteri Mangku Alam Raja Sehari. Dan sebelum meninggalkan Jelebu untuk meneruskan pengembaraannya, Batin Terjali meninggalkan putera baginda kepada ketua suku orang asli Jelebu dengan pesanan bila puteranya sudah besar kelak hendaklah dijadikan penghulu Jelebu. Ketua orang asli itu bersetuju dan berjanji akan patuh dengan apa yang telah diperintahkan. Adapun Batin Terjali terus mengembara untuk membuka negeri dan di setiap tempat yang disinggahinya baginda akan meninggalkan seorang putera kepada ketua suku kaum asli di situ dengan pesanan bila putera itu sudah dewasa kelak hendaklah di jadikan penghulu di tempat itu. Kesemua Ketua kaum asli itu menepati janji mereka. Apabila putera Batin Terjali sudah besar maka dilantik menjadi Penghulu. Dengan ini wujudlah pemerintahan dari putera-putera Batin Terjali. Datok Niko Menteri Shah Mangku Alam Raja Sehari menjadi penghulu di Jelebu, Datok Kelana Putera Penghulu di Sungai Ujung dan Datok Johan Pahlawan Lela Perkasa di Johol. Hubungan antara mereka terus terjalin dan daerah itu akhirnya menjadi tumpuan orang-orang Minangkabau. Walaupun begitu, dalam senarai daftar nama penghulu di Jelebu, orang pertama dicatat namanya sebagai penghulu Jelebu ialah Datok Gombak, kemudian Datok Mentunggang dan diikuti oleh Datok Moyang Salleh. Datok Moyang Salleh merupakan Datuk Undang Luak Jelebu yang pertama dengan memakai gelaran Datok Mendelika Menteri Akhirul Zaman Sultan Jelebu. Gelaran itu dikurniakan oleh Sultan Johor iaitu Sultan Abdul Jalil semasa berlakunya peristiwa memutus tali ke Johor. Walau bagaimana pun Datok Moyang Salleh tidak melantik dirinya sebagai Sultan Jelebu dan beliau hanya menjadi Undang Luak Jelebu sahaja. Pada mulanya Jelebu berada di bawah pemerintahan kerajaan Melayu Melaka tetapi apabila Sultan Melaka berpindah ke Johor maka taat setia orang Jelebu beralih ke Johor. Cuma setelah berlakunya peristiwa MOYANG SALLEH MEMUTUS TALI KE JOHOR barulah Jelebu bebas dari kekuasaan Sultan Johor.