Museum Jawa Tengah Ranggawarsita mulai dirinstis pembangunannya sejak 1975 oleh proyek Rehabilitasi dan Permuseuman Jawa

Tengah, Kabid Permuseuman dan Kepurbakalan, Perwakilan Departemen P dan K Provinsi Jawa Tengah. Pada tahun 1980-an telah berdiri prasarana fisik, berupa gedung perkantoran dan satu gedung ruang display koleksi. Dengan adanya sarana fisik (gedung pameran tetap dan gedung C) yang telah siap serta koleksi yang telah dikumpulkan sebelumnya maka pada tahun 1983 mulai difungsikan dengan nama Museum Persiapan. Peresmian museum saat itu dilaksanakan pada hari Sabtu Pahing, 02 April 1983 oleh Gubernur Jawa Tengah, Soepardjo Roestam. Penentuan rencana induk bangunan museum ini diperoleh dari hasil sayembara yang dimenangkan oleh tim dari mahasiswa Undip yang dipimpin oleh Totok Rusmanto, dengan rancangan bangunan museum untuk standar museum Asia Tenggara. Oleh sebab itu, secara fisik Museum Jawa Tengah museum terbesar dibandingkan dengan bangunan-bangunan dengan gaya arsitektur post modern. Luas bangunannya 8.438 m2 mencakup pendapa, gedung pertemuan, gedung pameran tetap, perpustakaan, laboratorium, perkatoran, gedung deposit koleksi (storage), dan berdiri di atas lahan seluas 2 hektar lebih. Penetapan nama Ranggawarsita yang digunakan sebagai nama museum dilakukan dengan cara mengusulkan tiga nama museum kepada Gubernur Jawa Tengah melalui surat Kepala Kanwil Depdikbud Propinsi Jawa Tengah nomor 1007/103/J/88 tanggal 21 Juni 1988. Tiga nama yang diusulkan adalah (1) Museum Negeri Ranggawarsita, (2) Museum Negeri Raden Saleh, (3) Museum Negeri Propinsi Jawa Tengah. Nama yang disetujui adalah Ranggawarsita yang akhirnya diusulkan kepada Mendikbud untuk menetapkan nama tersebut.