In 1938 zijn een aantal particulieren in gesprek over de mogelijkheden om te komen tot de oprichting van een oudheidkundig en natuurhistorisch museum in Kerkrade. Een aantal inwoners is bereid om hun particuliere verzameling in bruikleen af te staan. Het betreft hier vooral de oudheidkundige verzameling van de heer Houppermans te Kaalheide en een verzameling fossielen en ertsen van de heer Ubaghs uit Eygelshoven. Voor wat betreft de locatie van het museum wordt gesproken over 2 panden: het voormalige Politiebureau aan de Hoofdstraat en het leegstaande kasteel Oud-Ehrenstein dat op dat moment nog eigendom is van de Franse paters Fransicanen, die er van1903 tot 1920 verbleven.
Eind 1942 wordt bekend dat in een vleugel van kasteel Oud-Ehrenstein een Oudheidkundig Museum zal worden ingericht. Tot conservator is benoemd de heer Jos Houppermans. Technisch leider wordt de heer C. Duykers, directeur van de Algemene Technische Dienst van de Gemeente Kerkrade. In de Gemeentelijke begroting voor 1943 wordt hiervoor een bedrag van fl. 5.500 opgenomen. Verder wordt in de begroting van de Gemeente Kerkrade een bedrag van fl. 20.000 voor de aankoop van het kasteel en fl. 80.000 voor de restauratie daarvan opgenomen. In mei 1943 wordt bekend dat de Gemeente Kerkrade het kasteel heeft gekocht.
Het museum werd officieel geopend op vrijdag 10 augustus 1945. Door ziekte van burgemeester Habets werd de opening verricht door locoburgemeester J. Spierts. Onder de aanwezigen bevonden zich de burgemeesters van Heerlen en Schaesberg, deken De Hesselle en notaris Thomassen. De collectie bestond aanvankelijk vooral uit schenkingen van particulieren, zoals Dr. De Wever uit Nuth en de familie Ubachs. Ten tijde van de opening is de Gemeente Kerkrade bezig met de aankoop van kasteel Oud-Ehrenstein.
In december 1948 komt het museum ter sprake tijdens de Algemene Beschouwingen in de Gemeenteraad. Daarbij wordt opgemerkt dat het museum de gemeente fl. 11.925 kost terwijl de inkomsten slechts fl. 370 bedragen. Verder wordt dan gesproken over het verplaatsen van het museum.
Begin jaren 50 werd het museum uitgebreid met een mijnbouwkundig gedeelte. In september 1955 werd de 5.000ste bezoeker geregistreerd.
