Instituce, která už při svém zrodu dostala do vínku péči o kulturní dědictví svého města – má více než stoletou tradici.
Slavnostní otevření městského muzea se konalo v neděli 18. září 1904 u příležitosti desátého jubilea úřadování brněnského starosty Augustina rytíře Wiesera. Muzeum bylo umístěno v historických prostorách bývalého domu moravských stavů (dnešní Nové radnice) a navázalo zde na dřívější instalaci městské galerie, vzniklé na počátku roku 1896 z odkazu významného brněnského měšťana Heinricha Gomperze, která se tak stala součástí muzea. O zřízení vlastního městského muzea rozhodl obecní výbor města Brna už 20. března 1900, přestože na území města už po několik desetiletí působily dvě další muzejní instituce – Františkovo, pozdější Moravské zemské muzeum (zal. 1817) a muzeum uměleckoprůmyslové (1873).
Slibný počáteční rozvoj nového muzea přibrzdila první světová válka a bez problémů nezůstalo ani následující období, v němž moderní Brno prožívalo mohutný rozmach. V polovině třicátých let muselo muzeum opustit své původní prostory vzhledem k rekonstrukci areálu Nové radnice pro potřeby magistrátu a nalezlo útočiště v méně vhodném prostředí tzv. městského dvoru na Šilingrově náměstí. Tehdy také došlo ke sloučení muzea s městským archivem – definitivně se obě instituce osamostatnily až v roce 1948. Jistou stagnaci a škody způsobené událostmi druhé světové války se postupně dařilo překonávat a už během padesátých let můžeme zaznamenat postupný nárůst muzejní práce i jejího ohlasu u veřejnosti.
Zásadní zlom pro rozvoj muzea pak přineslo jeho přestěhování na významnou brněnskou památku hrad Špilberk v roce 1960.
Také postupný nárůst počtu kvalifikovaných odborných i technických pracovníků se zákonitě odrazil na rozsahu i kvalitě muzejní činnosti, v růstu muzejních sbírek, v nových výstavách a expozicích i v dalších formách vědecké, odborné a kulturní práce. Ani problémy vyvolané mnohaletou rozsáhlou (a dosud ne zcela dokončenou) rekonstrukcí sídla muzea Špilberku po roce 1984 na tom nemohly příliš změnit.
Muzeum města Brna se rozsahem i hodnotou svých sbírek a také svou vědeckou, odbornou, vzdělávací a kulturní činností, k níž neodmyslitelně patří i prezentace sbírek ve výstavách a expozicích, dnes řadí – a svědčí o tom i vysoký počet návštěvníků z domova i zahraničí – k předním muzejním institucím u nás.