兰州市博物馆创建于1984年，是一座地方性博物馆，最初的馆址位于兰州酒泉路互助巷2号（现甘南路八办纪念馆旧址）。

1991年博物馆迁至庆阳路240号白衣寺，这座寺院始建于明崇祯四年（1631），因大殿绘有白衣大士像而得名，后来寺庙毁于战乱，只有寺塔保存至今。

2013年博物馆闭馆改造，2019年8月重新对外开放。

升级后的兰州市博物馆占地面积4700平方米，展厅面积3600平方米，基本陈列“大河流韵：兰州历史文物展”共展出474件文物，分5个单元回顾兰州从史前至明清的历史，同时运用数字技术，全面展示兰州市重要古代文化和考古研究成果。

兰州市博物馆馆藏文物12675件，其中国家一级文物53件，二级文物93件，三级文物759件，以马家窑文化为主的彩陶，明清甘肃地方文人书画以及白衣寺塔藏文物较为丰富，重点藏品包括半山彩陶鼓、东汉墨迹纸、宋代老子骑牛造像等。