民國六十五年，遵奉中央加強文化建設政策，計畫在本市籌建一座高水準美術館，並納入政府十二項大建設之內。市政府於民國六十六年十月成立「臺北市美術館籌建指導委員會」，選定本市第二號公園預定地—中山北路與新生北路交叉三角地帶為館址，基地面積六、二○○坪(24169.8平方公尺)。於六十九年十月正式開工興築，全部工程於七十二年元月完工。同年延聘故宮博物院蘇瑞屏女士出任美術館籌備處主任，八月八日「臺北市立美術館」正式成立，並於七十二年十二月二十四日正式開館，為市民提供服務。
民國七十五年九月黃光男先生奉派為第一任館長。八十四年九月第二任館長張振宇先生接任，八十五年六月張振宇先生卸任，遺缺由教育局副局長劉寶貴女士兼代。民國八十五年十一月第三任館長由國立臺北師範學院副教授林曼麗女士接篆視事。民國八十九年七月林館長借調北美館任職四年期滿卸任回任教職，職缺由臺北市政府文化局黃才郎副局長於同年九月一日上任館長，將美術館朝向「現代化、國際化、本土化、精緻化」的方向發展，於九十六年三月結束館長任期並轉任文建會一處處長。
民國九十六年八月，謝小韞女士應臺北市政府之邀，轉任臺北市政府文化局副局長兼代臺北市立美術館館長之職。無論擔任任何職務，謝小韞女士對文化工作的熱忱與從工作中學習的心，始終不變。自民國九十八年元旦起，謝小韞女士專任臺北市立美術館館長。於民國九十九年三月一日起館長謝小韞轉任臺北市文化局局長，同日起館長職務由副館長陳文玲代理，繼續落實未來館務規劃。於民國九十九年九月十五日由新任館長吳光庭正式就任，各項館務均將持續推動，發揮美術館作為藝術平臺的深刻影響力。