本館於新北市改制前原為泰山鄉立圖書館，坐落於明志路一段，後因館藏日增，館舍不敷使用。另因應時代趨勢，打造良好的硬體設備，提高圖書館的使用率，積極籌建新館，並於93年5月遷入現址。
泰山分館相關記事：
92年 提報行政院文化建設委員會公共圖書館強化計畫－公共圖書館空間及營運改善計畫。
93年 「泰山鄉立圖書館」移至現址正式啟用。
94年 「公共圖書館業務示範觀摩」示範館。
94、96年「臺北縣鄉鎮圖書館營運績效評鑑為甲等」。
99年 臺北縣升格，改制為「新北市立圖書館泰山分館」。
102年獲「全國公共圖書館營運績優圖書館」。
新北市立圖書館是新北市內最大之公共圖書館於93年11月8日經縣長發佈，刊登於臺北縣政府公報冬字第七期，94年1月1日生效。，並於1月2日舉行簡單隆重之揭牌典禮，由代理縣長林錫耀親自主持。
圖書館資訊網提供新北市公共圖書館資訊，除館藏資料查詢、服務查詢外，也提供豐富的知識活動。全年無休的電子書與電子資源更提供讀者任何時間、任何網點的閱讀。
