自来水博物馆位于台北市南区的公馆，在原来国防医学院的正对门，依山傍水、景色雅致、交通更是方便。从外观望去，博物馆的建筑物古色古香，充满中古欧洲建筑风味。根据台北自来水事业处的资料，自来水博物馆位处公馆观音山，阰邻新店溪。在日据时代这里被选定为台北水源地，建立第一座抽水机房，当时称作唧筒室，典雅浪漫的新古典建筑是当时一绝。