他出生在浙江绍兴府山阴县，六岁丧父，随其母回绍兴，又到湖北宜昌寄居亲戚家。他得空就翻看画册，十岁时入私塾拜宜昌名人王步点(号浴生)为师，读书学画、学算术、读英文。后在杭州住过三年，19岁时到上海，在朋友处绘画。
1912年刘海粟与张聿光创立上海图画美术院，后来叫上海美术学校，邀张聿光当校长，时年27岁，刘17岁。张聿光因无空，主要去授课，校务工作由刘海粟、丁悚、王济远等去做。此后他逐渐脱离上海美专由刘海粟担任该校校长。
从事绘画美术工作对于颜料画笔都是必需品。在第一次世界大战期间，这些尤其缺乏，靠国外进口也不便。1918年时，张聿光和几个朋友办“六合公司”做方块水彩色及画笔，因不善经营一年多便停办了。
1919年另外一些朋友如谢锦堂、徐宝琛、洪季棠等创立了马利工艺厂，经营尚满意，要张聿光也参加，便于在美术界提倡推销国货。因此，他即以六合公司时所剩下的颜料原料投入作股。此后数十年直到现在，马利厂的马头颜料及文化美术用品驰名海内外。
为了充实对西洋画的知识技巧，于1920年时在沪随法国画家吕陶夫为师，学了三年铅笔画、水彩画、油画及解剖学。其间曾游学日本各地观摩他们的艺术。1922年时又随俄国画家浦特哥斯基学西洋画。因为西洋画有其科学基础，对于后来从事国画有帮助。
上世纪二、三十年代，张聿光在法国国立博物馆、德国柏林艺术院、美国金门博物馆以及巴拿马世界博览会上均保存有他的作品以及给他的奖励。
上海的讽刺画、漫画最早见之于日本报纸。张聿光画漫画是光绪末年开始于《新闻报》，这是一张反清的报纸。他用的笔名是“冶”字。
宣统年间宣传革命的报纸有《民呼》、《民吁》、《民立》，是由于右任、邵力子、戴季陶、杨千里编办，邀他担任漫画记者。
1926年到1933年，张聿光被邀至明星影片公司担任美术主任，和洪深、欧阳予倩在一起，曾拍摄过“白云塔”等多部影片。片中所采用的内景与外景、即实景与布景相接的美术手法，效果很好。他在这方面的成就，可算是沪上的先驱了。
上海的舞台布景最早出现在圆明园路的兰心戏院，专门演外国戏如莎士比亚戏。张聿光通过朋友也常去观赏，为他们的舞台布景所吸引。
光绪末年绅商姚伯欣在十六铺开办“新舞台”，开头请日本人画布景，但他们不懂中国特点，有些布景画得不真实配不好。张聿光就开始画了第一场布景是个书房，开场之后观众叫好称赞不已，有的说“这是谁画的，可不能把他放走！”
梅兰芳在《舞台生活四十年中》也提及过新舞台和张聿光的大名，因此当时到冶欧斋访问的人很多，在当年美术界国画界中他是受到尊重的老人之一。
抗日战争时期赴大后方，历经艰苦而作画从未稍辍，在重庆、成都、昆明等地举行画展。
“文革”浩劫中，张聿光绘画用篆刻的大小百余枚图章，以及各式应用于大到中堂立轴、小到扇面上的图章均被抄走；还有毕生积藏的历代名家书画精品、欧美西画明信片、他本人为展览会裱好的国画以及数百帧写生菊花品种的西洋画等等均被全部抄走。他们甚至说：“这个老头子还画什么画”，把画桌也拆毁了。
经过“文革”几年的折腾，张聿光身心受到毁灭性的打击，绘画生涯全部泯灭，神志迟钝，步履蹒跚，终于在1968年3月病倒。于同年4月9日逝世，终年八十四岁。当时正是“文革”盛期，只有子女及几位至亲在海会寺火葬场告别。
