张讥字直言，清河武城人。祖父张僧宝，为梁朝散骑侍郎、太子洗马。父亲张仲悦，梁朝庐陵王府录事参军、尚书祠部郎中。
张讥年幼时聪明俊美，思辩能力强，十四岁时，通晓《孝经》、《论语》。笃好玄言，师从汝南周弘正，常有新见解，被同辈们推崇佩服。梁朝大同年间，征补为国子《正言》生。梁武帝曾到文德殿释解《乾文言》、《坤文言》，张讥和陈郡袁宪等人在场，梁武帝诏令大家议论，诸儒都不敢先发言，只有张讥整整衣冠便讲，他论证严密，左右逢源，辞令温婉典雅。梁武帝觉得他不同寻常，便赐给他裙襦绢等物，又说：“这是表彰你研习古经的功劳。”
张讥年幼时丧母，他母亲留下一件镶嵌彩色纵线的丝织手帕，张讥懂事后，家里人把这件事告诉了他，每到一年的祭日他就对着手帕泣哭，不能自已。张讥父亲去世，他在服丧期间过于毁顿。服丧期满后，征补为湘东王国左常侍，不久迁任田曹参军，后又调任士林馆学士。
简文帝在东宫时，到士林馆以《孝经》出题目。张讥论议滔一滔一不一绝，很受赞赏。从此每有授讲诗文集子，定要派遣使者召请张讥。侯景叛乱时，宫城被围，张讥还在武德后殿跟哀太子讲授《老子》、《庄子》。梁朝台城陷落后，张讥在千辛万苦中逃难，始终没有效力于侯景。侯景之乱平定后，张讥任临安县令。
高祖接受禅让，张讥任太常丞，不久迁任始兴王府刑狱参军。天嘉年间，调任国子助教。当时周弘正在国学，以《周易》出题目，周弘正的四弟周弘直也在讲坛。张讥和周弘正议论，周弘正竟然辞屈，但其弟弘直正襟危坐措词严厉，帮助他哥哥讲述道理。张讥于是严肃地对弘直说：“今日议论诗文集子，辩名事理，即使知道你哥哥有困难，四公你也不能帮助。”弘直则说：“我帮助你的老师，有什么不行呢？”在座的人都笑了。周弘正常对人说：“我每次登台讲授，只要看见张讥在场，我就害怕。”高宗在位时，张讥任建安王府记室参军，兼东宫学士，不久调任武陵王限内记室，东宫学士职务不变。
后主在东宫，召集宫内官员设宴，当时玉一柄一拂尘刚做成，后主亲手拿着它，说：“当今学士如林，但能拿此玉一柄一拂尘者，只有张讥一人。”便亲手给他。张讥又在温文殿讲授《庄子》、《老子》，高宗到温文殿聆听，赐给张讥一袭自己穿的衣服。后主继位后，张讥担任南平王府谘议参军、东宫学士。后又调任国子博士，学士职务不变。后主曾驾临钟山开善寺召集侍臣坐在寺西南松树林下，诏命张讥阐明义理。那时去拿拂尘的人尚未赶到，后主诏令拿来松枝，亲手给张讥，并说：“可以代替拂尘。”后主又回过头对群臣说：“这就是张讥未来之事。”张讥在祯明三年(589)入隋朝，死于长安，时年七十六岁。
张讥一性一情恬静，不求名利，常常羡慕清闲安逸的生活，他的住所建在山水池边，种植花果，讲解《周易》、《老子》、《庄子》，并在这里传授其业。吴郡陆元朗、朱孟博、一乘寺沙门法才、法云寺沙门慧休、至真观道士姚绥，都转授其业。张讥所撰写的著作有《周易义》三十卷，《尚书义》十五卷，《一毛一诗义》二十卷，《孝经义》八卷，《论语义》二十卷，《老子义》十一卷，《庄子内篇义》十二卷，《庄子外篇义》二十卷，《庄子杂篇义》十卷，《玄部通义》十二卷，还撰有《游玄桂林》二十四卷，后主曾诏令去他家里把它们抄写后送进秘阁。
其子张孝则，官至始安王记室参军。