张普惠，字洪赈，本是常山九门人。他身高八尺，容貌魁伟。父亲张晔，本是齐州中水县的县令，张普惠随父亲到中水县，在齐州接受学业熏陶，他专心研读远古的经典，勤奋不止，等他返回故乡，到程玄处听讲学习，一精一通《三礼》，兼好《春秋》，对百家学说都有所掌握，儒士都对他十分称誉。
太和十九年(495)，张普惠被任为主书，带制局监，和刘挑符、石荣、刘道斌一同当值，高祖对他很了解。后来他转为尚书都令史。任城王元澄看重他的学问，为他提高名声。仆射李冲曾经到过元澄家中，看见张普惠的言论，也十分敬佩他。世宗初期，张普惠转为积射将军，元澄被任为安西将军、雍州刺史，启用张普惠担任府录事参军，不久负责冯翊郡的事务。
元澄有丧服在身，想在七月七日集会文武职官到北国进行猎射。张普惠奏劝元澄说：“我以为三杀九亲，别疏昵之叙；五服六术，等衰麻之心。都是用行动仪制表达情感，是不能更改的道理啊。但是最大的苦痛，深深铭记于终身之外；而铭碑刻文，主要是在丧期之内。以外不可失去礼节，所以在外的人不可没有节制，所以断之为三年，在内的人不可以立即就除去丧服，所以要督促于日月。礼，大殓之日要鼓素琴；用它来代表吉祥。小宝之上，不是虞纎殓除的时候不洗澡，这就是用制度来约束。曾子问：‘相识的人有丧，可以同他去祭祀吗？’孔子问答说：‘只服丧而不祭祀，又怎么能有助于人呢？’祭祀既不相与，我怀疑也就没有宴饮的道理。又说：‘废丧服，可以与于馈奠之事乎？’孔子回答说：‘脱丧服去祭奠，不符合礼法啊！’注释说：‘为了让他忘却哀痛啊。’我以为刚除丧的时候，不备酒食，在小丧之内，怎么可以去观看狩猎呢？《杂记》上曾讲：‘大丧之下，既葬适人，人给予他们酒食，他们的一伙人也可以食用，而不是他们那伙人也不给食物啊。给食物尤要选择对象，对于猎射就更令人迷惑了。我见您明确告知，确立了狩猎会集的日子，将于七月七日的时候，集全城的文武官员，到北国去较量武技，相互行相见之礼。这时又不是秋季大阅的时候，恐怕又涉嫌妨碍农家节气。国家缟素刚除，殿下丧服仍在，释怀为乐，由此教育百姓，便是变更先王的章程制度，忘却悲哀情感，恐怕不能以此来昭示您的品德，为子孙榜样啊。按照《射仪》，射者是以礼乐为本的，忘掉这个本而从事射，不可以说是合乎礼法呀。钟鼓不摆，也不可说是乐啊，除了这二者，又怎么用射呢？何况七日之戏，命令制度没有，所花费用，我考虑有违事体。现在府库还很空虚，需要等待新的租税，一点小的趣味，停下来也很方便。请您等到九月，再装备完善去尽兴而去；然后奏狸首反丘之事歌乐，宣告矍相的命令，声音轩悬，建起云钲，那时正是百姓之人人欢欣快乐之时啊。所以我希望您能让我朝的慈善贤名得以远近皆闻，百姓以此为希望。行动言语都依循礼法规则，希望您能广泛请教，垂询下问，予以采纳。彰扬他们的一管之见，宽恕他们失言的责任，那么社会田野无遗歌，人人都有奉献的积极一性一了。”元澄本意是要采纳张普惠的意见的，找了个借口自己作罢，于是回答说：“文武之道，自古就有一定成规，明耻教战，振古常轨。现在虽然不是公开的制度，但这个州继承以前的风俗，已经有了一定方式了。既不劳民损公，那么任由他们私下较射，又有什么损失呢。况且练文习武，人之常艺，怎么能于常规技艺之间，必须做什么命令规定呢？我原本想依照以前州府相率成习的规矩，于公务之暇，习艺的良时来进行，也没有讲要动用库物钱财。礼，兄弟内除，明哀已经过去，小丧，客来主人不能绝乐。听乐既然可以，观武又有什么妨碍呢？只不过我自想此缘故必须停止，先用命令停止后才收到你的请求，深知你的用意。”
元澄转到扬州后，又启用张普惠为羽林监领镇南大将军开府主簿，不久又加任威远将军。张普惠既然受元澄知遇，所以他历任二代藩王的幕佐，很有声誉。回京之时，张普惠装束简单，元澄送给他二十匹绢用来充当行资。回到藩王所在之地后，仍负责羽林监。
又有元澄遭遇到太妃去世，文武百官为太妃立碑写颂，准备在碑上题“康王元妃之碑”几个字。元澄求访张普惠的看法，张普惠回答说：“认真查寻历代朝廷典章，但只有王妃之称，而没有元这个字。鲁夫人孟子称“元妃”的人，意思是同下面‘继室声子’相对应。现在烈懿太妃作为先王之妇，更没有声子、仲子的嫌疑，我以为不必假借‘元’字来区别其名位。况且用氏配合姓，我认为这是对人活着时候的称呼，所以《春秋》有‘夫人姜氏至自齐’之句。既然去世下葬，就要用谥号来配姓，所以经上书写‘葬我小君文姜氏’，又有‘来归夫人成风之離’，都证明应当用谥配姓。古时的人妇女死后随从丈夫的谥号，今烈懿太妃品德冠绝一世，所以受到特别的褒彰与赐赠，这就是万代的重要事情，怎么能容在评定名谥这样重大的问题上，不称烈懿呢？”元澄听从了他的意见。
及至朝廷大军大举再征钟离时，张普惠担任安乐王元诠的别将长史。班师后，授职为扬烈将军、相州安北府司马。不久又升为步兵校尉。后又以这个官职兼领河南尹丞。世宗去世，因与甄楷等饮酒游玩之事连坐而被免官。骁骑将军刁整，家中原有旧的规定，将要举行俭朴的葬礼，张普惠认为这做法太过矫情，同刁整书信讨论，事情记载于刁雍传中。过去的惯例，免官的人，三年之后降一职后再启用，如果才优而被提拔授官者不在此例。熙平时期，吏部尚书李韶言张普惠有文采学问，依照才优提拔之例，应当特别提拔使用，朝廷命令任职为宁远将军、司空仓曹参军。朝廷舆论因其不降级而荣耀。当时任城王元澄为司空，他的表议书文记录，大都出于张普惠之手。
广陵王元恭、北海王元颢，怀疑为祖母服丧期三年之事，博士们各自意见不同，命群官共同商议。张普惠议论说：“认真按照二王祖母的问题推论，这二位老太太都是先王予以诰命的。做为二国的太妃，可以说是受命于天子，是二国最初被封的母后。《丧服》‘慈母如母’一句在三年这一章中。传上也讲：‘贵父命也。’郑玄为之注释说：‘大夫之妾的儿子，父亲如果在则要为母亲做大丧，于是成为士之妾之子为母举丧的丧期。父亲去世都因此为准。’这就是大夫命令妾之子，用来报答母一之慈一爱一，仍然是在尊重父命，为之三年。何况天子命他的儿子为各国国王，命生他儿子的母亲为该国的太妃，反倒自己同公子为母丧身着粗服和穿九月之丧服吗？轻重颠倒，没有比这个更甚的了。传书讲‘始封的君主，不让自己的兄弟称臣’，那当然服丧也当如此。如鲁、卫列国，互相服丧判定无疑啊。怎么说呢？《丧服》讲‘君为姑姊妹女子嫁于国君者’。传书上说：‘怎么用大功？尊贵相同啊。尊贵相同，那就得按相同服丧期来服丧。诸侯的儿子称为公子，公子不可以称先君’。但是兄弟一体，位列诸侯，自然要因相等的尊贵来互相为之服丧，不可以用公子的标准来压抑天王。所以降有四品，君、大夫因尊贵而降，公子、大夫的孩子因厌而降。名称事例不同，怎么可以乱了呢？礼法规定：大夫之妾的儿子，因父命慈悲于自己，延伸到三年。太妃既然受命于先帝，光照一国，二王祭祀祖先庙社，显名受赐于大的藩国，父亲同处高位，亲近而不称为公子，虽然许、蔡失去其地位，也不过如此而已。《服问》上说：‘有从轻而重，公子之妻为其皇姑。’公子虽受厌，妻子尚要获得伸展，何况广陵、北海二王，论封乃是被封之君的儿子，说到太妃乃是诰命太妃的孙子，继太妃承继重位，远别先皇，更因先后的正统，厌生自己的祖先，比之如皇姑，不也太远了吗？现在既然允许他们延续其服丧再规定他们服丧的期限，比之慈母，不也很明确吗。经书上讲：‘为君之祖父母、父母、妻、长子。’传书上讲：‘何以期？父母长子君服斩，妻则小君。父亲、然后为祖后者服斩。’现在祖辈乃是献文皇帝，诸侯不得继承，母亲是太妃，这就是二王要服三年之丧的证据，议论的人背离真正的经典而依附错误的考据，差之毫厘失之千里。何况天子尊重规则让其享受祭礼，并不是什么臣妾的地位，怎么能命她为国母而不让他的子孙按其所亲来服丧呢？记书上讲：‘随同服丧的人，要随同所故去的人，这是标准啊。’又说：‘不为君母一之一党一服丧，就要为他的母亲之一党一服丧。现在既然所随从的已经故去，不因亲服丧而服丧其所生，那属于所随从的服丧又从何处施行呢？如果因诸王进入朝廷而成为公卿便同一般的官大夫相等，那么现在的议论，都不要用来说什么藩国的话了。现在诸王，自然同于列国，虽没有到他的围城，但同其他臣属仍然并非同列，受一方之封，不得用诸侯来讲他们啊，让我斗胆请求根据周礼，让二王为太妃服丧三年。”
当时议论者也有不同意见，国子博士李郁就在罢议之后，作书质问张普惠，张普惠根据礼法回答，三次郑重其事地书面交锋，李郁的理由站不住脚而认同于张普惠的观点。后转任谏议大夫。元澄对张普惠说：“我不高兴您得到谏议这个官职，惟独高兴谏议这个官职得到您。”
当时灵太后的父亲司徒胡国珍去世，赠相国、太上秦公。张普惠因前世皇后之文没有“太上”之号而到殿上疏，陈述这样做不可行。左右都十分畏惧害怕，不敢为他通报。正值张普惠听说胡家在修墓下坟时有一块大的坚一硬石头，于是就秘密上表(表文略)。太后阅览了他的表章后，亲自来到胡国珍的宅院，召集王公、八座、卿尹和五品以上官员，广泛地讨论这件事，并派使者召张普惠来相互问答，又让侍中元叉，中常侍贾璨监察得失。任城王元澄问张普惠说：“汉代高祖刘邦为帝，尊自己父亲为太上皇。现在圣母临朝，赠自己父亲为太上公之号，追求这个原因事实，并不是没有过规定啊。何况皇帝举动就可以成为准则，又何必要遵循什么旧制呢？”张普惠回答说：“天子的命令称为诏，太后的命令则称为令，所以周代的臣子有十乱，文母参予啊，仰思所难，窃以为不当相比。”元澄又说：“前代太后也有称诏的例子，圣母有想保持谦虚的道理，所以不称诏罢了，怎么能用诏和令的区别来废除母后对父亲的孝思呢？”张普惠回答：“皇后的父亲称太上，自古未有。前代之母后难道不想尊崇自己的父亲吗？您怎么不远遵古来之义理而非顺从现在皇后的旨意呢？我不理解太后怎么在称诏称令上谦虚却在太上问题上不谦虚。窃以为圣后应当一直保持自己谦虚之美德。”太傅、清河王元怿问道：“过去在晋代，褚氏临朝当政，殷浩在给褚裒书中讲：‘足下，令之太上皇也’，怎么太上公反倒导致疑惑了呢？”张普惠回答说：“褚裒因女儿辅政而推辞不再入朝。渊源为讽刺他的不恭敬所以有太上一称的讽刺，本来称呼他的错误，不是记载他的正确，不想殿下用这个典故来诘难我。”侍中崔光说：“张先生表中引证晋有小子侯，本来出自郑玄的注释，不是出自正式经典。”张普惠回答说：“这虽然不是正式经典的文献，但他所讲述的是正式经典的含义。您好古习礼，又怎么能再用这个来指责呢？”御史中尉元匡因此对崔光说：“张普惠的密表中讲，晋时的小子侯，因名号相同而被认为是假过兮。现在的事，太上公名称同太上皇、和晋小子的事又相类似，但我不才不敢辨析他的对错。“张普惠回答：“中丞既然怀疑其正确，却不纠正其错误，这怎么能符合在三独之位的名望呢。”尚书崔亮讲道：“张普惠谏议的所见，正因为太上之称呼不应当施行在人臣身上。但是周朝有姜太公尚父之称，身兼二个名称，人臣尊重的称呼，因此知道并非是从现在开始的。”张普惠对答他说：“尚父的称号是指有品德应该崇尚；太上的称号是指上中还有上，名义相同而实在意义上相异，这也并不能相提并论。”崔亮又说：“古时有文王、武王，还有文子、武子。然而太上皇，太上公又怎么能嫌它们的相同呢？”张普惠回答说：“文武者，是指品德行为的事迹，所以事迹同所以谥号同。太上者，是尊贵至极的地位之称，怎么能通行实施于臣子。”廷尉少卿袁翻说：“《周官》载有：上公九命，上大夫四命。命数虽然不同，但同为上，何必说上者都是极尊呢？”张普惠严厉地呵斥袁翻说：“礼法上有下卿上士，何止于大夫与公爵，但现在所行的是将太加于上，二个名称并举，是非常的极尊。你的那种言辞乃是雕虫小技，平时或许还可一用，到了这种地步，怎么是你所能达到的呢？”袁翻很有惭愧之色，默不复言。任城王元澄说道：“谏劝诤辩的本义就是各自陈述自己的所见所闻，至于如何运用取舍，本来就在于应对当时之情。您刚才对待袁翻先生，为什么要声严厉色呢？”张普惠回答说：“他的话如果正确，适合于采用那是一回事；他的话如果不正确，恐怕就要有罪过相连了。正确错误必须辨清，不是因为不严肃的较劲竞争。”元澄说：“朝廷刚刚开启不避讳之门，以广大忠言的道路。先生现在讲意思在于争论义理，又怎么说要顾虑罪罚呢？”议论的人都因太后当朝理政，本意上相互都想崇奉顺从，于是就上奏说：“张普惠虽然言辞上不肯屈从，但是大家并不认同，涣汗已流，请仍然按照前诏所定。”太后又派元叉、贾璨宣读对张普惠的命令说：“我刚才召你和大家各位大臣一起共同对此问题争论，从头到结束，大家都不同意你的密言表章。我们所做所行乃是孝子的心意，你的陈述，也是忠臣所要遵行的道理。大家已经有了一个结果的定论，你不能再苦苦地改变我对父亲的怀念之意。以后有所意见，不要因此而觉得难以开口。”张普惠于是拜谢太后之令告辞而还。
当初，张普惠被召入朝，传诏者策鞭宝马而来，十分迅速，等在那里催他前去，普惠儿女们惊恐万分，啼哭声一片。张普惠对他们说：“我处政治清明之朝，任谏议之职，假如不说人们想说而不敢说的话，谏论别人想论而不敢论的事，便是惟惟诺诺，白受俸禄。人生固有一死，我只求死得其所，这便没什么可遗恨的。而今朝廷有道，你们不必担心。”等到朝议结束，圣旨慰劳其回家休养，亲朋故戚祝贺他蒙承皇恩。当时中山庄弼派人送信给张普惠说：“明侯您渊儒博学，身怀奇才，秉抱公心，出任谏职，忠耿正直，直言陈谏。像昨天在胡司徒府第，面对众人面折庭争，虽然大家问题古怪刁钻，而您却应答响如流水，宋城之带始萦，鲁门之梆裁警，最终使后生们徘徊不前，众僚拱手默然，您的议论虽然不见得立即见效，一定会为百代之后传颂。听说此事，我很快慰，敬呈此书，略表敬意。”张普惠以信中美辞而自豪，每每说与人听。
张普惠觉得国中百姓的赋税，负担沉重，尚书计奏，又征收绵麻，他担心这会使老百姓不堪忍受，上疏说：
“听说尚书陈奏恢复绵麻的征调，遵从先皇的做法，臣朝思夜想，越想越后怕。什么原因呢？听说恢复高祖旧典，所以启发维新；旧典可复可不复，看其是否触犯当今大法。仰思高祖废除大斗，革去长尺，改变重秤，出于一爱一民之心，所以听从薄俺。知道军国必须帛麻日用，故称在课民幅度之间，觉得百姓应有绵麻之利，所以绢上加税绵八两，布上加税麻十五斤。亿万百姓得到废大斗、去长尺、改重秤的好处，享受赋税轻微的利益，仅是不适应绵麻加税而已，所以百姓欢快地供奉国赋，来来往往勤快地劳作，可信的天子处上，欢乐的百姓在下。所以《易》说：‘和悦地驱使百姓，老百姓就会忘记劳苦。’说的就是这种情况。
“从高祖以来，尺度渐变渐长阔，老百姓嗟叹怨愤，朝野共知。臣思在皇太后没有临朝听政之前，陛下您居丧之时，宰相不考虑这件事情的本原，知天下百姓怨愤绵麻之税，不注意幅广、度长、秤重、斗大等引起民怨的现象，不革其弊端，存其当存者，而只放松绵麻征调，以此取一悦天下人心，这就是所谓取一悦百姓不以常道，正是愚臣我不敢乐观喜悦的原因。尚书既已知国家缺少绵麻，却不考虑法规的不能轻易更改，百姓言语的可畏，便想除去天下的大信任，放弃已经实行的成诏，臣追思以前的不是，推想后来的过错，启奏皇帝请求恢复绵麻征调，以充当国家度用。不思府库中大有绵麻，而群官纷纷窃为己有。愚臣认为这于理未尽。什么原因呢？而今宫中的人请求调给布帛，缝制衣物，必定要考虑其重量尺寸。绢布，一匹布有一尺或一丈多的，而且不包括其宽度；丝绵，一斤或许就多出百铢来，我没听说朝廷要依照刑律开罪州郡。假如一匹之滥，一斤之恶，就鞭打户主，连累三长，这正是教导百姓贪图小利呀。而今，百官领取俸禄，人们乐于布匹既长且阔，并要既厚且重的绵丝，根本就没有个限度。得到了长阔厚重的人，便说该州能征调，绢布既阔且长，那便会美誉横出，视听便为其所乱；我还从来没有听说过有人怨长恶广，得到了便设法退回官府的。这就是百官所以辜负陛下圣明的地方。
“今天假如朝廷一定要恢复绵麻的征调，我建议先让百姓明白征收的道理，并立下严厉的禁令，恢复布帛本来尺度标准，更新绵麻征收的标准，依照太和税法。对于那些在库的绢布以及丝绵，不符合典章制度的，臣请求派一名尚书与太府卿、左右藏令，按照今天的公家尺寸、公家秤量，计算其斤两、长宽，折算给请俸的人。总计常俸的数量，千俸所出，以布绵麻，也应其一岁的用度。让天下百姓明白二圣心思，让他们明白圣上一爱一民惜法的程度，那样的话则高祖之轨中兴于神龟，昭明慈一爱一可信于天下四方，这不是一件值得庆幸的事吗。诚恳希望圣上理解为臣一片拳拳之心，以便能抚一慰天下黎民之意。”
张普惠又上表请求皇上在会朝的日子，时时听取这方面的情况。从此以后，每月一次。张普惠又因为肃宗不亲自临朝，过于崇奉佛法，郊庙祭祀之类大事，都经常交付有关部门处理，上疏章说：“臣听说明德之君亲赴祭祀，因之成汤享有六百年国运；严父配天，所以孔子称赞周公其人。因为如此，故能馨香上闻，福传远世。臣思陛下重晖纂统，钦明文思，天地属心，百神注目，所以应该厚崇祀祭礼式，全部安排无言之神。但现在告朔政于朝庙，不见陛下亲临明堂；祭祀郊社，总是交付有关部门。而陛下您观看射猎，优游园苑，跃马驰骋，不但危险而且不合常典，哪里是清道戒严的本意？培植不思的身后冥业，损害百姓的巨额供奉。减少官禄，削弱国力，供养身边无事的僧人；尊崇装饰云巍宝殿，远邀未必有果的所谓报应。被蒙蔽之臣，顿首于外；求务虚之众，遨游于内。有失于礼，有忤于时，人神不能安宁静穆。愚臣以为陛下您朝朝夕夕烧香拜佛，而求熟稔的来世之果，不如以先万国的一爱一心，奉养他们的亲人，使天下和平安宁，灾害不出现。臣诚恳希望陛下谨慎皇帝威仪，以为万邦表率，虔诚亲至郊庙的祭祀，亲身驾临朔望宣政的礼仪，释奠学校，竭心国事，夙兴夜寐，真心祭祀。孝悌之心可以沟通神明，德化教诲可以光照四海，那样的话，则陛下您一人有喜，万民欢一悦。然后陛下您便可诚奉佛家三宝，归心佛法如来。礼式深熟，道渐远大，故可尽堵诸漏；礼积渐多，法义渐明，故可登上彼岸世界。酌情撤除僧庙佛寺不当的排场，还原恢复百官文武久违的公心。已经兴建的庙寺，务必从简施造；准备建构的庙寺，权且下令停止。旧样可以应付的，不必改作。期望陛下节省用度一爱一惜人力，僧家百姓都赖于此。微臣学问粗浅，语多胡言，忝居官职，敢忧国事，眼见于此，不敢沉默呀。”书上不久，皇上下诏，让大臣讨论祭祀的礼式。
当时史官预报了日蚀时间，皇帝打算下诏罢朝会。张普惠以逆废朝不合礼制，上书陈奏。又上表论述时政得失。一是，审查法律制度，平准斗尺量具，税赋要轻，徭役要省。二是，听取百姓言论，调查怨愤诉讼，先朝皇帝旧事有不便于今日政体的，全部改正。三是，进举忠直，退避不肖，任命贤能，义无反顾，去除邪恶，毫不迟疑。四是，兴灭国，继绝世，功臣亲故的后代，应该收养叙禄。书上之后，肃宗、灵太后把张普惠叫到宣光殿，逐条诘问，辩论持续了很长时间。二主声色俱厉地问：“哪有将先皇的诏令一一都翻改过来的道理！”张普惠垂下脑袋，一声不吭。又说：“看样子你有话要说，是不是因为左右人多，不肯直言相告。我为你摈退左右，你尽可为我一一道来。”张普惠对答说：“圣人奉养万物，一爱一惜它们以致惟恐伤着，况且今天二圣承袭洪业，妻承夫，子承父，夫、父时代不可能出现的情况，而今天安然成为现实，今天母子共执朝政哪里是先帝传递皇绪的本意呢？臣又思先帝在日做事，或是有些部门的错误，或是权衡当时所行效果，觉得先辈们的做法在当时行不通的，一律改正过来。而圣上忘记先帝自新更政的做法，在实际中不问是非曲直，对新出现的情况要求，一概压制不管，这哪里是苍生黎民所期望的帝王圣德所该有的做法啊？”太后说：“每逢细枝末节的事情，我们都去一一更改，那不更增加麻烦？”张普惠说：“圣上养育天下万物，就如慈母养育赤子的道理一样。而今赤子面临危渊，将赴水火，而陛下却因为麻烦劳苦而不救拯，这哪里是赤子所期望的慈母啊！”太后说：“天下苍生，真有如此痛苦的事情？”张普惠说：“天下的亲好，没有谁更重于太师彭城王了，然而他仍不免含冤而死。微细之苦，哪能没有？”太后说：“彭城王之苦，我已封了他的三个儿子，还有什么可说的！”普惠说：“圣后您封彭城三子，天下之人无不为圣后大德所高兴，天下都知万民慈母在上。微臣所以重揭旧伤，意在提醒圣上凡是像此类冤屈，都请明目鉴察。”太后说：“你说‘兴灭国，继绝世’，灭国绝世，指的是谁？”张普惠说：“过去淮南王以叛逆终身，汉文帝仍分封他的四个儿子，这乃是骨肉之亲不可忘记，亲一爱一亲人的缘故吧。臣窃见已故太尉咸一陽一王、冀州刺史京兆王，本是皇子皇孙，只因一德亏损，自留悔恨戾乖，沉一沦黄泉下土，不在缅怀之列，这哪是复兴灭国继发绝世之意呀？臣请求陛下收葬二王，封其子孙，这是愚臣的心愿。”太后说：“你说的有理，朕深知之，应当让大臣们广泛发表意见，然后定夺。”
等到任城王元澄死，张普惠出于作为其部属的礼义，以前又蒙受他的恩待，日夜兼程赶赴王处，至于丧期祭祀，即使寒暑风雨，每次必到。当初，澄嘉赏普惠，临死，启奏皇上任其为尚书右丞。灵太后既深追悼任城王澄，看到启奏，便任命了张普惠。诏书颁布之后，尚书衙众郎官以普惠出身寒微，不愿受他管辖，互相约定，都打算不去尚书衙上班，风波持续多日方才停息。
正光二年(521)，皇帝下诏派杨钧送蠕蠕主阿那环归国。张普惠称遣还蠕蠕主将会留下后患，上疏说：“臣听说上天以利贞为大，非义则不动；皇王以博施为功，不是同类则不施。所以能启始万物而化育天下。臣思陛下圣明睿哲，道比虞舜，四方归心，天下清安。蠕蠕在北方危害朝廷，妖师在江外起乱皇权，这是贪暴的元凶首恶，他们不识圣王法度，上天要让他悔过自新，所以让他们供奉大魏。所以我们要惩罚他，辛苦他，要让他知道天下大道的可以悦乐。皇上应该安定其民而让他高兴归服，恭敬自己而让他心悦诚服。而现在皇上先自辛劳忧扰，为难百姓，兴师于国家之内，投蠕蠕主于荒凉塞外，无异于拯救世代的劲敌，真可叫无名兴师。谚语说‘只有混乱之门才无过可言’，愚臣不知陛下此举有什么好处，也许当是让边疆将帅立下一时战功，殊不知兵为凶器，不得已才用到它呀。像白登一战，汉祖本人也被围困。樊哙想以十万人马横行匈奴境中，季布认为不行，请斩杀其首。千年之后，人称远见。何况今天旱灾酷虐异常，圣恩慈厚，许以粮食，而且派一万五千人的队伍让杨钧为将试图安定蠕蠕，假如蠕蠕逆时而动，这些人怎能应付得了？阿那环投命皇朝，抚一慰他是可以的，哪能容许困窘疲劳我黎民百姓而去资养天丧的敌虏呢。过去庄公容纳子纠，导致乾时之败；鲁僖因邾国，而有悬甲胄之耻。今天蠕蠕正乱，后主继立，虽说人众散失亡去，然而一奸一邪不测终难抑制。万一有当年井陉的危险，杨钧不就成了可食之肉！斑车、蠕蠕，连年联兵，饥荒不断，等其自毙，小亡大伤，然后一举而并为大魏所有。这是当年卞氏所以一举而获两虎的高谋大略，不可不图之。现在土山有难相告，简书相续而来，而朝廷大概也无可奈何，而土山之难正与朝廷今举相会，这恐怕是苍天想告诉人们，不让南北两疆，同起大军的意思吧。假如狂妄狡诈之徒从中离间，而引得战火蜂起，那以什么让它平息下来呢？当今宰相专门贪图蝇头小名，不考虑国家安危大计，这正是微臣感到十分寒心的事。那环不归蠕蠕，我大魏背负了哪条信义？处此关键的时候，北上之师应当停行。微臣之言，不合大义，只是文书经过臣手，不敢不尽言陈奏。兵事如火，不息将会自一焚其身。二胡虏自取灭亡的形迹，正可为殷鉴。臣希望圣上和睦万国，安静四疆，那么，统一海内的日期，就会坐而自至了。臣愚昧鲁钝，语违圣意，必无可采，但臣匹夫之智，不怕见罪，愿献圣上。”表书上奏，诏书答曰：“大凡穷途之鸟，旅归之人，尚且有人同情，何况那环遭受祸难，颠沛流离，不远千里，前来依托，诉之人情，许之国理，哪能容许不怜悯他呢。况且接纳亡国之主，兴盛倾覆之国，有国家之间大义在此，我大魏堂堂皇皇，哪能废弃此德。后主以乱亡国，应是不假，而今我送彼迎，想来必无战事。国家大义上已表达，送人之举，朝议已经决定，而一爱一卿一片忠心，良苦思虑，朕深表嘉许。但是这次举动，容我不听君言，如以后有事，还望一爱一卿多陈直言。”
当时萧衍的义州刺史文僧明举城归顺朝廷，扬州刺史长孙稚派别驾封寿到义州城固守城池，萧衍部将裴邃、湛僧统领部众攻一逼一城池，皇帝下诏让张普惠为持节、东道行台，摄军司率军赴义州援助封寿。他的军队刚开始渡淮河，而封寿就已经放弃城池单人独马退回了。普惠军马只好退兵还朝。萧衍弟弟的儿子西丰侯萧正德诈称投奔朝廷，朝廷积极准备欢迎他，张普惠上书，请求赶赴扬州，移还萧正德，朝廷没有同意。没多久，萧正德果然逃回去了。凉州刺史石士基、行台元洪超一起因贪一污受贿被抓起来了，朝廷任命张普惠为右将军、凉州刺史，马上又任命为西行台。张普惠因为生病辞去此任。升光禄大夫，右丞官职照旧。
在这以前，仇池、武兴那儿的许多姓氐的部族屡次造反，西部边疆的防卫将士，他们的粮食供一应，久已断绝。皇帝下诏任命张普惠以本官为持节西道行台，拨给他秦、岐、泾、华、雍、豳、东秦七州兵马三万人，听任张普惠调遣，调南秦、东益两州兵租，分送各戍守地，他将要统领的各州军马，待命于关西牧守之中随时听候调遣，军资板印等必需物件，都随军准备。张普惠到了南秦，停遣岐、泾、华、雍、豳、东秦等六州兵马，只召秦州四千人分配四统；命令送租的兵卒连营结栅，相继而进，运粮车驴，随机输转。另外派遣中散大夫封答慰劳告喻南秦官民，员外常侍杨公熙慰劳东益州氐民。当时南秦氐族土豪吴富聚集凶暴，拦路打劫。杨公熙到了东益州，刺史魏子建秘密地写给张普惠一封信，说公熙过去是氐族的后代，这次氐人与他相见，他肯定会在背地里说些什么，应加防范。张普惠传令杨公熙，令他改赴南秦。果然杨公熙已经秘密派他堂兄杨山虎与吴富一起叛逆，又造谣惑众，煽动乡里，群氐人闻风而起，托辞说与崔南秦有仇，拒不赴南秦。军粮到平落，吴富等人果然袭击粮食大营，这原是杨公熙所安排的。后来吴富虽然被部下所杀，但其一党一徒势力仍很猖狂。秦州所辖的武都、武阶，军粮常能运到，东益州诸氐人先初归顺大魏，所以广业、仇鸠、河池三城粮草能够运到。而应该运到东益的十万担军粮，都被这帮人扣留耗费完了，一粒也到不了目的地，镇戍边关的将士，于是无粮而食，他们都恨张普惠计谋不高，不能胜任。事情完毕之后，张普惠上表请求追查杨公熙的罪行。普惠还朝，皇帝赐给绢布一百段。
当时，皇帝下诏，寻访冤屈，张普惠上疏说：
“《诗》称‘文王子孙，繁衍百世’，《易》说‘圣君有命，开国承家’。都是说的明德睦亲，维城作翰。汉祖封王孙爵位时誓词说：‘愿使黄河如带，太山如石历，国家永存，福及子孙。’又以丹书之信申之，以白马之盟强调一遍，高祖以强大子孙为王，罪臣放之恶地，这种情况是有的，臣没有听说过父业子构，世代忠贤，或赐死或削职，成为恒常法典的情况。所以尚书令高肇，没能远寻古义，近查成旨，凭皇帝初封诏书中有亲王食邑二千户，下传承荫第一代一千户、第二代五百户、三代三百户的内容，他说是亲疏世减之法；又因其有开国五等爵位，逐渐递减的内容，以为是世减的趋向。于是便设立等格，奏请夺除，称这是高祖本意，遂被皇帝认可。当初误解，一错再错。于是便使勋臣亲故，怀抱冤屈，一陰一间一陽一间的人，同喊冤枉，纷纷聚讼，经年累月，不能停息。
“臣今日研究当初皇帝旨意，深入调查当时情况，发现随着时间变化，递减当初封荫，过去现在，都无根据。又寻诏书，书称过去没有采用，今天才有此说，哪能够混一而论，不分久近呢？所以乐良、乐安，同亲异封；广一陽一、安丰，属亲有别而分户相同。安定嫡亲，封邑与亲王相同；河间近亲，改从荫邑。由此可见当年太和降旨，初封亲故的等级，是勋臣亲属都得树立，而非世减的极好证明。博陵继承爵位，也在太和之年，当时袭承食邑户数不见减少，以父曾全食，足户充本，同于始封，减从今式。像这样，那就是减少的减少其所足之外的，足者就是在所减范围之内仍然充足的。减足的意思，指的是所贡所食。这是想使诸王开国，不专其民，故赋役有差别，贵贱有等级。大致按照《周礼》公侯伯子男贡税之法，王食邑是天子的一半，公爵是其三分之一，侯、伯四分之一，子、男五分之一。所以新兴得足充本，清渊吏多减户。所以初封时承爵袭邑并称。所减少的减的是贡数，所食指的是食邑，这实是当年高祖皇诏义，减实之理，圣明自释，求之史书，尚有不明。当时尚书臣..怀疑减足的差别，皇帝又下诏明辨，重申所减本意，可以使人不会对世减本意产生疑义了。而臣肇不查往事，说五等爵中有所减之格，用为世减的办法；以王封有亲疏的等别，说这便是代削封邑的条文，妄解成诏意思，雷同世夺之例。以此流毒天下，老百姓会顺从其义吗？正因如此，所以太傅、任城文宣王元澄数朝辅佐，洞识古今，任尚书之日，殷情奉上，孜孜重义。上书论此，帝诏不许，便只好作罢。
“又律罪例减之法，波及先帝服丧之制，令给亲恤，只能当世可以服丧。律令内容相违，威严泽恩异品。致使七庙中后代裔孙，不见其治未被怜惜，嫡封子孙就爵禄无穷，旁系便五服之内贬绝殆尽。仪制刑律作为凭证，这让亿兆百姓作何观瞻。大凡一人嗟叹，尚可称作有亏治体。而今五等诸王，各称其冤；七庙之孙，并诉其枉。申诉的案牍，堆满省中衙内，朝中言语、巷里议论，都说其苦。这恐怕不是先王所以建树万国、亲一爱一诸侯、和睦九族的本义呀。
“微臣位忝今天的职位，到现在已经五年了，推寻当年诏书本意，发现没有世减的说法。请求圣上近遵高祖减食书诰，远循百代重贤之文，退黜由九伐之例，进除从九仪之礼，那就会刑罚有伦次，封赏不虚妄。当年文王克己谨慎，连鳏寡之人都不敢怠慢，何况今天圣上面对的是公侯伯子男呢？今天圣诏让大家访查冤屈，臣愚蠢地以为这是大冤屈。查找以往赐袭诏书，比较诸项条文格式，所夺所请，事事重审。诸王开国，如不是犯罪而削夺其封的，都求还复其封。那些过去曾经享受全食，足户充本，减从今天法式的，依照以前则力多于今天圣上亲近之人，全部削夺则减足的例式不行，愚臣建议其禄力都应依所足的良邑供给。像这样则力少蕃王，粮食布帛仍按户邑虽盈之减，两秦既有全食足户的不同，所以他们的也不能与新封爵贵的丁力相同。亲一亲体恤所集，请圣上依律断决。臣思一爱一亲尊贤，位必依功而立，尊贤是为治民，这能不慎重吗？以亲为亲是为了驾驭亲族，这可以弃置不管吗？臣的意见假如被圣上恩准，臣请求就以圣上诏书判下之时为开始，其前来官吏秩禄，如年代久远，都不追录了。”
张普惠被朝廷任命为左将军、东豫州刺史。淮水以南九戍、十三郡，那时还因萧衍以前留下的祸患，别郡异县的老百姓混杂居住。张普惠到州于是依次排比，省减郡县，上书朝廷陈述情况。皇帝下诏同意他的做法。各地长官因此加强管理，治郡有方，一奸一邪盗贼于是绝迹，老百姓安居乐业。萧衍派遣部将胡广侵犯安一陽一，军主陈明祖等率军进一逼一白沙、鹿城两地，萧衍又派定州刺史田超秀、田僧达等偷偷攻陷石头城戍，径直据有安陂城。郢州、新塘的敌人，近在离州城西面只有十里的地方。张普惠先后命令将士迎战，打败了敌人。
张普惠从不聚敛财物，喜欢引荐后学，待故旧朋友很是宽厚。冀州人侯坚固少年时代与他一起求学，早逝，他的儿子长瑜，张普惠每当领取俸禄，总是分出一部分给他，供其衣食。等到为官豫州，录用长瑜为官，提一供其一门衣食。孝昌元年(525)三月，张普惠死于任上，时年五十八岁。朝廷赠他为平北将军、幽州刺史，谥称宣恭。
长子荣俊，武定末(548～550)，在齐王相府任职。荣俊弟龙子，任扬州骠骑府长史。