徐湛之字孝源，东海郯人。司徒徐羡之哥哥的孙子，吴郡太守徐佩之弟弟的儿子。祖父徐钦之，秘书监；父亲徐达之，娶的是高祖的长女永兴公主，任振武将军、彭城、沛两郡太守。高祖儿子们还年幼，因与达之有姻亲关系，要重用他，就想让他先立功。高祖讨伐司马休之时，让他统领军队作前锋，给他配备了强兵利器；胜利了的话，就将荆州封给他。司马休之派鲁宗之的儿子鲁轨打败了徐达之，达之自己也在战斗中被杀。高祖追赠他为中书侍郎。
湛之幼年时便成了孤儿，深得高祖宠爱，常和江夏王刘义恭呆在高祖身边，寝食不离。永初三年(422)，高祖下诏：“永兴公主是我的嫡亲长女，早年遭遇不幸。外孙湛之，尤为我宠爱，可封他为枝江县侯，食邑五百户。”几年后，一次他和弟弟徐淳之一起坐车，牛受惊，车子遇险，下人飞奔前来救他们，湛之让人们先救弟弟下车，众人都惊叹他年纪虽小却有识见。湛之长大后，十分喜欢钻研文义。侍奉祖母、母亲以孝敬闻名。
元嘉二年(425)，他被任命为著作佐郎，员外散骑侍郎，他未接受。元嘉六年(429)，开始修建东宫，他始任补太子洗马，转任国子博士，后任奋威将军，南彭城、沛二郡太守，又调黄门侍郎。因祖母年老，辞去官职。又被授予二郡太守，加辅国将军，调秘书监，领右军将军，转任侍中，加骁骑将军。又任秘书监，加散骑常侍，骁骑将军职位不变。
会稽公主是高祖的嫡长女儿，被太祖敬重礼遇，家事无论大小，一定先征求她的意见再实行。太祖西征谢晦时，让公主留守京城，统管六宫之事。公主稍有不如意就号哭，太祖十分惧怕她。当初高祖没有富贵时非常贫穷，曾亲自在新洲砍荻草，有打补丁的衣裳都是敬皇后亲手缝制的。高祖显贵后将一件补丁衣裳交给公主说：“后代子孙如果骄纵奢侈而无节制，可将它拿给他们看。”湛之被大将军彭城王义康宠幸，并和刘湛等人十分投合。到刘湛犯罪时，事情牵连到湛之，太祖大怒，要处之以极刑。湛之既担忧又害怕没有法子，只有去求母亲。公主当日就进宫，见了太祖后，也不对太祖行礼，只大声哭闹。她用一锦袋装着高祖的补丁衣裳，将衣裳掷在地上给太祖看，并说：“你们家本来贫穷低贱，这是我母亲为你父亲缝的衣裳。如今有一顿饱饭就要杀我的儿子啊！”太祖也哭起来，湛之因之得以保全性命。调任中护军未接受，又调任太子詹事，不久又加侍中。
湛之擅长写公文，文辞顺达，音节流畅。作为皇亲国戚富豪之家，其家业非常庞大厚实。楼台园林，贵族中无人赶得上他。他府里歌伎美妙，冠绝当时。有门生一千多人，都是三吴富家子弟，个个气质端庄美丽，服饰华美。每当他出行，门生随从挤满了道路。碰到雨天，道路泥泞，则全乘车子。太祖嫌他太奢侈放纵，常常劝说他。当时无忌的儿子安成公何勖、孟昶的儿子临汝公孟灵休，两个都奢侈豪华，与徐湛之一同以肴膳、器服、车马的享乐著名。京城百姓称：“安成的饮食，临汝的服饰。”湛之则兼有何孟两家的豪奢，何勖官至侍中，死后谥荒公，灵休擅长弹琴下棋，官至秘书监。
湛之任冠军将军、丹阳尹，又封为征虏将军，加散骑常侍，因为服公主丧，未接受。葬礼过后，又被授予前面的官职，他上表坚决辞谢，又到廷尉那里去请罪，皇上诏令狱官不得接受，这之后他接受了任命。他坚决辞谢常侍，皇上允许了。元嘉二十二年(445)，范晔等人谋反，湛之开始与他一伙，后来揭发了他们的事，但说的事都不彻底，被范晔等人牵连，他就到廷尉那里认罪，皇上抚慰他并让他回去了。
元嘉二十四年(447)，湛之服完公主丧后，转任中书令，领太子詹事。出朝任前军将军、南兖州刺史，湛之非常善于治理，恩威并用。广陵城后有一高楼，湛之将之修缮一新，向南远眺钟山，城北有河流，物产丰富，风光迷人，湛之又在河畔修起风亭、月观、吹台、琴室，其间果竹繁茂，花草成行。他在那儿招集文士，极尽游赏之乐，成为当时的盛事。当时有一和尚叫作惠休，很会写文章，辞采绮艳，湛之和他交情深厚。世祖命惠休还俗，他本姓汤，官扬州从事史。元嘉二十六年(449)，湛之又任丹阳尹，领太子詹事，将军不变。元嘉二十七年(450)，索虏南侵至瓜步，湛之率军保护京城，与皇太子一道守卫石头城。二十八年(451)春，鲁爽兄弟率部下归顺宋，鲁爽是鲁轨的儿子。湛之为了国家的长远利益，特加奖励接纳鲁爽等人，没有任性申明自己的私怨。他乞求退居乡村，没被批准。
转任尚书仆射，领护军将军。当时尚书令何尚之认为湛之是国戚，深得皇上恩宠，就想把朝政都推给他，一切上书上诉全不处理，湛之也根据《职官记》以及有关法令认为：尚书令掌管朝廷内外事务，总揽全局，如果尚书令空缺，政事才归仆射负责。因而他也将政务推给尚之，两相互相推委。御史中丞袁淑上奏要求将二人一起免去官职。皇帝下诏：“尚书令、仆射是具体处理朝政的，两人不共同努力各司其职却相互推委，应该纠正。但是因为前朝的朝政比较混乱错谬才导致如今的问题，破例不予追究，应详加匡正。”于是就让湛之和尚之共同受理下面的上书。尚之虽然是尚书令，但朝政仍全归湛之处理。先前，刘湛被诛杀，殷景仁死去，太祖委任沈演之、庾炳之、范晔等人，后来又有江湛、何禹之，范晔被杀后，炳之免官，演之、禹之皆去世。到这时江湛任吏部尚书和湛之共处权要之位，世称“江徐”。
皇上有病，湛之就入宫侍候医药。二凶巫蛊的事情暴露后，皇上想废弃劭，赐浚死。而世祖不为皇上宠爱，所以屡次出使外藩，不能住在京城。南平王铄、建平王宏同被皇上宠爱，铄的妃子就是江湛的妹妹，就劝皇上立铄为太子。元嘉末年，皇帝将铄从寿阳召回京城，来了后又改变主意，想立宏为太子，但又嫌宏不够次序，所以议论许久却难以定下来。皇上和湛之除去旁人共同议事，有时通宵达旦。皇上常在夜里让湛之拿着蜡烛，绕着房外墙壁的护卫，担心有人窃听。劭入宫杀君之日，皇上和湛之两人头天晚上就在房内单独谈话，直到早上还未熄灯。湛之听到响声惊起走到北门，还没有来得及开门就被杀害，时年四十四岁。世祖即皇位后追赠他为司空，加封散骑常侍，原官职不变，谥号为忠烈公。又下诏：“徐羡之、江湛、王僧绰三家遭祸害荼炭，遗孤流落在外，思念他们的过去，心情异常沉痛。可以让他们的子孙回到他们原先的住处，厚加抚恤。”从此这三家长期接受国家的供给。
湛之有三个儿子：聿之、谦之被元凶杀害，恒之继承父亲的封侯，娶了太祖第十五女南阳公主，早亡，无子。聿之的儿子孝嗣继承封号。