傅玄字休奕，北地泥阳人。祖父傅燮，是汉代的汉阳太守。父亲傅干，是魏国的扶风太守。傅玄少时孤苦贫寒，博学，很会写文章，懂得乐律。性格刚强正直，不能容忍别人的短处。郡里任为计吏，两次推举为孝廉，太尉征召，都不就任。参加州考中了秀才，任郎中，与东海缪施都因当时的美名而被选为著作郎，撰集魏书。后来参知安东、卫军军事。转任温县县令，又升迁为弘农太守。掌管典农校尉之职。居官称职，多次上书陈奏，辅正很多。五等制建立后，封为鹑觚男爵。武帝司马炎当晋王时，曾委任他为散骑常侍。等到武帝受禅继位，晋级为子爵，加官驸马都尉。
武帝刚即位，广泛采纳直言，开通不忌讳的言路，傅玄跟散骑常侍皇甫陶共同掌管谏官之职。傅玄上疏说：“我听说先王君临天下，申明弘大教化，增加礼义风节；教化在朝廷兴盛，公议就在下面流行，上下共同奉行，人人怀有仁义之心。灭亡了的秦朝荡灭先王典制，用苛法统治，仁义之心就衰亡了。近代魏武帝曹操喜欢法术，于是天下看重刑名；魏文帝曹丕仰慕通晓事理，于是天下轻视守节。从此以后朝纲不能统理，因而空虚无用放诞不羁的议论充斥朝野，致使天下不再有公正的议论，亡秦的弊病又在今天复发。陛下的道德至高无上，王朝兴起，承继帝位，弘扬尧舜的教化，广开正言直谏的道路，体验夏禹的节约俭朴，综合商周的典章杂文，我只有感叹而已，还打算说什么呢！只是没有推荐志操高远彬彬有礼的臣子，来敦厚风节；没有罢黜虚伪卑鄙的小人，以惩戒不恭敬的臣子，我因此还敢有话说。”诏书答复说：“推荐志操高远有礼义之臣，这是当今尤其重要的事。”于是让傅玄草拟诏书献上。傅玄又上疏说：
我听说舜举荐五臣，无为而治，这是因为用人得到了要领。因为天下各种官职杂乱，不可不审察得到合适的人。不得到合适的人，一天就浪费不少资财，何况累积时日呢？《尚书·皋陶谟》上说：“不要空置百官”，是说职位不能长久废弃。那些病了一百天还不痊愈的人，应当让他离职，给他优厚的礼遇俸秩供奉他，病愈之后再用。臣下在朝不会废弃职位，国家，没有闲官的拖累，这是王政的当务之急。
我听说前代帝王按士农工商分工来治理国事，各有一业而事情不同。士人以上的子弟，为他们建立太学教育他们，选择圣明的老师教导他们，按他们各自的才能优劣授职任用。农业要使粮食丰收，工业要使器具充足，商贾要使货物流通。所以天下很大，百姓很多，没有一个人会空着手。分工的办法是如此的周密完备。而汉代魏代没有固定的分工，百官的子弟不学习五经六艺而从事交游，还不懂得做事就坐享朝廷俸禄；农业工业多有废弃，有的追逐暴利而离开他的正事；白白在太学挂名，却没听到过先王的教化。现在圣明的政治开始，可汉朝魏朝的失误没有改变，散官多而没设学校，不务正业的人多而从事农业的人少，工业制作的器物不尽合适用。我认为赶快制定制度，统一规划天下若干人为士人，使他们足以充当各种官吏；若干人是农民，使他们劳动三年足有一年的储备粮；若干人当工人，使得各种器具充足；若干人经商，足以使货物流通而已。尊崇儒道崇尚学术，以农业为贵，以商业为贱，这都是国家事务中的重要事务。
先前皇甫陶上奏，要求任命散官的事都经过考核，让他们亲自耕种，让天下享受粮食充足的好处。夏禹后稷，亲自务农，福祚流传后世，因此《礼记》中的《明堂》《月令》篇记载了天子籍田的制度。伊尹是古代的名臣，在有莘耕作；晏婴是齐国的大夫，躲避齐庄公的灾祸，也到海滨耕种。从前的圣明帝王，贤能俊杰之士，都曾经从事过农业生产。天子授人官职，对那些多余闲散没有事做的官员，不督促他们学习，就应当让他们耕作，没有理由放纵他们坐吃百姓的粮食。现在文武百官已经很多，而拜官不在其职的还多，加上服役当兵，不能种庄稼，又是农民的一半，这样面朝南坐食俸禄的人是前朝的三倍。让闲散多余的官员务农，收纳他们的租税，私人也得到实利，而天下的粮食就可以不缺乏了。家家的粮食充足，当儿子的就孝顺，做父亲的就慈爱，当兄长的就友爱，当弟弟的就孝悌。天下丰衣足食，那么仁义教化不用命令就已实行。为政的关键，按照总人数来设置官员，分工到人授以职事，士农工商的分工是时刻都不能废弃的。如果不能精确制定相应的制度，就应考核天下的文武官员，能为长官辅佐的人让他们学习，其余的都让他们务农。至于百工商贾中有多余的人，也都让他们从事农业。像这样务农，有什么不充足呢？《尚书·舜典》中说：“三年考核一次政绩，三次考核后罢黜低劣升迁优异的人。”可见九年之后才有升迁的次第。所以居官时间久，才会想到建立良好的教化；居官时间短，就会争着干一些有政绩的事。六年期限，时间不长，贬黜或升迁都不够周密。皇甫陶所上奏之事，合乎古代礼制。
儒家学术，是王政的首事。遵从儒道，看重儒业，重视儒士选拔，尚且还担心教化不能推崇；现在竟然又不以儒学为当务之急，我怕一天天衰落却还没察觉。孔子说过：“人能弘扬道，不是道弘扬人。”如此说来，那么尊重儒道的人，不只是尊重儒家的书而已，而要尊重儒家的人。所谓看重儒业，是不胡乱教育那些不合儒道的人；所谓重视儒士选拔，是不要胡乱任用不从儒道的人。像这样，学校教育大纲就确立了。
书上奏后，皇帝下诏说：“两位常侍所论很诚恳，可以说你们是想补益时事。可是主管的人大抵以常制来裁决，怎能不使你们抒发愤懑呢？两位常侍所论，有的列举了大纲而条目不详备，也可让他们裁制，然后让五曹尚书、二仆射、宗令等八座官员共同研究以求缜密。大凡关系到人君的言论，是臣子最难办的。而国君如果不能虚心采纳，就只会使自古以来的忠心之臣和直谏之人万分感慨，以至于闭口不语。每每想到这些，没有不叹息的。所以上次诏书要求臣下敢于直言，不要有所中止，差不多可以启发昏昧补正过失，永保帝位。如果言论有些可取，心情合乎忠诚，即使文辞有错误，言语有得失，都应当宽宥饶恕。古人尚且不拒绝别人背后议论批评，何况都是值得采纳的意思呢？近来孔..、綦毋騄都判为轻慢之罪，我之所以都宽恕了他们，正是要使天下人知道我大晋朝不必忌讳言论。”不久将傅玄升迁为侍中。
当初，傅玄推荐皇甫陶，等到入朝后两人就有抵触，傅玄因政事与皇甫陶争执，争吵声喧哗，被有司陈奏，两人都获罪免官。
泰始四年(268)，任命为御史中丞。当时多有水涝旱灾，傅玄又上疏说：
我听说圣明帝王承继天命，天时不一定没有灾害，因此尧有九年水灾，商汤有七年旱灾，只不过能用人事赈济它罢了。所以洪水滔天都能避免淹没，地不长草却不困乏。我想陛下您道德操行圣明，现时小小的水旱灾害，百姓没有大的饥荒，下发敬天命的诏书，寻求符合天意的言论，像夏禹商汤一样严格要求自己，同周文王一样谨慎小心，不敢怠慢。我很高兴，上疏陈述应该做的五件事：
第一件事是：现在耕种的人务求多种却因干旱不能成熟，白白浪费劳力没有收成。另外从前士兵用官府的牛，官府得收成的十分之六，士兵得十分之四，用私人的牛，与官府平分，施行已久，众心安定。现在一旦减少用官府牛的分成比例，官府得十分之八，士卒得十分之二；用私牛以及没有牛的，官府得十分之七，士兵得十分之三，人人失其所得，一定都不高兴。我以为雇佣士兵用官府的牛给他十分之四，用私人的牛与官府平分，那么天下士兵都欢欣鼓舞，爱惜粮食，就没有损农弃业的忧患了。
第二件事是：由于二千石俸禄的官吏虽然承奉致力农业的诏书，但还是不尽心尽责以获地利。从前汉代因开垦农田不务实，验证后诛杀二千石俸禄的官吏用十计算。我认为应该重申汉代的旧典，以警戒天下郡县，都用死刑督促他们。
第三件事是：魏代以来，没有留意兴修水利，先帝统领百官，把执掌河堤的分为四部，连同本部共有五位河堤谒者，因为水利事关重大，跟农事一并兴起不是一个人所能考虑周全的。现在河堤谒者只有一个人，管理天下各地水利，无法考虑周全。我看河堤谒者车谊也不懂水利形势，可转任别的职务，再选了解水利的人代替他。可以分为五部，使他们各自精通分掌的职事。
第四件事是：古代以一百方步为一亩，现在以二百四十方步为一亩，所差超过一倍。近代魏朝开始抽田税，不求多收田亩，但求休整劳力，所以白田收到十多斛，水田收几十斛。近来，一天天增加田亩的赋税，而种田的士兵更厉害，劳力不能休整，甚至一亩几斛以上，有的还不够偿还成本。并不是跟从前的天地不同，横遭灾祸，其弊病正是由于务求田亩增多而不休整劳力。我私下看到河堤谒者石恢很精于水利和农田，知道利弊，请求中书召见石恢，仔细寻问农业水利的得失，一定会有所补益。
第五件事是：我认为胡夷之族是人面兽心，不与华夏相同，鲜卑族最厉害。当初邓艾只想取得一时利益，没有考虑到后患，使鲜卑族几万人散居在民间，这必然会有灾祸。秦州刺史胡烈一向对西方有恩，现在胡烈前往，各种胡人虽然已没有作乱，必将消除，但兽心难保不发，不一定能长治久安。如果以后有动乱的迹兆，胡烈的计谋能制伏他们。只是担心胡虏刚刚被征讨所困，就会向东逃到安定，向西逃到武威，表面上降服，能够骚动时还是骚动。这两郡不受胡烈控制，那么凶恶的胡人东西都有窟穴缓冲漫游，所以以后再生祸患，是没有办法禁止的。应该在高平川再设一郡，让安定西州的都尉征募乐意迁徙的百姓，大量免除徭役之数来补充，打通北行道路，渐渐充实边境。最好考虑这两郡和所置的郡都统一属于秦州，使胡烈能够统管边境事宜。
诏书说：“得到所陈奏的应办之事，谈到农事的得失和水利官员的兴废，以及安定边境抗御胡夷政事宽严的事、陈述周详完备，一应俱全，这的确是治国的根本大事，当今的迫切任务。论述都正确，深知你忠心王室，你要更广泛地思考应做之事，并把情况告诉我。”
泰始五年(269)，任太仆。当时连年五谷不登，西羌胡人骚扰边境，皇帝下诏让公卿讨论。傅玄应答皇帝所问，陈述事理恳切率直，虽没有全部施行，但时常被宽容。转任司隶校尉。
献皇后在弘训宫驾崩，设立祭丧的位置。按旧制，司隶应在端门外面就坐，在众卿之上，独坐一席。进入宫殿，按本品的官秩在众卿之下，按次序坐，与人同坐一席。而谒者认为弘训宫是在殿内，把傅玄的位置设在卿位之下。傅玄大怒，大声呵叱谒者。谒者假称是尚书安排的，傅玄面对百官大骂尚书并下了席。御史中丞庾纯上奏傅玄大不敬，傅玄自己上表又不符事实，坐罪免官。然而傅玄天性严峻急躁，遇事不能有所宽容；每次有奏疏检举，或遇天晚，便手捧奏章，整饬冠带，焦躁不安地不睡觉，坐着等天亮。于是那些无官职的王公贵族畏惧屈服，尚书顿生威风。不久死在家中，享年六十二岁，谥号叫刚。
傅玄年少时在河内避难，专心读书，其后虽然显达富贵，但著述没有荒废。撰述著作评论治国的三教九流以及三史旧事，评断得失，各为条例，书名叫《傅子》，分为内、外、中三篇，共有四部、六录，合共一百四十首，几十万字，连同文集一百余卷流行于世。傅玄当初写成内篇，儿子傅咸交给司空王沈看。王沈给傅玄的信中说：“看到您所著的书，言辞宏富道理齐备，筹划治理国家大事，重视儒家教化道义，足以堵塞杨朱、墨翟学说的放浪形迹，可以跟往古的荀况、孟轲相比并。每次开卷，没有不感慨叹息的。‘不见贾谊，自己认为超过他，现在才知道比不上’。真是这样啊！”
后来追封为清泉侯，儿子傅咸继承爵位。