步入仕途
范质的父亲范守遇，任郑州防御判官。范质出生那天傍晚，他的母亲梦见神仙授给她一支五色笔。范质自幼聪明好学，九岁能诗文，十三岁攻读诗经，十四岁开始招生收徒做教师。
后唐长兴四年（933年），范质考中进士，被任为忠武军节度使推官，后迁升封丘令。
后晋天福年间，向宰相桑维翰进献文章，深得桑维翰的器重，当即上奏封他为监察御史。到了桑维翰出京师去镇守相州，历任泰宁节度使、晋昌节度使时，桑维翰都请求朝廷让范质给他当从事。桑维翰第二次任宰相时，范质迁升为主客员外郎、直史馆。一年多后，召范质入朝任翰林学士，加任比部郎中、知制诰。
契丹侵扰边境，石重贵命刘知远等十五位将领出征。当天夜晚，范质在朝中值班，石重贵命令召诸位学士来起草诏令，范质说：“宫城已经关闭，如再召人恐怕事机泄露。”范质单独起草诏令进送石重贵，文词事理都很优秀，当时即受称道。后汉初，加封范质为中书舍人、户部侍郎。
郭威征伐叛乱，每次朝廷派遣使者下诏处理军事，都符合机宜。郭威问使者是谁起草的诏令，使者答称是范质。周祖叹道：“真是宰相之材啊！”
佐命后周
郭威从邺地起兵攻向皇宫，京城纷乱，范质藏匿民间，郭威派人到处寻找，后来找到，非常高兴，当时正下大雪，郭威解下自己的袍衣让给范质穿。并命令范质起草太后诰命及商议迎湘阴公礼节，范质急速起草，很合郭威心意。于是郭威告诉太后，任命范质为兵部侍郎、枢密副使。
后周广顺初年（951年），郭威加拜他为中书侍郎、平章事、集贤殿大学士。次日，兼任参知枢密院事。郊祀完后，升迁官位左仆射、门下侍郎、平章事、监修国史。跟随郭威征伐高平回来，加官司徒、弘文馆大学士。
显德三年（956年），范质进入朝廷做官，还能常常手不释卷，有人慰劳他时，范质说：“有擅长相术的人，说我今后位登宰相。如果真是这样，不学习哪来权术处理政事。”后来跟随柴荣征伐淮南，诏令多由他起草，吴中文士们没有不惊服的。范质每次下制敕，从未不合律令，命令刺史县令，一定以户口版籍为头等政事。朝廷每次派遣使者视察民田，巡视狱讼，范质都接见他们，向他们陈述天子忧虑勤政的意图，然后派遣他们。柴荣当初征伐淮南，驻扎在寿、濠二地，锐意攻取，还准备到扬州。范质认为军队征战太久，与王溥泣谏，柴荣才放弃这个念头。到柴荣第二次到扬州，窦仪因事得怒于世宗，不知将定何罪。范质入宫求见，柴荣知道他是来救窦仪的，站起来避开他。范质上前说：“窦仪是近臣，过错很小不应当诛杀。”于是摘下官帽叩头泣，说：“臣位在宰相，难道能让人主暴怒，致使近臣就死吗？请求宽赦窦仪的罪过。”柴荣怒意才消解，回到座位，马上遣使者赦免窦仪。
显德四年（957年）夏天，范质跟随柴荣征伐寿州回来，增加封爵食邑。范质提出因为法律条例繁冗，轻重没有依据，官吏得以因缘为奸。柴荣特命他详细审定法律，这就是《刑统》。
显德六年（959年）夏天，柴荣北征，范质因病留在京师，柴荣赐给他钱百万用来就医买药。到柴荣平定关南，到达瀛州时，范质在路的左边迎见。军队回到京师，柴荣任用枢密使魏仁浦为宰相，任命范质与王溥一同为参知枢密院事。柴荣病重时，范质入宫接受临终遗命。柴宗训即位，加范质为开府仪同三司，封萧国公。
报效宋朝
赵匡胤北征至陈桥兵变还都（在《宋史》与《皇宋通鉴长编纪事本末》中记载的是：俄而将士拥质等俱至，并非质率王溥等见赵匡胤，这里完全是两个意思），此时范质正在楼中吃饭，赵匡胤一到，率领王溥、魏仁浦来拜见。赵匡胤对他呜咽哭泣，陈述拥戴被逼之状。范质等还未对答，军校罗彦环举刀对范质比划着说：“我们没有主上，今天必须得到一个天子。”赵匡胤叱骂罗彦环。范质走下殿廷，握住王溥的手说：“仓促遣将，是我们的罪啊！”指甲掐得王溥的手几乎出血了。又当面质问赵匡胤说：“先帝世宗包养太尉您就像儿子一样，现在他遗体未寒，您怎么就这样做？”在一旁的赵匡胤之弟赵匡义泪流满面。但范质知道大势已去，便说：“事已至此，就不要太仓促了，自古帝王有禅让之礼，现在可以举行了。”因而详细陈述，又说：“太尉既然通过礼仪接受禅让，就应该侍奉太后如母，赡养少主如子，千万不要辜负先帝旧恩。”赵匡胤挥涕许诺，然后在范质、王溥等百官的拥戴下登基，宋太祖也因此对范质甚为敬重，继续以他为宰相。
宋初，加官兼侍中，罢参知枢密一职。不久病了，赵匡胤征伐泽、潞二地，到他的宅第，赐给他黄金器二百两、银器一千两、绢二千匹、钱二百万。赵匡胤刚即位，诸事谦逊自抑，至于藩镇亲戚还没有封建，幕府宾客佐僚没有官位。范质因此上奏说：“自古帝王开创基业，都分封子弟，树立屏障，宗族亲戚一旦兴隆，国家就可长久巩固。我看皇弟泰宁军节度使赵光义，自从在军队中任职，特别有将才，树立为藩镇后，尤其积累起名望；嘉州防御使赵光美，雄俊老成，注重修养好行善，好声誉日有所闻。乞求一并颁发封册，赐给爵位。皇子皇女虽然还是婴儿的，也请下诏让有关部门可以推行恩封之制，这是我的愿望。臣又听说当宰相的，应当推举贤能之人，来辅佐天子。我认为端明殿学士吕余庆、枢密副使赵普精通治国之道，事从霸府，时间很久，看他们的公忠之志，很可倚靠利用。请求授给他们朝廷要职，使他们的才能得以申展。”赵匡胤很赞许并采纳了他的意见。
原先，宰相朝见天子商议重大政事，皇帝必定命令宰相坐下来面议，皇帝从容赐茶后告退，唐朝及五代还遵照这个制度。到了范质等人畏惮赵匡胤英明睿智，每次议事都具写公文进呈，向赵匡胤陈述说：“这样才算臣子们禀承圣意之方，免除妄庸的过失。”赵匡胤采纳了这个意见。从此奏御越来越多，开始废除坐论的旧礼。
乾德初年（963年），赵匡胤将在圜丘祭天，任命范质为大礼使。范质与卤簿使张昭、仪仗使刘温叟讨论旧的典章制度，审定《南郊行礼图》呈上。赵匡胤特别嘉奖他们。从此礼仪制度开始完备，范质自己作了序。
寿终正寝
礼仪完毕后，进封范质为鲁国公，范质向赵匡胤呈表再三推辞，赵匡胤不允许。
乾德二年（964年）正月，范质与王溥、魏仁浦同日罢相，范质被授为太子太傅。同年九月，范质去世，终年五十四岁。
范质临终前，告诫他的儿子范昱，不要向朝廷请赐谥号，不要刻墓碑。赵匡胤闻讯后，为之悲痛而罢朝。追赠中书令，赐绢五百匹及粟、麦各一百石，给范家办丧事。