唐中宗年间，太平公主倚仗权势，强夺佛寺碾硙，被告到雍州府衙。李元纮时任雍州司户，将碾硙判还佛寺。雍州长史窦怀贞畏惧太平公主，命李元纮改判。李元纮道：“终南山或许可以移动，但此案判决绝对不能更改。”后以“南山铁案”称已经判定、不可改变的案件。
早年经历
李元纮年轻时谨慎笃厚，初授泾州司兵参军，后历任雍州司户参军、好畤县令、润州司马。他政绩突出，颇有声誉。
累职升迁
开元年间，李元纮担任万年县令。他征发赋役，以公允著称，被擢升为京兆尹，并主持疏通三辅境内河渠。当时，王公贵戚都在渠岸建立碾硙，使渠水不能流入下游民田。李元纮命吏卒将其拆毁，使民田得到灌溉，深受百姓称颂。此后，他又历任工部、兵部、吏部三部侍郎。
开元十三年（725年），户部侍郎杨玚、白知慎因失职被贬为刺史，唐玄宗让公卿大臣推荐可以接掌户部的官员。百官大都推举李元纮，唐玄宗便欲任命他为户部尚书，却因他资历浅薄，受到宰相的劝阻，只得授他为中大夫、户部侍郎。他上疏朝廷，陈奏时政得失，受到唐玄宗的表彰。
担任宰相
开元十四年（726年），李元纮升任中书侍郎、同中书门下平章事，又加银青光禄大夫，封清水县男。当时，京官职田被废置，便有朝臣建议在关中屯田，以充实国库。李元纮奏道：“边关百姓清闲，土地荒芜，以剩余劳动力耕种荒田，能够减少运输，充实军粮，因此设置屯田有益于国。但在关中，百官职田散居各地，百姓的私田都努力自耕，不能占取。如果设置屯田，就要公私相换，调发壮丁。调发劳役则家业荒废，减免租税则国赋欠缺，内地设置屯田，自古未有，恐怕得不偿失。”唐玄宗遂停止此议。
此前，吴兢担任史官，编撰《唐书》、《唐春秋》，尚未完成便因守丧离职。他上疏皇帝，请求继续修史，唐玄宗便让他到集贤院撰书。开元十五年（727年），唐玄宗命张说致仕，并让他在家中修史。李元纮认为不妥，便提议让张说和吴兢同到史馆撰修国史，既可做到保密，又可避免资料丢失。唐玄宗采纳了他的建议。
李元纮与同列宰相的杜暹关系不睦，常在政事上产生分歧，以致纷争不断，引起唐玄宗的不满。开元十七年（729年），唐玄免去李元纮的宰相之职，外放为曹州刺史。
晚年生活
此后，李元纮又调任蒲州刺史，却因病离职，并以户部尚书之职致仕。
开元二十一年（733年），李元纮被起复为太子詹事，但不到十日便因病去世，追赠太子少傅，谥号文忠。