陳彭年自幼嗜學，經常瞞過母親，挑燈夜讀。有文名，十三歲著有《皇綱論》萬餘言。被江左名輩所讚賞。南唐後主李煜聽說後，召他入宮令幼子李仲宣與他一起讀書。他在金陵受業于徐鉉，通文字音韻，深得其傳。太平興國年間舉秀才。作文喜嘲誚。宋白負責貢舉，多次黜落陳彭年。雍熙二年（985年）登進士，擔任江陵府司理參軍、江陵主簿，澧州、懷州二州推官，轉任澤州。被御史中丞王化基推薦，擔任衛尉寺丞，歷任秘書郎、大理寺詳斷官，坐事出監湖州鹽稅，後又停官。宋真宗即位，召試複為秘書郎，通判海州。咸平二年（999年）知金州，以文學飭吏治，被吏民敬愛。咸平三年（1000年）遷秘書丞。咸平四年（1001年）上疏言「經世要道」五事，請置諫官、擇法吏、簡格令、省冗員、行公舉。景德元年（1004年）直秘閣，被杜鎬舉薦，為直史館兼崇文院檢討，又代潘慎修起居注，參與編修《冊府元龜》。景德三年（1007年）轉任右正言，充龍圖閣待制。加刑部員外郎，和戚倫參與制定考試條式，多改革舊制。

大中祥符元年（1008年），宋真宗認為前代韻書、字書偏旁差訛，傳寫漏落，註解未備。陳彭年與丘雍等奉敕兩次修訂陸法言的《切韻》，改名為《大宋重修廣韻》（簡稱《廣韻》），一共五卷。保存陸法言原書的體系，作為我國第一部官修韻書，在音韻學史上具有極其重要的地位，是研究中古語音和上推上古語音的重要資料。又重訂南朝陳顧野王的《玉篇》。

大中祥符三年（1010年）改任兵部郎中，龍圖閣直學士，轉任右諫議大夫兼秘書監，編次《太宗御集》，勛上柱國。大中祥符六年（1013年）為翰林學士兼龍圖閣直學士，同修國史。加給事中，以修國史有功，遷為工部侍郎。依附王欽若、丁謂，為五鬼之一，人稱九尾狐狸。為人聰穎敏捷，博聞強記，精通廟堂典禮。朝廷郊廟儀制典禮、真宗封禪行祀，無不參與。大中祥符九年（1016年） 以刑部侍郎、拜參知政事。天禧元年（1017年）大禮，為天書儀衛副使、參詳儀制奉寶冊使。官至兵部侍郎。二月卒，時年五十七，贈右僕射，謚文僖。有文集百卷、《唐紀》四十卷、《江南別錄》。