少時家貧，為人雇傭，常一邊耕作一邊看書，治《尚書》，師事歐陽生。早年在廷尉張湯府中任筆墨小吏。漢武帝戊辰元鼎四年（前113年）任左內史，在任數年間，重視農業，並徵發民工，負責在鄭國渠上流南岸開六條小渠，使兩旁高地得到灌溉，稱為「六輔渠」。後任御史大夫。辛未元封元年（前110年），與司馬遷等共同制定「太初曆」，卒後歸葬故里。著有《兒寬》九篇。今兒寬墓位于廣饒縣城西1.5公里處。