出身農家，家境清貧。1852年加入團練，後追隨曾國藩，歷任湘軍糧官，候補大名府知府，兩江總督衙門營務總管。1872年，曾國藩死後，李繼續受到兩江總督李宗羲重用，總辦上海機器製造局。1889年任山東東海關道，1895年任長蘆鹽運使，1897年任福建按察使。光緒二十五年七月二十八（1899年9月2日），調任廣西布政使。光緒二十六年九月二十六日（1900年11月17日），升任江西巡撫。1902年，署廣東巡撫，1903年署閩浙總督，1904年任兩江總督，兩個月後病死于任上，終年78歲。