徐世譜世居荊州，生于將軍之家。長大後，有勇力，善于水戰。湘東王蕭繹擔任荊州刺史，徐世譜率鄉人為蕭繹僚佐。

侯景之亂，徐世譜參加征討叛亂，進員外散騎常侍。率水軍在陸法和屬下，在赤亭湖與侯景作戰。製造樓船、拍艦、火舫、水車擴大軍勢。乘坐大艦站在先頭，擊破侯景大軍，擒侯景部將任約。在王僧辯屬下攻打郢州，侯景部將宋子仙歸降。以功被任命為使持節、信武將軍、信州刺史，封魚複縣侯。在姑孰擊破侯景部將侯子鑑。侯景之亂被平定，以功績任通直散騎常侍、衡州刺史，兼河東郡太守。

554年（承聖三年），西魏軍攻打江陵，徐世譜屯駐馬頭岸，據守龍洲。梁元帝任命他為侍中、使持節、都督江南諸軍事、鎮南將軍、護軍將軍。江陵陷落，徐世譜東下依附侯瑱。

555年（紹泰元年），被梁敬帝征為侍中、左衛將軍。陳霸先征王琳，徐世譜監造水戰器械。558年（永定二年），擔任護軍將軍。559年（永定三年），陳文帝即位，加特進，進安右將軍。561年（天嘉二年），出任使持節、散騎常侍、都督宣城郡諸軍事、安西將軍、宣城郡太守。召還建康為安前將軍、右光祿大夫。後來因病失明，不再為官。天嘉四年五月丁卯（563年6月10日），徐世譜卒。享年五十五歲。謚號桓侯。