張楚金年輕有志行，事奉父母以孝聞名。他與兄長張越石一起參預鄉貢進士，州司將要淘汰張越石而推薦張楚金，他表示推辭說以順張越石居長，以才張楚金不如。李勣為并州都督，說：「貢士本就是求才，如此相推，兩人都錄取又有何嫌。」于是都舉薦擢第。唐高宗時官至刑部侍郎。他與左僕射劉仁軌、右僕射戴至德、侍中張文瓘、中書令李敬玄、右庶子郝處俊、黃門侍郎來恆、左庶子高智周、右庶子李義琰、吏部侍郎裴行儉馬戴、兵部侍郎蕭德昭裴炎、工部侍郎李義琛、金部郎中盧律師等奉詔撰《永徽留本司格後》十一卷，儀鳳二年（677年）進上。儀鳳初年，彗星見于東井，張楚金上疏，極陳得失。高宗採納，賜帛二百段。武則天臨朝，歷任吏部侍郎、秋官尚書，賜爵南陽侯。著《翰苑》三十卷、《紳誡》三卷，並傳于時，他節操高尚，但是尚文刻，當時也被輕視。與郭正一、元萬頃被酷吏周興所構陷，流配嶺南。載初元年（690年）八月甲子，在嶺南遇害。籍沒其家，妻兒流放，文章無存。