453年（元嘉三十年）劉劭殺害江徽，江謐下獄。武陵王劉駿平定建康，江謐出獄。初任奉朝請，歷任輔國行參軍、于湖縣令。465年（永光元年）正月、湘東王劉彧擔任南豫州刺史，江謐在劉彧左右。同年（泰始元年）十二月，劉彧即位為宋明帝，江謐擔任驃騎參軍。後轉任尚書度支郎、尚書右丞兼比部郎。

468年（泰始四年），江夏王劉義恭第十五女在十九歲去世。禮官建議以成人之禮下葬，尚書左丞孫敻以《禮記》反對。博士、太常以下官員因此被處罰，江謐連坐受杖責。江謐以孫敻主導誤議，請求處罰他。孫敻于是被免官。

469年（泰始五年），江謐出任建平王劉景素冠軍長史、長沙郡內史，代行湘州事務。他平素治獄，手段十分苛刻。僧遵和尚與江謐是好友，隨他來到長沙，僅因犯有小過失，江謐就把他抓起來關進監獄，並斷絕了他的飲食。僧遵飢餓已極，先後撕碎三件衣服吞咽下肚充肌，最後還是被活活餓死。于是江謐被彈劾召還回京。472年（泰豫元年），明帝駕崩，江謐被赦免。為正員郎，受號右軍將軍。

474年（元徽二年），蕭道成擔任南兗州刺史，江謐在屬下為鎮軍長史廣陵郡太守。入朝受號游擊將軍。江謐流俗趨利，奉迎結納。476年（元徽四年），建平王劉景素之亂被殺害，劉景素親近之人被殺，江謐僅僅得以免禍。477年（元徽五年），後廢帝劉昱被廢，江謐勾結蕭道成，以本官兼尚書左丞。同年（昇明元年），擔任黃門侍郎。沈攸之之亂，江謐提議為蕭道成加黃鉞。478年（昇明二年）平定沈攸之之亂，江謐擔任吏部郎。轉任太尉諮議，兼録事參軍。479年（昇明三年），蕭道成為齊王，江謐受號右衛將軍。同年（建元元年），南齊建立，蕭道成即位為齊高帝，江謐受位侍中。出任臨川王平西長史、冠軍將軍、長沙郡內史、行湘州留事，輔佐豫章王蕭嶷為長史，封永新縣伯。481年（建元三年）擔任左民尚書。轉任吏部尚書。善文牘，所在稱職。482年（建元四年），高帝蕭道成去世，江謐稱病不入朝，對自己沒有受到皇帝託孤不滿。齊武帝即位，江謐未得升遷，因此怨氣滿腹，誹謗朝廷。武帝得了重病，江謐就到豫章王蕭嶷府上，離間武帝、蕭嶷兄弟。武帝知道後，命江謐出任征虜將軍、鎮北長史、南東海郡太守。還沒有出發，武帝命御史中丞沈沖彈劾江謐前後罪狀。江謐于是被賜死。享年五十二歲。

其子江介在建武年間擔任吳縣令，民間懸掛死人的髑髏說是江謐的首級，江介于是辭官而去。