保寧初年，補任御琖郎君。保寧十年（978年），出使北宋，回國後，上奏遼景宗宋朝必取北漢，稱「諸僭號之國，宋皆並收，惟河東未下。今宋講武習戰，意必在漢」。燕王韓匡嗣不聽耶律虎古的意見，沒有準備戰爭。乾亨元年（979年），北宋滅北漢。遼景宗以耶律虎古能料事、言事，任命他為涿州刺史。遼聖宗統和初年，皇太后蕭綽稱制，耶律虎古受詔赴京師上京臨潢府。因事觸怒韓德讓，韓德讓取護衛所執戎仗擊打他的頭，遂遭殺害。其子耶律磨魯古。