耶律八哥幼年聰明，書文一見便可成誦。統和年間，繼承家業為五院部本部吏，轉任樞密院侍御。統和四年（986年）春，北宋將軍曹彬、米信率軍計劃收複燕雲十六州，耶律八哥與宋軍作戰有功，擢升為上京留守。開泰四年（1015年），召還為北院樞密副使。後來出任東京留守。開泰七年（1018年），遼聖宗命耶律八哥以都監從東平郡王蕭排押東征高麗國，至開京（今開城），大規模略奪而還。契丹軍到達茶河、陀河，高麗軍追兵至。諸將主張高麗軍渡河之後攻擊，耶律八哥反對，建議高麗軍在二河之間時攻擊。蕭排押聽從耶律八哥的意見，戰敗。開泰八年（1019年），耶律八哥回到東京遼陽府，上奏渤海承奉官應該有官員統領。遼聖宗聽從耶律八哥的意見，設置都知押班。後來責任耶律八哥在茶河陀河之戰的敗績，奪大臣之位，削使相諸職，降為西北路都監，後去世。