牛存節開始隨河陽節度使諸葛爽，後來歸順朱溫，以軍功歷任滑州牢城、遏後指揮使、亳州、宿州二州刺史，邢州團練使。後梁建立後，任右千牛衛上將軍。任匡國軍節度使。他曾鑿井八十，平定同州劉知俊、徐州蔣殷叛亂。官至鄆州天平軍節度使。在任上去世。