其父宋伯，在漢光武帝建武初年擔任五官中郎將。宋均年少以父任為郎。十五歲時，好經書，常以假日往經學博士處受業，精通《詩》、《禮》，善于論辯。先後官辰陽縣長、上蔡縣令、九江郡太守。宋均到任辰陽長後，興立學校，對在其地推廣儒學起了很大作用。光武帝嘉其功，賜以金帛。遷上蔡令，禁人喪葬不得奢靡。

轉任九江太守，九江境內有唐、後二山，巫祝等藉口山公娶婦，禍害百姓，年年如此。宋均禁絕淫祀，下令今後凡為山公娶婦，皆取巫祝家女，不准擾亂百姓。此令一出，眾巫祝叩頭服罪，宋均將巫人殺掉。宋均剷除了巫神借迷信禍害百姓的罪行，從此斷絕了為山神「取公嫗」的活動。宋均的事跡，有如西門豹治鄴城。

後宋均為謁者，監伏波將軍馬援軍，以恩信招降武陵蠻。馬援卒，他建議機斷專行，改討伐為招降，獲得成功。永平元年（58年），為東海國（今山東郯城北）相，在職五年，坐法免官，而東海百姓作歌頌念，求皇帝赦免他。漢明帝以他為尚書令，議政多合帝意。生性寬和，不喜文法，主張選吏以弘厚為準。為政務存寬厚，頗得民心。後為司隸校尉，終官河內郡太守。因病請求卸任，後在家中去世。