A cidade tem a altitude média de 250 metros. O ponto culminante do município está na Serra dos Cocais, que mede 1.163 metros, próximo a divisa com Coronel Fabriciano. A altitude mínima se encontra na foz do Rio Piracicaba, com 235 metros. No município, predomina um relevo variando entre montanhoso e plano. Cerca de 55% do território ipatinguense é plano, 30% das terras são de mares de morros e nos 15% restantes o terreno é montanhoso. Grande parte do relevo montanhoso está na Serra dos Cocais.

O município situa-se entre os rios rio Piracicaba, Doce e tendo a sub-bacia do Ribeirão Ipanema papel importante em sua configuração. Está localizado ainda no exato local onde o Rio Piracicaba encontra-se com o Rio Doce. A cidade de Ipatinga ainda é cortada pelo Ribeirão Ipanema, que nasce e desagua em seu território. O ribeirão sofre gravemente com a degradação ambiental, principalmente com o despejo de lixo e esgoto ao longo de seu curso, assoreamento das margens, poluição hídrica com esgotos domésticos e de pequenas indústrias, oficinas ou matadouros, extinção da biodiversidade local e erosão. Para evitar esse problema, a prefeitura fez plantio de mudas de plantas ao longo de áreas críticas.