乌兰察布市地形自北向南由蒙古高原、乌兰察布丘陵、阴山山脉、黄土丘陵四部分组成。阴山山脉的支脉大青山，灰腾梁横亘中部，海拔为1595m～2150m，最高峰达2271m，灰腾梁最高海拔2118m。支脉蛮汉山、马头山、苏木山蜿蜒曲折分布于境内的东南部。习惯上将大青山以南部分称为前山地区，以北部分称为后山地区。
前山地区地形复杂、丘陵起伏、沟壑纵横、间有高山，平均海拔1152m～1321m，其中乌兰察布最高点苏木山主峰海拔为2349m。北部丘陵山间盆地相间，有大小不等的平原。最南部为黄土丘陵。
前山地区的旗县市区有：集宁区、卓资县、兴和县、丰镇市、察哈尔右翼前旗、凉城县。
后山地区为乌兰察布市丘陵地带，地势南高北低，平均海拔865m～1489m。后山地区南部底质多为岩石，表面覆盖，是比较平坦的天然大草原
