高台县境内有黑山、盘头山、大青山。大青山，位于规模最大，也最高，其东段的最高峰达2084米。黑山，位于合黎山近西端高台县罗城镇正北，主峰1816米，相对高差200-250米。丘陵低山有方架山、小孤山(1641)和慕少梁等。小孤山，位于高台、临泽交界西小口子附近，海拔1641米。
合黎山，又名要涂山、人祖山，属天山余脉河西走廊北山山系。位于甘肃省张掖市的甘州区、临泽县、高台县北部。属低山，最高大青山，海拔2084米。面积 4515平方公里。南隔走廊平原与祁连山相望，山北侧为内蒙古自治区阿拉善右旗。是走廊平原与蒙古高原的过渡地带。
据传，合黎山即是古代的昆仑山，为上古汉族传说中神话人物生活的仙境。是上古燧人氏观测星象，拜祭上天的三大处所之一。禹曾导弱水至于合黎，余波人于流沙，属禹贡雍州之域。西汉汉武帝元狩二年(公元前121年)夏，霍去病在合黎山一带歼匈奴主力3万余人，擒获2000余人，基本上击溃了匈奴在河西的力量。临泽县板桥乡壕洼即霍去病破匈奴处。
