先秦时境域为西羌地；秦时为乌孙地；西汉初，为匈奴昆邪王地；元狩二年（前121年），置酒泉郡，属酒泉郡天依县管辖。

东汉时为延寿县所管。

三国时属曹魏，亦为酒泉辖地。

西晋时为前凉张轨所有，继为西凉李所管，后归于北凉沮渠蒙逊。

后魏置酒泉军,复为郡，属其辖地。

隋初废郡，分置肃州，属福禄县。

唐置酒泉郡（后改为肃州），属其所辖酒泉县。

宋为回鹘所据，后属西夏。

元属肃州路；明洪武五年（1372年），大将宋国公冯胜平定河西，首筑嘉峪关土城，以御外族侵略。

二十七年（1394年），设嘉峪关所，属肃州卫。

清置肃州直隶州，嘉峪关亦归其管辖；嘉庆至同治年间，在嘉峪关曾设巡检。

民国元年（1912年）后，为酒泉县辖地。

1950年，成立嘉峪关乡，1951年，改嘉峪关乡为嘉峪关。

1954年，改嘉峪关为第二，同年撤并乡，设嘉峪关乡。

1958年，成立嘉峪关公社。

1965年，从酒泉县划入嘉峪关管辖。

1983年撤销公社，复为嘉峪关乡。

2003年9月，撤乡建峪泉镇。

2010年10月，安远沟村划出。