唐朝李世民东征高丽曾在此驻军，在别山东筑有姜须城。

辖在清道光年间（1831）分属仁智乡里，上负鼎里；清末，分属仁智乡里山前乡保，山后乡保，上负鼎里纪各庄乡保。

民国时期建别山镇，属六，其余村庄分属王杠庄乡，小八沟乡，徐各庄乡，鲁庄子乡。

1912年为工所驻地，1942年为伪“公所”驻地，1942年建伪“别山镇”。

1949年后，仍属六；1953年建别山乡。

1958年属溵溜公社，设别山,王杠庄两个管理；1959年将楼上乡,爱国乡,和平乡,大官场乡并入。

1960年，别山等36个村划归玉田县，1962年复归蓟县，改为别山公社。

1983年改公社为乡，2002年撤乡并镇，将翠屏山乡一块并为别山镇。