清代晚期形成聚落，1914年设碾子山火车站。

隶属龙江县第二管辖。

东北沦陷后，始设碾子山保，后改设碾子山村。

1945年，“九三”抗日战争胜利后，始设碾子山，后改为第四。

1952年10月，设置碾子山镇。

1958年9月，将碾子山镇改称超美人民公社。

同年12月，以华安机械厂为主体“厂社合并”，成立华安人民公社，由嫩江专员公署领导。

1959年，将甘南县中兴公社的三皇庙,簸箕山,马架屯划归华安公社管辖。

1960年5月，划归齐齐哈尔市管辖。

1960年12月，将华安公社改为华安。

1961年8月，成立华安公社农村分社，9月政企分。

1980年6月将跃进街道所辖农村划出，增设曙光人民公社。

1983年12月，将华安改为碾子山，名称沿用至今。