东晋开平五年（361年），置武城县，县治所在今武林镇，属永平郡。

南朝宋元嘉二年（425年），改武城县为武林县，武林之名即始。

南朝梁陈时代，武林县曾改为武林侯国。

北宋开宝五年（972年），改属龚州，移治平南。

至此，武林作为县城的时间长达628年之久。

今新贤新地仍有古城残迹。

清朝，属平南零三里。

民国二十二年（1933年），属南一。

1950年3月，为大安武林乡。

1958年6月，更名为武林大队。

1984年9月，定名武林镇。