唐麟德二年（665年），置潭栗县，隶鬱州，治今镇古城村。

次年，潭栗县改属鬱林州。

唐天宝元年（742年），潭栗县改属鬱林郡。

唐德三年（758年），潭栗县复改属鬱林州。

宋开宝五年（972年），潭栗县并入兴业县。

民国元年（1912年），后分属鬱林县大平山乡和兴业县大平山乡。

1950年6月，分属鬱林县第九和兴业县第一。

1953年，设第八，属鬱林县。

1955年9月，第八改为大平山属鬱林县。

1956年3月，大平山改属玉林县。

次年12月，大平山析为大平山,龙安两乡，同属玉林县。

1958年10月，设三山公社，属玉林县。

1964年，析陈村公社为大平山,龙安两公社，同属玉林县。

1984年10月，大平山,龙安两公社撤改为大平山乡，属玉林市。

1990年12月，大平山力改大平山镇。

1997年4月，大平山镇划归兴业县。