地名由来：因大王山,小王山两个自然村的村名皆有山字，故名。

2021年9月，广东哪里有学泥瓦工培训培训班,农业农村厅公布第二批广东哪里有学泥瓦工培训培训班,“一村一品,一镇一业”专业村名单，小山村榜上有名（茶叶）。

2019年9月，小山村上榜2018年广东哪里有学泥瓦工培训培训班,“民主法治示范村（）”创建单位名单。

小山村位于五山镇西北方，与山溪村,嶂下村和石下村接壤，下辖小王山,茶坪,高枧背,赖家,吴家,周家,南木坑等7个村小组，现有总户数443户，人口2227人，农民主要种植水稻,竹,木,矿业为主。经济来源主要靠外出务工,种植毛竹和养殖牲畜,家禽。

小山村与青岭村,坪田村,文书村,牛头洞村,石下村,麻坑村,山溪村,嶂下村,沙田村,大乐村相邻。

历史沿革：

1958年设立小山大队；1983年设立小山乡政府；1987年设立小山村委会；1989年设立小山管理；1998年设立小山村委会，沿用至今。

小山村附近有古佛洞天景,金鸡岭,乐昌龙王潭,坪石漂流,对面山墓群,铜鼓岩等旅游景点，有沿溪山毛尖,张溪香芋,乐昌马蹄,乐北禾花鱼,北乡马蹄,甘木通等特产，有乐昌青蛙狮,九峰香火龙,九峰山歌,新丰舞纸马,乐昌青蛙狮等民俗文化。