唐开元时属富都乡。

北宋熙宁六年（1073）属富都乡德行里。

元时称小沙岙，属金塘乡。

清康熙年间属定海县富都乡十图；道光年间置小沙庄；宣统二年（1910）设三益乡。

1934年设小沙,大沙2个乡。

1947年属小沙和大狮乡。

1953～1954年分设小沙,乐家,毛峙,大沙,青岙,西岙6个小乡。

1956～1957年，设小沙,大沙,毛峙3个乡。

1958年1月毛峙乡并入小沙乡；9月与长白乡合并设立小沙人民公社；10月大沙乡改设大沙人民公社。

1984年6月复设小沙,大沙2个乡。

1995年12月撤销小沙乡建小沙镇。

2001年7月小沙镇与大沙乡合并设立新的小沙镇。

2013年8月小沙镇与长白乡合并设立小沙街道。