小昆山位于上海松江区，属松江西北境内，距城区约10.5公里处，地处松郡九峰之最南端，名列九峰之末。山高海拔54.3米，山势陡峭，境内森林繁茂。周围1.5公里，山体占地面积33.3公顷。

小昆山旧称昆山，根据陆机诗“仿佛谷水阳，婉娈昆山阴”，以及潘尼赠陆机诗“昆山何有，有瑶有珉，穆穆伊人，南国之纪”，昆山得名当在西晋陆机、陆云之前。何时何因被改名？原来，唐天宝十载（751年）华亭县建县的当年，江苏省昆山市原马鞍山取名昆山，华亭县的昆山因比改名前的马鞍山小，故称为“小昆山”。

俯瞰小昆山，有南北两峰，南峰高于北峰，全山如8字状覆盆，圆秀而润，远望又若卧牛，北峰形似卧牛之首，甚至还能找出状如牛眼、牛鼻、牛鼻孔等泉眼、山岩，故俗名“牛头山”。