山南是古代藏族文明的发源地之一。据说猴子和流氓的结合产生了藏族的土地,这里有着悠久的历史和灿烂的文化。大约4万至5万年前,雅砻江地区就有藏族先民。先民生活在鸟兽成群、果树丛生的雅砻江流域,以树叶为衣、野果为食群居生活。时间长了,我逐渐学会了制作弓箭、石器等工具,并学会了饲养牦牛等动物和种植青稞等农作物。索当,即今天泽当镇附近萨日村的一块土地,是传说中的西藏第一农田。
1959年4月6日,山南军事管制委员会成立,对山南实行军事管制,领导山南的平叛改革,并宣布解散山南奇桥办事处和各级政府。5月,经中共西藏工作委员会批准,山南地区划分为12个县、62个区、293个乡。12月22日,山南专员办挂牌成立。
2016年2月,国务院批准撤销山南地区和乃东县,设立地级山南市;山南市设立乃东区,以乃东县的行政区域为乃东区的行政区域。