尼玛，藏语意为“太阳”。原属纳仓部落。17世纪末归西藏噶厦管辖。1886年噶厦设申扎宗。1976年前现尼玛县所属地为申扎县管辖。
1976年12月24日，经自治区党委批准，建立申扎县西五区办事处，为申扎县办事机构。1979年1月正式建立县级建制的文部办事处。
1983年10月8日，国务院批准同意设立尼玛县，辖申扎县的查桑、文布、邦多、甲谷、卓瓦、尼玛六个区，班戈县的荣玛区和该县新建的嘎琼区，县政府驻尼玛，由那曲地区管辖。1993年8月，正式撤销文部办事处，成立尼玛县。
2000年第五次人口普查，尼玛县常住总人口34309人，其中，吴尔多乡2699人，吉瓦乡1450人，中仓乡2428人，俄久乡1833人，卓瓦乡1590人，岗龙乡1872人，甲谷乡1677人，卓尼乡1521人，来多乡1678人，申亚乡1558人，阿索乡1414人，文部乡1606人，军仓乡1360人，达果乡1363人，荣玛乡737人，多玛乡2145人，和平乡1676人，南措折乡2363人，巴林乡999人，北措折乡781人，嘎错乡501人，买玛乡1058人。
2002年，尼玛县由3区，22乡，114村委会调整为2镇、19乡，2居委会、112村委会：尼玛镇、措折罗玛镇、文部乡、申亚乡、吉瓦乡、军仓乡、中仓乡、甲谷乡、俄久多乡、卓瓦乡、卓尼乡、来多乡、荣玛乡、阿索乡、达果乡、措折羌玛乡、协德乡、多玛乡、巴岭乡、雅曲乡、嘎措乡。【其中，措折罗玛镇、协德乡、雅曲乡、嘎措乡、措折强玛乡、多玛乡、巴岭乡由双湖特别区（副县级）管理。共有32个行政村。面积116637.18平方千米，人口0.97万人。驻索嘎鲁玛。】
2008年，全县面积7.24万多平方千米，人口3.86万人。
2010年第六次人口普查，尼玛县常住总人口41855人，其中，尼玛镇6943人，措折罗玛镇2818人，文布乡1850人，中仓乡2492人，卓瓦乡1996人，卓尼乡1791人，吉瓦乡1664人，甲谷乡1871人，阿索乡1584人，俄久乡2081人，荣玛乡944人，达果乡1649人，申亚乡1691人，来多乡1902人，军仓乡1398人，协德乡2238人，雅曲乡1051人，嘎措乡537人，措折强玛乡1092人，多玛乡2764人，巴岭乡1499人。
2012年11月，国务院批准同意设立双湖县，将尼玛县的措折罗玛镇、协德乡、雅曲乡、嘎措乡、措折强玛乡、多玛乡、巴岭乡划归双湖县管辖。