玛曲，系藏语，意为黄河。因临黄河而得名。1953年6月1日，甘南藏族自治区筹备委员会第二次扩大会议决定成立欧拉县级工作组；同年甘南藏族自治区将欧拉县级工作组改为行政委员会。1954年3月26日，甘肃省人民政府决定设立玛曲（欧拉）行政委员会，系大于区小于县的一级政权机关，由甘南藏族自治区直接领导，玛曲行政委员会区域范围是：领导原夏河县的第七区（欧拉、乔科卡松、卓格尼玛、齐哈玛四大部落）。行政委员会驻卓格尼玛。
1955年12月26日，国务院批复同意撤销玛曲行政委员会，设立玛曲县，属甘南藏族自治州。玛曲县管辖的区域是原属夏河县的欧拉、乔科卡松、卓格尼玛、齐哈玛四大部落，并且仍按4大部落进行工作。县人民委员会驻卓格尼玛部落。6月16日正式成立。玛曲县成立时未设区、乡，只设4个工作组。1958年8月1日，玛曲县正式设立卓格尼马、乔科、才乃玛、阿万仓、齐哈玛、欧拉、藏科等7个乡。1958年12月，撤销乡级建制，设立“政社合一”的大人民公社基层政权组织。
1958年12月20日国务院全体会议第82次会议决定撤销碌曲、玛曲2县，将原2县的行政区域合并设立洮江县。洮江县驻尕海（一说，1960年11月从桥头迁驻尕海）。1959年末，洮江县下设科才、尕海、双岔、阿万仓（包括木拉、西合强）、欧拉（包括乔科、藏科）、乔科、卓格尼玛、河曲（河曲马场前身）等8个公社。1961年12月15日国务院全体会议第114次会议决定：恢复玛曲县，以合并于洮江县的原玛曲县行政区域为玛曲县行政区域。
1962年，玛曲县建制恢复后，下设尼玛、欧拉、阿万仓、群强、曼尔玛、采日玛、齐哈玛、藏科等8个乡。同年8月份，根据《甘肃省玛曲县和青海省玛沁、甘德、久治县在黄河弯曲部地区边界纠纷问题的协议（简称“兰州协议”）》的内容，将玛曲县管辖的下藏科划归青海省甘德县。1962年末，玛曲县辖7个乡：尼玛乡、欧拉乡、阿万仓乡、群强乡、曼尔玛乡、采尔玛乡、齐哈玛乡。
1968年年12月15日，根据甘肃省革命委员会的决定，将乡、镇行政区划建制，统一改称 “人民公社”。1983年下半年，改公社为乡，生产大队改村委会，生产队改村民小组。同年，撤销西科河羊场，在其区域内增设欧拉秀玛乡；将群强乡更名为木西合乡。县辖乡增为8个。
1996年，玛曲县面积10191平方千米，人口3.4万人，其中藏族占88%。辖8个乡：尼玛乡、阿万仓乡、齐哈玛乡、采日玛乡、曼日玛乡、欧拉秀玛乡、木西合乡、欧拉乡。县政府驻卓格尼玛。
2000年第五次人口普查，玛曲县常住总人口41399人，其中，尼玛乡13449人，欧拉乡3883人，欧拉秀玛乡2465人，阿万仓乡4727人，木西合乡2557人，齐哈玛乡4280人，采日玛乡4063人，曼日玛乡5975人。
2002年6月25日，甘肃省民政厅甘民区复字[2002]21号批复：撤销尼玛乡，设立尼玛镇。2005年末，玛曲县辖1个镇、7个乡：尼玛镇、曼日玛乡、采日玛乡、齐哈玛乡、阿万仓乡、木西合乡、欧拉乡、欧拉秀玛乡。共有2个居委会、36个村委会、233个村民小组，9300户42903人，9575平方千米。
2008年末，全县面积10191平方千米，农业人口0.73万户3.65万人。辖1个镇、7个乡：尼玛镇、欧拉乡、欧拉秀玛乡、阿万仓乡、木西合乡、齐哈玛乡、采日玛乡、曼日吗乡，36个行政村，238个村民小组。县政府驻尼玛镇。
2010年第六次人口普查，玛曲县常住总人口54745人，其中，尼玛镇17820人，欧拉乡5142人，欧拉秀玛乡3183人，阿万仓乡6619人，木西合乡3578人，齐哈玛乡5658人，采日玛乡5463人，曼日玛乡7282人。