伊宁旧名固尔扎，系蒙古语“大头羊”之意。光绪十四年设宁远县。1913年置伊宁县，取伊犁、宁远首字得名。1952年析置伊宁市。
两汉时为乌孙、匈奴地。隋唐为西突厥及回鹘地，隶属北庭大都护府。元为蒙古诸王封地，明代为东察合台汗国地。乾隆二十七年（1762年）设伊犁将军，筑宁远城。光绪十四年（1888年）置宁远县，隶属伊犁府。民国3年（1914年），因与湖南省宁远县重名，取伊犁与宁远两地名的首字，改称伊宁县。
1952年由伊宁县划出五个区设伊宁市，1953年为省辖市，1955年改为伊犁哈萨克自治州辖市。1957年伊宁县治迁至东北18千米的吉里于孜，市、县遂分治两地。1975年伊犁州和伊犁地区分设，伊宁市为伊犁地区驻地和地区辖市。2001年撤销伊犁地区，伊宁市复为伊犁州辖。
1996年，伊宁市辖6个街道、1个镇、6个乡：墩买里街道、萨依布依街道、艾兰木巴格街道、琼阔鲁克街道、喀赞其街道、都来提巴格街道、巴彦岱镇、喀尔墩乡、汉宾乡、英也尔乡、托格拉克乡、克伯克于孜乡、塔什库勒克乡。
2000年，伊宁市辖8个街道、1个镇、6个乡。第五次人口普查，伊宁市常住总人口357519人，其中：艾兰木巴格街道46556人、萨依布依街道42866人、墩买里街道23421人、库勒克街道36510人、都来提巴格街道22060人、喀赞其街道23893人、解放路街道33032人、伊犁河路街道25615人、巴彦岱镇31517人、克伯克于孜乡8699人、托格拉克乡6865人、英也尔乡12914人、汉宾乡12344人、塔什库勒克乡14185人、喀尔墩乡15440人、界梁子牧场1602人。
2003年，伊宁市总面积629.44平方千米，总人口373097人，辖1镇8乡：巴彦岱镇、英也尔乡、克伯克于孜乡、汉宾乡、塔什库勒克乡、托格拉克乡、喀尔墩乡、达达木图乡、潘津乡。市政府驻市区解放路。
2004年，将伊宁县达达木图乡、潘津乡整建制划入伊宁市管辖。调整后，伊宁市的行政区划面积增加100.45平方千米。
2010年第六次人口普查，伊宁市常住总人口515082人，其中：萨依布依街道57706人，墩买里街道29089人，伊犁河路街道21692人，喀赞其街道28178人，都来提巴格街道21343人，琼科瑞克街道43572人，艾兰木巴格街道66128人，解放路街道42141人，伊宁市边境经济合作区管委会38140人，巴彦岱镇33131人，英也尔乡16038人，汉宾乡10407人，塔什科瑞克乡17015人，喀尔墩乡10232人，托格拉克乡8086人，克伯克圩孜乡6972人，达达木图乡36572人，潘津乡25307人，伊犁州农业良种2011人，伊宁市园艺场1322人。