秦、西汉至晋属扶余地。北魏属勿吉地。隋为黑水靺鞨所属。唐初属燕州黑水府。唐懿宗咸通年间（837年）属渤海国地，隶属上京龙泉府。辽为黄龙府地。金为会宁府地。元太宗七年（1235年）曾在黑龙江境内设置开元万户府，后来治所移到黄龙府（今吉林省农安县）。元成宗元贞二年（1286年）改开元万户府为开元路。明洪武二十一年（1388年），开原路治所移到咸平府（今辽宁开原老城），并改元为原，“开原”名称由此而来。
开原老城是明代兴建最早的古城之一，素有“辽北古城”之称。明在此地设三万卫、辽海卫、安乐州。清康熙三年（1664年）撒销三万卫，置开原县，属奉天省。民国初属奉天省辽沈道。日本帝国主义侵占期间，隶属奉天省。解放初期属辽西省。1954年划归辽宁省。为铁岭地区辖县。1984年为铁岭市辖县。1988年12月27日，国务院批准同意撤销开原县，设立开原市（县级）。
1984年，将开原县的清河镇、清河乡划归铁岭市，设立铁岭市清河区。
1996年，开原市面积3101平方千米，人口约60.2万人。辖8个镇、17个乡：开原镇、老城镇、金沟子镇、威远堡镇、庆云堡镇、八宝屯满族锡伯族朝鲜族镇、中固镇、八棵树镇、城东乡、城郊乡、业民乡、莲花满族乡、古城堡乡、三家子乡、马家寨乡、靠山屯满族乡、上肥地满族乡、下肥地满族乡、黄旗寨满族乡、松山堡乡、杨木林子乡、曾家屯满族乡、李家台乡、林丰满族乡。市府驻开原镇。
1998年，省政府（辽政[1998]114号）批复同意将开原市管辖的杨木林子乡、曾家屯满族乡、八棵树镇北大沟村、八棵树镇貂皮屯村小围子自然屯划归清河区管辖。区划调整涉及面积28l平方千米。
1999年，省政府（辽政[1999]30号）批复同意撤销靠山满族乡，设立靠山镇。同年，省政府（辽政[1999]204号）批复同意撤销莲花满族乡、业民乡，设立莲花镇、业民镇。至此，开原市辖11个镇、8个乡、4个民族乡：开原镇、老城镇、威远堡镇、庆云堡镇、中固镇、八棵树镇、金沟子镇、八宝屯满族锡伯族朝鲜族镇、莲花镇、靠山镇、业民镇；土肥地满族乡、下肥地满族乡、黄族寨满族乡、林丰满族乡、李家台乡、马家寨乡、三家子乡、城郊乡、城东乡、古城堡乡、柴河堡乡、松山堡乡。
2000年第五次人口普查，开原市常住总人口529736人，其中：开原镇129124人，老城镇25031人，中固镇27754人，庆云堡镇25463人，八棵树镇27545人，威远堡镇22312人，金沟子镇26644人，八宝屯满族锡伯族朝鲜族镇20699人，靠山镇12217人，莲花镇14159人，业民镇21483人，城郊乡29129人，城东乡17176人，古城堡乡10609人，三家子乡16186人，马家寨乡12022人，柴河堡乡7084人，黄旗寨满族乡14547人，上肥地满族乡9979人，下肥地满族乡13862人，松山堡乡19146人，李家台乡18709人，林丰满族乡8856人。
2002年2月6日，省政府（辽政[2002]38号）批复同意：撤销开原镇，设立新城街道办事处；撤销城郊乡，设立兴开街道办事处；撤销老城镇，设立老城街道办事处；撤销古城堡乡、八宝满族锡伯族朝鲜族镇，合并设立八宝镇（继续享受民族乡待遇）；撤销柴河堡乡、靠山镇，合并设立靠山镇；撤销三家子乡、庆云堡镇，合并设立庆云堡镇。
2002年6月，开原市面积2824.78平方千米，人口约57.52万人。辖3个街道、9个镇、4个乡、4个民族乡：新城街道、老城街道、兴开街道、威远堡镇、庆云堡镇、中固镇、八棵树镇、金沟子镇、八宝镇、业民镇、莲花镇、靠山镇、城东乡、马家寨乡、上肥地满族乡、下肥地满族乡、黄旗寨满族乡、松山堡乡、李家台乡、林丰满族乡。共有23个社区、351个行政村。市政府驻新华路28号。
2010年第六次人口普查，开原市常住总人口545624人，其中：新城街道191649人，老城街道24190人，兴开街道27995人，威远堡镇21491人，庆云堡镇21954人，中固镇23788人，八棵树镇22828人，金沟子镇23462人，八宝镇27040人，业民镇18662人，莲花镇12249人，靠山镇17255人，城东乡14771人，马家寨乡10462人，上肥地满族乡9326人，下肥地满族乡13514人，黄旗寨满族乡13224人，松山堡乡17284人，李家台乡14980人，林丰满族乡6351人，三家子乡13149人。（注：三家子乡为非正式行政区划）
2012年，省政府（辽政[2012]6号）批复同意：撤销下肥地满族乡、松山堡乡、李家台乡、马家寨乡，设立下肥地镇、松山堡镇、李家台镇、马家寨镇。2013年，省政府（辽政[2013]5号）批复同意：撤销城东乡、上肥地满族乡、黄旗寨满族乡，设立城东镇、上肥镇、黄旗寨镇。至此，全市辖3个街道、 16个镇、1个民族乡：新城街道、老城街道、兴开街道、威远堡镇、庆云堡镇、中固镇、八棵树镇、金沟子镇、八宝镇、业民镇、莲花镇、靠山镇、下肥镇、松山镇、李家台镇、马家寨镇、城东镇、上肥镇、黄旗寨镇、林丰满族乡。