秦时为象郡，汉以后，历代分属临允、盆允、义宁、新兴、恩平、新会诸县。明置开平县，因县治在开平屯而得名（一说，1649年置开平县，县治设苍城）。1949年后，县城迁至赤坎，1952年迁至三埠。曾数度易置。1993年1月5日，民政部批复（民行批[1993]1号）撤销开平县，设立开平市。
1996年，面积1659平方千米，其中市区面积138平方千米，人口66.6万人。辖3个街道、15个镇：三埠街道、长沙街道、沙冈街道、水井镇、月山镇、水口镇、沙塘镇、苍城镇、龙胜镇、马冈镇、大沙镇、塘口镇、赤坎镇、百合镇、蚬冈镇、金鸡镇、赤水镇、东山镇。市政府驻三埠街道。
1999年6月21日，民政部批准（民发[1999]45号）将开平市人民政府驻地由三埠街道长沙沿江东路135号迁至长沙街道长沙光华路1号。
2000年第五次人口普查，开平市总人口668692人，其中：三埠区街道145900人，长沙区街道84558人，沙冈区街道36542人，水井镇5262人，月山镇36071人，水口镇35735人，沙塘镇28371人，苍城镇31114人，龙胜镇31681人，大沙镇27335人，马冈镇36914人，塘口镇26065人，赤坎镇45525人，百合镇23664人，蚬冈镇16700人，金鸡镇19546人，赤水镇27029人，东山镇10680人。
2002年，开平市辖三埠、长沙、沙冈3个街道和水井、月山、水口、赤水、东山、金鸡、蚬冈、百合、赤坎、塘口、大沙、马冈、龙胜、苍城、沙塘15个镇。
2004年，水井镇并入月山镇，东山镇并入赤水镇。调整后，开平市辖三埠、长沙、沙冈3个街道和月山、水口、赤水、金鸡、蚬冈、百合、赤坎、塘口、大沙、马冈、龙胜、苍城、沙塘13个镇。
2004年7月8日，中共开平市委、开平市人民政府《关于印发<开平市调整村委会>规模实施方案》的通知》（开委[2004]8号），以下村委会均可列入规模调整和“村改居”的范围： 1、建议予以撤并300户以下的村委会31个。 月山镇：水一村委会；沙塘镇：下丽、五星、锦平村委会；龙胜镇：齐洞、蟠龙村委会；大沙镇：岗坪、新星、榕树、黎星、联星、小雄、富食、沃江村委会；塘口镇：草坪村委会；百合镇：马降龙村委会；蚬冈镇：风光、虾洞、七联、西南村委会；金鸡镇：石湾、石迳村委会；赤水镇：瓦片坑、湴溪、象栏、横洞、长塘、上下洞、黄松树、高山、合水塘村委会。 2、原则上并回原生产大队规模的、70年代分离出去的村委会57个。 月山镇：岗锋、钱二、钱三村委会；沙冈办事处：宝峰、新屋、向阳村委会；苍城镇：联丰、联胜、联红、田心、莲塘村委会；龙胜镇：联塘、塘头、冈咀、官渡、赤冈、梧村、桥新、成冈、那泔、西杰村委会；马冈镇：公安、竹山、翠山、张屋、曲水围、建新、楼堂村委会；赤坎镇：龙背、莲红村委会；百合镇：桥上、北降、三圭、儒南村委会；金鸡镇：屯村、向北、五联、镇一、高西、横冈、民新、红光、水山村委会；赤水镇：沙洲、朱屋、旗尾、茶坑、黄狮坑、清汰、尖冈、牛汰、四联、永丰、步星、西和、东星、悦宁村委会。 3、城区、中心镇所在地，原则上要由村委会建制改为社区居民委员会建制的村委会17个。 水口镇：东方红、红花、后溪村委会；沙冈办事处：红进、新美、开庄、风采、冈中村委会；长沙办事处：冲澄、幕村、三江、八一村委会；三埠办事处：中山、迳头、思始、南山、勒冲村委会。
2005年7月28日，广东省民政厅《关于同意调整开平市水口镇行政区划的批复》（粤民区[2005]38号）同意撤销开平市沙冈街道办事处，并入水口镇。新水口镇全镇总面积为80.5平方千米，总人口8.4万人，另有外来人口2万多人。
2009年末，开平市面积1659平方千米，辖长沙、三埠2个街道和月山、水口、赤水、金鸡、蚬冈、百合、赤坎、塘口、大沙、马冈、龙胜、苍城、沙塘13个镇，共有42个居委会、226个行政村。市政府驻长沙街道光华路1号。