北海市因市区北面濒临海而得名，始见于清康熙初年，清嘉庆年以来沿称为市。秦属象郡地，汉为 合浦县地。清康熙元年（1662）设北海镇标。1876年中英《烟台条约》辟为通商口岸。1926年设“北海市政筹备处”，1929年置北海镇。
1949年12月4日解放，当时为镇，归合浦县管辖。1951年1月改为广东省辖市，同年5月委托广西省领导，1952年3月正式划归广西。1955年5月重归广东，1956年降为县级市，1958年降为合浦县北海人民公社。1959年改为县级镇，1964年恢复为县级市。1965年6月划归广西壮族自治区。
1982年经国务院批准，北海市成为旅游对外开放城市。1983年10月8日，国务院（国函字215号）批准：钦州地区的北海市改由自治区直接领导。1984年4月北海市被国务院确定为进一步对外开放的十四个沿海城市之一。1987年5月21日，国务院（国函[1987]84号）批准：将钦州地区的合浦县划归北海市管辖（7月1日实施）。
1990年7月21日，广西壮族自治区人民政府批准（桂政函[1990]20号）：北海市郊区的地角镇和西塘乡的徐屋、谭屋、张屋、大乪、体育里、塘仔、石子岭、三合口、沈四、油行、火烧床、屋仔、发宝、红坎、沙井头、丁屋、劳屋、上村、陈屋、莫屋、后塘、李屋等22个自然村，以及高德镇的勒棚村划归海城区管辖；同时，将地角镇改为街道办事处，作为海城区人民政府的派出机构。
1994年12月17日，《国务院关于同意广西壮族自治区调整北海市市辖区行政区划的批复》（国函[1994]137号）：一、同意撤销北海市郊区，设立银海区。银海区辖从合浦县划入的福成镇，原郊区的侨港镇、咸田镇、高德镇和西塘镇，海城区的大墩海、南氵万、新村3个居委会。区人民政府驻明珠大道。二、新设铁山港区。铁山港区辖从合浦县划入的南康镇、营盘镇。区人民政府驻南康镇。三、扩大海城区的行政区域，将原郊区的涠洲镇（含斜阳岛）、高德镇的马栏、军屯、开江、垌尾、翁山、赤西、高农8个村公所和第一、第二、沙脚、岭底、庙山5个居委会及平阳村公所的螺壳村、龙沟芦村，西塘镇的西塘、西边垌、驿马三个村公所划归海城区管辖。区人民政府驻北部湾大道。
2000年第五次全国人口普查，北海市总人口1423236人。其中：海城区273413人、银海区138852人、铁山港区146370人、合浦县864601人。