青岛地区昔称胶澳。因胶州湾入口处北侧的小青岛得名，该岛对岸的原青岛村、青岛口、青岛山一带均沿用青岛之称。清光绪十七年（1891年），清政府议决在胶澳设防，青岛由此建置。翌年，调登州镇总兵章高元率部移驻胶澳。1897年11月，德国以“巨野教案”为借口强占胶澳，并强迫清政府于1898年3月6日签订《胶澳租界条约》。从此，胶澳沦为殖民地，山东也划入了德国的势力范围。第一次世界大战爆发后，1914年11月，日本取代德国侵占胶澳，进行军事殖民统治。第一次世界大战结束后，中国人民为收回青岛进行了英勇的斗争。1919年，由于青岛主权问题，引发了著名的“五四”运动，迫使日本于1922年2月4日同中国政府签订了《解决山东悬案条约》。同年12月10日，中国收回胶澳，辟为商埠，设立胶澳商埠督办公署，直属北洋政府。其区域与德胶澳租界地相同。
1929年4月，南京国民政府接管胶澳商埠，同年7月设青岛特别市。1930年改称青岛市。1938年1月，日本再次侵占青岛。1945年9月，国民党政府在美国支持下接收青岛，仍为特别市。
1949年6月2日，青岛解放，改属山东省省辖市。1981年被列为全国15个经济中心城市之一；1984年4月，被列为全国14个进一步对外开放的沿海港口城市之一；1986年10月15日，被国务院正式批准在国家计划中实行单列，赋予省一级经济管理权限；1994年2月，被列为全国15个副省级城市之一。
1949年底，辖市南区、市北区、台西区、台东区、四沧区、李村区、浮山区7区。1951年6月，将胶州专区的崂山办事处划归青岛市领导（管理郊区），改称崂山郊区办事处。1951年8月，撤销四沧区、浮山区，设立四方区、沧口区。1953年6月，崂山郊区办事处更名为崂山郊区人民政府。1958年底，将昌潍专区的胶县、胶南县2县及莱阳专区的即墨县划归青岛市管辖。1961年5月，将即墨县划归烟台地区管辖，将胶南县、胶县2县划归昌潍地区管辖。1961年10月，撤销崂山郊区，以原崂山郊区的行政区域设立崂山县，归青岛市管辖。1962年12月，撤销台西区，其辖区分别并入市南、市北区。
1978年11月，将烟台地区的即墨县，昌潍地区的胶县、胶南2县划归青岛市管辖；新设立黄岛区，其辖区包括由胶南县划出的黄岛、薛家岛、辛安3个公社。1983年8月，将烟台地区的莱西县、潍坊地区的平度县划归青岛市管辖。
1987年2月12日，撤销胶县，设立胶州市。1988年11月17日，撤销崂山县，设立青岛市崂山区。1989年7月27日，撤销平度县，设立平度市；撤销即墨县，设立即墨市。1990年12月18日，撤销胶南县，设立胶南市；撤销莱西县，设立莱西市。
1994年4月23日，青岛市辖区行政区划作如下调整：（1）撤销台东区，其行政区域并入市北区。将四方区的吴家村、错埠岭2个街道办事处，崂山区李村镇的杨家群、河马石、夹岭沟、曲家庵子4个村和中韩镇7号线以西的区域划归市北区。市北区人民政府移驻原台东区人民政府驻地。（2）撤销沧口区，设立李沧区。将原沧口区的四流中路、振华路、晓翁村、西流庄、永安路、营子、板桥坊、楼山后8个街道办事处和楼山乡、崂山区李村镇张村河以北的区域划归李沧区。区人民政府驻李村镇。（3）设立城阳区。将崂山区的城阳、惜福、夏庄、流亭、棘洪滩、上马、红岛、河套8个镇划归城阳区。区人民政府驻城阳镇。（4）将原沧口区的水清沟、开平路、盐滩、郑州路、洛阳路5个街道办事处，崂山区李村镇的河崖、后台、小水清沟、河西、华光、大山、小河西、保儿、保儿西山、双山10个村划归四方区。（5）经上述调整，崂山区辖中韩、沙子口、北宅、王哥庄4个镇。区人民政府驻地由李村镇迁至中韩镇。调整后的青岛市市辖区为：市南区、市北区、四方区、李沧区、崂山区、城阳区、黄岛区。
1997年，全市面积10952平方千米，人口693万。市府驻市南区。辖市南、市北、四方、李沧、黄岛、崂山、城阳7区，代管胶州、即墨、平度、胶南、莱西5个县级市。
2000年第五次全国人口普查，青岛市总人口7494194人。其中：市南区447532人、市北区504213人、四方区429389人、黄岛区238405人、崂山区254625人、李沧区352801人、城阳区494007人、胶州市783478人、即墨市1111202人、平度市1321975人、胶南市827771人、莱西市728796人。
2001年，经省政府批复，全市共撤销乡镇、街道办事处29个，改设街道办事处10个。调整后，全市共有乡镇87个，街道办事处90个。 平度市撤销蟠桃镇，合并到李园街道办事处和城关街道办事处；撤销中庄镇，合并到白埠镇。全市由原来的4个街道办事处、28个乡镇调整为4个街道办事处、26个乡镇。 胶州市将前店口乡与胶东镇合并为胶东镇；张家屯镇与铺集镇合并为铺集镇；苑戈庄镇与胶西镇合并为胶西镇；董城乡与洋河镇合并为洋河镇。全市由22处乡镇街道办事处合并为18个乡镇街道办事处。 即墨市撤销马山镇，其中33个村划入通济街道办事处，4个村划入大信镇；撤销石门乡，合并入段村镇；撤销乔家屯乡，其中12个行政村划入华山镇，8个行政村划入灵山镇；撤销瓦戈庄镇，合并入段泊镇；撤销太祉庄乡，合并入移风店镇；撤销大官庄镇，合并入店集镇；撤销长直镇，将该镇10个行政村划入营上镇，26个行政村划入普东镇；将潮海街道办事处的行政区域整建制划入市经济开发区。全市由原来的32个乡镇办事处调整为24个乡镇办事处。 莱西市将河里吴家镇合并入南墅镇；南岚镇合并入河头店镇；朴木镇合并入店埠镇；唐家庄镇一分为二，西半部并入南墅镇，东半部并入马连庄镇；绕岭镇大部分并入姜山镇，少部分并入望城办事处；院里镇割为三块，大部分并入日庄镇，部分并入南墅镇、武备镇；周格庄镇改称为周格庄办事处；韶存庄镇改称为韶存庄办事处；撤销滨河办事处改为莱西市经济技术开发区，行政区划归望城办事处。全市由原来的20个乡镇3个街道办事处调整为12个乡镇4个街道办事处。 胶南市撤销灵山岛乡，合并到积米崖港区；撤销塔山乡，合并到大场镇；撤销信阳镇，合并到泊里镇；撤销市美乡，原市美乡10个村合并到六汪镇，其余18个村合并到大村镇；撤销寨里镇，原寨里镇22个村合并到张家楼镇，6个村合并到藏南镇，5个村合并到琅琊镇；撤销黄山镇，成立黄山经济区；撤销胶河镇，成立胶河经济开发区；撤销灵海街道办事处；将琅琊镇部分村庄和原寨里镇的部分村庄划归琅琊台旅游度假区，将珠海街道办事处的部分村庄和大珠山镇的部分村庄划归海滨工业园。全市由原来的27个乡镇街道办事处、经济区，调整为19个乡镇街道办事处、经济区。
2001年底，全市总面积10654平方千米，其中市区（含所辖7区）面积1102平方千米。辖7区、5市。全市共有91个街道、83个镇、3个乡，642个居委会、64个家委会、6020个村委会。其中市辖区辖73个街道，426个居委会、61个家委会、529个村委会。年底全市总人口为710.49万人，其中，市区237.60万人；五市（县级）472.89万人。
2002年底，全市辖7区、5市，共有93个街道、85个镇，719个社区、6019个村委会。其中市辖区辖73个街道，518个社区、532个村委会。全市总面积10654平方千米，其中市区（含所辖7区）面积1102平方千米。全市总人口715.65万人，其中非农业人口245.37万人。少数民族33012人。
2003年底，全市总面积10654平方千米，其中市区（含所辖7区）面积1102平方千米。辖7区、5市，178个镇、街道办事处。年底全市总人口720.68万人，其中，市区246.77万人；五市（县级）473.91万人。全市非农人口比重达到35.2％。
2004年底，全市共有94个街道、84个镇，1157个社区、5494个行政村。其中，市辖区73个街道、1个镇，915个社区、44个行政村：市南区14个街道，81个社区；市北区16个街道，107个社区；四方区15个街道，91个社区；李沧区11个街道，98个社区；城阳区8个街道，231个社区、9个行政村；黄岛区5个街道、1个镇，168个社区、35个行政村；崂山区4个街道，139个社区。胶州市5个街道、13个镇，61个社区、811个行政村；即墨市5个街道、18个镇，35个社区、1028个行政村；平度市4个街道、26个镇，59个社区、1785个行政村；胶南市2个街道、15个镇，51个社区、965个行政村；莱西市5个街道、11个镇，36个社区、861个行政村。全市总面积10654平方千米。全市共有731.12万人，其中，市区258.4万人，五市472.72万人，全市非农人口占36％。（数据来源：《青岛年鉴2005版》）
2012年，《山东省政府关于调整青岛市部分行政区划的通知》：经国务院批准，撤销青岛市市北区、四方区，设立新的青岛市市北区，以原市北区、四方区的行政区域为新的市北区的行政区域。撤销青岛市黄岛区、县级胶南市，设立新的青岛市黄岛区，以原青岛市黄岛区、县级胶南市的行政区域为新的黄岛区的行政区域。（11月30日青岛市在市级机关会议中心召开调整部分行政区划动员会议）