秦属黔中郡地。西汉属武陵郡地。隋置辰州。唐属黔中道。元设辰州、沅州、靖州路。清分属辰州府、沅州府、晃州直隶厅。
1949年，设会同专区，专署驻芷江县，辖芷江、会同、怀化、黔阳（驻安江镇）、绥宁（驻寨市镇）、靖县、通道、晃县等8县；设沅陵专区，专署驻辰溪县，辖辰溪、沅陵、溆浦、凤凰、乾城、永绥、泸溪、麻阳等8县。1950年由会同县析置洪江市。
1952年，撤销会同专区、沅陵专区；设立芷江专区，原属会同专区的洪江市和芷江、会同、绥宁、黔阳、晃县、靖县、通道、怀化等8县及原属沅陵专区的辰溪、沅陵、溆浦、麻阳（驻锦和镇）4县划入芷江专区，辖1市、12县；原属沅陵专区的凤凰、乾城、永绥、泸溪4县划归湘西苗族自治区。1953年，洪江市改为省辖市，麻阳县由锦和镇迁驻高村镇；芷江专区辖12县。
1954年，芷江专区改称黔阳专区，专署驻黔阳县安江镇；绥宁县迁驻长铺镇；同年5月7日通道县改设通道侗族自治县（驻双江镇）；黔阳专区辖11县、1自治县。1956年12月5日，晃县改设新晃侗族自治县，自治县人民委员会驻新晃（即原晃县县城）；黔阳专区辖10县、2自治县。1958年，洪江市划归黔阳专署领导，将绥宁县划归邵阳专区；黔阳专区辖1市、9县、2自治县。
1959年，洪江市交由黔阳县领导；撤销靖县，并入通道侗族自治县；黔阳专区辖1市、8县、2自治县。1961年，黔阳县领导的洪江市交由黔阳专署领导；由黔阳县析置安江市，黔阳专署驻安江市；恢复靖县；通道侗族自治县由城关镇迁驻双江镇；黔阳专区辖2市、9县、2自治县。1962年，撤销安江市，并入黔阳县；黔阳专署驻黔阳县。1963年撤销洪江市，并入黔阳县；黔阳专区辖9县、2自治县。
1970年，黔阳专区改称黔阳地区，地区驻黔阳县，辖黔阳（驻安江镇）、辰溪、沅陵、溆浦、会同、靖县、芷江、怀化（驻榆树湾镇）、麻阳（驻高村镇）等9县及通道侗族自治县、新晃侗族自治县2自治县。1975年，黔阳地区驻地迁怀化县的榆树湾镇，并将榆树湾镇改名怀化镇。1979年以怀化县的怀化镇（原名榆树湾镇）和盈口公社改设怀化市；复设洪江市；2市均由黔阳地区领导；黔阳地区驻怀化市，辖2市、9县、2自治县。
1981年6月30日，国务院批准同意黔阳地区更名为怀化地区。1982年12月24日，国务院批准撤销怀化县，将该县行政区域并入怀化市。1986年9月22日，国务院批准（国函[1986]124号）撤销芷江县，设立芷江侗族自治县（县级）。以原芷江县的行政区域为芷江侗族自治县的行政区域。1987年2月19日，国务院批准（国函[1987]31号）撤销靖县，设立靖州苗族侗族自治县（县级）。以原靖县的行政区域为靖州苗族侗族自治县的行政区域。1988年10月31日，国务院批准撤销麻阳县，设立麻阳苗族自治县。
1997年11月29日，国务院批准（国函[1997]105号）：（1）撤销怀化地区和县级怀化市，设立地级怀化市，市人民政府驻新设立的鹤城区迎丰路。（2）怀化市设立鹤城区、中方县。鹤城区辖原县级怀化市的迎丰、城中、城北、红星、坨院5个街道和盈口、杨村、鸭嘴岩、石门、黄金坳、芦坪、贺家田、凉亭8个乡。区人民政府驻府星路。中方县辖原县级怀化市的泸阳、花桥、中方、牌楼、铜湾5个镇和炉亭坳、桐木、下坪、聂家村、龙场、铜鼎、丁家、新路河、袁家、新建、蒋家、石宝、接龙、铁坡、活水、锦溪16个乡及黄吉坪瑶族乡。县人民政府驻中方镇。（3）撤销洪江市和黔阳县，合并设立洪江市（县级），以原洪江市和黔阳县的行政区域为新的洪江市的行政区域。洪江市人民政府驻黔城镇。（4）怀化市辖原怀化地区的沅陵县、辰溪县、溆浦县、会同县、麻阳苗族自治县、新晃侗族自治县、芷江侗族自治县、靖州苗族侗族自治县、通道侗族自治县和新设立的中方县、鹤城区。新设立的洪江市由省直辖。
1999年6月，原洪江市区域（除黔城乡外）与新成立的洪江市（原黔阳县）行政上实行分开管理，设立“洪江区”。（注：“中共洪江区工作委员会”和“洪江区管理委员会”，直属怀化市委和市政府）
2000年第五次全国人口普查，怀化市总人口4639738人；其中：鹤城区346522人，中方县236675人，沅陵县599680人，辰溪县478708人，溆浦县798983人，会同县331392人，麻阳苗族自治县335027人，新晃侗族自治县241690人，芷江侗族自治县334229人，靖州苗族侗族自治县245444人，通道侗族自治县206327洪江市485061人。
2005年末，怀化市辖1个市辖区、5个县、5个自治县，代管1个县级市；全市共有9个街道、87个镇、180个乡、21个民族乡。
2009年，《湖南省民政厅关于怀化市鹤城区、中方县部分行政区划调整的批复》：同意撤销鹤城区鸭嘴岩镇，将其鸭嘴岩、长远2个建制村成建制地划归中方县中方镇管辖（注：8月5日正式实施）。
2012年末，全市辖1个市辖区、5个县、5个自治县，代管1个县级市，共有11个街道、90个镇、175个乡、21个民族乡。市政府驻鹤城区迎丰路665号。