东晋始置遂宁郡，取“谯纵乱后，移于石坪。盖其地多獠，官方力弱，不相威摄”，故名遂宁。取遂宁兹土为名。1985年，撤销遂宁县，设立地级遂宁市和市中区；将原绵阳地区的蓬溪、射洪2县划归遂宁市管辖。
1997年10月31日，民政部（民行批[1997]23号）批复同意调整蓬溪县行政区域，设立大英县。大英县辖原蓬溪县管辖的通仙、金元、智水3个乡和玉峰、象山、卓简井、天保、蓬莱、河边、隆盛、回马8个镇以及原红江镇的文武、永和、夏家沟3个村。县政府驻蓬莱镇。
2000年第五次人口普查，遂宁市常住总人口3477013人，其中：市中区1355388人、蓬溪县672546人、射洪县963237人、大英县485842人。
2003年12月18日，国务院批准（国函[2003]131号），调整遂宁市部分行政区划：（1）撤销遂宁市市中区，以原市中区的行政区域设立遂宁市船山区和安居区。（2）船山区辖原市中区的唐家、北固、西宁、保升、老池5个乡和桂花、新桥、南强、复桥、仁里、永兴、河沙7个镇以及高升、南津、凯旋、镇江寺、介福、育才、富源路、广德、嘉禾9个街道。区人民政府驻北辰街。（3）安居区辖原市中区的聚贤、常理、大安、马家、莲花、观音、步云7个乡和安居、横山、会龙、东禅、分水、石洞、三家、玉丰、西眉、磨溪、拦江、保石、白马、中兴14个镇。区人民政府驻安居镇。
2004年末，全市辖13个街道、68个镇、44个乡。
2005年4月25日，四川省人民政府（川府函[2005]67号）批复同意遂宁市人民政府机关办公驻地由市城区嘉禾东路135号迁至东盛路39号。
2010年第六次人口普查，遂宁市常住总人口3252619人，其中：船山区656760人，安居区639125人，蓬溪县553239人，射洪县924531人，大英县478964人。