据志书记载，白银矿藏的开采，始于汉代。明朝洪武年间，官方曾在现市政府驻地设立办矿机构“白银厂”，有“日出斗金”之说。白银由此而得名。1956年白银有色冶金公司由兰州迁驻郝家川；同年8月24日甘肃省人民委员会通知，经国务院批准，设立白银市筹备委员会。
1958年4月11日国务院全体会议第75次会议决定将皋兰、靖远两县所属以郝家川为中心的部分地区，设立白银市。1958年7月4日正式成立白银市，为省辖市，行政区域包括：皋兰县的蒋家湾、强家湾、王岘3个乡的全部和川口、武家川、金沟口3个乡的部分地区以及靖远县的刘川、金山2个乡的部分地区，南北约35千米，东西约20千米，面积700多平方千米。
1958年10月25日甘肃省人民委员会决定将白银市委托定西专区代管。1960年靖远县划归白银市领导。1961年白银市改由省直辖；恢复皋兰（驻石洞寺）、景泰（驻芦阳镇）2县，由白银市领导；辖3县。1963年撤销白银市，将原白银市的市郊区并入兰州市及皋兰县。原由白银市领导的靖远、皋兰2县划归定西专区，景泰县划归武威专区。
1985年5月14日，国务院批准（国函[1985]66号）恢复白银市（地级）。将兰州市的白银区和皋兰县的强湾、武川、水川3个乡划归白银市，设立白银区；将靖远县的宝积镇和宝积、水泉、共和、种田、复兴等5个乡划归白银市，设立平川区。同时将定西地区的皋兰县、靖远县和武威地区的景泰县划归白银市管辖。8月，地级白银市正式挂牌成立。
1996年，面积2.1万平方千米，人口163.5万。市政府驻白银区，辖白银、平川2区和靖远、会宁、景泰3县。
2000年第五次人口普查，白银市常住总人口1719735人，其中，白银区274554人，平川区186428人，靖远县463076人，会宁县568634人，景泰县227043人。
2009年末，全市面积2.12万平方千米，常住总人口175.72万人，其中城镇人口62.4万人，非农业人口46.38万人。辖白银、平川两区，会宁、靖远、景泰三县，共有9个街道、21个镇、48个乡。
2010年第六次人口普查，白银市常住总人口1708752人，其中，白银区294400人，平川区192399人，靖远县454925人，会宁县541273人，景泰县225755人。
2014年，省民政厅（甘民复〔2014〕154号）批复同意：平川区撤销宝积乡，设立宝积镇；靖远县撤销刘川乡、北滩乡，设立刘川镇、北滩镇；会宁县撤销柴家门乡、侯家川乡，设立柴家门镇、侯家川镇；景泰县撤销正路乡、中泉乡，设立正路镇、中泉镇。2015年，省民政厅（甘民复〔2015〕2号）批复同意：会宁县撤销中川乡、汉家岔乡、刘家寨子乡、白草塬乡、大沟乡、四房吴乡、老君坡乡、平头川乡，设立中川镇、汉家岔镇、刘家寨子镇、白草塬镇、大沟镇、四房吴镇、老君坡镇、平头川镇。