因境内有文峪河水而得名。春秋属晋，称平陵县，战国为大陵。秦于今城关东北10千米武陵村置大陵县，属太原郡。西汉因之；又于今城关西南13千米平陶村别置平陶县，亦属太原郡。新莽改大陵为大宁，改平陶为多穰，东汉复旧。北魏平陶县治徙今平遥县境。太平真君九年（448年）废大陵县改受阳县，徙治今城关东5千米旧城庄。永安中年于今城关东南15千米回回堡一带侨置蔚州，于今城关东南15千米忠义村侨置忠义郡，于今城关东20千米云周村侨置云州，后徙废。
隋开皇十年（590年）改受阳为文水县，属太原郡。唐先后属汾州、并州。唐天授元年（690年）因文水是武则天故里，改名武兴县，神龙元年（705年）改称文水县。宋属太原府，元符中年徙今治。元属冀宁路。明、清属太原府。民国初年属冀宁道，道废后直属省。1949年属汾阳专区，1951年属榆次专区。1958年并入汾阳县，1959年复置县。属晋中专区。1967年属晋中地区。1971年属吕梁地区。2003年属地级吕梁市。
1996年，文水县面积1608平方千米，人口约38万人。辖7个镇、11个乡：城关镇、南安镇、开栅镇、南庄镇、刘胡兰镇、下曲镇、孝义镇、沟口乡、宜儿乡、南武乡、西城乡、南白乡、上曲乡、南齐乡、北张乡、西槽头乡、马西乡、苍儿会乡。县政府驻城关镇。
2000年第五次人口普查，文水县常住总人口401641人，其中，城关镇64800人，开栅镇31213人，南庄镇21455人，南安镇17531人，刘胡兰镇31201人，下曲镇26829人，孝义镇27914人，沟口乡2289人，宜儿乡27893人，南武乡22372人，西城乡25725人，南白乡16903人，上曲乡13027人，南齐乡14265人，北张乡26791人，马西乡12435人，西槽头乡15323人，苍儿会乡3675人。
2001年1月12日，省政府《关于文水县调整乡镇行政区划的批复》（晋政函（2001）16号）同意文水县乡镇调整情况如下：一、将沟口乡和宜儿乡并入城关镇，设立凤城镇。以原沟口乡、宜儿乡及城关镇的行政区域为凤城镇的行政区域，镇政府驻城内大陵街118号原城关镇办公楼内。二、将苍儿会乡并入开栅镇，设立新的开栅镇。以原苍儿会乡和开栅镇的行政区域为新的行政区域，镇政府驻开栅村。三、将上曲乡并入刘胡兰镇，设立新的刘胡兰镇，以原上曲乡和刘胡兰镇的行政区域为新的刘胡兰镇的行政区域，镇政府驻刘胡兰村。四、将南白乡并入南安镇，设立新的南安镇，以原南白乡和南安镇的行政区域为新的南安镇的行政区域，镇政府驻南安村。五、将南齐乡并入下曲镇，设立新的下曲镇，以原南齐乡和下曲镇的行政区域为新的下曲镇的行政区域，镇政府驻下曲村。六、原南庄镇、孝义镇、西城乡、南武乡、北张乡、马西乡、西槽头乡建制保持不变。2000年12月至2001年4月，文水县基本完成撤并乡镇工作。此次行政区划调整后，文水县辖7个镇、5个乡：城关镇、南安镇、开栅镇、南庄镇、刘胡兰镇、下曲镇、孝义镇、南武乡、西城乡、北张乡、西槽头乡、马西乡。
2010年第六次人口普查，文水县常住总人口421199人，其中，凤城镇128571人，开栅镇34205人，南庄镇20195人，南安镇34229人，刘胡兰镇37235人，下曲镇39332人，孝义镇27981人，南武乡21765人，西城乡25475人，北张乡25105人，马西乡11116人，西槽头乡15990人。
2014年末，全县常住人口430862人。2015年末，文水县辖7个镇、5个乡（合计12个），9个居委会、199个村委会（合计208个）。