上古属百越地，夏商时期属于扬州地，周代隶七闽地，战国时期属楚国地，秦汉时期属闽中郡及扬州会稽郡东冶县。

三国吴永安三年（260年），设立将乐县、绥安县（绥安县于东晋义熙元年（405年）改为绥城县，至唐贞观三年（629年）最终废置后未再恢复建制），隶属建安郡。

东晋义熙元年（405年），升沙戍堡为沙村县，是为沙县设县之始；后于唐武德四年（621年）改称沙县，先后隶属建安郡、建州。

唐朝开元十三年（725年），将沙县西部原黄连峒地带之黄连镇升格为黄连县，后于天宝元年（742年）改名为宁化县，隶属临汀郡；开元二十九年（741年）在原尤溪山峒地带设置尤溪县，隶属福州。

五代十国南唐中兴元年（958年），将原绥城县地之永安场、归化场分别升格为建宁县、归化县（后归化县于宋元祐元年即1086年改名泰宁县），隶属建州。

1956年6月，永安专署撤销。7月间，三元、明溪2县合并成立三明县，隶属南平专署。永安县、清流县、宁化县、宁洋县（1956年7月9日国务院第34次会议决定撤销）隶属龙岩专区，大田县隶属晋江专区。

1958年4月，三明辟为重工业基地后即成立三明重工业建设委员会，为党政合一领导机构，负责领导三明工业区的工业建设以及各项市政建设与管理工作，直属省委、省人委领导，并与南平地委、行署双重领导三明县。

1959年2月，经中央批准，三明重工业建设委员会与三明县机构合并，成立三明人民公社筹委会（省辖）。

1960年1月，三明人民公社筹委会改名为三明市人民委员会（为省辖三明市）。