春秋时期，今遵义市所辖地域，先后或分别属于牂柯、巴、蜀、鳖、鳛等邦国。
战国时期，今遵义一带属于“大夜郎国”范围。成语“夜郎自大”的典故，既来自于古夜郎国。
西汉元光五年（前130年），置犍为郡，郡治初治鳖县，即在今遵义市中心城区附近。
【犍为郡治后移南广（今云南省盐津县东）、僰道（今四川宜宾市），武阳（今四川眉山市彭山区凤鸣镇 ）。南齐时，犍为郡治由武阳迁回僰道县，直到公元至501年，僰道为“夷戎”占据，郡废。】
元鼎六年（前111年），于夜郎地置牂柯郡，治故且兰县，作为邦国存在了250多年的“夜郎国”之名从此消失。
牂柯郡初治故且兰县(今贵州黄平、贵定二县间)。辖境屡有变动：元封二年(前109)分西部置益州郡元凤五年(前76)罢象郡，以其部分地区并入。有今贵州大部、广西西北部和云南东部。三国蜀汉建兴三年(225)，分南部置兴古郡东晋建武元年(317)又分置平夷、夜郎二郡，辖境缩小，西晋移治万寿县(今贵州瓮安县境)。南朝齐改为南牂柯郡。汉至西晋武帝属益州，晋武帝后改属宁州。梁大宝后废。隋大业三年(607)又改牂州为牂柯郡。治牂柯县(今瓮安县境)。唐武德三年(620)复为牂州。
三国时期，今境属江阳郡、巴郡、牂柯郡。县邑可查的仍为鳖县，县治今遵义市中心城区附近。两晋南北朝时期建置，查考上面备注之牂柯郡介绍。
隋开皇 三年（583年）废天下诸郡，实行州县二级制。今境大部属郎州。
隋大业3年，复郡县制。今遵义市境分属牂柯郡、明阳郡、江阳郡。其时，境置县邑可查的为绥阳县、义泉县、牂柯县等。
唐初，实行道州县制，今境属剑南道泸州，黔中道播州、珍州、思州、夷州、充州等。
唐贞观十三年（639年），将隋代的郎州改名为播州，领辖今黔北的大片地域。
播州之名，历经五代、宋、元到明朝末叶，存在了962年。所以人们常习惯用“播州”来代称古代的遵义。
唐贞观十六年（642年），将播州所领的罗蒙县改名遵义县。这是“遵义”的名称之始。
遵义之名沿用现今已有1364年。除县名外，历史上曾有过遵义砦、遵义军、遵义军民府、遵义府、遵义专区、遵义行政公署、遵义市等建制名称。播州从唐末到明末的725年间，为杨氏土司所世袭统治。
五代十国时期，今遵义市境大部属楚国播州、 夷州。
北宋咸平四年（1001年），今川渝及贵州北部地区分为益州、梓州 、利州 、夔州 四路，合称“川峡四路 ”或“四川路”。今遵义境内置有遵义军、滋州、播州、珍州、承州等，属夔州 路。
南宋时期，今遵义市境仍属川峡四路之一的夔州路。
元朝，今境设播州宣抚司、思州宣抚司，属湖广行省。
明洪武五年(1372年)今境大部为播州宣抚司，属四川行省，十五年(1382年)改属贵州都司，二十七年(1394年)复改属四川承宣布政使司。今境东部为思南府和石阡府所辖，属贵州行省。
明万历二十八年（1600年）“平播之役”后，取消土司制度，实行“改土归流”，于次年分播州为遵义、平越两个“军民府”，分别隶属四川、贵州两省。万历二十九年(1601年)改置遵义军民府，并徙治宣慰司西白田坝。
清康熙年间，播州宣抚司改称遵义府。今遵义市大部分地域属遵义府，隶属四川省。东部部分地域属石阡府、思南府、平越州，隶属贵州省。
清雍正五年（1727年），遵义府由四川省划归贵州省管辖。雍正年间，云贵总督鄂尔泰提出贵州服务面积小经济实力弱，把黔北粮仓美誉的遵义、真安、绥阳、桐梓、怀仁，一府五州县划给了贵州，帮助贵州的发展。而属于贵州的永宁县，因为离府城太远就与四川的叙永县合并。因为永宁有龙安营的驻防，所以永宁地区又称为龙安。贵州用一个县换了四川遵义一府四州县，四川感觉是是吃了大亏，所以在黔北地区和叙永地区，民间就流传了这么一个顺口溜：四川人生得憨，遵义换龙安。
民国初年，废除“府”的建制，今境隶属黔中道。
民国24年（1935年），贵州省设11个行政督察区，黔北十余县为第五行政督察区。
1955年的遵义专区
1949年11月，遵义解放，“第五行政督察区”改为遵义专区，以原遵义县城区为基础新建遵义市。专署驻遵义市，辖遵义市（由遵义县析置）及遵义（驻遵义市）、绥阳（驻洋川镇）、正安（驻凤仪镇）、道真（驻土溪场）、婺川（驻都濡镇）、凤冈（驻龙泉镇）、湄潭（驻义泉镇）、仁怀（驻中枢镇）、赤水、鳛水（驻东皇殿）、桐梓等11县。
1951年撤销遵义市，并入遵义县。遵义专区辖11县。
1952年复设遵义市。辖1市、11县。
1955年遵义市改由省直辖。
1958年的遵义专区
1956年，镇远专区的余庆县划归遵义专区。
1956年，四川省綦江县2个村划归鳛水县。
1958年，遵义市降格为县级市，划归遵义专区，贵阳市息烽县划归遵义专区。撤销遵义县，并入遵义市（县级），撤销凤冈县并入湄潭县，撤销道真县并入正安县。遵义专区专员公署驻遵义市，辖1市9县。
1976年的遵义地区
1959年，婺川县更名务川县；鳛水县更名为习水县。
1961年， 恢复遵义（驻南白镇）、道真（驻玉溪镇）、凤冈（驻龙泉镇）、余庆（驻白泥镇）4县。遵义专区辖1市、13县。
1963年，贵阳市开阳县划归遵义专区。
1965年，遵义专区息烽、开阳2县划归安顺专区， 遵义专区辖1市、12县。
1970年。遵义专区改称遵义地区。
1990年的遵义地区
1986年撤务川、道真2县分别改设仡佬族苗族自治县。
1990年，撤销赤水县，设县级赤水市，仍属遵义地区管辖。
1999年的遵义市
1995年，撤销仁怀县，设县级仁怀市，仍属遵义地区管辖。
1997年，撤销遵义地区，设地级遵义市。撤销县级遵义市，设红花岗区。赤水市、仁怀市改为省辖市。地级遵义市共辖1区10县，市政府驻红花岗区。
1998年，赤水市、仁怀市改由遵义市代管。
2004年，设遵义市汇川区，辖红花岗区上海路以北城区和遵义县北区部分乡镇。遵义市辖2区2市10县。
2013年7月1日，仁怀市进行省直管县 试点。
2016年3月，撤销遵义市遵义县，设遵义市播州区。以原遵义县（不含山盆镇、芝麻镇、沙湾镇、毛石镇、松林镇、新舟镇、虾子镇、三渡镇、永乐镇、喇叭镇）的行政区域为播州区的行政区域。将原遵义县的山盆镇、芝麻镇、沙湾镇、毛石镇、松林镇划归遵义市汇川区管辖。将原遵义县的新舟镇、虾子镇、三渡镇、永乐镇、喇叭镇和遵义市汇川区的北京路街道划归遵义市红花岗区管辖。
2019年7月1日起，仁怀市由省直管调整为由遵义市管理。
截至2021年，遵义市下辖3个区、7个县、2个民族自治县、代管2个县级市。即：红花岗区 、汇川区 、播州区 、桐梓县 、绥阳县 、正安县 、道真仡佬族苗族自治县 、务川仡佬族苗族自治县 、凤冈县 、湄潭县 、余庆县 、习水县 、仁怀市 、赤水市 。
我是爱好历史的四川人老曾，感谢大家的支持，祝大家虎年大吉，万事如意。