汉朝建立之初，面对秦朝速亡的教训与辽阔疆域的现实，在地方上并未完全照搬秦制，而是实行了郡县制与封国制并行的郡国并行制。汉高祖刘邦在铲除异姓王的分封同姓子弟为王，意在拱卫中央。诸侯王国势力迅速坐大，拥有军事、财政大权，形成了与中央抗衡的“王国问题”。至汉景帝时，爆发了以“清君侧”为名的“七国之乱”。汉武帝即位后，采纳主父偃之策，推行“推恩令”，规定诸侯王死后，除嫡长子继承王位外，其余子弟可分割王国土地为列侯，归郡管辖。此令巧妙地将王国化整为零，使其越分越小，无力对抗中央，从而成功解决了王国问题，加强了中央集权。汉武帝设立刺史监察地方，东汉末年刺史渐成州牧，地方行政区划由郡县两级演变为州、郡、县三级。
在中央官制方面，汉初承袭秦朝三公九卿制，丞相权力极重。汉武帝为强化皇权，提拔身边侍从、秘书等低阶官员组成“中朝”（或称内朝），参与决策核心机密；而以丞相为首的原官僚体系则变为执行一般政务的“外朝”。这一中外朝制度的形成，标志着皇权开始有意识地分割和削弱相权。
唐朝是制度创新的高峰。在中央，三省六部制得以确立和完善。三省指中书省（负责草拟诏令、决策）、门下省（负责审议封驳）、尚书省（负责执行），六部为吏、户、礼、兵、刑、工，分掌具体行政事务。三省分工明确，相互牵制，又将宰相之权一分为三，有效加强了皇权，同时提高了行政效率，成为中国官制史上的重大创造，为后世所沿袭。然而在地方上，唐朝中期为巩固边防设立节度使，赋予其军政财大权，最终酿成安史之乱，此后形成藩镇割据局面，严重削弱了中央集权。
宋太祖赵匡胤吸取唐末五代藩镇割据、武将跋扈的教训，从权、钱、兵三方面大力加强中央集权与君主专制。军事上，通过“杯酒释兵权”解除大将兵权，将精锐编入禁军由皇帝直接控制，实行“更戍法”使兵不识将、将不知兵；行政上，中央派文官担任地方长官（知州），并设通判进行监督，两者互相牵制；财政上，设转运使将地方绝大部分税收运往中央。在中央，则设立枢密院掌军权、三司掌财权，分割宰相职权，并与主管行政的中书门下（政事堂）合称“二府三司”，使相权进一步分散，皇权空前强化。这些措施虽彻底消除了地方割据隐患，但也导致了官僚机构臃肿、军队战斗力下降的“三冗”积弊。
元朝疆域空前辽阔，为有效管理，在地方创立了行省制度，这是中国地方行政制度的重大变革。行省下设路、府、州、县，边远民族地区则设宣慰司进行管理。行省长官由朝廷任命，拥有经济、军事大权，但行使权力时受到中央严格节制。河北、山西、山东等地由中央中书省直接管辖，西藏则由宣政院管辖。行省制度便利了中央对地方的管理，加强了中央集权，巩固了多民族国家的统一，并奠定了后世省制的雏形。在中央，元朝以中书省取代三省，作为最高行政机关，其长官行使宰相职权，权力较大。
纵观从汉至元千年间的政治制度演变，其核心脉络清晰可见：在中央，皇权持续加强，相权不断被分割、削弱，从汉代的中外朝到唐代的三省六部，再到宋代的三司、枢密分权，直至元代中书省总揽。在地方，中央集权不断强化，地方权力逐渐被收归中央，从汉代解决王国问题、唐代应对藩镇割据，到宋代全面收权、元代创立行省，中央对地方的控制日趋严密和制度化。这一过程体现了古代中国政治制度在动态调整中维护大一统国家的内在需求与智慧。