隋唐王朝的行政中枢机构采取三省六部制。以后中书、门下两省权势渐衰，金朝废二省，止用尚书省领六部。由于大蒙古国时期借用“尚书省”作为大札鲁忽赤衙署的汉语译名，忽必烈改用“中书省”作为行政中枢的名称，以之领吏、户、礼、兵、刑、工六部。元初用重臣带中书省职衔到地方协调处理特殊事务，称为某处行中书省事，事毕撤罢。到忽必烈后期，派驻各地的行中书省（简称行省）逐渐成为常设的最高地方行政机构。依元代定制，除中书省直辖地区（含今山东、河北、山西、辽宁、内蒙等省区的大部或一部），全国划分为岭北、辽阳、河南江北、陕西、四川、甘肃、云南、江浙、江西、湖广等十余个行省，并设宣政院兼理吐蕃（今西藏及云、贵、川、青藏地区）军政。天山南北的诸多绿洲城池，元代中后叶大都在察合台系后王的控制下。原驻畏兀儿地区的高昌王亦都护家族退居永昌（在今甘肃）。元廷在位于元西北边境的哈迷里（今新疆哈密）安置了忠于元朝的一支察合台后裔，封为豳王。
中统三年（1262），山东益都世侯李璮趁忽必烈正与北边的阿里不哥开战，降宋反元。李璮经营益都近30年，势力及于益都以东和东南的差不多整个山东半岛，南至与宋交界的淮水北岸。他长期利用自己的势力范围地处蒙宋对峙的战略要冲的便利，“恫疑虚喝，挟敌国以要朝廷”，益兵自雄。这一次他仓促发难，声称降宋而不曾事先与宋取得确实的联络，自以为华北各地会群起响应，但大多数世侯却加入了朝廷组织的讨璮大军；在战略上他犹疑保守，坐失主动出击、扩大战果的时机。占领济南后，李璮屯兵不进达几十日，坐等元廷调度各路军队，包围济南。从这些情况看，李璮本人似乎先已陶醉在本为迷惑元廷而布设的虚张声势的烟雾中。他的失败自然不过是时间问题。
元军从中统三年夏历四月初起树栅凿堑，围困济南。五月中旬，将之完全困死。至六月中旬，城中以屋檐茅草喂马，人相食。又历一月，城破。李璮自沉于大明湖，因水浅不死，生擒后被处死于军前。
李璮称乱后，汉地世侯们虽然多站在朝廷一边，但李璮敢于盼望他们起而响应，说明他们之间一定有过某种隐秘不法的交往。忽必烈抓住这些在地方上尽专兵民之权的世侯们人人自危的时机，以“惩青徐之乱”为由，采取了一系列“潜销诸侯之横”的措施。元廷在地方上推行兵、民分治的制度，许多世侯被削去军权，保留文职；接着又罢各地管民官世袭，立迁转法，收世侯符节，易地为官；对一家有数人居于要职者，规定兵民权不可聚于一门，诸侯总兵者，其子弟勿复任兵事。制下，河北大军阀史天泽子侄同日解兵符者凡17人。此后又制定官员俸禄，颁职分田；确定官吏员数、官职品从；省并州县，减缩地方建制二百余处。李璮之乱反而成为元廷推行地方行政制度改革的一个重要的促进因素。
忽必烈朝在行政体制的临民部分大规模采纳汉法，并不意味这个北族政权会按照中原王朝的范式全方位地实行“汉化”。公元10世纪的辽政权及其以后的北族王朝（金、元和清），与它们之前的北族王朝（如“五胡十六国”时期的绝大多数非汉族政权，北魏及其继承王朝，后唐、后晋、后汉等沙陀政权）相比，有一个重要特点，就是它们在统治了人口密度远远超过其原居地的汉族社会之后，仍然保留着“龙兴之地”作为种族和文化认同的重要资源。因此它们的制度体系必然会包含这样一些制度成分，其主要功能乃是反映与保障该支配种族及其文化认同、维护支配种族的至上地位。
在建立汉语国号“大元”以后，元政权并没有放弃它原先的“大蒙古国”的蒙语国号。元代后期的蒙、汉文合璧碑铭中，汉文“大元”国号，蒙语译作“称为大元的大蒙古国”，或者“大元大蒙古国”，或者译作“大蒙古国”。与汉、蒙语国号并行使用一样，元代纪年方式也是汉、蒙两种形式并用。元历代帝的尊号，亦有汉、蒙两种名号。如忽必烈的汉式尊号为“宪天述道仁文义武大光孝皇帝”，蒙语尊号作“薛禅合罕”，意即贤明的大汗；两种名号之间不存在不同语辞之间的对译关系，而是各自出于两个本不相同的符号体系。元帝的即位仪式，也需要依汉法和蒙古法的方式分别履行。可见即使是在元时期，元王朝的皇帝其实同时担当着两种角色：对汉族臣民，他是皇帝；而对蒙古民众，他仍然是一个大汗。
所以，处在从大蒙古国到元王朝的转型时期，忽必烈为他的后代所奠定的统治体系，是一个在蒙古人、汉人、回回人（蒙古统治者主要用回回人理财）之间保持着适当张力和微妙平衡的制度及政策体系。他的汉族谋士们反复向他宣传的“用汉法治中国，则为中国之主”，不过是他们一厢情愿的臆想而已。
在中原汉地纲纪粗张、制度稍具以后，攻宋便被提上元廷的议事日程。元朝攻取宋重镇襄阳的军事行动从至元五年（1268）开始，至元十年，襄阳破。翌年元军揭开大举灭宋的战幕。至元十三年，宋都临安（今浙江杭州市）献降。又越三年，漂流在压山（在广州湾内新会南百里洋面上）海面上的宋流亡小朝廷被元军追灭。同年，坚持抗战三十多年的四川合州宋军也被迫款附。南宋版图至此全为元有。
与征服中原期间蒙古军队大规模的杀戮相比，元军在攻灭南宋的过程中，已明确地意识到尽可能避免残破南方经济、扰动江南社会的必要性。南中国在此期间遭受的破坏，总的说来不算太严重。
统一全国以后，忽必烈仰慕汉唐“万方来朝”的声威，不断遣使到海外各国去“宣布朕意”，招谕他们入朝。由于招谕的结果不能满足忽必烈以世界霸主自诩的期望，遂使他渐生开边之心。他自称不取爪哇，“犹痒在心”，所以需要得力的战将为他“爬搔”。忽必烈朝后期，元军连续征讨日本、安南、占城、缅国、爪哇等“海外诸番”。这些远征的后果，重者全军覆灭，轻者“粮尽师老”、无功而返，徒然给元朝本国和战争所在地的民众带来沉重的经济负担和生命牺牲。这时候，为筹划海外战争引起的对元代经济和社会秩序的破坏，其程度甚至远远超过征服南中国的大规模平宋战争。
至元三十一年（1294）初，80岁的忽必烈病死于大都。他曾经册立第二子真金为皇太子，可惜真金早死。忽必烈晚年属意于真金幼子铁穆耳，授以皇太子旧印；并且将全真道士张留孙推荐给真金遗孀，说他“必能善事太子”。病危之前，他选择平宋战争的主帅伯颜为顾命大臣，代表自己在帝位继承问题上“扬命群王”。铁穆耳靠伯颜“握剑立殿陛，陈祖宗宝训，宣扬顾命”，终得即位为帝，是为成宗。事成后，伯颜表示从此只愿“与诸王饮于宫前，余非所知也”。另一位顾命大臣玉昔帖本儿也如释重负地说：“大事既定，吾死且无憾。”可见忽必烈的遗志并非是在风平浪静中实现的。
成宗即位后起用的军国重臣，差不多全是忽必烈后期政府的原班人马，这从人事方面保证了按忽必烈遗规“持盈守成”的基本国策。但他虽然能够承袭忽必烈的“成宪”，却无法轻易地将乃祖在半个多世纪的文治武功中所积累的丰富经验和巨大声望据为己有。他只有到自己更熟悉的草原传统中去寻取必要的资源。因此，强调宽宥“惟和”，成为成宗时期朝政的重要特点。元廷在这时罢征安南，拒绝臣下再次用兵日本的建议，已奏准弹压广西洞寨骚乱的成命，廷议后也被追回，改为遣人招谕。虽然在西南和西北仍有过军事经略，为远征“八百媳妇”地区（在今泰国清迈一带）而调运馈饷还引起过荆湖全省民怨沸腾，但总的说来，经历了忽必烈治下几十年朝廷多事的时期后，本朝对内对外凡事“处之以安静”，给予整个社会以休养生息的时机。成宗的“垂拱而治”，收到了一定的成效。
古代风景画鉴赏1307年初，成宗在连年衰病后死去。皇后卜鲁罕惟一的儿子已死于此前。卜鲁罕企图以成宗堂弟、安西王阿难答辅国，临朝称制。阿难答本人因手握重兵，也有以忽必烈嫡孙（忙哥剌之子）身份夺取皇位的意图。两人互为奥援，可能与他们对伊斯兰教都颇有同情乃至信仰之诚有关，甚至还可能是因为他们之间有私通情节。而蒙古高级贵族中反对卜鲁罕的人，利用汉式官僚中枢在皇权暂时中断时对政治结构的关键性影响力，竭力阻挠卜鲁罕的计划，一面秘密遣人分别远赴漠北和怀州（治今河南沁阳），邀成宗兄答刺麻八剌的儿子海山和爱育黎拔力八达母子迅速赴都。爱育黎拔力八达在汉人谋臣的反复敦劝下，为避免卜鲁罕“邪谋得成，以一纸书召还”而束手被擒的命运，勉强赴都。接着他又在随行心腹的鼓动和反皇后集团的蒙古大臣配合下，于阿难答发难前一日率卫士秘密驰入禁中，拘捕阿难答和卜鲁罕，最终以争位斗争中实力最弱的一方“廓清宫阙”。
虽然爱育黎拔力八达对近在手边的皇位难免有垂涎之心，但他的兄长、真金嫡传中“次序居长”的海山这时已踌躇满怀地从阿勒泰军营返抵和林，在那里大会诸王勋戚，接着又分三路率领大军南下，来与“宗亲毕会”。是年夏，海山会爱育黎拔力八达母子于上都，接受宗王勋臣“推戴”，即位为新汗，他就是武宗。
武宗入都前“捍御边陲，勤劳十年”的经历，赋予他个人性格的塑造以最后的影响。他在位的三年半，专从对贵族官僚“溥从宽大”、滥封泛赏的角度去加倍发挥成宗的“惟和”国策。对诸王勋戚从优颁发朝会赏赐，致使给者未及半而两京府库空虚。获得“遥授”职衔而佩相印的人以百数计，甚至宫廷演员、贩肉卖酒的人、和尚道士都有授予中枢政要职衔的，称国公、司徒、丞相者相望于朝；朝廷有大事，诏告尚未脱稿，“奸民已复群然诵之”。官僚机构的膨胀和吏治的腐败，最终的受害者是广大民众。武宗像前两任大汗一样，重用回回大臣主持理财大事，虽然使长期存在的慢性财政危机获得缓解，但势家权要侵贪蔽占、征敛横出，种种负担都落在一般民众的身上。
《元史》的编者写道，武宗一朝，“至元（忽必烈年号）、大德（成宗年号）之政，于是稍有变更云”。就社会关系逐渐恶化而言，这样说似乎有一定的道理，但就元朝统治体制来说，成宗和武宗基本上是延袭忽必烈蒙古法和汉法相参并用的格局而少有变动。恰恰是在武宗之后，元代政治中进一步汉化的趋势明显增强。它最初似乎表现出冲破前代的体制格局从而使制度一新的迹象，但随着各种政治势力之间的反复较量，最后却演变为一系列粉饰“文治”的行动。
在元武宗千里迢迢赶到漠南，登上皇弟为他预备的皇位后，就把爱育黎拔力八达立为“皇太子”，约定“兄弟叔侄，世世相承”。旧历正月似乎是对元朝诸帝很不吉利的月份。武宗在即位后的第四个年头（1311）正月病死，爱育黎拔力八达终于熬过刻意韬晦的“潜龙”岁月，即位为帝。他后来以“崇文右儒”而获得“仁宗”的庙号。他先后建立过“皇庆”（1312～1313）、“延祐”（1314~1320）两个年号。皇庆、延祐时期以用汉法进一步改革元王朝体制而著称于世。
但是，仁宗的改革实际上在延祐中叶差不多就停止了。就像他的哥哥海山一样，现在轮到仁宗为推翻兄弟叔侄相继的前约而煎心焚内了。为换取母后答己和权相铁木迭儿对他立嫡子硕德八刺为皇储的支持，仁宗后期几乎完全放弃了锐意于“安百姓以图至治”的初衷。又是一个旧历正月（延祐七年正月），被顺利传子的迫切愿望搅扰得身心疲惫的仁宗死于大都，年36岁。硕德八刺即位，是为英宗。
少年英宗是元朝历帝中没有受任何困厄体验就临朝执政的惟一一人。他在聚集起足够强大又可以信赖的政治势力之前，急于推行孤家寡人式的新政来贯彻他所仰慕的儒家学说。虽然几乎处于“孑然宫中”的境地，未经磨炼的刚愎之心和偏隘的个性却促使他走向果于刑戮以实现个人意志的极端。不出三四年，由于引起全部蒙古上层的普遍怨惧，英宗最终被权臣刺杀在行帐里。
仁、英二朝推行汉法的中心，都是以加强皇权，来抑制诸王贵戚基于蒙古旧制而获得的权益；以儒术澄清吏治，来强化官僚君主制下的政治运行程序。但是蒙古宗亲和军事集团成员心目中的大汗角色，与中央集权制下中原王朝的皇帝角色有极大的差别。在当时情形下，大汗企图仅依靠汉地的政治文化资源强行将蒙古种人集团纳入中原王朝的君臣体制，这显然是十分困难的。仁宗因为别有所求而中途妥协，所以还能善终；英宗锐气过盛，结果在危机似乎已进入余波时惨遭杀身之祸。
英宗被刺后，真金长子甘麻刺的次子、镇守漠北祖宗故地的晋王也孙铁木儿，在“其余争立的哥哥、兄弟也无有”的情形下，被蒙古的宗亲勋贵拥戴为新汗，史称泰定帝。帝位异常顺利地从真金次子答刺麻八剌系转到甘麻剌系，既是因为晋王具有“宗盟之长”的地位，并且重兵在握，也因为具有蒙古本位倾向的“迤南诸王大臣”对仁宗和英宗牺牲他们既得利益来推行汉法的行为深为不满。也孙铁木儿个人历武、仁、英三朝，“不谋异心，不图位次，依本分与国家出力气行来”，在蒙古上层中口碑应当说也比较好。
也孙铁木儿在元朝最高统治集团刚刚经历了一次重大变故的情形下君临天下。他在位期间自然灾害频仍不断。西北连年雨雹、地震，其影响达于荆湖北部地区；东南从浙西到苏北沿海屡次发生海溢：华北则时而雨雹山崩，时而蝗旱。也孙铁木儿先建元泰定，末年又改年号为致和，表明他的国策又回到以惟和来求稳定的着重点上。在竭力弥平蒙古、色目贵族怨情的同时，泰定帝也注意到笼络汉族大臣以增强元王朝的合法性。过去被冤杀和流放的御史台官员，死者获昭雪，生者召还录用。英宗朝的汉族老臣或受“三老”尊礼，或得常朝免拜跪。许乘小车至殿门下。由名儒向皇帝进讲儒术的作法，在泰定元年（1324）正式发展成为经筵制度。南方名儒吴澄在他的文集中留下一篇为泰定帝执经进讲的白话文讲稿。其中这样写道：
“大概天地的心只要生物。古来圣人为歹人曾用刑罚来。不是心衷欢喜做来。孟子道：‘不爱杀人的心厮似。’前贤曾说这道理来。只有汉高祖省得这道理来，汉家子孙四百年做皇帝。我世祖皇帝不爱杀人的心，与天地一样广大。比似汉高祖不曾收服的国土，今都混一了。皇帝依着祖皇帝行，可万万年太平也者！”
然而，虽然有这些虚崇儒术的措施，与汉人儒臣们在仁、英两朝的高涨情绪相比，他们在泰定帝治下始终怀有一种难以言状的受挫感，大多数人的政治态度是消沉的。