早在1244年（乃马真后三年），当时北方著名的才子赵璧、王鄂等相继来到忽必烈身边，开始向他宣传孔孟之道，探讨儒家学说和“以儒治国”。在子聪和赵璧等人的影响下，忽必烈了解到“修身、齐家、治国、平天下”乃儒家的平生志向。要想平治天下，就离不开有真才实学的大儒；要想治理好中原，必须实行孔孟的圣人之道。从此，忽必烈本人对儒学深信不疑，还挑选了十名蒙古子弟让他们跟随赵璧学习儒家经典，并亲自检查他们的功课。忽必烈继续网罗人才，北方的著名学者张文谦、张德辉、窦默等相继来到忽必烈身边，深受忽必烈赏识，而张德辉又进一步澄清了当时流行的“金以儒亡”的观念，使忽必烈树立了改用儒者治国的决心。在刘秉忠、姚枢等人的辅佐下，忽必烈在金莲川制定了“广招天下英俊，讲论治道”的用人方略及施政方针。在几十年的战火中，处境恶劣的儒生们如久旱逢甘露一样奔走相告，忽必烈的“爱民之誉，好贤之名”迅速传遍天下，人们争先恐后地推荐自己了解的人才，一批有识之士迅速云集到忽必烈的王府。
1252年，为了取悦忽必烈，孔府还请出大儒张德辉与元好问等觐见忽必烈，跪请他为“儒教大宗师”；并建议遵照耶律楚材的方针，考选儒士，减免儒户兵赋等负担。堂堂华夏“圣学”，竟然请得一位双手沾满无数汉人鲜血的少数民族首领来做大宗师，孔府真正实现了“以德报怨”的最高境界。
虽说不识几个汉字，忽必烈还是愉快地接受了他们的请求，出任“儒教大宗师”。心情大好之下，忽必烈蠲免了孔府和儒户的兵赋，一群儒士弹冠相庆欢呼雀跃，“君子谋道不谋食”在这里得到了完美的体现。
忽必烈经常与元好问等人探讨金朝由盛变衰的原因，以及历朝人才得失的情况。郝经对忽必烈道：“能用士而能行中国之道，则可以为中国之主。士于此时而不自用，则吾民将成为斧钺之质，土野之粪，将会无遗类矣。”忽必烈上台前，刘秉忠、徐世隆曾向他建议道，“典章、礼乐、法制、三纲五常之教”乃“治乱之道，系乎天而由乎人”，“以马上取之，不可以马上治”，“陛下帝中国，当行中国事”。只有推行中国原有的治国之道，才能做中国的皇帝。他们想使忽必烈认识中原文化的实质和内涵，治理汉地便必须采行汉法，因此必须创建制度，以便恢复秩序重建中原。他们不愿意把游牧制度移植于中原，但也不敢奢望征服者能全盘汉化，他们所期求的是糅合蒙古制度和中国治道，参照辽金遗制，制定一代之法。
治理关中
1251年，由于邢州盗匪猖獗，民不聊生，赤地千里，十室九空。同为邢州人的刘秉忠与张文谦一起向忽必烈建议道：“今民生困敝，莫邢为甚。救焚拯溺，宜不可缓。盍择人往治，要其成效，俾四方诸侯，取法于我，则天下均受赐矣！”忽必烈采纳了他们的意见，先后派遣赵瑨、李惟简（或名李简）、刘肃、张耕、赵良弼等人前往整治，这些人多为忽必烈在金莲川时所网罗而来的“宿儒俊造”。他们在忽必烈的全力支持下，积极推行新政，改变以往蒙古统治者竭泽而渔的掠夺政策，他们在邢州行楮币以通民货，兴铁冶以足公用，劝课农桑，设置驿馆，整顿粮仓。不到几个月，邢州大治，户口增加几十倍，百姓乐业，被称为乐郡。邢州治理的成功，给周围地区提供了样板，于是其他郡县争相效仿。忽必烈大喜过望，开始在较大范围内推行汉法。治邢的成功为忽必烈日后统一全国、建立元朝打下了坚实的政治基础。
到了次年（1252年），蒙哥汗大封同姓，命忽必烈于南京关中，自择一处，作为他的封地。忽必烈与姚枢商议，姚枢献计道：“开封逼近黄河，水道迁徙无常，土薄水浅，不若关中深居腹地，险要可恃，厥田上上，古名天府陆海。”忽必烈于是很希望选关中。蒙哥汗道：“关中虽好，但人户寥落，所得财赋，你如何够用呢？我瞧河南怀孟一带地方，人烟很是稠密，如今也归你掌管，方可以调剂得平。”因此忽必烈尽有南京关中之地。
当时的河南，与宋接壤，仍是交战地区，情形特别混乱。忽必烈有鉴于此，便请求蒙哥大汗允许他在河南、陕西“试治”，以图挽救。“壬子……帝言之宪宗，立经略司于汴，以忙哥、史天泽、杨惟中、赵璧为使；陈纪、杨果为参议；俾屯田唐、邓等州，授之兵牛，敌至则御，敌去则耕，乃置屯田万户于邓，守城以备之。”河南经略司设置的意义和邢州安抚司不同，前者旨在开斥边徼，后者意在爬梳芜秽。所以他们在河南的主要措施，也具有军事意义，但主要仍不外恢复汉法以代替扰民的习惯法。史天泽等人推行的汉法，其一是“选贤才举幕府以清其源”，即对地方管理机构的改革；其二是“置提领布郡县以察奸弊”，通过设置监察官员，对以权谋私、违法乱纪行为进行整顿；其三是调整赋税政策，减轻经济剥削，这是实行德治、仁政的主要政策之一；其四是推行纸币制度，积极发展商业，促进经济文化交流；其五是在西起邓州、东连陈州、桃源的沿边地区屯田守边，设立粮仓，以保证军队粮食供应。“不一二年而河南大治。行于野民安其乐，出于途商免其露处，观民俗则庶而有教，察军志则又知夫怯私斗而勇公战。威行惠布，阳开阴肃，内外修治，略无遗策，河远流润，卫亦复承平之旧，宋为堕其北门矣！”
对关中的富庶，其他蒙古贵族也都垂涎已久。因而，在蒙金战争时期乃至金朝灭亡以后，他们争相在关中进行抢掠、屠杀，并且舍不得关中这块肥肉，都纷纷在这里抢夺土地，建筑豪华府邸，以各种手段搜刮民财民女，把一个关中搞得凋敝不堪，民不聊生。到忽必烈受封时，富饶的关中八州十三县的户口竟然还不到一万，经济的破坏达到了历史的最高点。
既然关中成为了忽必烈的封地，这个求贤若渴的藩王并非像别的亲王、将领那样目光短浅，把关中作为享受荣华富贵的安乐窝，而是从长治久安、建立巩固的根据地这一目的出发，对它进行了经营、治理。他利用自己的权力，首先将不法的蒙古将领以釜底抽薪的办法从京兆调到兴元各州戍守，并在京兆设立了从宣府，派自己的得力助手、时任幕府尚书的姚枢出任京兆宣抚司长官，任命杨惟中为宣抚使、商挺为郎中，前往治理关中地区，从此将自己的政治势力深深地植根关中。但不久姚枢就随忽必烈前往云南的前线，主持关中政务的实际上是杨惟中与商挺两人，这两位以儒道济世的王府幕僚也没有辜负忽必烈的期望。
杨惟中刚到关中，便对关中地区的政治进行了大刀阔斧的整治与改革。在访察民情的时候，他看到驻守关中的将帅都骄横贪婪，以各种手段盘剥百姓，其中有一位郭千户，更是贪暴无比，不仅贪财而且贪色，竟然杀死人家的丈夫夺走了人家的妻子。杨惟中知道此事后，立即查办，将这位郭千户处死并示众，从而震慑了将帅，使关中秩序肃然。商挺也发挥了自己的才能，他协助杨惟中选拔了一批贤明的官吏，同时罢黜了一批贪官污吏，再次申明上下尊卑的封建秩序，将长期积压拖延的刑事案件果断地处理干净，印发币布来促进商业贸易，又在民间鼓励农桑，减轻了百姓的赋税，使治理取得很大的成效。
河南是蒙军进攻襄樊一带的根据地，关中则为进攻四川的大本营。当时关中混乱的情形一如河朔，“关中经过战乱，城镇萧条，不见人迹。没有被杀的大部分难民都藏匿在山谷间，吃野果充饥，以延续朝不保夕的性命。强盗四起，伺隙抢掠难民”。1253年（元宪宗三年），蒙哥“以中州封同姓”，忽必烈受封关中。当时京兆八州十三县户不满万，而蒙古驻军除杀人越货、抢劫民女外，又在城内大修府邸，经营安乐窝。既增加了人民的负担，又削弱了部队的战斗力。忽必烈果断地分派诸将到诸州去戍守，忽必烈向汗廷要求“割河东解州盐池以供军食”，即首先保证军费来源，加强边防守卫；“又设置屯田，以其收入供应军食”。又命王府尚书姚枢设京兆宣抚司，先是任命有经验的孛兰、杨惟中为宣抚使，后又任命年轻官员廉希宪为宣抚使，商挺为郎中。以姚枢为劝农使，督民耕植；许衡为京兆提学，兴办教育。立行部于秦州以任转漕，立交钞提举司，印钞以佐经用。同时废除荼毒平民的羊羔利；贯彻解放儒生奴籍的命令；延访耄宿，待以师友之礼。之后数年间，先后任用杨惟中、廉希宪，把城郭萧条、不见人迹的关中，整顿得焕然一新，改善了政治，繁荣了经济，从此“关陇大治”。忽必烈对邢州、河南、关中地区的治理，既是他用汉法治汉地的开端，也为他将来治理全国提供了有益的经验；不仅使忽必烈的势力与声望与日俱增，而且对此后忽必烈战胜蒙古保守势力、统一中国，起到了重大作用。
暗藏杀机
忽必烈对漠南的治理所取得的巨大成功，在政治、经济上不可避免地会与蒙哥大汗的统治发生矛盾。忽必烈危及大汗帝位的做法，引起了蒙哥与他的亲信大臣们的不满。事实上，早在蒙哥汗把漠南的大片沃土分封给自己的弟弟忽必烈时，他们之间便悄然地埋下了“兄弟阋墙”的种子。当忽必烈受封漠南汉地时，他幕府中的汉人幕僚们都兴高采烈。也难怪他们如此喜悦，毕竟，这些围绕在忽必烈身旁的一大批汉人幕僚，他们习惯的是汉族的山水环境和生活习俗；寄身于蒙古草原，只不过是他们的权宜之计，而他们之所以从四面八方来到这荒凉寒冷的大漠，无非就是想用他们的智谋，鼓动“三寸不烂之舌”，说服年轻的亲王走出大漠，去统治天下，做天下的皇帝，而不是仅仅满足于做蒙古帝国的一位藩王。他们之所以选中忽必烈，也正是看中了他的作为、勃勃雄心，日后可以君临天下，也可以赐给他们高官厚禄，从而封妻荫子，从而锦衣玉食。就在别的幕僚们为忽必烈建政漠南而欢欣鼓舞之时，只有那位堪称“军师”的姚枢却不动声色，并没有露出笑容，反而却面带愁容，酒也喝得很勉强。对此，冷静下来的忽必烈全都看在了眼中。
庆贺的宴席刚刚散去，精明的忽必烈专程来到姚枢的住处，询问他道：“在今天宴会上，大家都兴高采烈，而唯独先生郁郁不乐，这是为什么呢？”姚枢等的就是忽必烈这一问，他直截了当说出心里话：“如今天下土地之广，人民之殷，财富之阜，有超过汉地的吗？军政大权全都归了我们，大汗还管什么？”这下子，轮到忽必烈“默然”了。接下来，姚枢又给忽必烈讲了一番与此相关的大道理。无非是“功高震主”、“兄弟阋于墙”的道理与隐患。对此，忽必烈感到心惊肉跳，赶忙向姚枢讨教补救的策略，而姚枢却不慌不忙地劝忽必烈道：“以后大汗身边的人乘机进谗言，大汗必定疑心、后悔，因此将夺了你的权。不如只接下兵权，将行政权力交回，请大汗派出相关机构掌管。这样才是明智的做法。”
于是，忽必烈按照姚枢建议，迅速地写了一封信，派人送给蒙哥汗。信中的意思是：“天下乃大汗之天下，疆土也是大汗的疆土。大汗将漠南汉地封赏给臣弟我，是大汗对为弟的一片恩德。不过，作为臣下，我有一片足够衣食供应的封地就足够了，过多的封地实在不敢领受，也不应当领受。因此，臣弟我能够奉诏统领汉地的军队，已感非常的荣幸；所赐封的土地，应当归还大汗。当然，为弟对大汗的这片恩德还是感激不尽的。”在这封信中，按照姚枢的启发与授意，忽必烈点明了他与蒙哥的君臣关系，又表明了自己的忠诚，掩饰了自己的勃勃雄心。蒙哥读了这封信后，不但对忽必烈放下了疑心，而且更加信任他了，并且于1252年，将征服大理的重任交付给了忽必烈。忽必烈听从了姚枢建议，做出了正确的选择，可谓是防患于未然，真是一念天堂，一念地狱。
忽必烈这一以退为进的谦恭做法，的确打消了蒙哥的疑虑，也为自己能从容地在漠南施政争取了时间。因而，这看似不起眼的动作对忽必烈的政治生涯有着举足轻重的作用。把汉地政务交还蒙哥，从后来的事态发展看，这种韬光养晦策略是十分必要的，自古君权的排他性都会产生惨烈的后果，自相残杀的事例不胜枚举。随着忽必烈在汉地站稳脚跟，声望日隆，蒙哥大汗也扫清了异己，对亲弟弟的猜忌之心，顿时强烈起来。也许是忽必烈在漠南的所作所为过于锋芒毕露，蒙哥及其亲信对他的怀疑随着他政治权力的演进而增加。有疑心与采取措施之间毕竟会有一段时日，但兄弟之间的矛盾也随之不可避免地产生了。
蒙哥猜疑忽必烈的主要原因，第一件就是忽必烈对开平的营建。1256年前，藩王忽必烈依然遵循着蒙古草原的遗风，一如既往地居住在恒州与抚州的草地上，仍然保持着住蒙古包、冬夏逐水草而不断迁徙的生活习惯。但是随着时间的推移，也许是在他的一帮汉人幕僚的劝说下，逐渐接受汉文化的忽必烈命令刘秉忠在恒州东面、滦水北面的龙岗地区占卜一番风水后，动工营建了开平府，也就是以后的元帝国上京。
开平府的建立，使忽必烈可以很方便地向漠南的汉地发号施令，又可以与蒙古帝国保持紧密联系。他之所以选择此地，也反映了他想走出大漠、又不想离开草原的复杂心理。这从他以后做了元朝皇帝后夏驻上京、秋移大都的生活习惯里就可以出来。对这一做法，蒙哥的近臣们颇有微词，他们认为忽必烈营建开平的目的非常明确，就是为他尔后的称汗作准备，在他们谗言谤语的影响下，比较保守的蒙哥汗难免会产生某些想法。
让蒙哥起疑的第二件事情是，忽必烈在河南对牙剌互刺采取了行动，牙剌互刺是帝国派出的总领汉地钱赋财粮的燕京断事官。忽必烈经向蒙哥请示后，在河南设立经略使负责屯田事务，并在各个郡县设置了提领官，以督察官员的奸弊行为。他的这些做法，直接插手了河南的地方行政。并且他还在卫州设立都运司衙门，建筑了高大的粮仓，让老百姓交纳粮食，变相地获得了收购军粮的权力。这些脱离帝国的做法，无疑会触动蒙哥汗的神经末梢。
忽必烈在治理关中地区时所采取的缓和民族矛盾与阶级矛盾的做法与措施，的确赢得了关中父老的欢迎。关中父老在历史的进程中，不知与多少个外来民族打过交道，饱受了掠夺、蹂躏之苦，他们所希冀的只不过是能过上安居乐业、少有战乱的清静生活而已，对他们来说，什么样的政权轻徭薄赋，劝农奖桑，他们就拥护。又因为自古以来关中就是一个粮仓，关中父老从来都安土重迁。忽必烈在关中，犹如古代任何在关中称王称霸、很有口碑的封建帝王一样，给他们历经沧桑的生活刮来一股春风，也减轻了他们重荷已久的负担。虽然在史书上没有发现百姓扶老携幼、箪食壶浆拥护欢迎忽必烈及其官员的热闹场面或感人情景记载，但他的确赢得了关中百姓的民心。因而关中民众只知有忽必烈，却不知有蒙哥汗，作为大汗的蒙哥难免在心理上不平衡。