就在这一年，清廷计划在东北设立行省。东北长期实行和关内不同的三将军制度，社会发展落后，加上沙俄和日本势力一北一南渗入东北，有将该地殖民化的倾向。朝廷于是决定废将军设行省，任命总督加强控制，并派出了庆亲王奕劻的长子、贝勒载振和徐世昌一起赴东北进行前期调研。载振被内定为东三省总督。人事任命未动，消息早已泄漏。北洋将领段芝贵想提前和载振“总督”拉关系，以求谋取东北某省的肥缺。他乘载振回京途中在天津停留之机，赠送给载振一名小妾，载振接受后答应日后任命段芝贵为黑龙江巡抚兼布政使。载振此人乃纨绔子弟，行事毫不忌讳，结果自己的委任状还没下来就引来了言官如潮水般的弹劾奏章。加上不久之后，朝廷果然任命段芝贵为黑龙江巡抚，于是朝野舆论沸腾，指责载振卖官鬻爵。京津媒体长篇累牍地热烈报道这条政坛桃色新闻。慈禧知道后十分震怒，不得不临阵换将，任命同去东北调研的徐世昌顶替载振任职东三省总督。
徐世昌就这么成了清朝的第一任东三省总督。
二
1907年4月，徐世昌赴奉天（今沈阳）就任东三省总督、钦差大臣兼三省将军事务。麾下的三省巡抚分别是奉天唐绍仪、吉林朱家宝和黑龙江段芝贵。旋即，段芝贵因桃色新闻被免，改由程德全出任黑龙江巡抚。这三个巡抚日后也都成为了民国政坛的风云人物。
到任伊始，日本人就闹出了一桩棘手之事。7月11日，日本公使照会中国外务部，声称位于图们江的江东滩“间岛”领土归属未定，并在同日悍然派兵占领该地。15日，日本擅自在延吉设立“驻韩统监府派出所”，妄图正式吞并该地区。所谓“间岛”，指的是延边一带的延吉、汪清、和龙、珲春四县，原属宁古塔辖地，是东北地区离日本海出海口最近的地方。该地属于吉林省延吉厅，是毫无争议的中国领土。徐世昌闻讯，立即派王崇文、吴禄贞（又是民初风云人物）赴延吉取证，用铁一般的事实证明间岛地区是中国领土无疑。于是外务部两次照会日方，严正指出日本侵略中国领土，要求日军撤出间岛。经过反复力争，日本撤军。为防后患，清廷抓紧开发该地，开辟延吉为商埠，1909年又在珲春设立海关总管，统管东北边境的海关事宜。此处与俄罗斯、朝鲜接壤，又有水路出口，贸易旺盛。一直到1938年，东北居民都可通过此处出入日本海。
除了发现间岛的重要性，徐世昌还聘请英国工程师对葫芦岛海域进行了勘测，决定在该处建筑港口。葫芦岛港由此诞生。
徐世昌为什么要聘请英国工程师建筑港口呢？因为他要“以夷制夷”。东北业已被日俄南北分割，中国政府无力与两国抗争。为了避免东北殖民地化，徐世昌主动引西方势力（主要是英国）进入东北，来遏制日俄势力的膨胀。可惜由于日本和沙俄的强烈抵制，西方列强采取了息事宁人的态度，导致徐世昌以夷制夷，拯救东北落入外国侵略魔爪的计划没有取得实效。
徐世昌总督东北期间主要的政绩集中在开发东北上，尤其是在开垦土地和建设军队两个方面。清朝在东北长期实行封锁政策，将东北看做是龙兴之地而限制开发。徐世昌总督东三省后反其道而行，大力整顿东北各级政权，采取和关内相同的制度和社会政策。为了开发东北和内蒙古东部（当时属于东三省）大量的荒地，徐世昌鼓励民众、复员部队官兵开垦荒地，实行各种优惠政策。这项政策既可以开发东北，又可以充实边防，力图改变地广人稀不利边防的难题。但是在土地开发过程中还是引起了一些生态问题和当地游牧民的抵制，让徐世昌的政绩打了折扣。在军队建设上，徐世昌整顿东三省原有的军备力量，又从关内调拨新军，建立了相对完整的军事力量。这其中有许多值得玩味的地方。
乱世中最强硬的政治筹码就是军队，然而徐世昌似乎是一个另类。他始终没有嫡系部队，日后全靠资历和声望在军阀当道的政坛上纵横捭阖。是他没有机会掌握军队吗？不是。是他不愿意掌握军队吗？也不是。徐世昌任东三省总督后，可以名正言顺地建立嫡系部队。他也这么做了，可惜没有成功。
徐世昌建立嫡系部队的努力分两种。第一是拉拢旁系部队为己所用；第二是栽培亲人、部属掌握部队。
在拉拢他人方面，徐世昌主要做了三个人的工作。一个是北洋第三镇的统制曹锟，一个是北洋军的张勋，一个是东北本地“胡子”张作霖。徐世昌来东北的时候，拜把兄弟袁世凯正遭到清廷的猜忌，朝廷千方百计削夺袁世凯的兵权。徐世昌趁机奏请将曹锟的第三镇调驻东北。第三镇是北洋新军的主力，徐世昌的请求符合朝廷剥夺袁世凯兵权的意图，于是很快得到了批准。曹锟带着第三镇浩浩荡荡开往关外。徐世昌既讨了朝廷欢心，又多了一张镇抚东北的军事王牌，还暗地为把兄弟袁世凯保存了军事实力，可谓一举三得。徐世昌要拉拢的第二个人张勋性情直爽，头脑简单，徐世昌在小站的时候就着意栽培，特意收张勋为门生。张勋不通文墨，对于自己竟然能够投身翰林门下，深感荣幸。徐世昌荣升总督后，带着张勋上任，任命他为奉天行营翼长。张勋对徐世昌更是感恩戴德。他和曹锟二人，积极带领北洋新军镇压东北各地的反抗星火。当时，蒙古东部牧民因反对开垦牧场，奋起反抗，匪患困扰东三省。一些大股土匪甚至严重威胁到地方政权的安全。在如此情况下，徐世昌大胆提拔了被招安的土匪张作霖，让他率部在通辽、洮南一带剿匪。张作霖在剿匪中迅速崛起，因功升任统领，队伍不断扩充，形成了日后奉系部队的雏形。
徐世昌将曹锟、张作霖看做是自己的嫡系。在当时，情况也许如此，曹张二人对徐世昌的提拔可能也感激在心；但日后，曹锟的新直系也好，张作霖的奉系也好，都没有奉徐世昌为首领。徐世昌的拉拢政策并没有成功。这其中原因很多：有徐世昌并没有长期盘踞地方实权的原因，更有曹张二人个人野心和性格的原因，也有徐世昌一介书生，不知如何真正笼络武人的原因。
拉拢他人的同时，徐世昌还刻意栽培六弟徐世扬和九弟徐世良，希望他们建立嫡系部队。两个弟弟都毕业于北洋武备学堂。徐世昌任东三省总督时，用最快的速度提拔了徐世扬，让他很快官至陆军少将、宁阿兰镇守使兼第三混成旅旅长。徐世扬此后长期盘踞东北，1918年出任黑龙江督军。但意想不到的是，徐世扬拿着委任状尚未上任，就在吉林病故。徐世昌听到噩耗，嚎啕痛哭，彻夜未眠，连呼：“我的左膀断了！”而九弟徐世良的身体也不好，在徐世昌就任总统的前三天突然病故，让本本想委他重任的徐世昌再次感叹：“我的右膀断了！”
徐世昌当总统后，也没有放弃建立嫡系部队的念头。他提拔亲随王怀庆卫戍京畿，提拔七弟徐世芳充当总统卫队长。可王怀庆粗俗不堪，最后投入皖系怀抱；徐世芳庸碌无能，连正常的政务处理起来都很困难，更谈不上治军服众了。徐世昌最终没能建立起嫡系部队，这让他在民初的政坛上少了许多硬气。
“徐并不是不重视培植自己的实力，只是这些实力均未能培植起来，这是他毕生最大的憾事。”（徐玉琢著《民国大总统徐世昌的晚年》）
三
徐世昌总督东北的时间不长，1908年底就被调回京，满打满算不足两年时间。
当时，光绪皇帝和慈禧太后相继死去，宣统小皇帝继位，摄政王载沣排挤袁世凯回乡养病，北洋军心不稳。军机大臣张之洞奏请调北洋元老徐世昌回朝，笼络军心。朝廷准了。徐世昌对被免去东三省总督的实职、对朝廷排挤袁世凯，很不满。他说：“清朝之亡，并不是亡于革命党，而是亡在一班‘小爷们’（指载沣等满族权贵）身上。起初，我在东北，项城在北洋，张之洞在湖北，这三个重镇，都安排了极有作为的人，等到太后一死，小爷们当了权，胡闹起来，项城被罢黜了，我被调回京，当邮传部尚书了，而新的继任人选，都是些庸碌之辈，朝政由此大乱，革命党怎会不乘机起来呢？”
朝廷调动徐世昌任邮传部尚书的原因，不是考虑到他的能力或者政绩，而是看中了他在北洋系统的资历和声望。让徐世昌悲哀的是，他之后都被局限在这个政治角色上，靠吃“北洋老本”行走政坛。
徐世昌和袁世凯的感情很深。在袁世凯政途最黯淡、危险的时候，徐世昌坚定地站在他的一边。他尽可能地为隐居在河南的袁世凯说好话，谋求袁世凯复出。清朝成立责任内阁时，庆亲王奕劻是总理大臣，徐世昌和满人那桐是协理大臣。徐世昌对那桐说，我的能力做不了副总理，只有袁世凯才能胜任，可考虑到我和袁世凯的关系，为了避免朋党嫌疑我又不方便奏请，怎么办？那桐主动出面，上疏以疏庸辞职，荐袁世凯、端方取代徐世昌和自己。载沣控制的朝廷自然没有批准，但是从这件事上可以看出，正是由于有徐世昌这样的亲信好友在朝中撑腰呐喊，袁世凯的隐居日子才过得相当滋润。等武昌起义爆发后，徐世昌等人趁机为袁世凯摇旗造势，为袁世凯的复出立下了汗马功劳。近代费行简曾评价徐世昌在清末为袁世凯所做的一切时说“唯壹志以助袁氏之成功。力荐袁氏为湖广总督者，世昌也；乞袁氏组织内阁者，世昌也；言兵事当专属内阁，他人不得掣肘者，世昌也；清室退位，清以袁氏为全权代表者，亦世昌也”。
居中调停：前清遗老和民初“老好人”
一
徐世昌总结自己的为官秘诀为八个字，即“圆通”、“沉稳”、“柔韧”、“机警”。徐世昌在政坛左右逢源，几十年立于不败之地，首推“圆通”二字。他从不和人针锋相对，从不轻易得罪人，做人做事留有极大的余地，再加上他对时局的洞察力和性格的沉稳、坚韧，成为了一个时人称为“水晶狐狸”、“渔人”的政坛不倒翁。我简单举几个小例子来加以说明。载沣上台后排斥袁世凯，一度传闻朝廷也将严厉处置徐世昌。革命党趁机派出李石曾前往沈阳游说徐世昌，希望能拉徐世昌投身革命。徐世昌明确表示“反抗朝廷我不能为，但从今以后决不与党人为难，请向孙先生致意”，还派秘书吴岌荪好生招待李石曾，陪同他游览沈阳故宫等地。李石曾无功而返，徐世昌还赠送给他路费两千元。另一件事就是在袁世凯紧锣密鼓要称帝时，老兄弟徐世昌却没有动静。徐世昌很清楚复辟不得人心，也知道袁世凯已经劝不回头了，所以对袁世凯称帝一事不表态，不支持也不反对。袁克定专门来探伯父徐世昌的口风，徐世昌也漠然处之，害得侄儿袁克定骂他是“老狐狸”。还有就是徐世昌的籍贯竟然有三个：河南、天津、浙江。他的家世和这三个地方都能扯上关系，自然他也和三地的官宦家族扯上了关系，泰然自若地参加各种同乡会。正是这种为官之道，让徐世昌阅尽了一幕幕的兴衰成败，在沉浮不定的宦海中屹立不倒。
那么，徐世昌有没有什么坚定的思想政见呢？有，只是他并不固执己见。比如清朝灭亡后，前清王公贵族大多数寄居青岛、大连、天津等地，拒绝当民国的官，以遗老自居。徐世昌也躲到青岛做了寓公。他对清朝的感情很深，从一个平常人家的子弟，一步步位极人臣，不可能对清朝没有感情。尤其是宣统退位之际，隆裕太后对着徐世昌哭泣，乞求徐世昌今后多照顾小皇帝。对于清廷的这般“托孤”信任，许世昌也不能不感动。徐世昌的侄子徐玉琢回忆：徐世昌在清末属于“后党”，被人称为“老母班子”。他在晚年向子侄回顾晚清经历时，从不骂慈禧太后，却骂光绪皇帝。他虽然作过民国时代的大总统，但在感情上，仍然以清朝遗老自居。徐世昌还制定家规，要求家族中不论任何人，必须行满洲礼，见面请安，不许鞠躬。逢祭祀大典，徐世昌仍脚穿清朝朝靴，处处表示不忘“大清朝”的“天恩”。徐世昌做总统后，坚守优待清室条例，还想将女儿嫁给逊帝溥仪，结果遭到拒绝。他为此还愤愤不平了一番。躲在紫禁城的小朝廷慌忙授予徐世昌太傅的虚衔。徐世昌心里自然是高兴的，但是由于身为民国总统，不便接受“龙恩”，不过他还是多次向他人提及，以示炫耀。
很多人都以为徐世昌会在青岛永远隐居下去。但事实并非如此。1914年，袁世凯扩充总统权力，改国务院为政事堂，改总理为国务卿，虚席以待徐世昌。他托吴岌荪赴青岛劝徐世昌复出：“菊人，吾老友也，如不以入仕民国为嫌，当倒屣迎之，位在诸总长上。乞耐心静候也。”徐世昌的弟弟徐世光是前清的愚忠死硬分子，坚决反对哥哥复出，对说客吴岌荪很不客气。徐世昌沉默不答，心动了。眼看清朝的宰相要当民国的总理了，徐世光连夜苦劝哥哥，鼓励哥哥坚守“名节”。徐世昌兄弟泪眼相对，可是第二天天亮徐世昌还是坐上了前往北京的列车。
徐世昌出任民国国务卿后，为表示不忘清朝，通令文武官吏在清朝所任大小官职一律列入履历，与在民国的履历统一计算。他出山之际，正是袁世凯称帝开始之时。徐世昌在日记中写道：“人各有志，志为仙佛之人多则国弱，志为圣贤之人多则国治，志为帝王之人多则国乱。”显然，他不满袁世凯称帝，预见了称帝会引起国家大乱。但他的性格和政治经验又不允许他像蔡锷或者段祺瑞、冯国璋等人那样强硬反对。徐世昌采取了冷眼旁观态度，一等袁世凯真的称了帝就托病辞职，回河南辉县隐居起来，不问世事。袁世凯也无可奈何，将他与赵尔巽、李经羲、张謇并尊为“嵩山四友”，入朝可以不称臣，不跪拜。徐世昌既不拒绝，也不向袁皇帝谢恩。1916年3月，众叛亲离的袁世凯无奈取消帝制，召徐世昌复任国务卿。几十年的老交情此时发挥了作用，徐世昌顶着巨大的压力，做了袁世凯生命最后几个月的搭档，直到袁世凯病逝。临死前的袁世凯握着徐世昌的手，说：“我被群小所误，以至于有今日。幸亏国事有依法承继之人，可以不必担心了。宋卿（黎元洪）虽没什么雄才大略，但若兄和芝泉（段祺瑞）像周公、召公夹辅成王那样，收拾时局，应非难事。”按照袁世凯的《大总统选举法》，袁世凯藏在金匮中的继承人名单分别为“黎元洪、徐世昌、段祺瑞”。徐世昌在袁世凯心中和北洋系统内的地位可见一斑。
北洋元老的资历声望，加上圆滑的处世之道，让徐世昌在袁世凯死后成了在政坛居中调停的头号“老好人”。
二
徐世昌真正积极活跃于政坛，恰恰是在袁世凯死后。大到府院之争、张勋复辟、直皖矛盾、直奉矛盾，小到军阀内部纠纷、内阁人事调整，都能看到徐世昌年老奔波的影子。