就在我军日夜向东北前进的时候，苏联政府根据苏、美、英三国政府1945年2月签订的《雅尔塔协定》，于1945年8月14日由外长莫洛托夫和国民党政府外长王世杰在莫斯科签订了《中苏友好同盟条约》。条约除规定了苏联将在东北地区的大连港、旅顺港、中长铁路等问题上保持若干特权之外，苏联将在日本投降之后三个月从东北撤军，将东北交还给中国政府，亦即国民党政府。这个条约，国民党政府立即就向全国公布了。正是鉴于这个条约，我党中央才在向全党的指示中提出了上述的一些具体办法。因为我党中央已经估计到，苏联“受中苏条约之限制，必然将东三省交还国民党政府，国民党政府亦将进入东三省。我党进入东三省后，红军必不肯和我们做正式接洽或给我们以帮助”。但是由于中苏条约也明白规定了不干涉中国内政，而在三个月中，国民党政府绝不可能全部控制东北，所以，我们完全可以在三个月中控制大部分地区。特别是热河和察哈尔不在东三省的范围之内，所以，中央指出：
“热河、察哈尔两省不在中苏条约范围之内，我必须完全控制。”
虽然我党对当时中苏之间在东北可能出现的问题都做了若干估计，提出了若干办法，但双方的矛盾总是要出现的，肯定是要进行谈判的。
我党中央对于苏联方面对我党在东北活动所表示的最早态度，是从山东方面获得的。8月下旬，山东军区的胶东军区根据中央指示精神，派了一支侦察小分队从海上前往辽东半岛，在庄河登陆后，前往大连同当地苏军作了接触，大连的苏军负责人说：红军只控制大城市，八路军在乡村的活动他们不干预，在城市里的非武装活动他们也不干预。山东军区很快将这一情况向中央做了汇报。中央在9月11日给山东军区发出指示，要他们马上抽调12个团，由萧华指挥，经海上进入东北，用东北义勇军等名义活动，在乡村和中小城市发动群众，建立政权。
可是，在沈阳所发生的情况就复杂得多了。
9月5日，我冀热辽部队曾克林部经过与苏军谈判之后，进入了沈阳市区。这是东北人民自“九一八”以后14年来第一次见到从内地来的中国军队，故而受到了东北人民“喜迎王师”的极为热情的欢迎。我先遣纵队趁机组织了临时人民政府，由焦若愚任市长；成立了沈阳卫戍司令部，由曾克林担任司令；又放手扩大部队，不到10天，就从进沈阳时的不到一千人发展为两万人。他们又利用苏军让他们看守日军军火仓库的机会，搬出了3万多支枪来武装部队。在这种基础上，我军以沈阳人民政府和沈阳卫戍区的名义着手恢复秩序，镇压汉奸，还向外去接收其他地区。这一下，苏联方面不同意了，说大城市只能交给国民党政府，要我军立即退出沈阳。我军当然不会同意。在这种情况下，驻东北的苏军总司令马林诺夫斯基元帅接受了周保中的建议，决定派人与中共中央直接对话。
1945年9月15日，一架事先未做任何通知的军用飞机降落在延安飞机场。从上面走下来的是当时的沈阳卫戍司令曾克林，和苏军代表贝鲁罗索夫中校，还有一位翻译。中共中央接待了这位客人，由朱德总司令和苏军代表进行了谈话。贝鲁罗索夫只是转达了马林诺夫斯基的四点声明，其中心就是要我军退出苏军占领地区，待苏军退出东北之后，中国军人如何进入，由中国人自己解决，苏联不干涉中国内政。
15日下午到晚上，在***的主持下，召开了中央政治局临时会议。会议首先听取了曾克林关于东北情况的详细汇报。根据曾克林的汇报，和贝鲁罗索夫所转达的声明，会议经过讨论之后，做出两项重要决定：
（一）立即成立由彭真、陈云、程子华、林枫、伍修权组成的中共中央东北局，由彭真任书记。
（二）从华北和华中派遣100个团的干部去东北，不用原来的番号和身份，不让苏军发现，完全以东北地方部队的名义活动。
会议还决定，给马林诺夫斯基回一封信，表示我党将从苏军占领区如沈阳、长春、大连、平泉等地将军队撤出，但在热河、辽宁我党在抗日战争时期所建立的根据地应当允许保留。
以上决定立即用电报告知了正在重庆与蒋介石谈判的毛泽东和周恩来。毛泽东和周恩来也立即回电表示同意。
为了抓紧时间，中共中央东北局负责人彭真、陈云、伍修权等6人，在9月17日下午，也就是中央做出决定的第二天，就搭乘苏军代表返回沈阳的飞机直飞东北，开始领导东北地区的工作。
有件事情值得一提。由于东北局的领导干部到东北之后要和苏军的领导干部进行很多接触和谈判，而苏军的军官都是有军衔的，对军官都是以军衔相称。我军从来未实行过军衔制，所有的军队领导干部都没有军衔，这在同苏军的交往中很不方便。中央领导人深知苏联某些领导人瞧不起中国干部的作风，于是做出了一个出人意料的决定，由中共中央临时给去东北的几位领导干部授了军衔：彭真、陈云、叶季壮（按：我党长期从事经济贸易工作的领导干部，到东北之后任东北民主联军总后勤部部长，1949年后任国务院对外贸易部部长）三人授予中将军衔，伍修权授予少将军衔。他们几位在刚到东北与苏军方面谈判时就是以中将与少将的身份出现的。虽然他们的军衔在与苏军的初期谈判之后就不再用，但这却是我军历史上的第一次授衔。
由于飞机在山海关机场加油时出了故障，彭真等一行是在第二天到达沈阳的。这一天，正好是“九一八”事件14周年的纪念日。
四、全速开进
曾克林和贝鲁罗索夫到延安本是不速之客，中共中央政治局决定成立东北局并立即前往沈阳这一决策也是根据突然发生的情况临时决定的，这个时候，毛泽东还在重庆与蒋介石谈判。
中央书记处在延安的三位书记***、朱德、任弼时在送走了彭真一行之后，当天立即向在重庆的毛泽东和周恩来汇报了有关情况，并正式提出了我党在全国战略部署中“向北发展，向南防御”的方针。毛泽东和周恩来也在当天就电复延安，表示完全同意有关决定。19日，毛泽东再次给延安发了电报，不仅同意“向北发展，向南防御”的方针，而且在***等人提出的新四军主力北上江北和调10万部队到东北的基础上，对高级干部的安排作出决定：原新四军领导人陈毅、饶漱石去山东，主持山东工作；原山东解放区领导人罗荣桓和萧华去东北，和东北局一道工作；已经长期未上战场的林彪去热河，准备去东北。
根据毛泽东的决策，中共中央在9月19日立即发出了《关于目前任务和战略部署的指示》。指示说：“全国的战略方针是向北发展，向南防御。只要我们能控制东北及热、辽两省，并有全国各解放区及全国人民配合斗争，即能保障中国人民的胜利。”为此，中央决定：“山东主力及大部分干部迅速向冀东及东北出动”，“新四军调八万兵力到山东和冀东”，“成立冀热辽中央局，并扩大冀热辽军区，以李富春为书记，林彪为司令”，“罗荣桓到东北工作”，“陈毅、饶漱石到山东工作”。
很明显，中央要山东部队的大部和新四军的一部急赴东北。
军令如山，各部队闻风而动，向东北全速开进。
山东解放区部队的主力，是在八路军一一五师的一部分基础上发展起来的。抗日战争初期，中共中央为了开辟敌后根据地，于1938年9月，任命原一一五师三四三旅政治委员萧华在冀鲁边区的乐陵组建了东进支队准备进入山东，由萧华任司令员兼政委，许世友任副司令员。部队以一一五师的六八五团为主，加上一二九师的津浦支队，还有冀鲁边区的地方部队，共编为9个团。东进支队成立后，就开始向山东开进。
11月，一一五师政委罗荣桓奉命率一一五师师部及六八五团、六八六团等部队挺进山东，从此，山东的抗日武装斗争进入了一个新阶段。在不久之后成立的中共中央山东分局领导下，根据地和武装力量不断发展，1943年9月，成立了统一的山东军区，罗荣桓任司令员兼政委，同时还任一一五师代师长兼政委（师长一直由未到山东的林彪担任），萧华任山东军区和一一五师的政治部主任。山东军区之下又设6个军区、20个军分区，成为我党领导的主要革命根据地之一。
这个时候，我山东军区的部队根据中共中央的统一部署，在罗荣桓的指挥下一支一支地出发，开向东北，用当时的话说，简直就是在“大搬家”。
山东部队去东北有的走海路，有的走陆路。打先锋的第一支队伍，是在9月2日被中央军委点名出征的由万毅率领的东北挺进纵队。
万毅，辽宁金县人，满族。1926年入东北陆军军士教导队，1930年毕业于东北讲武堂。1938年，他以东北军旅长的身份加入中国共产党。
1942年任东北军新编一一一师师长。不久他带领该师的两个团在山东起义，被编为八路军滨海支队，并担任滨海军区副司令员兼滨海支队支队长。因为他是东北人，又是东北军科班出身，对东北是人熟地熟情况熟，所以中央军委在考虑去东北的主要干部时，第一批就点了他，山东军区去东北的开路先锋也选了他。他率部队从海路去了辽东半岛，东北挺进纵队在东北扩军后改编为东北民主联军七纵，以后又整编为一纵、东北野战军五纵，都由他任司令员。
万毅打了前锋，其他各部陆续出发。从9月下旬到12月上旬，总共有萧华、吴克华、杨国夫、罗华生、梁兴初、罗舜初、田松等各率所部共6万多部队（包括了山东军区8个主力师中的6个）去了东北。而山东解放区则由新四军的二师、四师、七师和江南一纵由南向北开进接防。
新四军到东北的主要部队，是黄克诚率领的第三师。
这时的黄克诚是新四军主力之一第三师师长兼政委，他早在中央下达进军东北的命令之前，就从全局出发看清了东北的重要，曾于9月14日主动向中央提出报告，建议派大部队去东北“迅速创造总根据地，支援关内战争”，是我军高级将领主动向中央建议进军东北的第一人。所以当中央决定调动新四军的部队时，就点了他的将，让他率第三师开赴东北。于是他和副师长刘震、副师长兼参谋长洪学智、政治部主任吴法宪等就率领第三师的4个旅、3个特务团共3.5万人，于9月28日从苏北淮阴出发，星夜兼程，赶往东北。从独立建制的部队来说，新四军第三师是到东北的最大一支队伍。
除了山东军区和新四军三师之外，从其他根据地抽调去东北的部队还有：
由刘转连、晏福生率领的陕甘宁晋绥联防军三五九旅第二梯队（三五九旅第一梯队已由王震率领南下，第二梯队已经整编为一个旅，原来也准备南下，现在改为进军东北），由黄永胜率领的教导二旅、一旅各一个团，由文年生率领的警备一旅。
由沙克率领的晋察冀军区所属冀中军区第三十一团。
由邓克明率领的冀鲁豫军区第二十一团。
这样，山东军区的6万多人加上新四军的3.5万人，一共10.7万人的我军主力部队，按中共中央的要求，最晚的在1945年的12月上旬，全部开进东北，分布在南起安东（今丹东），北至牡丹江的东北大地上。