月30日，优林照会北京政府外长颜惠庆，提出远东共和国政府宣言，宣言主要包括五项内容：（1）废除帝俄与中国签订的不平等条约；（2）允设远东领事馆；（3）拒绝道胜银行对中东路的要求；（4）发展两国商务，订立商约；（5）恢复邦交，建立外交关系。同日，优林开始与北京政府外交部俄事委员会会长刘镜人举行首次非正式会谈。刘镜人提出商务谈判的四个前提条件：（1）在中国境内不作任何与中国社会不容的政治"鼓吹"；（2）赔偿俄国革命时给中国侨民造成的损失；（3）保护中国侨民的生命财产，予以旅居经商自由；（4）查处并杜绝新疆、外贝加尔等地方对中国侨民的不该发生的事件。12月4日，优林以远东共和国政府名义接受了这四项条件。经过谈判，双方签订了《黑龙江政府与远东政府开通边界章程》及《会订东赤两路开通车辆条件》，但对华侨赔偿一事仍悬而未决。1921年4月20日，北京政府正式接待优林使团，外长颜惠庆直接与优林谈判，谈判的重点是商约草案、中东铁路及外蒙古三大问题。谈判一直持续到10月中旬，双方就中东路问题和外蒙古问题达成初步谅解。优林使团来华，基本上打通了中俄的边境往来，为中俄恢复外交关系及解决中东路和外蒙古问题打下了基础。
在与优林使团访华几乎同时，北京政府也向远东共和国派出了一个军事外交代表团。1920年6月，由督办边防事务处派谴陆军中将张斯唐为首的代表团赴远东共和国考察并俟机前往苏俄，进行非正式洽谈。6月下旬，张斯磨率代表团到达远东共和国首府上乌丁斯克，拜会了远东共和国政府主席克拉斯诺晓科夫，双方进行了长时间的秘密会谈。9月5日，代表团抵达莫斯科。9月，10日，张斯磨照会苏俄外交人民委员齐切林，声明代表团代表中华民国政府前来莫斯科进行谈判，并将随车带来的面粉送与莫斯科的儿童和赈济华侨。苏俄政府接待了代表团，为该团了解苏俄情况提供了一切便利条件，并将苏俄政府第二次对华宣言交代表团转交中国政府。11月2日，列宁接见张斯唐。11月3日，代表团抵彼得堡，逗留几日后回国。张斯磨使俄，是北京政府与苏俄非正式交往的一次尝试，有利于双方的进一步接触。
11月至1922年2月，帝国主义列强举行了以划分在远东势力范围为主要内容的华盛顿会议。为反对华盛顿会议，共产国际于1922年1月21日召开了远东各国共产党各革命团体代表会议，作出了《华盛顿会议的结果及远东形势》的决议。在这种背景下，苏俄决定派出以越飞为全权代表的新的驻华外交使团，到北京与吴佩孚及其控制下的北京政府谋求合作。1922年8月12日，越飞使团抵达北京。他在同北京政府积极交涉的同时，又派使团顾问伊万诺夫及苏俄驻北京通讯社负责人霍多罗夫等多次到洛阳会见吴佩孚，以促进双方的关系。然而，吴佩孚镇压京汉铁路工人大罢工的政策，使苏俄的联吴希望落空。越飞使团与北京政府的交涉遭到挫折，但与南方的国民党之间的关系却取得了迅速的发展。1923年1月。越飞以养病为名离开北京抵上海，与孙中山进行了秘密而频繁的接触。1月26日，双方发表《孙中山与越飞会谈纪要》，即历史上有名的《孙文越飞联合宣言》。不久越飞奉召回国。苏俄派出苏俄副外交人民委员加拉罕、职业革命家鲍罗廷、共产国际远东局书记魏维经斯基来华，以实现苏联对华外交和对中国革命的统一指导。1923年9月，加拉罕抵达北京。9月4日，加拉罕向报界发表苏联政府第三次对华宣言，重申对华政策的原则精神，指出，苏联政府的对华政策不同于沙皇政府，在与中国的关系中，完全尊重中国领土主权，放弃一切领土和其他要求。宣言声明前两者对华宣言的原则和精神仍然是苏联政府对华关系中的指导基础。但宣言同时声明"决不放弃在中国的利益"，理由是"这些利益不破坏中国人民的主权"。9月14日，加拉罕与北京政府代表王正廷举行第一次正式会谈。在会谈中，加拉罕根据苏联政府争取外交承认以打破国际孤立状态的原则精神，并鉴于越飞使团前的裴克斯使团对华交涉的教训，提出必须抓住主要问题，即首先解决恢复正式外交关系问题，而后再解决双方关系的悬案。王正廷则根据外交总长顾维钧与越飞先前达成的谅解，即"中俄两国业已赞成将一切悬案均由会内讨论解决，无论如何，不得事先提出任何条件预行裁决"。因而建议"应先开始协商，后恢复邦交"，坚持以谈判重大悬案作为正式承认苏联和建立外交关系的条件。由于双方意见迥异而又各自坚持己见，第一次会谈未取得任何进展。10月13日，王正廷根据与顾维钧商定的意见，向加拉罕提出了解决双方悬案的13点草案，以作为恢复正式外交关系的基础。主要内容有：（1）中国与沙皇政府之间所订立的一切条约、公约、协议、议定书均无效作废。（2）苏维埃政府同意撤出现时驻外蒙古的所有军队，撤完时期不迟于本协议签订后6个月；中国将自主地派兵驻防蒙古。（3）苏维埃政府同意与外蒙之间签订的一切条约和协议无效作废。（4）双方互相保证在各自领土内不允许任何密谋反对对方政府的机关或组织存在或行动，保证不进行有害于对方公共秩序或有害于对方社会组织的宣传。（5）苏维埃政府同意将中东铁路连同其它所有附属财产一并完全归还中国。（6）苏维埃政府同意放弃前俄国政府在华租用或建立的租界、兵营、阅兵场，同意放弃治外法权，放弃辛丑条约所规定的赔偿。10月17日，加拉罕全部驳回上述13点草案，提出一个反建议，认为除了尽快缔结关于运行中东铁路的协议外，其余问题应在恢复外交关系后的适当时候商谈解决。双方的谈判陷于僵局。
2月以后，国际形势和中国国内形势更加有利于苏联对北京政府的交涉。2月2日，英国政府实际承认了苏联，随后，意大利、挪威等国也相继承认苏联。苏联政府逐步摆脱了外交上孤立的处境。而中国国内，直奉两系矛盾尖锐，孙中山领导的广州政府与北京政府分庭抗礼，国内舆论要求与苏联尽快复交的呼声日高，在这种形势下，中苏之间的谈判重新恢复。但加拉罕声明，若不预先承认苏俄政府，苏联将不准其磋商它种问题。1924年2月15日，中国谈判代表王正廷提出与1923年10月13日提出的解决双方悬案的13点草案内容大致相同的《解决中俄悬案大纲协定草案》13条及《暂行管理中东铁路协定草案》11款。3月1日，加拉罕则提出《解决中俄悬案大纲协定草案》修正案15条和《暂行管理中东铁路协定草案》修正案11款。加拉罕的修正案基本同意王正廷的提案，但就如下几点作了修改变动：一是关于废止旧约、取消旧俄特权问题，认为应在将来会议中废止；--是关于外蒙苏军撤离问题，提出有条件撤兵；三是关于中东铁路问题。提出不同意无偿归还，认为中东路的管理权在中国赎路之前由"中俄合办"，铁路局长应由苏联政府派员担任。3月13日。王正廷在未得到北京政府内阁同意的情况下，与加拉罕草签了上述两个草案。3月14日，王正廷与加拉罕草签的草案遭到北京政府内阁的否定并拒绝批准。对此，加拉罕照会北京政府，提出在三天内等候中国政府的核准，"三日期限过后，我将不认为我受条约束缚"，并多次公开表示，若北京政府不肯承认苏联，他将赴南方同孙中山会晤。鉴于各方面的压力，北京政府决定改派外交总长顾维钧与加拉罕进行谈判。4月初，双方开始秘密接触。双方经过一系列磋商后，于1924年5月31日正式签定了《中俄解决悬案大纲协定》、《暂行管理中东铁路协定》以及七件声明书、两件换文和一个议定书，中苏外交关系也由此正式建立。
《中俄解决悬案大纲协定》共15条，对中国来说，其积极的方面主要有：（1）中苏两国政府同意，"将中国政府与前俄帝国政府所订立之一切公约、条约、协定、议定书及合同等项概行废止，另本平等、相互公平之原则。暨1919与1920年苏联政府各宣言之精神，重订条约、协约、协定等项"。（2）苏联政府"根据其政策及1919年与1920年宣言，声明前俄帝国政府与第三者所订之一切条约、协定等项，有妨碍中国主权及利益者，概为无效。缔约两国政府声明，嗣后无论何方政府，不订立有损害对方缔约国主权及利益之条约及协定"。（3）"苏联政府承认外蒙为完全中华民国之一部分，及尊重该领土内中国之主权。"（4）中苏两国声明，中东路纯系商业性质；并声明，除该路本身营业事务直辖于该路外，所有关系中国国家及地方主权之各项事务，如司法、民政、军务、警务、市政、税务、地亩（除铁路自用地皮外）等，概由中国官府办理。（5）苏联政府"允予抛弃前俄政府在中国境内任何地方根据各种公约、条约、协定等所得之一切租界等等之特权及特许‘，"允予抛弃俄国部分之庚子赔款"，"允予取消治外法权及领事裁判权"。协定的签订促进了中苏两国关系的发展。但是，《中俄解决悬案大纲协定》也有不符合中国民族利益之处。首先是关于外蒙问题，协定规定："苏联政府声明，一俟有关撤退苏联政府驻外蒙军队之问题，即撤兵期限及彼此边界安宁办法，在本协定第二条所定会议中商定，即将苏联政府一切军队由外蒙古尽数撤退。"这实际上是一种有条件的撤兵，而且协定没有关于苏蒙协约的条款，实际上是苏联仍保留相互承认，互派使领，甚至可以谈判边界的苏蒙条约。这就为后来苏联控制外蒙，促使外蒙脱离中国而独立制造了方便条件。中苏协定后不足半月，就形成了"蒙古人民共和国"的既成事实。其次是中东铁路问题。协定中关于中苏共同经营中东铁路的规定，实际上是在1919年和1920年苏俄两次对华宣言精神原则上的倒退。中苏协定的不足之处还表现在，中国方面的多数合理要求以及苏方的承诺实际上仍然悬而未决，如废除中苏之间的不平等条约，苏联从外蒙撤军，中国赎回中东铁路各项，仍须于协定规定的日后中苏会议上商讨解决。日后苏联方面根据形势的发展一再延宕中苏会议的召开。这样，苏联在协定中就中国主权利益等方面的承诺只能长期停留在纸上，从而成为苏联向中国人民所开的一张空头支票。中苏协定签订后，在国共两党的领导下，在孙中山和苏联、共产国际及其在中国代表的大力支持下，全国各地借着中苏协定签订之机，纷纷掀起了废除帝国主义强加给中国人民的一系列不平等条约的群众运动。
联省自治运动
北洋军阀掌握北京政权后，为了消灭异己，实现其"武力统一"南北的野心，不断派兵向湘、川、滇、黔及两广等地施压。段祺瑞接替袁世凯执掌北京政权后，继续推行"武力统一"的政策，遭到各地大小军阀的反对。1920年7月直皖战争爆发，皖系战败，北京政权为直、奉两系主要是直系军阀所控制，经过1922年的第一次直奉战争后，直系军阀更是独霸北京政权，直系首领吴佩孚借大胜之威，继续推行皖系时代的"武力统一"政策。1923年3月，吴佩孚在洛阳召开军事会议，公开提出了"武力统一"的主张，一面准备打到关外，对东北的张作霖作战，一面把势力伸向南方，勾结粤军陈炯明反对孙中山北伐，指挥和策动孙传芳、沈鸿英、杨森等军阀攻掠福建、广东、四川和湖南等地。
面对把持北京政府大权的军阀推行"武力统一"政策和各派军阀互相对峙、频繁争斗的情况，一些地方军阀为了维护自己的统治地位，便以"自治"相标榜，提出并推行了一种"省自治"或"联省自治"的主张和政策。其中，湖南省是"省自治"口号的首倡者。该省自1917年以来在南北军阀混战中受祸最烈，尤其皖系军阀张敬尧的残暴统治，更给湖南人民带来深重灾难。当直皖战争迫切，吴佩孚手1920年5月20日率兵北撤，湖南人民群起驱张，湖南军阀谭延闽、赵恒惕便乘机控制了湖南。他们利用各阶层人民要求退出南北战争，排除战争纷扰，实现"湘事湘人自决"的愿望。首先挂起了"自治"的招牌。1920年7月22日，谭延闿通电全国，谓"民国之实际，纯在民治之实行。民治之实行，尤在各省人民组织政府"。他"欲为桑梓久安之谋，爱本湘民公意，决定参合国会讨论之地方制度，采用民选省长及参事制"。并表示要"顺应民情"，实行民治，"采民选省长制，以维湘局"。谭的通电成为各省自治运动的发端。在京、津的湘绅熊希龄、范源廉等立即复电响应，并请梁启超代拟《湖南省自治法》及<自治法大纲说明书》等，寄给谭，以备采择。9月中旬，谭延闽邀集在省官绅召开自治会议，提出由省政府和省议会各派10人起草湖南自治法。9月下旬，谭延闽决定由省议会先拟定"宪法会议组织法"，再根据这个"组织法"召集制宪会议。然而，湖南一些进步人士和激进青年对谭的做法不满，认为省议会长期未曾改选，不能代表民意，主张由直接的普遍选举产生的代表组成"湖南人民宪法会议"来制定湖南宪法，反对议会包办制宪。10月10日，长沙各界万余人冒雨举行市民自治运动游行大会。要求政府立即召集人民宪法会议，实现真正的自治。谭延闽一面对此假意应付，一面又以"以应急需"为借口，急图"制宪"。正在此时，湖南军阀内部发生内讧，湘军总指挥赵恒惕于11月23日取代谭延闽，担任湘军总司令并代理湖南督军职务。赵恒惕独掌湘省军政大权后，为捞取政治资本，继续推行"自治"和"制宪"活动。11月25日，省议会选举林支宇为临时省长，正式宣告"自治"。12月25日，赵恒惕又发表了"联省自治"的通电，称"今划分军民两政，民选临时省长，赶制省自治法。苟省悉自治，则地方有各省发展之可能；苟省相联结，则举国有提挈并进之道"。并派人到四川等地联络，以期相互呼应，推进"联省自治"。同时，由赵恒惕一手包办，延请省内外知名学者，起草"省宪草案"，于1921年4月21日公布。"省宪草案"经过所谓"审查委员会"的"审查"，后于1922年1月1日公布，称之为"湖南省宪法"。