1921年3月16日，“红色要塞”的3万名水兵和13000名海军工厂工人举行暴动，发誓摆脱新政权统治，反对余粮收集制。提出“打倒布尔什维克暴政”、“要没有共产党的苏维埃！”等口号。
这次暴动经过了3天激战才算平息。军队哗变给苏维埃政权上了一课，敲响了警钟，它使领导人看到：人民并不总像十月革命时那样对党报以欢呼和掌声，事实与想象正相反，在某种程度上，党在人民心目中的形象已大打了折扣。列宁在感觉到了人民的不满情绪时曾不无感慨地说：“这是一道闪光，比其它任何东西都更好地照亮了客观现实。”
在党的十大上，列宁提出了新经济政策。主要是：取消余粮征集制，农民在交纳预先规定税额的粮食税后，可以将剩余粮食及农副产品拿到市场去卖；国家只管理一定数量最重要、规模最大的企业，其余的企业均出租和租让给国内外的企业主；关闭那些国家无力管理又无承租人的企业；大力发展国家资本主义；在加强国营商业机构的同时允许私人经商和一定范围内的贸易自由。
党的书记处，负责党中央的日常事务的管理。
十月革命后，中央委员会正式任命中央书记，由5名中央委员组成书记处，斯维尔德洛夫任责任书记，他工作得极其出色，日常事务性管理交给斯塔索娃负责。他亲自负责党的组织工作，任命和调配干部。对每项任命都作了详细记录，十月革命期间和以后，工作量很大，事务繁多，他负责的书记处也只有30人，而工作却做得有条不紊。不幸的是，1919年3月斯维尔德洛夫死于西班牙流行病。
以后书记处的机构越来越庞大，1920年150人，到1921年已增加到600人。书记处已经成为权力极大，机构复杂的日常指挥机关。
由莫洛托夫任责任书记的书记处，不能令列宁满意。常出差错、管理混乱，找一个能力强的人做党内日常事务的总管已成为迫切需要。
在1922年党的第十一次代表大会上，斯大林当选为中央委员、政治局委员、组织局委员。在接着召开的中央全会上决定设立中央书记处总书记一职，选举斯大林为党中央书记处总书记。
由斯大林担任总书记这一职务是非常适合的。他有很强的实际工作能力，同党内那些鼎鼎大名的理论家相比，斯大林沉默寡言，不喜欢长篇大论。更重要的是，他不属于任何派系，他只工作，不大说话。
同党内老资格的托洛茨基、季诺维也夫、加米涅夫相比，他的名气差得多。总书记这个职务所需要的巨大的工作能力，能够进行艰苦而平凡的劳动和耐心而持久的组织工作。这样的工作对诸如托洛茨基、加米涅夫等人来说，没有太大的吸引力，他们的才华表现在理论方面，况且，当时他们也认为这个职位不过是一个普通的职位，轮不到这些“大人物”去干诸如此类的琐事。
斯大林当选党的总书记，又是组织局委员，他掌握了至关重要的干部调配任免权。他撤换和新任命了一大批干部，选拔忠于自己的人担任各级领导职务，他用这种简单的方法使自己在党中央获得多数票。他偷偷地给党换了一次血。
列宁一直主张实行对外贸易垄断制，他说：“如果放松对外贸易垄断制，外国人会把俄国所有贵重物品全买走。”
斯大林不同意列宁的这一观点。他在一封信中写道：“依我看……问题不在于垄断制的提纲，而在于实际上不存在垄断制……关于垄断制的废话终归是废话。”那时列宁的身体已经很差，但仍参与政事。显然，斯大林对列宁有些不耐烦，才说出废话的字眼。1922年5月15日，列宁又给斯大林写信，强调“有关削弱对外贸易垄断的一切议论、商谈和委员会等等都应正式禁止。”3天以后，斯大林在给列宁的回信中仍持反对的意见。
斯大林这样的固执己见，使列宁非常生气，他预感到这是分歧的开始，今后必然有严重的冲突。5月22日政治局通过了列宁的决定，但斯大林并未改变自己的看法。5月25日，列宁第一次脑血栓病发作，右手和右腿活动不灵，说话不清楚，几乎丧失了说话走路的能力，不得不住院治疗。
在列宁治病疗养期间，斯大林与季诺维也夫、加米涅夫在政治局内形成了“三驾马车”，实际上主持了中央工作，而把托洛茨基排斥在外。列宁一直到1922年10月初才回到克里姆林宫工作。
10月6日，中央全会通过了一项决议对列宁的决定做了修正，实际上是破坏了对外贸易垄断制的决定。列宁因身体不适未能参加那次会议，但他得知新通过的决议后，立即找斯大林谈话，第二天又给斯大林写信。他以亚麻为例说明国家垄断外贸工作的重要性。
他指出：“这种产品在俄国的价格是4。5卢布，而在英国却值14卢布，相差3倍以上。如果开放港口，亚麻的走私活动就会达到可怕的程度。”加米涅夫、季诺维也夫、布哈林都反对列宁的看法。斯大林也不同意列宁的看法，但同意列宁的把这个问题推迟到下次全会讨论的建议。列宁惊奇地发现，在他生病的5个月中，中央发生了显著的变化。他和托洛茨基在政治局中处于少数，但他没有退却。
由于列宁的强烈坚持和参与，总书记斯大林决定不再坚持自己的看法。1922年12月18日，中央全会讨论对外贸易垄断问题，终于采纳了列宁的意见，重申坚决实行国家对外贸易垄断。列宁与斯大林在对外贸易问题上的分歧算是解决了，但对卧病在床的列宁来说，所付出的代价实在是太大了。几乎同时，列宁与斯大林在苏联建国问题上，产生了更大的分歧，更剧烈的冲突，并且这一次列宁最终也没有达到他的目的。
1922年9月，斯大林主持起草《俄罗斯联邦和各独立共和国的相互关系》决议草案。草案规定：乌克兰、白俄罗斯、阿塞拜疆、格鲁吉亚和亚美尼亚作为自治共和国加入俄罗斯联邦，并接受俄罗斯联邦最高权力机关的领导。就是说，各国加入俄罗斯一国，并受它的领导。草案送给病中的列宁，列宁立刻把斯大林请到他的疗养地——莫斯科郊区的哥尔克，进行谈话。他们谈了3个小时，最后斯大林同意作些让步。列宁说斯大林有点操之过急。列宁是打算成立一个各民族平等基础上的共和国联盟，而斯大林是打算由俄罗斯联邦共和国对加入它的各民族自治共和国行使主权，建立各民族不平等的中央集权制国家。
斯大林部分地接受了列宁的意见，对草案做了修改，主要是：乌克兰、白俄罗斯、阿塞拜疆、格鲁吉亚、亚美尼亚与俄罗斯联邦一起组成社会主义共和国联盟，由俄罗斯联邦中央执行委员会改组成联盟中央执行委员会。阿塞拜疆、格鲁吉亚、亚美尼亚3国先组成外高加索联邦，以外高加索联邦的形式加入联盟。
从实质上说，草案的修改并没有改变各民族自治共和国的不平等地位，而格鲁吉亚、阿塞拜疆、亚美尼亚等于降了一级。它们在形式上也不能和其它各国以平等的地位加入新的联盟。这个草案遭到格鲁吉亚共产党人的强烈反对，他们要求直接地、平等地加入联盟。列宁针对这个草案在病中给加米涅夫写信说：“我宣布要同大俄罗斯沙文主义决一死战。我那颗该死的牙齿一治好，我就要用满口好牙吃掉它。”
外高加索边疆区委书记奥尔忠尼启则拒绝了格鲁吉亚要求以独立平等的地位加入联盟的要求。格鲁吉亚共产党中央提出整体总辞职，奥尔忠尼启则在斯大林的支持下接受了格鲁吉亚党中央的辞职，并处分了格鲁吉亚党中央的领导人，格鲁吉亚给俄共中央打电话，要求将奥尔忠尼启则调离外高加索边疆区。俄共中央派出以捷尔任斯基为首的中央调查团到第比利斯去调查这起纠纷。
列宁显然对捷尔任斯基不放心，又派李可夫到第比利斯调查纠纷的原因，并将调查结果直接向列宁本人汇报。
在第比利斯，在奥尔忠尼启则的家中，奥尔忠尼启则因个人之间的问题打了格鲁吉亚共产党领导人卡巴希泽一个耳光，并且是当着李可夫的面打的。
捷尔任斯基调查结束后，回到莫斯科向列宁汇报调查结果。捷尔任斯基明显地偏袒奥尔忠尼启则一方，对奥尔忠尼启则打人的事，只轻描淡写地说了一下。列宁对他的调查结论并不满意。
李可夫回来后将他的调查报告仔细地向列宁做了汇报，列宁弄清了奥尔忠尼启则的打人经过，十分气愤，为奥尔忠尼启则的行为感到羞耻，并认为是斯大林的支持才使得奥尔忠尼启则如此粗暴地对待同志。
由于劳累，由于愤怒，列宁在克里姆林宫刚刚工作了一天又发病了。1922年12月18日，中央通过了一次特殊决定：责成斯大林负责监督执行医生为列宁规定的作息制度。列宁的一切活动必须征得医生的同意，而医生又要受到斯大林的监督。聪明过人的列宁很快觉察到问题的实质，并对此表示极为不满，这更使列宁的病情雪上加霜。
斯大林担任总书记才几个月，列宁就看出了斯大林的粗暴和滥用权力。列宁决心利用奥尔忠尼启则动手打人一事作为炮弹，将斯大林从总书记的职位上调开。
1923年1月下旬，列宁让秘书向捷尔任斯基及斯大林要有关格鲁吉亚问题委员会的材料。捷尔任斯基说，材料在斯大林那里，而斯大林不在莫斯科。秘书马上写信给斯大林，斯大林在电话里毫不客气地说：“材料不经过政治局不能给列宁。”列宁听到这个消息非常气愤，他对秘书福季耶娃说：要为争取材料而斗争。
2月1日，中央政治局批准向列宁提供捷尔任斯基委员会关于格鲁吉亚问题的材料。列宁当即指示秘书们去研究这些材料，提出报告供列宁在代表大会上用。
2月3日，列宁得知政治局已批准了捷尔任斯基的调查报告后，指示秘书们加紧时间，在3星期内写出调查报告，并且又给秘书们一些具体指示，说他“站在被欺侮者的一边”。列宁已准备好在3月份的代表大会上向斯大林发动进攻。3月6日，列宁又口授了给格鲁吉亚领导人姆季瓦尼、巴哈拉泽等人的信，并让人将此信抄送给托洛茨基和加米涅夫。
列宁在信中说：“我专心致志地关注着你们的事。我对奥尔忠尼启则的粗暴，对斯大林和捷尔任斯基的纵容感到愤慨。我正为你们准备信件和发言稿。”这是列宁的最后一封信，这一天深夜，列宁病情恶化，从此基本上未理国政。列宁的身体越来越差，他开始考虑自己死后党的前途，他对斯大林极不放心，在列宁的强烈要求下，中央政治局和医生商讨后，同意列宁每天可以口授5～10分钟的文章。
1922年2月24日，列宁又把秘书沃洛季切娃叫去，列宁提醒秘书说：昨天和今天口授的东西是绝密的。然后，列宁开始口授《给代表大会的信》第二部分。
“我说的稳定性是指保障在最近时期不出现分裂，我打算在这里谈一下对纯粹个人特性的一些看法。”
“我想，从这个角度看，稳定性的问题基于像斯大林和托洛茨基这样的中央委员。依我看，分裂的危险，一大半是由他们之间的关系构成的……”
“斯大林当了总书记，掌握了无限的权力，他能不能永远十分谨慎地使用这一权力，我没有把握。另一方面，托洛茨基同志……他个人大概是现在中央委员会中最有才能的人，但是他又过分自信，过分热衷于事情的纯粹行政方面。”
接着，列宁评价了季诺维也夫、加米涅夫和布哈林。
1923年1月4日，列宁对《给代表大会的信》进行补充，表示要撤换斯大林的总书记职务。
按照列宁的意愿，《给代表大会的信》是绝密的文件，沃洛季切娃说：“底稿由我烧毁。按照列宁的意愿，封存文件副本的信封上盖有火漆印，他请求写明，只有弗·伊·列宁可以启封，而他死后则只有列宁的妻子可以启封。”
1924年1月21日，列宁逝世。同年5月，俄共第十三次代表大会召开了。列宁的妻子把列宁的遗嘱《给代表大会的信》拆开了。当时，这份绝密材料是在很小的范围内公布的。所有参加会议的人都因为这一可怕的事而吓得目瞪口呆。斯大林坐在讲台上，看起来显得很小很可怜……尽管他表现出镇定和沉着，但显然他的命运正处在千钧一发的时候。这一切，对斯大林来说，犹如晴天霹雳，他丝毫没有精神准备。
季诺维也夫和加米涅夫，站到了斯大林一边，他们都表示：列宁的担心是多余的，应该让斯大林继续任职。托洛茨基在会上表示沉默和冷淡。斯大林在会上表了态。他说应该按照列宁的遗嘱办事，自己应辞去总书记的职务，让其他人干。但在季诺维也夫、加米涅夫的劝说下他还是放弃了辞职申请。列宁的《给代表大会的信》也没有在代表大会发表。
只有列宁的妻子表示抗议，但她的力量毕竟太小了。就这样斯大林总书记的职位保住了，而且一直到生命的最后一刻。
十月革命前的托洛茨基，无论是理论水平，还是在党内的资历、威望都远远超过了斯大林。他有杰出的才华和坦率的性格，但追求事业成功的欲望没有斯大林那么强烈。
斯大林从一开始，就对托洛茨基没有好感。早在1907年的党的第五次代表大会上，斯大林就对托洛茨基的口若悬河、夸夸其谈，描述为“漂亮的废物”。
但在列宁活着的时候，斯大林和托洛茨基的争论还是有节制的。斯大林对托洛茨基尽量表现得宽厚、客气、不带个人色彩。斯大林也不否认托洛茨基的成绩，说他“在起义中起了重要作用”，“在十月革命时期很会打仗”。
但在3年国内战争结束后，托洛茨基在党内的威望开始下降，他的支持者在党的“十大”上纷纷落选，他开始消沉。
暮年的列宁更偏爱托洛茨基。1922年冬季，列宁与托洛茨基进行了一次推心置腹的长谈。
他们认为在国家机关及党内的官僚主义十分严重，决心一起联合起来，反对官僚主义，当然也包括反对组织内部的官僚主义。托洛茨基为能与列宁不谋而合感到自豪。可惜，时过不久，列宁第二次发病，他与托洛茨基共同反对官僚主义的计划只好暂时束之高阁。虽然没有列宁的参与，托洛茨基最后终于决定向斯大林发动进攻。
1923年10月8日，托洛茨基在中央金会上公开阐述了自己的现点。他说：“俄共十二大后形成的制度离开工人民主的距离比战时共产主义时期还要远得多。”他指责“党的组织体制是书记等级制，党的领导机关已经官僚化。”不用说，托洛茨基的斗争锋芒是直接指向总书记斯大林的。
布哈林坚定地站在党的立场上，也就是总书记斯大林的一边，与托派展开了坚决的斗争。斯大林十分善于因势利导，在斗争中始终处于多数地位。