蒋介石于六月二十六日向武汉方面发一通牒，并令王普、夏斗寅两军溯江上驶，这并非他个人神经过敏，而实因武汉方面出师东征，进军矛头直指南京。
原来唐生智自河南回师武汉后，以汪精卫为首的武汉国民政府，即依照在郑州会议中与冯玉祥成立的协议，压迫共产党员谭平山、苏兆征（1885—1929，1908年加入同盟会，后转为国民党。1925年加入中国共产党。1928年参加中国共产党在莫斯科举行的第六次全国代表大会，并被选举为中共中央政治局常委。1929年1月回国，2月在上海积劳成疾，因病逝世。）辞去农民部长与工人部长。六月二十八日，唐生智的李品仙部队占领武汉总工会，工人纠察队悉被缴械。七月十五日，武汉政府举行“分共”会议，这表明共产党与国民党的第一次合作完全分裂。
武汉政府在排共的同时，进行讨蒋的军事行动。以唐生智的第一方面军沿江左，张发奎的第二方面军沿江右，挥戈东指，双管齐下。李宗仁部攻克临城时，张发奎部已下达九江，唐生智则东抵黄梅。蒋介石见事急，遂调李宗仁的第七军回师芜湖，以巩固南京后方。
不料李宗仁军南撤，张宗昌敌军即开始反攻。滕县、临城、韩庄、台儿庄先后失守。蒋介石从南京电白崇禧云：“如不克复临城，则徐州失守，希将进攻临沂军力，移来支援第三路军。”白崇禧于七月七日晚撤临沂诱敌出城，而派第四十四军和第十七师援津浦路，七月十一日到达，即与第十、第四十、第三十三各军合克韩庄。十二日，第十军攻复临城，第四十军连续收复台儿庄、峰县、枣庄。白崇禧以为津浦路方面平安无事了，再出兵围攻临沂，不料这座城墙高而且厚，终于师老无功。七月二十一日，得蒋介石电，解围南下，临城二十日失守。七月二十五日，敌逼徐州，蒋介石率贺耀祖军赴前线督师，想在徐州打一胜仗，以后再来和缓武汉方面。这个时候，主力部队开拔净尽，留在前方作战的第十军王天培部，作战不力。终于在蒋介石的眼皮下失掉了徐州这一战略要地。八月六日，蒋介石抱着懊丧沉重的心情从津浦前线回到南京，转眼间孙传芳、张宗昌联镳并进，江北尽非我有。
八月七日，蒋介石在南京总司令部（即后来的国民政府所在地）召李宗仁、何应钦、白崇禧举行两天的秘密会议，检讨当前的军事形势及和战问题。回顾十天来正是多事之秋，军政情况瞬息万变，令人应接不暇，总结起来，有下面这几桩大事：
针对武汉东征，冯玉祥于七月二十六日发出通电，建议宁汉双方的国民党中央委员，在开封举行会议，消除双方意见，解决党内纠纷。当时冯氏显然以调人自居，事实上他的军事最大，在宁汉之间，颇有坐山观虎斗的味道。据传他曾提出汪、蒋同时告退之说，此一传闻，对白崇禧和李宗仁起了影响作用。
张发奎的第二方面军，以二十四师**为前锋，先占领九江、湖口，掩护大军集中。待各军集中完毕，张发奎令**率蔡廷锴师及贺龙部占领南昌。七月二十八日夜，汪精卫从武汉到九江，与张发奎、黄琪翔在庐山开军事会议。决定仍打算分两路由皖南、浙南向南京攻击前进。但到八月一日，中国共产党在周恩来、朱德等人领导下，发动了南昌起义，从此第二方面军分裂为三部分：**、贺龙两部组成的起义军由江西经闽南转入潮汕；黄琪翔的第四军由赣州、韶关开回广州，蔡廷锴师则去福建跟他的老长官陈铭枢去了。这一路对南京的威胁遂告消除。
但是唐生智所部仍从鄂东向安徽挺进。何键的第三十五军占领了安庆，刘兴（1887—1963，国民党一级上将、爱国和平起义将领。1950年参加民革，并当选为民革中央委员。1963年因病在长沙去逝。）的第三十六军沿江东下，有向芜湖进驻模样。李宗仁为避免冲突，将第七军转移到当涂。看来唐生智的东进是南京当前的主要危险。
李宗仁在会上介绍了上面情况，他认为南京目前两面受敌，必须接纳冯焕章的调停，和缓武汉方面，俾能集中兵力来对付长江北岸的敌人。蒋介石对李宗仁的意见，沉思有顷，只说：“唔，唔，这个……这个……”最后从他的嘴里非常困难地吐出这两句话：“如果你们一定要和的话，那我就必须走开！”
白崇禧跟着说：“总司令能离开一下也好，等到我们渡过目前难关后，再请总司令回来行使职权。”蒋介石听了勃然变色，他几乎不相信自己的耳朵，白崇禧是他一手提拔的人，居然在困难时刻要他下野，此可忍，孰不可忍！
蒋介石把眼睛盯着何应钦，后者把头低下来，不吭一声。十分明显，何应钦这几个月来同白崇禧合作得很好，现在他们联合起来对其个人施加压力了。蒋至此蓦地站起，说：“好！好！就这样吧！”会议不欢而散。
次日，即八月八日，李宗仁、何应钦、白崇禧拿着一纸电稿来给蒋介石看，这是答复冯玉祥于七月二十六日来电所提的调停建议，表示：“对武汉以前之容共，完全谅解。对今后党政，只有整个之善后，并无两派之争执，以开第四次中央执行委员全体会议而促第三次全国代表大会之进行为宜；对军事主张李济深坐镇南中，唐生智肃清上游，蒋中正、冯玉祥、阎锡山直捣幽燕。”李宗仁、何应钦、白崇禧等主张此电由蒋介石领衔发出，但蒋氏竟签名在他们之后，事后他倒打一耙，居然说：“在此电中，蒋总统名列第四，而由李宗仁领衔，是则南京此时权力的消长可以想见。”（董显光：《蒋总统传》，第一卷，第一O七页。）
八月十一日，冯玉祥电复李宗仁、胡汉民等，谓在国民党执监会议开会前，可否举行一预备会？如蒙同意，建议以安庆为开会地点。十二日李宗仁等复冯玉祥十一日电，赞成安庆会议之举。请冯决定会期并届时莅会。蒋介石也签名此电，但即日离京去上海，实行下野。行前将第十军军长王天培枪决，说是他应对徐州失守负责。同时发表了下野通电，申明：一、他反共的经过；二、希望宁汉合作；三、并力北伐，彻底清党。
蒋介石到上海后，寓上海市长，他的拜把兄弟黄郛家中，对军事、政治作了一些部署，随即遣返溪口老家，稍停即东渡日本去了。
胡汉民、吴稚晖对蒋介石此次下野，认为冯玉祥应负主要责任，所以他们到上海后，曾给冯玉祥一电，声明取消安庆之行，各为故里之游。并对冯说：“一柱擎天，唯有公焉！”语意冷嘲热讽，其对冯不满殊甚。
蒋介石却不是这样，他指责李宗仁、白崇禧对他施加压力，所以不得不下野，《蒋传》对此作了详细的描述：
其时，广西将领咸认与汉口言和，始能解南京被包围之险。由于蒋总统被视为和议之障碍，他的旧日同志遂不免对他施压力。在此环境之中，蒋总统雅不愿保持其权位。于是在八月十二日，他辞去总司令之职，带同卫士二百人，前往上海。（董显光：《蒋总统传》，第一卷，第一O七页。）