应当说，黄百韬这时还是相当清醒的，他已经明白自己的下场是什么。而且，我们也得承认，黄百韬的牢骚满腹和忧心如焚也不是没有道理的。这里可以说一件看来不大，但对于黄百韬不久的全军覆没却有着不小关系的事：按照顾祝同在徐州主持的军事会议决定，第九绥靖区立即撤销，所属的四十四军西撤，交给黄百韬指挥。这本来是重要的军事机密，可是，由于刘峙的贪得无厌，在这最紧张的时刻，竟然首先想到的是他在海州开设的几家盐店。他怕这几家盐店撤晚了要受损失，就让司令部的机要科长以最快的速度将这一消息通知了在海州为他管理盐店的经纪人唐某。唐某一方面收拾东西准备逃跑，一方面又告诉了他商场中的朋友。朋友再传朋友，熟人再传熟人，于是海州和连云港立即大乱，纷纷出逃。而这时，身为第九绥靖区司令长官的李延年还未看到命令他撤退的电报。当第九绥靖区和第四十四军开始撤退时，无数的商人、财主、公务人员、乡绅等拖家带口的队伍乘着牛车马车，带着箱包担笼，早已挤满道路，大大延缓了四十四军西撤的速度，特别是在过桥时，更加拥挤不堪。这一情况，不仅使黄百韬为了等待第九绥靖区人员和四十四军而推迟了西撤的出发时间，更影响了整个黄百韬兵团西撤的速度。而这时，时间对黄百韬来说是至关重要的。黄百韬所以会被我军迅速包围以至全歼，他西撤过晚过缓，应当是一个极为重要的原因。而他所以会如此缓慢，就是由于刘峙这个总司令为了几家盐店的利益竟然有意泄露军事机密所造成的。
11月6日夜，我华东野战军的先头部队已经与黄百韬兵团的部队接火。7日晚，直插曹八集地区的山东兵团首先插入到徐州东北的运河一线。九纵首歼韩庄的守敌，七纵攻占了由韩庄到台儿庄之间运河上唯一的一座桥梁万年闸。大部队遂通过万年闸向南猛扑过去。与此同时，苏北兵团从黄百韬兵团以东迂回向南，到了徐州东南。
就在这个关键时刻，在徐州以北贾汪地区的国民党军队第三绥靖区的一个军部、三个半师举行起义，向我军敞开了南下的大门，让我东野大军得以更加顺利地向南开进。
最早攻入黄百韬兵团在新安镇司令部的，是九纵副参谋长叶超率领的侦察营。当他们在11月8日进入新安镇之后，才知道黄百韬兵团已经完全西撤，而且并未走远。镇中的老百姓说：“老广（黄百韬兵团殿后的部队六十三军是广东部队，大多是广东人）走了不到两个小时。”九纵司令员聂凤智得知这一消息，立即报告给粟裕设在马头镇的临时司令部。粟裕毫不犹豫地立即向各纵队下达命令：追！用最快速度追！各路大军的战马和汽车首先启动，迅速向敌人追去。
根据这一突然发生的变化，粟裕一边上报中央和中野总部，一边向各部队下达了新的作战命令：王建安指挥的山东兵团的任务不变，但必须排除一切困难，用最快速度插入徐州以东的曹八集、大许家地区，抢在敌人的前面，切断敌人向西逃走的去路；已经位于陇海路以南的皂河地区的苏北兵团十一纵和江淮军区的两个旅立即由南向北，经土山镇以最快速度向大许家车站前进，与山东兵团会合，切断敌人的西逃之路；一纵、六纵和九纵在粟裕亲自指挥下沿陇海路的南面迅速向西追击；四纵和八纵则沿陇海路的北面迅速向西追击。苏北兵团的其余部队则从宿迁经双沟向徐州东南前进，威胁徐州，并从敌之西南方阻击敌人。
11月9日华野总部向全部队发出了《全歼黄百韬兵团的政治动员令》，号召全军“不怕疲劳，不怕困难，不怕饥饿，不怕伤亡，不怕打乱建制，不为河流所阻，敌人跑到哪里，坚决追到哪里，全歼黄兵团！
活捉黄百韬！”
黄百韬兵团是在11月7日清晨从新安镇向西撤退的，我华野大军是在第二天上午向敌人发起追击的。为了追回这一天多时间，我各路追击大军以能够达到的最快速度急行军，一天行军60公里到70公里。不仅部队在追，紧随其后的大量支前民工也推着小车、抬着担架，一刻不停地跟着追。
从新安镇地区向西行进，最大的麻烦是过运河。黄百韬预先考虑到了这一点，事先就与徐州“剿总”联系，要求派工兵在运河上架设浮桥。“剿总”答复说将派出一个工兵团，结果是一个工兵的影子也没见到。原先预料中的浮桥没有了，除六十三军之外的四个军全部都只能从唯一的一座铁路桥上通过。加之四十四军从海州方向西撤时，夹带了大量的跟随西撤的家属、商人、职员、乡绅、学生等，总数竟有10万人之多，又是轿子，又是车子，大大影响了过桥速度。11月8日从早晨到中午，黄百韬的六十四军、兵团直属部队与兵团总部、四十四军陆续通过铁桥。下午两点，我华野的先头部队在九纵司令员聂凤智的率领下就已经追到运河边，各种火力一齐向桥面打去。敌第二十五军和一○○军一边抵抗，一边过桥，虽然在黄昏时分都过了桥，但是二十五军被我歼灭了一个团，一○○军四十四师也被我歼灭一部。8日下午，当黄百韬的大部队渡过运河之后，为了摆脱我军的追击，在敌二十五军一○八师还未过铁桥时，黄百韬就悍然下令炸毁了铁桥。当天晚上，黄百韬兵团到达了距徐州只有75公里的碾庄。由于这两天已经跑得相当疲惫，部队又相当混乱，黄百韬下令在11月8日晚上部队休整，整理队伍。之所以敢于停下来休整，是因为黄百韬认为华野还不能追上他的部队，认为他的部队已经接近徐州了。还有一个重要原因，就是黄百韬认为工兵已将运河铁桥炸毁了，河东的解放军主力过不来了；他还认为，河西是没有解放军主力的，有的只是一些地方部队。
可以肯定，黄百韬在估计我军的行军速度上犯了一个致命的错误，因为他没想到我军能以超乎寻常的速度追了上来，没想到我军能以他想不到的方式渡过运河，更没能想到我军会突然插在他的前面。我军为了追赶敌人，有桥过桥、有船乘船，没桥没船就涉水而过。九纵的“潍县团”官兵在渡河时竟站在水中，用自己的身体扛着攻城用的木梯搭成便桥让战友们跑了过去。这样，就在黄百韬在碾庄休整的这天，我山东兵团利用第三绥靖区贾汪起义所造成的有利条件，以超常的速度南下，在11月9日插到了碾庄与徐州之间，七纵到了大许家和黄集，十纵到了东贺村，十三纵到了曹八集。这样，黄百韬兵团退回徐州的路就被切断。
到了11月10日，我华东野战军就展开了对黄百韬兵团的包围，到11日就从四面完成了对黄百韬兵团的包围。黄百韬兵团4个军大约12万人就被我军包围在以碾庄为中心的大约18平方公里范围之内。时间在这个关键时刻真是显得太重要了。战后，粟裕这样说：“只要我们在贾汪多待4小时，我们的机会就丢失了。”
被我军包围在碾庄的敌军是４个军，即二十五军、六十四军、四十四军和一○○军，不过只有六十四军和四十四军还是完整的。被包围的范围是东西6公里，南北3公里，中心是碾庄。本来还有一个六十三军，这个军是在完成了掩护全兵团撤退的任务之后才出动的，由于沿陇海一线人马太多，所以没有沿着陇海路西撤，是从南边向西撤退的。11月7日上午11点出发，刚走了20公里就被我苏北兵团的先头部队追上。
六十三军边打边撤，11月8日黄昏到达运河边上的窑湾镇时即被我军包围。窑湾没船没桥，由于六十三军是粤系余汉谋的旧部，本是广东部队，官兵中不少人都会游泳，于是，会游泳的就强行游泳渡河，其余就在窑湾镇拼死抵抗。我军的十一纵最先赶到窑湾，就在敌人渡河时加以痛击。很快我一纵也飞兵赶到，遂对敌人进行强攻。战斗到11日下午，无论是已渡河的还未渡河的，除了军参谋长宋健人、一八六师师长张泽深等极少数人化装逃跑之外，全军被我歼灭。军长陈章抱着一块木板泅水渡河，刚一上岸就被我军的密集扫射所击毙（粤系军阀余汉谋为了给自己的部下贴金，在对外宣传时说陈章是自杀“成仁”，在南京和广州开了追悼会，当时连六十三军的几名高级将领都称之为“最为可笑”）。这个军就成为我军在整个淮海战役中最早消灭的一个军。
三、碾庄围歼战
碾庄，当地人叫做碾庄圩，位于运河以西、陇海路以北，过去是一个没有一点知名度的村庄，现在却成了八方关注的焦点，而且在中国现代史上永远留下了它的名字。
碾庄一带是黄河和淮河多年来的泛洪区，为了防止水潦之害，村民的房屋都是建在高出地面两三米的台地上，台地之间就是洼地或水塘。
每个台地上修建的房屋多少不一，多则几十家，少则十几家，比较分散。这一带碾庄最大，有两百多户人家。以碾庄为中心，若干个小村子组成了一个村落群。这些小村子有的有名，如碾庄东边的大院上、小院上、三里庄、旺庄、杜庄、李庄、吴庄、大兴庄，南边的曹庄、新庄、后板桥、前板桥，西边的贺台子、彭庄、前黄滩、后黄滩、小曹庄，北边的太平庄、秦家楼、大芽庄、小芽庄、尤家湖等，有的还没有名字。
为了防匪防盗，较大一点的村子外面都有圩墙，有利用低地建成的环形水濠，有如其他城市的城壕一般。在整个村落之外，则是平坦的田野。