战役进程
滕县保卫战和临沂大捷有效地迟滞了矶谷支队的南下进攻势头，也使第5师团板垣支队的南下发生困难，这样便为第五战区调整台儿保卫战的部署争得了时间。与此同时，随着战局的变化，敌我双方的作战意图和部署都有了相应的改变。
从日军的作战意图看，当其沿津浦路南下时，矶谷支队方面是主力，而板垣支队向临沂发展进攻则是作为策应的。可是到了3月20日，矶谷支队已经到达峄县（今峄城）时，板垣支队还在临沂受阻。3月19日，日军第二军已向第10师团转达板垣支队南下困难的情况，希望第10师团方面能予以有力的支援。于是，第10师团便命令矶谷支队“必须确保韩庄、台儿庄运河一线，并警备临沂、峄县，同时用尽可能多的兵力向沂州方面突进，协助第5师团战斗。”这样，第10师团便组成沂州支队，把部分力量的攻击方向转向东面，以策应临沂的板垣支队。与此同时，第五战区的部署也有部分调整。3月18日临沂、枣庄失守后，津浦路告急，刚刚调到郑州、洛阳一带的孙连促第二集团军又奉调到第五战区。该集团军的第31师池峰城部刚到许昌，便立即被转调徐州，归汤恩伯第20军团指挥。3月21日，该师渡过运河，到台儿庄接防。3月22日，汤军团第85军王促廉部在峄县一带与日军脱离接触，秘密向枣庄东北的抱犊崮山区转移，准备从北面攻击日军侧背。关麟征第52军也秘密向东过运河绕道北上，到枣庄以东的郭里集同第85军会合。
此时，在日军矶谷支队正面的中国军队第20军团第13军第110师已在运河东岸的韩庄附近，第二集团军的第31师在台儿庄一线。矶谷支队的东面则是第二军的4个师。截止3月22日，峄县、台儿庄一带敌我双方的实力基本趋于势均力敌的状态。
台儿庄原来是属于峄县的一个小镇，镇中有砖砌城墙，筑有6个城门，即北门、西北门、西门、南门、东南门和东门。城墙四周修有许多大小碉楼作为防御工事，城内西北角门的文昌阁是城内的制高点。城内原有居民三四千户，因日军不断迫近台儿庄而疏散殆尽，城外的台枣铁路支线也已拆除。 第二集团军第31师接防台儿庄以后，立即以一个团的兵力向庄北的泥沟、北洛一带布防，一个团置于弱站，一个团担负运河南岸的警戒，一个团配置在台儿庄城寨以内，师部驻在台儿庄。3月23日，第31师一部在台儿庄以北的康庄附近与日军接触，同时，矶谷支队的台儿庄派遣队沿台枣铁路南下时，在北洛附近与第31师发生激战。此时第二集团军各师都已到达徐州附近地区，孙连仲已奉第五战区总司令的命令赶赴台儿庄方面实施指挥，并指派第27师接守运河。
当时，矶谷支队的沂州支队以临战向临沂方向策援第5师团，而第10联队主力在临城，第63联队主力在峄县，准备先机占领台儿庄，保障其侧翼安全，而后再向临沂前进。当夜，日军占领北洛。
3月24日，日军由北洛继续向刘家湖进攻，当晚日军一部突破台儿庄城东北角，结果被守军击退。这时第31师采取了收缩兵力的办法：第182团在北站，第181团在南洛，第186团在台儿庄，第185团在刘家湖。直至26日，日军进攻台儿庄的兵力已达3000多人，并补充了重炮、坦克和弹药。同一天，中国野战重炮团和战车防御炮营、一个铁甲车中队也先后开赴台儿庄，守军的火力大大地加强了。27日，日军在9辆战车掩护下猛攻台儿庄，突破北门，再次占领东北角。此役守军的战防炮大显神威，击毁日军6辆战车。同时第185团在刘家湖向日军出击，营长高鸿立率士兵赤膊上阵，挥舞着大刀冲入日军的炮兵阵地，其勇猛的气势一度使日军大批士兵弃炮而逃。同一天，日军得到增援后又对台儿庄发动第三次较大的攻击，双方在城内展开惨烈的巷战。守军第31师原来的四个团8000多人已死伤近3000，剩余部队缩编为三个团7个营，坚持顽强抗击。城内阵地上每天落下数千发炮弹，北面城墙大部分被毁，城内阵线呈犬牙交错之势。城外第30师及独立第44旅在左翼、第27师在右翼，不断向三里庄和刘家湖发动进攻，以缓解日军对台儿庄城内的压力。
3月28日，日军进攻台儿庄城的主力部队开始南下，会合台儿庄派遣队一起对台儿庄发动规模更大的攻击，最终占领城西北角。城内守军由东面发起反击，城外炮兵团也展开激烈的炮战。与此同时，守城的第31师主力以及直属部队和第30师的一个团全部投入城内，并划分为北站守备队、中央守备队和台儿庄守备队，实施分区防守。第二集团军第30军军长田镇南，第42军军长冯安邦也分赴左右两翼督战。
3月30日，矶谷支队执行矶谷的命令，主力从峄县南撤回，以保证台儿庄攻坚部队的后方和两翼，并与第27、第30师发生激战。第27师一度反击刘家湖，截击了日军的炮兵部队，并击毁日军战车5辆，但中国军队的战防炮也被击毁。
这一天，日军对台儿庄的攻击达到顶点，傍晚日军又占据台儿庄城的东半部，抵达大运河。福荣大佐的第63联队也从东南门攻入城内百余米，同时投掷催瓦斯弹，中国守军死伤惨重，只剩下西北一角的军队仍在坚守，大部分市街已经丢失，形势十分危急。在庄内督战的孙连仲命令池峰城死命坚守。池峰城便组织数百人的敢死队，分组向敌反击，各自为战，士兵们异常英勇，部分官兵手持大刀，向敌人砍杀。日军已血战数日，疲惫不堪，想不到中国守军能深夜出击，仓皇应战，乱作一团。激战通宵，日军被迫退守北门，台儿庄四分之三的街市被中国守军夺回。
早在日军准备南下攻击台儿庄时，第20军团的第52军已经到达枣庄以东的郭里城集附近，24日在郭里集包围了一小部分日军。25日，当日军沂州支队到达郭里集时，第52军主力随即在郭里集以东展开，并与日军开始接触。与此同时，第85军第4师也已到达枣庄以北的山地，并于24日午夜从三面向枣庄发起进攻，次日攻入城西，焚烧日军战车8辆，夺占了日军在枣庄的三个碉堡及中兴煤矿公司的水塔。这时，在峄县东北山区的第五战区主力汤恩伯的第20军团，下一步的作战面临两种选择，一是继续攻打枣庄和郭里集，二是以主力南下，从峄县南下的日军侧背攻击，以支援台儿庄守军。但汤恩伯为保实力，避重就轻，在枣庄、峄县一带游动，不愿脱离山区。3月27日以后，第85军撤回抱犊山，随后第52军也撤向这一带山区。
3月14日至19日的临沂大捷后，张自忠的第59军除留一个旅的兵力协助庞炳勋守卫临沂外，剩余主力全部转向费县，准备袭击第10师团的后方。但坂垣师团再度增兵南下，使临沂形势又趋危急。3月25日，张自忠率部重返临沂，向日军发起反击，战斗十分激烈。3月27日，日军移动到临沂西北方向向张自忠部猛攻，张部一面抵抗，一面缓缓向临沂后退。等待援军的到来。3月30日，由苏北海州北上增援的东北军第111师第333旅开到临沂附近，使临沂形势得到稳定。日军因对临沂久攻不下，而台儿庄又陷于苦战，所以只好转移进攻方向，命令在临沂的坂垣支队停止进攻临沂，主力星夜南下，向台儿庄前进，企图夹击台儿庄附近的中国军队，以扭转战局。
在台儿庄战事吃紧时，第五战区司令长官李宗仁曾三令五申让汤恩伯南下对日军实施夹击，但汤恩伯消极怠战，留在山区不愿按指定的方向前进。至3月29日，李宗仁再次严令汤恩伯迅速南进，侧击矶谷支队，并明确训诫说：“如再不听军令，致误战机，当照韩复榘的前例严办”。蒋介石也亲自致电汤恩伯：“严令所属作最大努力，为战略上适切之协同，促成绝对胜利，以利全局。”在如此重压之下，汤恩伯才不得不指挥部队南下，到台儿庄的东北方向夹击日军矶谷支队。
3月29日，日军第二军令坂垣支队前往救援矶谷支队，坂垣支队将两个步兵大队留在临沂，其主力步兵四个大队及炮兵两个大队于当日夜晚开拔，3月31日到达向城、爱曲附近，袭击第52军侧背。汤恩伯遂调第85军主力在爱曲、作字沟一带阻击日军。4月1日，日军坂垣支队占领兰陵镇，汤恩伯便顺势让开大路，放坂垣支队顺利进入台儿庄以东地区，而后以第52军在南，第85军在北并列向矶谷、坂垣支队背后攻击。恰在这时，第75军的先头部队也已开到，在台儿庄的外线参与对日军的包围。
4月1日前后，战役的局势开始比较明朗，日军坂垣支队和矶谷支队虽然在台儿庄紧紧包围着第31师，但在外线，在西、南、东南、东北的几个方向上却又受着第20军团、第二集团军的反包围。同时，山东第三集团军的部分主力也已东跨大运河，在津浦路和沂蒙山区袭击日军的后方补给线，日军开始陷入被动的境地。同一天，守城部队司令池峰城以死守台儿庄的决心召开军事会议，表示决定坚守城寨和既得的阵地，并命令军队对日军广泛开展小部队夜袭。日军也将西北角的兵力撤出，调到城东，攻入东南部地区。
4月2日，日军与第27师的阵地的场面空前惨烈。中国军队有进无退，表现出了视死如归的战斗精神。据日军《步兵第10联队战斗详报》记载：“研究敌第27师第80旅自昨日以来之战斗精神，其决心勇战气概，无愧于蒋介石的极大信任。凭借散兵壕，全部守军顽强抵抗直到最后。宜哉，以致于狭窄的散兵壕内，重叠相枕，力战而死之状，虽为敌人，睹其壮烈，将为之感叹。曾使翻译劝其投降，应者绝无，尸山血海，非独日军所特有”。
4月3日，坂垣支队与矶谷支队会合后，在台儿庄东南的火石埠向肖汪方面军攻击，守卫肖汪的第75军，第139师和新开到的第6师与敌展开激烈的战斗，但持续作战的日军已经丧失了原有的锐气。4月4日，台儿庄城内的日军又发动了第八次总攻，也是最后的一次攻击。中午时分，日军猛烈轰击守军阵地，并且使用了燃烧弹，城内的断垣残壁又燃起大火，为中国军队造成很大困难。火势稍小时，日军便从东南角、北门和西北角发起攻击。为顶住疯狂的反扑，城内各部分守军利用有利地形和房屋修筑的工事与敌军周旋，入夜后各敢死队又纷纷出击，有力的打击和袭扰日军，并攻占制高点大庙。日军的阵地逐一被攻克，在城内外的夹击之下，余下的部队也只有招架之功，没有还手之力了。
至此，城内日军的攻势减弱，城外对日军的大包围态势已经形成。日军已经陷入中国军队的重重包围之中。
4月4日前后，汤恩伯在第五战区的连续电令下，开始以较多的兵力投入攻击日军侧背作战。这时在战场东北部的曹福林第55军开始向台儿庄移动，李仙洲第92军，周磊第75军已逐次投入台儿庄以东前线，对日军的包围圈正在逐渐缩小。
4月5日，第一战区司令长官程潜到徐州参与台儿庄督战，并下令要求4月6日至4月8日限期围歼台儿庄以北日军。4月5日，蒋介石给汤恩伯发电责问，为何“以十师之众对师半之敌焉然不能取胜？”前线各部队开始加紧对日军的攻击。此时，肖汪附近的日军坂垣支队虽与矶谷支队会合，但在北、东、南三面受到第20军团第75军的猛烈攻击，加之与第5师团的后方补给线被切断，处境十分困难。坂垣支队损失惨重，并且只能从矶谷支队得到部分的粮食和弹药，第5师团命令坂垣回撤临沂。矶谷支队得知坂垣准备回撤后，也向第10师团要求后撤，但未获得批准。在这种情况下，矶谷支队攻城不下，进退两难，损失惨重，不得不烧毁大批物资，枪杀军马，丢弃了大量的武器和装备向北撤退。4月6日夜，矶谷支队撤至北洛一线。随后，坂垣支队与矶谷支队的联络中断，陷入孤立无援的境地，被迫于4月7日连夜向北撤退。
4月6日，第20军团以及台儿庄正面第二集团军的部队已经发现日军准备撤退的迹象，并且先后都组织了追击。第20军团的第52军、第85军和第75军先后追击到甘露寺、红瓦屋屯一带。左翼第13军第110师开始向峄县南面的獐山一线攻击。台儿庄内的第31师发现了日军撤退后也奋起追击，在将城内残余的日军歼灭后占领了各个城门和城外的园上村。台儿庄左右翼的第30师和第27师先后追击到泥沟附近，缴获许多战车和物资。此时，原在鲁西的曹福林第55军渡过微山湖和大运河后已到达临城、枣庄以北地区。日军在后路被断的情况下，慌忙窜入峄县附近的獐山、九山及税郭等坚固围寨死守待援。至4月7日凌晨，台儿庄会战已取得决定性的胜利。
这次战役，几乎使台儿庄变成一片焦土，日军的机动车辆多被击毁，敌人的尸体及自焚骨灰甚多。中国军队摧毁了日军第10和第5两个精锐师团的主力，歼灭敌军两万余人。缴获步枪一万多支，轻重机枪931挺，步兵炮77门，战车40辆，大炮50多门，中国军队以自己的血肉之躯和顽强不屈的精神，夺得了重要的胜利。
战役影响
台儿庄战役的结局，是日军一次战役进攻中的败退。这在日军侵华战争中的第一次。在日军来说，这不仅是在兵力数量上的损失，更重要的是精神上的挫折。“大日本皇军不可战胜”的神话破灭了。日军《步兵第10联队战斗详报》载：“不识他人，徒自安于自我陶醉，为国军计，更应以此为慎戒。”
台儿庄战役的胜利，在政治上增强了全国军民抗战必胜的信心，鼓舞了抗日军队的士气，用胜利的事实证明了“亡国论”是没有根据的。同时，这场胜利改变了国际上对中日战争前途的看法。抗战爆发以来，国际上对中国抗战的前途大多抱悲观的看法。台儿庄战役胜利的消息传出，有的国家甚至不敢相信。1938年4月9日路透社电讯说；“英军事当局对于中国津浦线之战局极为注意，最初中国军队获胜之消息传来，各方面尚不十分相信，但现在证明日军溃败之讯确为事实。”所以，英国赞扬此战胜利的评论。显然，这次胜利提高了中国在国际上的地位，并为争取外援增强了有利条件。
双方主将
李宗仁：
李宗仁（1891-1969），黄埔军校南宁分校总负责人。国民党高级将领。中华民国副总统、代总统。广西临桂人。字德邻。早年就读于临桂县立两等小学，后入桂林省立纺织习艺厂当学徒。1908年，考入广西陆军小学第三期。1910年10月，加入同盟会。1912年，考入广西陆军速成学堂。1913年秋毕业后，到南宁将校讲习所任准尉见习官、少尉、中尉队附。1916年5月，任滇军第四师第三十四团排长。后转入桂系陆荣廷部，任护国军第二军第五旅排、连、营长，参加护国战争、护法战争和粤桂战争。1921年，任少营长的李宗仁争取十多个连队和他一起退到六万大山的玉林地区，整军经武，伺机而动。他先后将所部改称“粤桂边防军第三路”、“广西自治军第二军”，并自任司令，防区逐步扩大到七个县，1923年，与广州孙中山大元帅府建立联系。10月，经李济深、陈铭枢介绍加入国民党。1924年，联合黄绍竑、白崇禧等部，成立“定桂讨贼联军”，任总指挥。9月，击败桂系军阀陆荣廷部。11月，被孙中山任命为广西省绥靖督办公署督办兼广西陆军第一军军长。1925年7月，又击败沈鸿英，完成统一广西的任务，成为新的国民党桂系军阀首脑。
李宗仁统一广西后，任国民党广西省党务特派员和广西省第一届省党部监察委员。1926年1月，在国家党第二次全国代表大会上，李宗仁当选为中央监察委员会候补委员。3月，广西军队正式改编为国民革命军第七军，李宗仁任军长，黄绍竑任党代表。根据国民政府军事委员会的决定，李宗仁负责筹办中央军事政治学校第一分校（即黄埔军校南宁分校）。5月，南宁分校正式成立，李宗仁派所部第七军第二旅旅长俞作柏兼任校长。
孙连仲：
孙连仲（1893-1989），第五战区第2集团军司令孙连仲，字仿鲁，河北雄县人，1893年生，保定中学毕业后投笔从戎。成为冯玉祥的部下后，因为头 脑机灵，作战勇敢，受到了冯玉祥的赏识，之后不断升迁，为冯部中的虎将——“十三太保”之一。1930年蒋、冯、阎大战后，冯玉祥集团瓦解，孙连仲部被蒋介石改编为第26路军，孙任总指挥。抗日战争爆发后，26路军又改建为第2集团军，孙仍任总司令。
张自忠：
张自忠（1891-194），字荩忱，汉族，山东临清唐园村人。以中华民国上将衔陆军中将之职殉国，牺牲后追授为陆军二级上将军衔，著名抗日将领，民族英雄。同时也是第二次世界大战中同盟国牺牲的最高级别将领。
1911年， 张自忠在天津法政学堂求学时，就秘密加入同盟会。1914年，他投笔从戎赴东北。1917年，入冯玉祥部，历任营长、团长、旅长、师长、军长、集团军总司令等职。张自忠戎马三十余载，竭尽微忱。自抗战时起，命运起落无常。曾被污为汉奸，备受责难。又抱定“只求一死”之决心，一战于淝水，再战于临沂，三战于徐州，四战于随枣宜，终换得马革裹尸还，以集团军总司令之位殉国。以一生之践行，换得了名中的一“忠”字。
矶谷廉介：
矶谷廉介 （1886 - 1967），兵库县出身，旧筱山藩士矶谷次郎的三儿子。年少时就读于私立庹平初中凤鸣义私塾，大阪陆军地方学校，中央学校。1904年毕业于日本陆军士官学校第16期，跟坂垣征四郎，土肥原贤二为同期同学。1915年陆军大学毕业。1916年任职于参谋本部，1917年被派遣到中国，1920年驻在广州。1924年升任中佐，步兵第13联队大队长，1928年5月第六师团副、第3师司令部付（青岛机关长），同年8月，步兵大佐第7联队长。1930年（昭和5年）3月，第1师参谋长就任，教育总监部第2科长，人事局候补课长。1933年晋升为少将，任参谋本部第二部长。自认是日军中的“中国通”，他的岳父就是日本第一代中国通，对华谍报鼻祖青木宣纯。1935年任中国公使馆副武官、中国大使馆副武官。日本昭和时期的四大中国通之一，陆军中将，香港日治时期第一任总督，南京军事法庭裁定为战犯并处以无期徒刑，后转交东京法庭。1952年释放。