有多年作战经验的蒋介石对于济南这个战略要地的重要性当然是十分明白的，而且他也已经预感到，双方都在徐州地区集中了大量兵力，这个自古就是兵家必争之地的徐州地区不久就会有一场大战。如果济南能够掌握在自己手中，不仅可以将粟裕的几十万兵力拖在山东，又能使未来的大战开战以后让粟裕有后顾之忧，所以蒋介石决定给王耀武增加兵力。为了抢时间，蒋介石命令空军司令王叔铭安排大批空运力量，很快从青岛、徐州向济南运送了一个整编师和两个旅的兵力，使王耀武手中的兵力达到了三个整师又五个旅，共11万人。同时蒋介石命令徐州“剿总”副司令杜聿明指挥黄百韬、李弥、邱清泉三个兵团共17万人组成所谓“进剿兵团”，一旦济南打响，就分路北援济南。此外，蒋介石还命令他的空军部队以济南、青岛为基地，以北平、徐州为辅基地，集中战斗机162架、重型轰炸机42架，作为空中打击与支援力量。于是，王耀武增强了信心，就把全力投入到济南的防守，等待着华东野战军对济南的攻城。
势态很明显，双方都看准了这一着棋，都把济南这一仗看作了未来在徐州地区大战的一场必不可少的前奏。
济南的攻防之战将是一场恶仗。
在西柏坡，毛泽东和中央军委的负责人一直注视着粟裕当时设在济宁的指挥部，因为他们也一致认为，必须解放济南，但“这是一次严重作战”。因为，打济南的主要麻烦不在于济南的11万守军，而在于我军只要在济南一打响，蒋介石在徐州地区的大量援军必然北上，如何才能成功地在打援中大量歼灭敌人的有生力量，不使我军在济南城下的攻坚战形成被动局面，是应当着重考虑的大问题。为此，中央军委和华东野战军负责人之间的电报不断，反复研究，最后才定下了作战方案。这一仗，总的指挥由粟裕负责，而攻城指挥，由许世友负责。攻城兵力，以山东兵团为主，共为50个团14万人；打援兵力，安排90多个团18万人。
打援的主要地区，放在兖州和钜野（今巨野）之间，夹运河而阵，以便于届时能主动地在河东或河西歼灭敌人。攻城分为两个阶段：第一阶段首先攻占城西的飞机场，截断敌人空中援助支持的通道；第二阶段再行攻城。整个战役争取一个月完成，但要做好打三个月的准备。此外，中央军委还命令中原野战军做好准备，如果蒋介石要从郑州、信阳调动张轸兵团、孙元良兵团向山东支援的话，就加以阻击，配合济南方面的华东野战军。就在中共中央政治局西柏坡九月会议期间，中央军委与华野前线的电报仍然不断，整个战役的具体计划，则是在紧张筹备九月会议的进程中完成的。9月2日，毛泽东在华东野战军最后完成的作战方案上做了“完全同意”的批复。当天，华东野战军就下达了开始行动的作战命令。
济南战役的攻城总指挥是许世友。
许世友担任攻打济南的攻城兵团司令员，粟裕给了他六个半纵队，还有特种兵纵队的大部和一些地方部队，共有14万人。许世友把这14万人分成了东西两个集团：东面攻城集团军由九纵司令员聂凤智、政委刘浩天指挥，西面攻城集团军由十纵司令员宋时轮、政委刘培善指挥。
9月7日，许世友下达了对济南发起攻击的命令。这一天，正是中共中央在西柏坡召开政治局会议正式开会的前一天。当政治局会议正式开幕的时候，我十几万大军正在向济南城下开进。
9月15日夜，我东、西两面的攻城集团军已分别从济宁、汶上和泰安、莱芜地区逼近济南城郊。16日夜，突然向守军发起攻击并迅速将外围突破。经过两天一层一层地摧毁敌人的工事，西集团军在18日就已逼近飞机场，炮火已使得敌人的飞机不能自由起降。蒋介石运送部队给济南的空中支援只能停止。东集团军则已占领茂岭山、砚池山、回龙山等要点，直扑外城。正当王耀武全力保卫机场和城区时，一件让王耀武万万想不到的事情发生了：19日，奉命守卫西城区的第九十六军军长吴化文率所部三个旅两万余人宣布起义。
吴化文起义是解放战争进入决战时期的第一次国民党军起义，是整个解放战争中第一个在大型战役战场上起义的国民党军军长（1945年10月30日，国民党第十一战区副司令长官高树勋邯郸起义是在内战前夕起义的，双方未发生战事），此事在当时曾引起了很大的震动。
吴化文起义在当时是一件大事，因为它不仅对解放济南有利，而且可以动摇和瓦解蒋介石集团的其他将领。吴化文在历史上对我党、对人民是犯有重大罪过的，但是只要他能幡然悔过，弃暗投明，我党仍然是欢迎的。这对于加速蒋介石集团的分化，具有十分重要的作用。朱德曾经对吴化文起义说过“对我打下济南起了相当作用，今后作战，就需要这样的起义”。吴化文起义还有一个作用是表明了我党强大的政治工作威力。吴化文部起义之后，经过整编，成为人民解放军第三十五军，以后与原华东野战军的鲁中南纵队合并，仍称三十五军，吴化文仍然担任军长，他的几个部下仍然担任副军长和师长，在我军派入干部的帮助教育与全面整顿之后，部队面貌焕然一新，不仅参加了淮海战役、渡江战役和解放南京，而且在1949年4月24日占领蒋介石的总统府，将红旗插上蒋介石总统府的门楼的，就是三十五军的革命战士。
由于吴化文的起义，将济南的西大门敞开，打破了王耀武的防御体系，济南战局急转直下。9月20日，济南城外守军被我全歼。22日夜，我军使用重炮加坦克（我九纵出动了坦克4辆，这是我军首次在攻城中使用坦克）配合步兵的连续爆破，一举攻破外城。由于济南的内城高达15米，被挖空建造成三层的机枪工事，城下还有城壕和无数碉堡，强攻不易，所以我军经过充分的准备之后，于23日18时以猛烈的炮火先向敌人阵地进行了40分钟的破袭，然后开始攻城。第二天拂晓，突入内城，经过激烈巷战，我九纵七十三团二营首先攻入山东省政府。24日17时，济南全城解放。但是，省政府里没有王耀武，全城搜索，也没有王耀武。
原来，就在我军攻入城的时候，王耀武自知全军覆没已是无可避免，就化装成一个小商贩，混在市民之中逃出了济南城，向青岛方向逃去。由于王耀武是山东人，也比较能混，所以一直在老百姓中混了好几天，才在寿光县境内被我军抓住，送进了战俘营。王耀武被俘后，曾经为自己未能和吴化文一道起义而后悔，他在给吴化文的一封信中说：
“君为座上客，弟为阶下囚。你起义向我说一声，我也起义不好吗？”
被俘50天之后，他在我军办的山东解放军官教导团教育之下，在我华东新华广播电台向全国发表了广播讲话。全文如下：
我是前国民党山东省主席兼第二绥靖区司令官王耀武，今天借这么一个机会向各位做简单的报告。首先我说明这次济南失败的原因。守济南的军队有10万之众，有关作战的物资也不为不多，市郊工事经两年来不断修筑不为不坚，但是仅8天的战斗就被全部歼灭了。就是吴化文不起义，亦是很快地要被歼灭。这又是什么缘故呢？因为国军没有理想信仰，反人民，反大众，加以解放军英勇为人民大众的牺牲精神及优越的技能，实令人钦佩。所谓得民者昌，失民者亡，所以很迅速地将战斗结束了。其次我要给蒋先生一点意见。在北伐与抗战中你有一时期与共产党合作，所以得到成功。但是你坚持独裁，完全为四大家族打算，因此兵连祸结，全国无一片干净土。为了取得军事上经济上的外援，不惜与美帝国主义订了那么多的辱国条约，断送子子孙孙的幸福。以现在局势看，国民党的失败已经注定，还要做最后的挣扎是多么不智。最好命令全国国民党军队立即向人民解放军无条件投降，使全国立即恢复和平，国家民族多保存一点元气。
作为华东重镇的济南，我军只用了8天就攻克。当蒋介石得知吴化文起义的消息后，他已知道济南必丢无疑，也知道我军的打援大军正在等他，所以并未催促杜聿明率兵北援济南。当济南已被攻克时，蒋介石原来部署的援助大军的三个兵团中只有一个兵团在动，另两个还在集结之中。所以，我军原来准备的打援歼敌计划未能实现。就这一点来说，华东野战军是有一点遗憾的。但是，济南战役除了在如何打攻坚战这一问题上为今后提供了有益的经验之外，在如何利用敌方内部矛盾去分化瓦解敌人，争取敌人中的一部分能在战场上起义或投诚，以减少我方的伤亡、保护城市免遭破坏也提供了十分有益的启示。从具体的战果来看，这一仗共歼敌10.4万人，抓获敌高级将领23人（除王耀武外，还有他的副司令牟中珩、国民党山东省党部主任委员庞镜塘等）。由于菏泽、临沂、烟台等地的国民党军在济南解放之后都先后逃走，故而整个山东除青岛之外全部落入我手，使华北、华东两个解放区完全连成了一片，这给我军的下一步行动带来了极大的方便。当然，在这一次攻坚战中我军也付出了代价，我三纵第八师师长王吉文、十三纵第三十七师政委徐海珊等在战斗中光荣牺牲。
济南战役是在中共中央西柏坡九月会议这次大决战的总动员会议召开期间进行的。济南战役的巨大成功不仅大大地鼓舞了到会的我军各路将领，而且消除了会议讨论中对我军的大城市攻坚能力的某些疑虑。用毛泽东修改审定的新华社社论《庆祝解放济南的伟大胜利》中的话说，“任何一个国民党的城市都无法抵御人民解放军的攻击了”，包括“北平、天津、沈阳三点”在内。所以，中央军委总参谋长周恩来说：“济南战役的胜利，揭开了人民解放战争战略决战的序幕。”