寺内大将深知徐州会战成败对日本的重大意义，因此他从一开始就下定“不惜一切代价、不惜血本获胜”的决心，第10师团的孤军冒进在他的计划里有三个作用，一是如果该师团确实长驱直入、势不可挡，那就直接拿下徐州，二是如果该师团遭到强劲阻击，就让该师团死打硬拼，从而吸引中国军队的重兵集团将其包围，三是如果该师团遭到反击并且损失惨重，就用该师团的鲜血来麻痹中国军队，继续下一步的“先诱敌集于徐州一带，再将其一网打尽”战略计划。眼下，第10师团在台儿庄吃了大亏，损兵折将两万人，使得日军华北方面军的机动军力受到极大打击，很显然，为了继续下一步的计划，寺内大将起码要补充二三万兵员。寺内大将没有撒豆成兵的本事，日本此时国力已经濒临崩溃和枯竭，也没办法组建新的部队，所以寺内大将采用的还是“拆东墙补西墙”的原始办法，在军部的批准和支持下，寺内大将让华中方面军总司令官畑俊六大将从华中方面军里抽调了三十多个大队的兵力补充给华北方面军。因为，日军此时在华北急需兵力，在华中、在南京战场上则不急需兵力，日军此时对南京城只是围而不打，包围南京城的日军约十五万人，抽调走一部分后仍然是绰绰有余的。当然了，日军是秘而不宣地进行这件事的，三十个大队、三万余兵力，并且都是身经百战的精锐老兵，分散地、分批地从南京战场上的日军各师团内被逐步地抽调走，以及原属于华中方面军的大批武器弹药、辎重物资，从上海到青岛一路坐船，继而被补充进了华北方面军里，其中四分之三被补充进了第10师团里。日军如此大费周章地掩人耳目，目的是为了让中国军队误以为南京战场上的日军还是约原先的十五万人。
台儿庄大捷后的短短一周，日军便再度反扑台儿庄、反复徐州，行动速度快得令人吃惊，打头阵的仍然是第10师团，该师团在过去一周内因为得到两万五千余来自日军华中方面军的兵员而“原地满气血复活”，全师团拥有4.4万兵力，且配备了大批坦克、汽车、火炮（这些坦克、汽车、火炮都来自华中方面军），几乎是一支基本上实现了机械化的“钢军”。“我仍然让第十师团担任主力，一是哀兵必胜，二是我对你绝对信任！我相信你不会让我失望的，矶谷君，好好干吧！”出击前，寺内大将亲自为矶谷中将壮行助威。
矶谷中将感激涕零得泪流满面，他咬牙切齿：“拿不下徐州，下官剖腹谢罪！”
7月15日，日军第10师团对台儿庄再度发动了排山倒海的猛攻。
7月17日，台儿庄沦陷，中国军队死伤两万五千余人，其中战死一万八千余人，日军死伤八千余人，其中战死四千余人。在台儿庄阻击日军的孙连仲部第1军团在台儿庄大捷和先前激战中已经拼得油尽灯枯，在此次日军反击台儿庄中更是伤亡殆尽，全军团最后只剩下不到五百人，庞炳勋部第3军团也完全打光，同时参战的汤恩伯部第20军团同样伤亡万人。
血战两天两夜，完全杀红眼的第10师团成功占领台儿庄，继而跨过大运河，长驱直入，蜂拥地扑向徐州。李宗仁急调第1集团军、第3集团军、第29军、第59军等部在徐州外围展开节节抵抗，迟滞日军的进击速度。若不是因为中国空军发挥出重大作用，日军极有可能在三天内就兵临徐州城下了。
台儿庄大捷，是第五战区几十万地方杂牌军拼尽全力打出的胜仗，此大捷也耗干了第五战区的精华部队和大部分的弹药物资。李宗仁虽然心急如火，但他真的是没有办法了，第五战区不可能还能依靠自身力量再度重创日军，因此他连连地向蒋介石求援，询问蒋介石，“眼下只有三个对策，一是将徐州效仿南京，把第五战区所剩不多的精华部队都收缩到徐州城内，展开一场注定全军覆没的城市防御战，二是果断放弃徐州，全军转进、保存实力，三是增兵徐州，与日军展开徐州大决战；时间刻不容缓，究竟如何抉择，还望委座早下决定”。
武汉的国军统帅部内，高级将领们意见不一，展开了激烈争执。
何应钦和白崇禧支持第二点“弃城撤退”，二人认为，徐州即便丢了，国军也虽败犹荣，毕竟取得了一场轰轰烈烈的台儿庄大捷，日本人是得到了徐州，但国军歼敌约三万人，双方算是打了个平手，所以徐州沦陷并不会影响到接下来的中日谈判，更何况，日本高层内的“主和派”已经承诺会把江苏省完璧归赵，徐州是江苏省的一部分，现在丢了，以后还能拿回来，因此没有必要为了一座主动会失而复得的城市冒太大的风险。国军需要保存实力，一是为了议和后“扫荡国内”，二是为了议和后反击日本。逻辑很显然，打得越惨，需要恢复的时间、耗费的财力物力人力就越多，能省还是应该省的。另外，白崇禧也不愿李宗仁在徐州太冒险。
徐永昌和程潜支持第一点“守城防御”，二人认为，台儿庄大捷是一回事，徐州保卫战又是另外一回事，徐州毕竟是津浦线要地、军事重镇，如果不战而弃、拱手让人，在政治上、宣传上、外交上、舆论上都会对国府很不利，徐州会战实际上是一场“政治会战”，是打给日本人、德国人、本国民众看的，宣明国军绝不会轻易放弃国土的誓言，抗战已经有一年多，除了济南是被韩复榘丢掉的，北平、