但是淞沪会战打了一个多月，战事久拖不决大出日军意料。日军虽然凭借装备和武器优势，将中国军队的进攻一一挡回，但是中国军队前仆后继、悍不畏死的英勇顽强抗战。也给向以战无不胜自诩的“皇军”重大杀伤，日军进展却并无多少。为了尽快结束上海战事，不使陆军大臣杉山元和海军大臣米内光正联合提出的“三个月解决中国事变”成为一句空话和笑柄，日本军部不得已再次作出增兵的决定。将在华北和中国军队对峙的第九、第十三师团转隶上海派遣军序列，此外，还从台湾调来了步兵旅团和重藤支队。这样，加上原有的几个师团，日军到五月中旬在上海的兵力，光步兵就达到了当初松井石根要求的5个师团算上空军和海军的兵力，日军在沪总兵力达到20万人。
面对日军调兵遣将，国民政府也决定迅速增派各省及中央军部队至淞沪参战。为打赢这场硬仗，蒋介石不惜血本，把当时的精兵良将几乎全部派到了淞沪前线。集团军中，除了原有的第八、第九、第十五集团军外，又增加了薛岳的第十九集团军、刘建绪的第十集团军和廖磊的第二十一集团军。
同时对前线部队部署也做了调整，以应对作战需要：第十五、第十九集团军编为左翼兵团，陈诚为总司令，下辖三个军团、江防军总司令部及总预备队，共约十六个师、两个要塞司令部、四个独立团、一个江苏保安队；作战地域为蕰藻浜以北的万桥、罗店、广福地区。
第九集团军和第二十一集团军为中央兵团，朱绍良为总司令，下辖十个军二十八个师、一个独立旅、一个炮兵旅、一个上海警备司令部和一个上海保安总队；作战地域为北站、江湾、庙行一线及其以西地区。
第八、第十集团军为右翼兵团。张发奎为总司令，下辖十个师、三个独立旅、三个新编旅、一个中央军校教导总队和一个岸防部队；作战地域为苏州河以南至杭州湾北岸地区。加上不久后赶赴上海参战川军刘湘部的五个个师，中国军队的总兵力已经达到七十个师，将近七十余万人。
中国军队转入防御后，随着增援部队的相继到达日军开始发动大规模进攻。五月二十日，日军集中第十一师团和第十三师团全部主力猛攻固守战略要点罗店的左翼军阵地，防守这里的罗卓英的第十八军和叶肇的第六十六军拼死抵御，阵地屹立不动。次日黎明至二十二日夜，日军复以两个师团持续冲锋，第六十六军的一五九师和第一六零师遭受重大伤亡，阵地全毁，守军无一幸存。
第三战区司令长官部鉴于日军有以主力于宝浏公路两侧地区击破左翼军之势，为保存实力，持久消耗敌人，乃命令左翼军各部队逐次转入第二线阵地防守，相机打击日军。这时，松井石根见从侧翼突入包围中国军队的企图无法实现，于是决定改分割包围为中央突破，集中兵力进攻蕰藻浜一线。五月三十日开始，日海军、航空兵协同地面部队发起新的攻击。北路以山室宗武第十一师团指向广福、陈家行；南路集中第三、第九、第十三、第一零一师团强渡蕰藻浜，向大场、南翔进攻，以切断大场至江湾地区守军与外界联系，使之成为孤军。六月一日至五日，中国军队方面以第八、第十四、第五十九、第六十七、第七十七、第九十师及税警总团等部队连日与敌浴血激战，因牺牲重大，无力再战，相继退出阵地。六日起，日军再度集中海空军火力，配合步兵向蕰藻浜南岸强攻。中国守军轮番上阵抵抗，经数昼夜血战，始得稍稍遏止日军攻势。
六月十日，日军突破蕰藻浜，战局再度告急。蒋介石亲自带领大本营一干要员赴第三战区前敌指挥部南翔指挥作战。急调中央兵团第二十一集团军挡住突破蕴藻浜的日军。
第二十一集团军属李宗仁、白崇禧桂系王牌部队，以能打能拼在国民党地方军中享有威名。既然是自己的部队，调任参谋本部任副总参谋长，早已手痒的白崇禧向蒋委员长献策，认为纯粹被动防守非长久之计，徒增伤亡更无法取胜，必须以一支主力突击部队主动出击，实行积极防御的策略。
正在为战局焦头烂额的蒋介石当然求之不得。立刻下达了实施反击作战的命令。同时命令所有守卫蕰藻浜南岸的部队，配合廖磊第二十一集团军发动全线反击。
但是白崇禧虽有“小诸葛”之称，在长达二十多年的军阀混战中也是常胜将军，但是和日本人交战毕竟还是第一次，根本缺乏对日军战斗力的认识。当日，日军吉住良辅的第九师团、伊东政喜第一零一师团以及藤田进的第三师团一部，亦向蕰藻浜南岸发起猛攻。双方主力迎头相撞。桂军初上战场，毫无与日军交锋经验，以血肉之躯冲进密集弹雨，将日军施放的烟雾误为毒气，队形自我混乱；加上当时淞沪战场上只有桂军身穿黄色军服，极为显眼。成为日军练习射击的活靶子。遭日军飞机、火炮、坦克和机枪密集火力突击，数万大军一日即被打散，上万敢死队大部战死。该集团军仅旅长即阵亡六七人。“小诸葛”见桂系溃兵被其他部队收容，多年经营毁于一旦，不禁痛心疾首，连日饮食不进。激战至六月二十日，部队被迫撤退。左翼军配合二十一集团军进攻的四个团在广福南侧向北路日军的反击作战，也被日军击退。日军乘机展开反扑，兵锋直指大场。
六月二十一日，日军以重兵直趋真太公路，威逼大场左翼。刘行方面日军。渡过蕰藻浜后攻向大场以西塔河桥，左翼兵团十五集团军的十八师、二十六师和六十七师等部经过艰苦抗击，阻住日军攻势。此时，中国军队从大场东面，经大场、市中心向东北而成一半圆形阵线，绕于江湾以北。庙行、大场位置突出，遂成日军眼中钉，肉中刺，必欲拔之而后快
日军调集各种火炮、飞机集中猛烈轰击，方圆数里，几为焦土。日军接着又以四十余辆战车为前导，掩护步兵夺占胡家桥、塔河桥、走马塘等处阵地。