孤军固守四行仓库的壮行传到南京，蒋介石也为国军中有此英勇将士而骄傲，在27日的日记中写道：“我军留守闸北之谢晋元团，孤军奋斗，中外人士均受感动，且表示崇高之敬意；以与敌军野蛮残忍、受世人之唾弃两相比较，且不啻有霄壤之别。此战虽退，犹有荣焉！”
28日夜半，年方18岁的女童子军杨惠敏穿越过横飞乱舞的枪弹，连游带趴地窜进了四行仓库。她从浸透汗水的制服下面，取出了一面青天白日满地红国旗，虔诚地献给英勇的守军，表达了国人对他们的敬意。
29日清晨，这面国旗高高飘扬在四行仓库的屋顶上。此时的闸北，到处都悬挂着日本那血腥的膏药旗，而特别飘扬在最高处的就是惟一的一面青天白日满地红旗，给予上海市民以极大的鼓励。日军则视其为眼中钉，瞄准射击，不可思议的是天皇的军队突然失去了准头，不能将它击倒。素来相信天意的国人目睹此情此景，又多了一分道义的鼓舞，他们相信，残暴的日本侵略者终将在伟大的道义长城下碰得头破血流1
30日，英国方面唯恐战火波及租界而出面调停，提议谢晋元部队撤进公共租界。英国人终于说话了，一直关注八百壮士的蒋介石接受了调停：“为主帅者，爱惜所部与牺牲所部皆有一定限度。今谢晋元死守闸北一隅，任务与目的已达，故令其为荣誉之撤退，不必再作无谓之牺牲矣！”次日清晨，谢晋元奉令率部放弃四行仓库，渡过苏州河，进入公共租界。经过4天的战斗，中国方面所受的损害，仅阵亡37人。
3．陷日寇于泥淖之中
10月31日，蒋介石采纳部将建议，决定把已现败迹的部队后撤到吴江、福山一线，占据江阴、无锡、海盐沿线。近几年来，为了保卫首都南京的安全，国民政府在这两线构筑了比较坚固的阵地，有较好的防守条件。如果能及时撤退到这两线，部队也可以得到补充和整训，也可以更加有效地贯彻节节抵抗的方针。考虑到前线战士伤亡惨重，撤退的命令马上就传达下去，前线的部队立即开始行动。同日，日寇趁我军收缩之机强渡苏州河。就在这个时候，蒋介石犯了一个致命的失误，使得本来已经恶化的战场形势更加不可收拾。
突然传来消息说，九国公约签字国将于11月3日在布鲁塞尔开会商讨中国问题。蒋介石异常兴奋，做出了错误的判断。他认为只要在上海顶下去，九国公约国家就可能会出面制裁日本。为了获得更多的同情和支援，蒋介石在11月1日突然召开紧急会议，收回撤退的命令，要求部队再坚持一段时间。这个决定立即引起了前线的混乱，有继续撤退的，有匆忙回防的，也有徘徊不知所措的。整个部队没有全部回防，自乱阵脚，给日军以可乘之机，许多守军被分割包围，此后近10日时间里，双方一直处于激战状态。
在战斗中，将士们打得十分勇敢，每小时的死伤数千计，牺牲的壮烈。在中华民族抵抗外侮的历史上，鲜有前例。中国军队官兵在武器装备严重不如人的情况下，仍顽强地和日军争夺一村一镇，并常常为一个阵地进行反复较量，白天日军攻占，晚上中国军队又把它夺回来，双方的伤亡都很大。在此次会战中，国民政府军队主力各师都补充了四五次，后方各省的保安团整团整团地补充上去，原有下级军官和士兵伤亡达2／3，旅团长伤亡也达半数。
但战局的发展对中国方面是越来越不利了。11月7日，日军又有增援部队相继抵沪，攻势更加猛烈，而苏州河南岸的守军也陷入苦战之中。在这一天，蒋介石在其日记中记下了他以存实力，发动游击战，消耗敌人为上策，不计一城一地之得失和一时体面的战略思想。事实上，自8月13日以来，中日双方于上海已激战近三个月，日军仍未能攻下上海。足见我参战军队作战之顽强，实出乎日军意料之外。但至此，从战事发展来看，也无法再守，蒋遂于11月7日，作好撤退的打算。而此时的日军也深感正面作战的困难，便于11月5日，令柳川平助中将率其新组第十军，自杭州湾北岸金山嘴登陆，迂回到上海的右侧背，从后面抄袭上海中国守军。
当日军在该处登陆时，蒋介石部署于此处堵截日军登陆的六十二师、独四十五旅、七十九师却未能按时到达战地，而堵截军力量又太少，致使日军登陆后，直驱松江城，刚从北方调来的吴克仁的六十七军，集结未毕，即被日军击溃。11月9日，松江县城失守，上海再无可守。蒋乃下令中国军队分批撤出上海，一路撤至杭州，一路撤至南京。
11月11日，中国军队撤出上海，日军紧紧追击。19日后，蒋介石命各军迅速撤退，避免与日军决战。至11月26日，蒋介石令军队一部撤退至常州，一部退往皖赣边境。12月1日，长江江防要塞江阴失陷。扬州方面，自日军第十军在杭州湾登陆之后，一部北上松江，一路西攻嘉兴，蒋介石命刘建诸第十集团军与日作战。11月27日，苏州之敌北上常州，攻陷长兴之敌，经宜兴、溧阳向南京、芜湖进犯。不数周，日军从东西两面进逼南京。
中国军队在从淞沪战场撤退的过程中，极为仓促和