由于大片国土沦丧，国内抗日声浪高起，反对国民党不抵抗政策的声音越来越强烈，一时间蒋介石成了众矢之的。

民国二十一年，日本人入侵东北攫取了巨大得利，为了转移占领东北的国际视线，在上海又挑起“一二八事变”，点燃了上海战火。在这一事变中，驻上海国民党第十九路军奋起抵抗，然而，蒋介石和国民政府却制定了“一面抵抗，一面交涉”的“两面”应对策略。在这一场战争中，以国军第十九路军3.3万人为主体的五万国军，在人数和装备均处于劣势的前提下，抵抗日军9万之众的侵略，时间长达三十三天之久，最终以日军伤亡1万余人，我方伤亡1.4万人结束。由于上海的战事直接影响到世界列强在沪、在华利益，在英、美等列强的干预下，这年五月五日，中日双方签订了《淞沪停战协定》，划上海为非武装区，这个协定承认了日军可以长期驻在上海吴淞、闸北、江湾及引翔港等地，而国民政府军队却不能在上海及其周围驻扎设防；同时，将扬子江沿岸福山到太仓、安亭及白鹤江起直到苏州河北的广大地区，划给英、美等列强共管。

这样一来，短期内日本继“九一八”事变占领东北后，再一次没有经过正式宣战，通过军事行动对国民政府不断施压，又一次攫取了上海的利益，实际了对上海领土的实际占领。日本这种海盗与赌徒心态，接连得逞，更加助长了日本侵略者的侵略野心与狂妄心态。

《淞沪停战协定》的签订，激起了全国各界爱国人士的强烈抗议，国民政府外交部次长郭泰祺被愤怒的抗议群众打伤。中国共产党领导的工农民主政府于五月九日发出《反对国民党淞沪协定通电》，号召民众起来进行自己的战争，保卫中国主权与领地完整。而对于日本来说，这次淞沪战争成功转移了国际视线，试探了列强对其侵略行径的反应，扩大了日本在沪利益。当然，对日本来说，在这一时期，他们的利益重心仍然在东北，因为东北成为了日本战略缓冲区、战争物资基地以及经济发展的核心动力。

民国二十二年二月，日军又乘民国内战之机，调动重兵从东北西行南下，占领热河全省，冀东二十二县，直接进犯长城沿线，进逼平津。当年六月，逼迫南京国民政府签订了《塘沽协定》。至此，直接导致长城抗战失败，民国又失去了热河全省和冀东二十二县的领土，中国北方门户完全洞开。在此期间，日本宣布退出国联，在英法等国姑息与纵容下，日本依托在东北攫取的巨大战略资源，疯狂扩军备战。

继《塘沽协定》之后，日本方面准确把握了国民党当局的对日政策，制造了“天津《国权报》社长胡恩溥、《振报》社长兼伪‘满州国中央通讯社’记者白逾桓在日租界被刺杀”事件，日本关东军借机越过长城，指责中方破坏《塘沽协定》，以此逼迫国民政府，民国二十四年七月六日，中日双方秘密签订《何梅协定》。根据协定，取消了国民党在河北及平津的党部；撤退驻河北的东北军、中央军和宪兵第三团；撤换国民党河北省主席及平津两市市长；取缔河北省反日团体和反日活动等等。这个协定实际上放弃了华北主权，这为日后日本发动全面侵华埋下了重大隐患。

这个秘密协定后被公开，国民党当局接二连三地与日本签订丧权辱国的协定，激起了全国各界极大的义愤。此后，日本在华政治和军事活动从未间断，民国二十四年底，日本还策划了“内蒙独立运动”，支持汉奸殷汝耕在通县成立“冀东防共自治政府”，自任政务长官，宣布冀东二十二县“独立”、“自治”，成为继满洲国之后第二个汉奸傀儡政权。