民国四年，松井调任驻上海武官。民国十一年，调任哈尔滨特务机关长，成为军界的一名“中国通”，四处收买汉奸，布置间谍网，收买马贼汉奸，勾结前清遗老，挑起中国内部不和，因此受到上司嘉奖，晋升陆军少将。民国十四年，调任参谋本部第二部(情报)部长，资助中国工人省港大罢工，打击英国在华势力。

民国十六年，时任北伐军总司令的蒋介石突然宣布下野，赴日寻求支持，通过松井石根的引见，见到首相田中义一，争取了日本在经济与军事上的支持。

民国二十二年，松井调任驻台湾日军司令官，同年晋升陆军大将。两年后，再度调任军事参议官。此时，陆军内部皇道派与统制派的矛盾尖锐起来。民国二十四年，松井涉嫌日本军务局长永田铁山被刺事件，被迫于引咎辞职，退出军界。

松井石根离开军界便将视线转入政界。日本扶持溥仪建立了满洲国，如何让国际乃至民国政府认可这一“既成事实”，成了日本最头疼的问题。松井石根企图以蒋介石及民国相关势力的特殊关系，寻处民国政府对伪满洲国的实际认可。民国二十五年二月，他以私人身份来华游说，会见了和蒋介石矛盾颇深的国民党右派胡汉民和桂系头面人物李宗仁、白崇禧以及陈济棠等人，没有取得任何成果。之后，拜访蒋介石，再次提出承认“满洲国”的问题，被断然拒绝。至此，松井的中国之行在政治上宣告失败，但这并没有阻止他征服中国的野心。松井也因此对他的老朋友蒋介石异常失望，心生恨意。

回国后，松井多次发表讲话，要求给中国政府一个教训，必须举起铁锤，给南京政府一击，让他们猛醒，让他们反省。无论是在公开的演讲还是个人写日记，不止一次的表现出对攻下南京的渴望和狂热，表现出对他的老朋友蒋介石的痛恨，希望给这个老朋友以毁灭性地打击。卢沟桥事变后，松井石根对东亚联盟演讲：“迅速拿下南京……这将说服中国公众摒弃蒋介石，把他们的命运托付给日本领导人。”

民国二十六年八月，退役后的松井石根正带着妻子在富士山一带旅游。日本大本营决定以第3、11两个师团组成上海派遣军，以支援驻上海的海军陆战队。因松井是公认的“中国通”和攻坚战专家，被日本军部重新征召入伍，担任上海派遣军司令。

八月十二日，日本参谋本部下达了增援上海的陆军动员令：至八月十八日，第3师团的半数和第11师团均已紧急动员完毕，决定分两批由海军舰艇向上海输送；第3师团一半兵力于八月十八日、十九日由热田港出发；第11师团于八月二十日、二十一日由多渡津出发，至前进基地马鞍群岛集结；第3师团的另一半兵力于八月二十八日、二十九日由宇品出发，直驶上海。

八月十五日，松井石根接受上海派遣军司令官的任命后，对近卫首相说：“别无他图，只有拿下南京，打垮蒋介石政权。这就是我必须完成的使命。”同时，他还表示对日军参谋本部的命令对上海派遣军限定“扫荡上海附近敌军，占领西方要地，保护居住在上海的居留民”的作战任务，表示十分痛心和遗憾。两天后，松井石根又被日本裕仁天皇召见。在召见中，松井向日本天皇再次陈述了他率军到上海后的军事计划和战略目标：“别无他图，只有拿下南京，打垮蒋介石政权，这就是我必须完成的使命。”