蒋介石在暗中联络日本的同时，通过多条渠道与美国接洽。1月26日，事先征得蒋介石同意的王正廷与美国驻沪总领事高思举行了秘密会谈，双方皆愿今后经常保持联系，互通情况。通过这次密谈，王正廷把革命营垒内部的矛盾状况和蒋介石集团的反共计划向美国亮了底牌。美国政府极为欣喜，虽然明知国民政府不准蒋介石同外国交涉，仍下令将上海租界中立照会正本分交蒋介石、张作霖二人，以示赏识和器重，只将抄本送陈友仁。
蒋介石在联络帝国主义初获成功之后，于3月7日在南昌总部发表演讲，他不仅将抨击矛头直指鲍罗廷，而且还为自己私下联络日美的行动进行辩解。
在蒋介石同美、英、日国家暗地勾结的过程中发生了“南京事件”，极大地影响了双方合作协商的进行，但蒋介石的对此事情的解决，却又促成了他与美、日、英等国的进一步亲近。1927年3月24日下午3时，英美帝国主义借口保护侨民安全，下令停泊在下关江面的军舰向城内大举炮轰，死伤千余人，制造了南京惨案。
惨案发生时，各帝国主义集结在上海的军队，连同所谓“万国商团”和巡捕等已达2．3万多人，集结在上海南京一带江面的各帝国主义军舰共达90多艘，准备大动干戈。
蒋介石于3月25日自芜湖乘舰抵达南京江岸，闻得此讯后，于下午4时在舰上召见江右军总指挥程潜面授机宜后，即驶向上海。下午2时左右，蒋之心腹杨虎代表蒋对日本官员说：
此次事件实为遗憾。这决非党军领导人之意，而是军队内部不良分子和南京共产党支部成员共同策划蓄意制造的。无论如何请你们宽恕。对党（共产党）支部，已经下令解散。善后措施愿以诚意交涉。请日本方面无论如何以宽大态度处理这一事件。
蒋介石到达上海后，于3月28日派黄郛秘告日本驻沪总领事矢田七太郎：南京事件是共产党为了打倒蒋介石一派而制造的苦肉计。
同日，蒋介石派员往英美法日意驻沪总领事馆，就南京事件表示“遗憾”。同时，蒋对外籍新闻记者发表谈话，谈到对于南京事件，已经派员调查，任何官兵凡经证实犯有暴行者，当于严惩。
同日，英美日驻华公使协议向本国政府建议，向蒋介石提出要求迅速解决“宁案”的通牒草案。他们企图利用所谓“共产党人策划蓄意制造南京事件”之说，对蒋介石施加压力，逼迫其接受“惩凶”、“制止骚乱”等条件，加速反共。
事实上，此时此刻，摆在蒋介石面前的路很窄，要么与这些外国人成敌，要么为友。而无论是英国、美国和日本也都迅速将蒋介石的策略诉诸于两个简单的选择，要么将其拿下，要么蒋必须将功补过。
3月30日，日本使者矢田奉东京训令会晤蒋介石，指出：南京事件以来，外国人的神经越来越过敏，英美法都在谋划对中国增兵。当前确是重要时刻，弥漫着某些小小事端惹起大事件的危险。因此，你对维持上海治安必须予以特别深切的考虑。蒋介石当然领会日方暗示他反共，当即回答：“我充分谅察尊意，定当严加取缔。”
币原喜重郎闻知蒋做出肯定反应，决定敦促蒋尽快采取行动镇压共产党人。4月1日，他向矢田发出新训令，要他全文转知蒋介石。当晚，矢田邀黄郛到寓所，举行秘密谈判，矢田转述了外相训令的内容。蒋介石于4月2日召开了“中国国民党中央监察委员会议”，会议决定检举各地共产党“危险分子”，就近由军警加以“看管监视”。
当晚，蒋介石派黄郛亲自到矢田处，转告他对日本政府的答复：“蒋介石充分谅解日本政府的苦衷和善意，并衷心感谢。”并对“整顿国民政府内部已下决心”，现正召集将领仔细研讨中。一旦准备就绪，将立即断然采取行动，“其时间在四、五天之内”。
受日本政府的态度影响，特别在日本外相币原喜重郎的斡旋下，美国也不再坚持要求对蒋实行制裁。4月9日，日美英法意五国公使达成协议：抗议照会不加时限，不提制裁，锋芒指向对“南京暴行”应负责任的“中外势力”。所谓“中外势力”显然是指中共和苏联。蒋介石的一番苦心讨好终于赢得了外国主子的一致欢心。
南京事件加速了蒋介石集团与帝国主义合流，蒋介石反共的政治态度及其在外交政策上的重大转变无疑影响了帝国主义的对华政策，而帝国主义对华的软硬两手政策则推动并加速了蒋介石集团走上反共“清党”的道路。
收买和利用青洪帮是蒋介石“清党”反共的一项重要准备活动。上海帮会组织主要是由青帮和洪帮组成的，20世纪20年代，上海帮会已形成拥有万千徒众，几乎无处不在、无所不能的封建流氓团体。他们分段为霸，划地为王，其中，黄金荣、杜月笙、张啸林的势力最雄厚，成为上海帮会势力的代表。
蒋介石与上海青帮是有着历史的渊源的。早在1908年，蒋经陈其美介绍与帮会取得了联系。辛亥革命期间，蒋奉陈其美之命组织“先锋敢死队”参加光复杭州之役，这支武装就是以帮会人物为骨