产党的监视由暗中转为公开。先是诱使共产党交出名单，接着又以“保证黄埔军校的统一”为名，要共产党退出国民党。此两计行不通，他又提出所谓“调和党争办法”，规定共产党的活动须公开化，国民党党员加入共产党必须经过校党部批准。但此路仍不通，他只得另辟新径。
国民党二大后，蒋的政治态度朝右的方向急转，导致中山舰事件的发生。1925年和1926年初，广东的革命形势如火如荼，各种革命力量得到空前的发展。参加省港大罢工的二十几万工人中，有三千多人的武装纠察队。全省以海陆丰为中心有60多万农会会员，农民自卫军有3万余人，毛泽东主办的第六期农民运动讲习所里聚集了一大批具有政治觉悟、训练有素的进步青年。国民革命军一、二、三、四、六军的政治部主任都由共产党员担任。国民党二大选出的中央执委、监委中，共产党占7人，左派占7人，右派占15人。国民党中常委、各部部长、各部秘书长中均有共产党员任职。
国民党二大给蒋带来的显赫声誉并未使他感到高兴，相反，在左派和共产党人以及苏联顾问对广东局势十分乐观时，蒋却整日闷闷不乐，经常痛斥部下，连1月20日国民党二大闭幕式也借口“心闷足痛”而避不出席。1月26日，“足痛”的蒋突然登上白云山巅，骋怀回眺，亦不能稍解郁闷，感叹如何可才能弛责释负，达隐居之目的。与张静江说到本党现象与个人处境时，不禁感慨系之。显然，蒋苦闷和伤感的原因之一就是他感到革命力量的发展壮大，国民党二大被共产党的空气笼罩以及国民党二大后的党务、政治、军事等陷于被动。蒋思考再三，最后决定“积极进行，冲破难关”，“负起责任”，与共产党、国民党左派“奋斗到底”。