孙科没赴宁见蒋，而在上海团结了各方反蒋势力，从此身价大增。
在广东各派的反蒋势力中，古应芬最积极。古应芬与陈济棠商定后，即拿着陈提供的巨款赶到香港与汪精卫、唐生智、唐绍仪、李烈钧等人联系。陈济棠则与李宗仁、白崇禧取得联系，争取他们共同反蒋。
4月30日，国民党中央四监委古应芬、邓泽如、林森、萧佛成（时林、萧尚在国外），以通电方式发表《强劾蒋中正提案》，历数了蒋氏的罪状。
5月1日，汗精卫亦发表“东”电，主张召集临时全国会议，以解决一切问题。
5月3日，陈济棠、李宗仁、白崇禧及张发奎、唐生智等联名发表通电，拥护四监委的弹劾案，要求立即释放胡汉民和蒋介石下野。
5月8日，广东的陆海空军将领黄任寰、张瑞贵、陈策、陈庆云、黄光锐等也发表了反蒋的通电。
两广既然联合反蒋，马上抛弃宿怨，陈济棠兵马遂从广西桂平、梧州一带退回粤境，桂系四十三师黄鹤龄东下浔、梧接防。白崇禧、张发奎、叶琪、李品仙偕冯祝万东下广州，同陈济棠等商谈建立新的中央及两广军事统一事宜。数天后，李宗仁也抵粤，接着，唐绍仪也到了广东。
孙科见反蒋势头已起，便偕陈友仁、许崇智由沪赴香港，并叫亲信张惠长带走南京航空处的飞机多架，飞往广州。
孙科等人到达香港后，立即到汪精卫的住所与汪举行会谈。三人进汪宅后，见白崇禧、张发奎等亦在室内。孙科见了，十分高兴，遂向汪、白、张转达了胡汉民反蒋之意。当天，6人便乘快车赴广州。
就在反蒋各方势力云集广东时，5月1日至2日，蒋介石在南京主持召开了三届中央全会第一次临时会议，中央执监委员43人出席，会议专门研究国民会议、制订约法事项。会议修正通过了《中华民国训政时期约法草案》、《全国一致消弭共祸案》等提案，以提交国民会议通过。5月5日，蒋介石又主持召开了国民会议，参加会议人员虽不足法定人数，法律程序虽不完备，而蒋介石执意如期召开。会议开了12天，通过了5项议案，中心议案为《中华民国训政时期约法》。在5月12日上午会议通过“约法”时，吴稚晖念了三遍。最后宣布通过，并把6月1日定为法约公布日。
1931年5月24日，孙科、陈友仁、许崇智、汪精卫、白崇禧、张发奎一行6人于下午4时抵广州后。当天下午在陈济棠家中，决定另立中央，成立政府，名正言顺地同南京方面对抗。
由孙科联合起来的反蒋势力经过协商之后，决定效法孙中山当年在广州召开非常国会护法的先例，发起国民党中央执监委员非常会议，由非常会议产生的广州国民政府，与南京国民会议产生的国民政府相对抗。5月27日，中国国民党中央执监委员非常会议正式召开。会议否定南京的国民党中央党部的合法性，决定以非常会议出面发起召集第四次代表大会。会议决定，凡是国民党第一、二、三各届委员，只要愿意反蒋，一律为非常会议的当然委员。会议推举邓泽如、邹鲁、汪精卫、孙科、李文范为非常会议常务委员。28日，由唐绍仪领衔，发表了一份国民政府成立宣言，宣告国民政府成立，声言：因为蒋介石犯有非法扣押胡汉民，违法召开国民会议，任用陈果夫、陈立夫等小人把持党政等罪行，限定蒋介石在48小时之内下野。
这次会议推选唐绍仪、汪精卫、萧佛成、林森、古应芬、孙科、李宗仁、蒋尊簋、陈济棠、邹鲁、许崇智、邓泽如、唐生智、李烈钧、陈友仁等15人为国民政府委员。国民政府不设主席，由唐绍仪、汪精卫、古应芬、孙科、许崇智为国民政府常务委员，轮流担任主席。5月30日，广州国民政府委员联名通电就职，进一步申明其坚决反蒋的政治主张。
广州非常会议与广州国民政府成立后，中国出现了宁粤两个国民党中央与宁粤两个国民政府分庭抗礼的局面。广东方面以护党救国，实现民主政治及打倒独裁专制为号召，采用政治与军事交替运用的办法向宁方发动了强大攻势，双方陷入僵局。但正在此时，1931年9月18日，日本发动了侵华的九一八事变，各派又形成了共同抗日共赴国难的局面。
南京和广东方面在谋求妥协，与此同时，汪精卫与胡汉民的裂痕在增大，而与蒋介石的距离日渐缩小。上海和会举行前，南京和广州方面通过交涉，蒋介石已被迫同意下野，胡汉民业已被释放回到上海，古应芬、陈济棠目的已达，对和谈不再感兴趣，汪精卫正好相反，非常热心，孙科态度亦积极。非常会议推举汪精卫、孙科、邹鲁、伍朝枢、李文范、陈友仁为代表。当他们动身去上海开和平会议时，古应芬摆出一副送客出门的姿态，汪精卫则流露出此去不复返的神情，顾孟余已先于汪精卫去上海与宋子文取得联系。总之，各种迹象预示汪精卫与粤方要分手了。
10月14日，胡汉民被释放后，由南京前往上海。10月20日，汪精卫率100余名粤方代表到上海。22日，蒋介石到上海，然后汪、胡、