国民会议召开前夕，二陈根据各党部报上来的选情报告，得出的结论是：如果确要举行总统选举的话，全国各省市党部，除了蒋介石一派控制下的浙江、江苏、安徽一上海外，其他绝大多数选票都是支持胡汉民的。面对这种局势，蒋介石十分焦急，他必须把胡汉民排除在外，单独完成立法程序。蒋介石先是采用吴稚晖的建议，由吴去劝说胡，不要与蒋相争，胡汉民不仅严词拒绝，还痛斥吴是无耻之徒。一计不成，又生一计，蒋介石又采纳戴季陶的计谋，决定关押胡汉民以震慑胡派分子。
2月28日夜，胡汉民参加完立法院会议后，乘车抵黄埔路中央军校蒋氏官邸开会。来到府前，蒋介石的侍卫长王世和带数名侍卫走上前，对胡道：“蒋总司令指示，今晚商谈机密大事，卫士随从均不入内。”
胡虽觉异常，却也只得令左右在门外等候，随后步入房中。进了客厅，见厅内坐着戴季陶、朱培德、吴稚晖、王宠惠、何应钦、叶楚伧、陈果夫、陈立夫、张群等，都是蒋的亲信。这时，国府秘书高凌百走过来，引导胡进入另一房间。
胡汉民走进室内，见室内端坐一人，他定睛一看，端坐之人是南京市警察厅厅长吴思豫。胡不觉一愣，这时，高凌百将一封蒋介石签名加注的信递给了胡汉民，拆开蒋介石的信，胡汉民越看越看，原来，信中历数了胡的十大罪状。总的说来有两类：一是国民革命时期就勾结许崇智，运动粤军，反对国民政府；二是身为立法院院长，领头反对训政时期约法，挑起约法之争。
看罢信，胡汉民又气又急，要求蒋介石前来理论。约半个小时后，邵元冲走进来劝说，胡汉民才弄明白蒋的意思，只是要他辞职。对蒋介石失去信心的胡汉民，马上表示自己不仅可以辞去立法院院长，甚至可以什么都不干。在幕后的蒋介石听胡此说，立即来到前台与胡汉民见面。
这时，胡汉民仍大骂不止，见蒋介石进来，遂怒斥蒋氏的无端指控。蒋介石听毕，一言不发，并拂袖而去。就这样，胡汉民被软禁了，气恼不过，一夜未眠。第二天一大早，胡汉民被押往汤山。于是，胡蒋斗争的第二个回合结束，蒋介石的强权政治战胜了胡汉民的所谓民主政治。1931年3月2日，国民党中央通过蒋介石提出的召开国民会议案，批准胡汉民辞去立法院院长职，由林森继任。
3．再次下野
1931年3月8日，经过司法院院长王宠惠的劝说，由蒋介石本人批准，胡汉民被押解到胡在南京双龙巷的私宅内休养，但胡不许离开一步，不许与外界任何人交往，不许打电话，警察厅奉命派了20名手枪队员看守，宅内仅有胡的女儿胡木兰和一年老女佣随侍。
胡汉民原本有高血压病，蒋介石的这番动作，使他突受惊吓，血压升高，孙科便派了铁道部医官邓真德替胡看病。邓乃广东人，是孙之心腹，同胡汉民交情也很深。由于孙科的周旋，邓得以治病为由，见到了胡。邓对胡讲，孙科要其秘密问下一步如何办，胡要邓转告孙科及王宠惠，务必在两广建立反蒋局面救他，甚至不惜与汪派合作。
邓将胡之语转告于孙科，孙遂暗嘱马超俊、梁寒操、王昆仑、钟天心、陈剑如、麦朝枢、周一志等7人，密议救胡之计。由马超俊出面，代孙写了几封密信，由王昆仑赴上海，钟天心回广州，麦朝枢、周一志去沈阳，游说各方反蒋势力，共同反蒋。并嘱周、麦二人路过天津时，顺便把西山会议派拉回广州。同时也要他们告诉汪精卫等人不要再反胡了，目标要一致。
胡汉民被蒋介石扣押起来后，想与汪精卫联合，为的是用他在国民党中的历史地位和影响，共同打击蒋介石，避免蒋汪联合，增加反蒋的阻力。
孙科的秘密反蒋活动，使蒋寝食不安，遂用手段拉拢孙科，设家宴请孙科吃饭。席间，宋美龄和蒋介石对他都十分热情，孙科并不为其言所动，只是虚情应酬。回宅之后，左思右想，感到自己现在在京，时刻有被蒋关押之险，遂于当夜离京到了上海。到上海后，孙科立即派梁寒操赴香港与汪精卫接洽，联汪反蒋。
汪精卫自中央扩大会议破产后，一直苦于没有出路，孙科的邀请，无疑让他看到了重返政坛的希望。所以，他立即表示将即刻赴广州，参加倒蒋。汪精卫到广州后，对人说：过去我和胡先生的不和，都是上了蒋介石的当。蒋介石之所以能专横跋扈，就是因为我们不能团结。这回反蒋，一定要合作到底。即使万一失败了去跳海，也要大家抱在一起去跳。此次反蒋大联合的“非常会议”，以胡汉民一派为中心。
胡汉民及古应芬、陈济棠等，只联合汪精卫本人，对汪派的其他人，如：原改组派的陈公博、顾孟余等，仍抱着算旧账的态度，极力排拒。而西山会议派的一些人则更为夸张，甚至有当众谩骂汪精卫，故意与之为难。为此，汪精卫声言要离开广州，经孙科、李宗仁、覃振等劝慰，勉强维持下来。
这时候，蒋介石见孙科到上海组织各方力量反对他，心中愈加着慌，忙派了蔡元培、吴稚晖、张静江、李石曾四位元老赴上海游说孙科回宁，但没有成功。