李宗仁把他送往台湾，并给蒋介石带去了一封谦恭的信。信上说：“我们这里的国民党全体党员都希望您来广州领导我们，我本人也真心希望每天能聆听您的教诲。”但是，蒋介石现在正在考虑其他事情，根本不准备复职。
阎锡山讲了一下大致情况，蒋介石听得也很仔细。在国民党的官员中，阎锡山是对美国在“中央政府”最需他们时采取“不干涉”政策最不满的人。他想让蒋介石废除“宪法”，建立军政府，不理睬美国的建议，也不要顾全他们的反应，按战时编制重新组建现存省份，立即采取措施，在共产党后方建立“反共游击队”。
但是蒋介石没有采纳他的意见，理由是“必须保证民主制度”。
阎锡山带着轻蔑的口吻说：
“美国人觉得他们知道到底怎么办才对中国好，但是他们对中国能了解多少呢？他们只是通过那些密使们的眼睛来看中国的，是通过一些讲英语的中国知识分子及买办分子来了解中国的。
“他们不考虑中国的具体情况就想把他们的民主介绍到中国来。
“我们吃大米，他们吃面包，难道我们也得吃面包，才能成为民主国家吗？我们不认为我们知道什么对美国好，这么做是对的。
“借钱给朋友时，不应有附加条件。如果借钱给朋友的条件是朋友必须按你的规定来花费，那么这未免太荒唐了。
“美国人给我们带来的危害够多了。罗斯福总统在雅尔塔会议上把我们卖给了俄国人。马歇尔调停无效，给共产党足够的时间部署军队，准备全面反攻。现在他们又靠传教士大使司徒雷登想把共产党改变成害怕上帝的基督教徒。如果我是你蒋先生，我要彻底忘记美国。如果连国家都没有了，那民主又值几个钱呢？”
对这些措辞激烈的言语，蒋介石置若罔闻。于是，阎锡山于6月2日飞回广州，接替何应钦做了行政院院长。
阎锡山虽然年纪大了，且患有糖尿病，非常易怒，但他名气较大。
任命他为行政院院长，又使国民党的一些人产生了希望。
5月底，一个少见的“胜利”使国民党士气暂时振作了一下，在西安被红色军队占领后，马步芳及其儿子出人意料地打了一次胜仗。
蒋介石在台湾宣布提升马步芳为西北军总司令，答应给他空投武器弹药。但是，国民党的胜利寿命太短了，武器弹药还没运到，彭德怀就来到了。8月26日，彭德怀打败了马步芳。
蒋介石现在考虑的还有另外两件事：发动一个新的外交攻势，迫使美国重新全力支持国民党统治中国；认真研究在国民党统治区更广泛地实行最后防御的可能性。
外交上，蒋介石于7月10飞往菲律宾的碧瑶会见季里诺总统，并随身带了一份东亚所有独立国家联合反共的计划。季里诺同意这份计划，并于第二天签订了联合公报来实施这份计划。
8月7日，蒋介石又飞到了南朝鲜的镇海，在那儿他会见了李承晚总统。在联合写给季里诺总统的信中，这两位政治家要求菲律宾总统在碧瑶召开会议，邀请所有对此感兴趣的国家参加这个联盟。
但是，这次却是白费力。本月稍晚些时候，季里诺前往华盛顿，美国国务卿艾奇逊极力反对蒋介石的建议，结果会议的邀请未发出。
蒋介石在与季里诺及李承晚会谈之间，在广州作了短暂的停留。他从1936年离开广州后就一直没去过那里。
在广州，他发表了一个鼓动士气的演讲。他在7月16日致国民党中央执行委员会的讲话中说，如今在国民党撤退失败的情况下，他又回到广州，深感惭愧，他承认对失败负大部分责任。他说在政府的眼皮底下，竟然有赌博贩毒的现象，对此他感到很吃惊。但是，他认为必须保住广州，因为这是最后的港口，是运用海、空军的最后地方。
蒋介石还说，他准备与广州共存亡。说得真好听，但他21日就离开了广州，他在广州发表演讲标志着他在国民党政界中又恢复了领导地位，因为那天国民党建立了中央非常委员会，蒋介石任主席。
广州会议上，李宗仁与蒋介石在有关国民党困难时期应采取的战略方针上发生冲突。李宗仁支持白崇禧的计划——控制中原地区，包括湖北、湖南、安徽、江西，把广东、广西作为后方。李宗仁因此要求国民党空军从台湾飞回来。
然而，蒋介石已下定了决心，即使一切都失败了，也要确保台湾坚不可摧。他拒绝下令调动空军，李宗仁只好作罢。
起初，尽管国民党军队在徐州溃败，但白崇禧的计划看来仍像他所希望的那样取得了效果。林彪8月初发动进攻，目的是沿京广铁路向南推进。白崇禧按原计划调回部队，准备在长沙建立一个据点。
因此，当后方那帮喜怒无常的匪徒和共产党交战时，白崇禧更有信心了。这些匪徒从1930年就开始反共。1940年及1945年分别同日本人和中国共产党作战。他们像爱尔兰人一样，传统上是“反政府”的，谁掌权他们就反对谁。与此同时，洪水也阻碍了林彪的进程。
国民党将领的倒戈破坏了白崇禧的计划。长江的国民党守备司令程潜将军响应共产党提出的“和平解放”的建议，转向了共产党。他的继位人陈明仁将军也立刻仿效他，带去了3万人。
这两位将军认为，他们在共产党胜利后会被允许仍拥有自己的地盘，结果他们后来被安排到人民代表大会工作。
现在白崇禧别无选择，只有放弃长沙了。8月4日，他开始撤出长沙。然而，两个惊人但却短命的胜利却呈现在他眼前。
共产党的刘伯承将军现在在江西南部的赣州，林彪也打到了湖南衡阳。白崇禧在与林彪的29军的一次战斗中打了胜仗，使之退到了长沙以北。蒋介石认为这是场声东击西的战役。然而，广东省主席余汉谋却大为恼怒，他具有地方统治的思想，决心不放弃他的5万正规军，不让白崇禧进入广东省。陈诚从台湾带领部队在厦门登陆，目的是为了防止刘伯承增援林彪。此时也被迫撤回海上。
蒋介石现在虽然在军事上仍有权力，但是却没有权力直接控制政府。
7月份，李代总统和他的部长们废除了已失去价值的金元券，使用一种以银圆为后盾的新纸币。现在到了职员和士兵要求得到比不值一文的钞票更有价值的硬币的时候了。三个半月来，政府搜遍了中央银行在台湾的存款，支付了价值12亿多美元的金币、银币及外汇。
10月15日，广州被攻破，蒋介石中断了这笔“生存资金”的提供。
11月，李宗仁飞往重庆，而阎锡山则逃到了台湾。几天后，厦门也失守了，共产党完全控制了中国的海岸线。