1948年12月15日傍晚，胡适乘坐的飞机抵达了南京明故宫机场。王世杰、朱家骅、蒋经国、傅斯年、杭立武等已在机场迎候。一干人等当晚就住在教育部准备好的位于赤峰路的一座招待所。南京的冬季特别阴冷，所以胡适到时，房间里早已烧好了暖气，情绪低落的胡适，对蒋经国等人说：“我现在住在这里，这座房子，这些煤，都要国家花钱的。像我这样的人，也要国家花钱招待吗？”众人一时也不知说什好。
第二天是北大50周年校庆日，下午胡适应邀前往中央研究院参加在南京的北大同学会举办的校庆会。胡适在会上说：“我绝没有梦想到今天会在这里和诸位见面，我是一个弃职的逃兵，实在没有面子在这里说话。”他痛感自己“不能与多灾多难之学校同度艰危”，唯有“希望北大能够安全渡过这一难关”。说着说着情绪越来越悲怆，泣不成声。与会者也或眼圈发红，或抽噎，会场一片悲惨凄凉。
1948年的最后一天，阳历除夕，胡适约他的学生傅斯年共度岁末。夜阑秉烛，孤灯双影，相对凄然，如噩梦之中。师生两人一边饮酒，一边诉说着自己今后的打算。最后，远望前途，茫如烟云，难以把握；而回到现实，国事又使他们痛心疾首。瞻前顾后，进退两难。于是，两人同吟起陶渊明的《拟古》第九首：
种桑长江边，三年望当采。
枝条始欲茂，忽值山河改。
柯叶自摧折，根株浮沧海。
春蚕既无食，寒衣欲谁待。
本不植高原，今日复何悔！
吟罢，师生两人不胜感伤，禁不住凄然泪下，如包胥之涕，洒于秦庭。他在这一天的日记上特别写下了一句：“在南京作‘逃兵’，作难民，已十七日了！”面对共产党军队势如破竹的强大来势，1949年元月1日，蒋介石虽发出了主张和平的文告，但暗中却积极活动胡适去争取美国人的支持。1月8日胡适趁蒋介石邀他到总统官邸吃晚饭的机会，侧面向蒋劝说与共产党讲和。并说：“我不要你做大使，也不要你负什么使命。例如争取美援，不要你去做。我只要你出去看看。”最后胡适接受了蒋的劝说，表示愿意到美国做民间外交，争取美国人对国民党政府的支持。
1949年1月上旬，胡适寄信到芜湖，要在那里经商的本家好友胡乐丰前往南京。胡适向胡乐丰了解了家乡的情况，并告诉他，蒋介石欲划江而治，而自己要赴美求援，夫人江冬秀可能留在国内，要拜托胡乐丰照料。胡适先让他回绩溪故里安顿一下，再到南京接江冬秀回绩溪上庄暂住。后来，胡适在傅斯年等人的劝说下，放弃了将夫人江冬秀送回绩溪故乡的打算，决计让她和傅斯年的夫人俞大綵先行到台湾，并于1月14日亲自到上海为她们送行。
1949年4月6日，胡适受蒋介石“重托”，毁家纾难，从上海搭威尔逊总统号轮赴美国求援。4月21日船抵旧金山时，新闻记者蜂拥而上，告诉胡适说国共和谈破裂，共军百万雄师已经渡江，要胡适发表对大陆时局看法和自己的态度。胡适因多日没看报纸，信息中断，听到这一消息后为之一震，但马上强作精神。两天后，共产党大军占领南京，国民党政府在南京的统治寿终正寝。胡适所依附的国民党在大陆的政权，如一枕黄粱，转眼成空。
后来，胡适去了纽约定居，他在美国生活了九年。纽约是世界第一大都市，生活费用很高，胡适买不起房子，夫妻两个人挤在小房子里，房子小到连大点的书架都摆放不下。胡适夫妇因为年龄大了，还经常生病，他在美国寻求帮助的工作开展的不顺利，四处碰壁，所以经济状况越来越差。为了生活，他去普林斯顿大学的葛思德东方图书馆做馆长，年薪5200美元。但这份工作后来被他的助理取代了，因为助理的年薪比胡适少很多。胡适也在美国著名的学府做过短期讲学，有些讲演的机会，但这些都不是长期的工作。
胡适闲得无聊的时候，经常去哥大图书馆看中文报纸，所有的侨报他都仔细地看。他甚至专门去结交年青朋友——与留学美国的一班青年人，如唐德刚、周策纵、吴纳孙、周文中、黄伯飞、何灵琰、心笛、蔡宝瑜等一度组织纯友谊的吃喝文艺俱乐部“白马文艺社”，创办《白马文艺》，并热心地为他们这班年青人讲新文学的由来，讲如何作白话诗，甚至亲自撰文为《白马文艺》捧场。
有段时间，哥伦比亚大学请胡适口述他的历史，唐德刚被指派为胡适的助手。胡适每周的上午来二三次，干完工作后，学校招待他午餐。胡适和唐德刚经常去纽约东城吃饭，几个月后，他们两人把把纽约市东城欧洲式的小饭店都吃了一遍，他们边吃饭边喝酒。酒微醉，饭半饱，两人随意谈话，倒也别有情趣。在美国，胡适外出没有车，唐德刚经常开车接胡适。唐德刚说，记得有一次他开车去接胡适，但是在电话里没有说清楚，胡适等错了街口，最后唐德刚总算把胡适找到了……等到胡适看见他汽车的时候，就像三岁孩子一样开心。
而江冬秀则喜欢打麻将消磨时间，在美国因为言语不通，她很少外出，整天在小公寓里做饭打麻将，看点武侠小说。因为房子小，江冬秀打牌的时候，胡适不能安心看书写作，只好陪她打牌。1952年，胡适在台湾大学讲“治学方法”，他说“大胆的假设，小心的求证。”唐德刚说：“胡适之就是这样的一个标准的传统士大夫，他晚年的思想里哪有多少实验主义呢？晚年的胡适只是一种宗教哲学合二为一的最古老的中国传统思想，甚至也可以说是孔孟之精义……所以胡适之并不盲目地说月亮是美国的圆。他是歌颂他所认为应当歌颂的；他不是那种小气鬼，把什么都说成自己的好。胡适也继承传统，但是他只继承他所认为应当继承的。对圣人之糟粕，胡适是没有胃口的。整个的来说，胡适之对西洋文明的吸收和对自己文化传统的继承，只可说是三七开。”
1957年11月，台湾当局任命胡适为中央研究院的院长。1958年4月，胡适离开美国，结束了在美国九年的流亡生活，于4月8日回到台北，就任中央研究院的院长。
胡适晚年经济不宽裕，他从美国回到台湾，经济压力也是一个重要的因素。他曾多次劝告友人“年轻时要注意多留点积蓄”。胡适在台湾住了几次院，为了省钱，他不听医生的劝告，几乎每次都提前出院。
胡适在台湾这段时间，当局和朋友都要借他来点缀“民主自由”，他也希望台湾当局多搞点“民主自由”。回国当年，当局给他拨款，在南港建造了院长的住宅。1959年初，胡适拟定的“国家长期发展科学计划纲领”正式通过，他成为国家长期发展科学委员会的主席。7月，胡适接受夏威夷大学赠送的人文学荣誉博士学位，1961年10月，夫人江冬秀回到台湾，家人团聚。