就在傅斯年下定决心奔赴台湾的时候，忽然又听到一个噩耗，蒋介石给胡适安了一个“总统资政”的头衔，要求他前往美国，为政府做些面子工程。
胡适在经过一番心灵煎熬后，决定服从这一委派，这就意味着他和傅斯年从此就要分道扬镳，天涯海角再难相见，这对傅斯年而言无疑又是一个极其重大的打击。
傅斯年感觉自己失去了一根庞大的精神支柱，心情更加凄凉与慌乱，不知该何去何从。当接到陈诚从台湾发来的电报后，他将自己关在房间里三天三夜，不住地绕室踱步，对脚下的故土越发生出一股难舍难离之情。他反复吟咏、书写着宋代著名忠烈辛弃疾的《别茂嘉十二弟》，以此来抒发自己的忧郁和伤痛：
将军百战身名裂，向河梁，回头万里，故人长绝。易水萧萧西风冷，满座衣冠似雪。正壮士，悲歌未彻。啼鸟还知如许恨，料不啼，清泪长啼血。谁共我，醉明月？
正值壮年的傅斯年非常清楚，在阵阵悲歌声中，已经没有多少人能与他共醉明月了。
1949年1月9日，被共产党部队围困在徐蚌战场长达66个日夜的国民党军队，激战后全面溃败。
当国民党战败的消息传来时，傅斯年去意已决，决定搭乘军用飞机奔赴台湾。
这天凌晨，在惨淡的星光照耀下，傅斯年带着夫人走出了史语所大院中的家门，胡适与傅氏夫妇在前，秘书那廉君殿后，一行人在漆黑寒冷的夜色中悄无声息地走着，没有人说话。因为千言万语已经说尽，最后要道的“珍重”又迟迟不能开口。
当那扇宽大厚重的朱红色大门缓缓推开时，阴沉的夜色中，守门的老工友接过傅斯年手中的行李，呜咽着道：“傅先生，今日一别，还能相见吗？”
傅斯年听罢，滚烫的热泪“唰”地涌出眼眶，顺着冰凉的面颊淌过嘴角，又点点滴滴地随着夜风四散飘零。
“好兄弟，等着我，我会回来的。”傅斯年握住老工友的手做了最后的道别，然后登车仓皇离去。没想到此次一别，竟是“回头万里，故人长绝”了。
1月31日，解放军占领北平城，中共宣布北平和平解放。
随着淮海、平津战役的终结，国民党政府再无心力“抢救”学人，这个“抢救大陆学人的计划”最终未能像抢运大批的金银国宝一样顺利完成。
据后来统计，除胡适、梅贻琦等几十位教授之外，中央研究院81位院士有60余位留在了大陆，各研究所除了由傅斯年领导的史语所算是较完整迁台外，其他的几个如数学所等只有一小部分人员与仪器迁往台湾。而被“抢救”出的学人中，也有一部分人最终去了香港和美国而不是台湾。
继蒋介石暂时隐退之后出任国民政府代总统的李宗仁，马上派代表赴北平与中共进行谈判，展开了旨在保住江南半壁江山的和平攻势。为加强社会各界的力量和谈判砝码，李宗仁专门向已赴台湾的傅斯年发电，希望傅斯年能出来助自己一臂之力，尽快达到“和平目的”。但此时的傅斯年对国共和谈不抱任何希望，当场给予谢绝。
傅斯年与中共决绝的强硬态度，并不是一时兴起的妄言，而是与他一贯的政治主张相吻合。他认为国民党之所以如同儿戏一般，失去了半壁江山，就是因为不认真备战，不能言和而妄谈言和，直至导致了不可收拾的残局。他在为国民党的败局潸然泪下之后，于痛定思痛中决定把全部精力投入到台湾大学的建设上，借以在精神上得到一点儿寄托和安慰。
1949年1月20日，傅斯年正式就任台湾大学校长。有人仰慕他的声名，请他写几个字留念。一向以齐鲁大汉自居、自豪和自傲的傅斯年，挥毫写下了“归骨于田横之岛”的短幅相赠。众人见之，顿生凄怆之感，更想不到这句话一年之后会成为现实。
台湾大学的前身为“台北帝国大学”，是日本在中日甲午海战之后，强占台湾之后，在1928年创建的一所综合性大学。
1945年抗日战争结束，台湾回归中国，当时国民政府派中央研究院植物研究所所长罗宗洛赴台担任校长，并改名为国立台湾大学。此时的台大经济拮据，举步维艰，刚上任的罗宗洛自知能力有限，很快挂冠回沪，专任他的植物所所长去了。此后国民政府又相继委派中央大学教授陆志鸿和北平研究院研究员庄长恭出任台大校长职，但他们都因地方长官的冷漠和校内的种种困难而辞职。
当傅斯年执掌台大时，他已是抗战胜利之后的第四任校长了。这个时候正是国民党大撤退，台湾地区大动**、大混乱、大失控时期。学校内部房舍狭小，经费奇缺，校务混乱，学潮迭起。再加上几百万从大陆撤退的国民党军队、政府人员及家眷蜂拥而至，要求入学就读者骤然增加。原在“台北帝大”时代只容几百人的校舍，根本无法容纳狂潮一样汹涌而来的学生，一旦权要显贵人物的子女、亲属有入学者稍不如愿，这些高官大员便凭借手中权力横生枝节，给学校制造麻烦甚至灾难。傅斯年接手后要面对的就是这种令人激愤和无奈的情形。
在“台北帝大”时代，学生大都是富家子弟，全部走读，学校不设宿舍。傅斯年执掌台大后，本着“决不让任何学生因经济拮据而丧失学业”的办学宗旨，不论学生出身贫富，一律按招考标准予以录取，这个变动使得学校里面出身贫穷且远离家乡的学生不断增多，台大的师资力量却显得异常奇缺。尽管在撤离大陆时，朱家骅、傅斯年已对这一问题有前瞻性的考虑和准备，无奈被“抢救”到台湾的学人实在太少，著名教授只有沈刚伯、钱思亮、毛子水、马廷英、王国华、夏德义等三十几人，显然无法填补大多数学科一流座椅的空白。
所幸的是“中央研究院”史语所、数学所等一批精英迁往台湾，才算把台大各院系勉强充实起来。史语所抵台的李济、董作宾、石璋如、屈万里等著名学者，皆应聘到台大兼课。因为这些条件，台大的师资力量才有所改观。
当然，此时的傅斯年一直没有忘记继续拉拢大陆学人赴台。据留在北大的邓广铭回忆说：傅斯年做了台湾大学校长，“此后便经常以朱家骅的名义给北大郑天挺先生打电报，号召北大教授到台湾大学去任教，有时也指名道姓，说要某某人去。记得点过张政烺先生的名，也点过我的名。当时郑先生问我去不去，我说，要论和傅先生的师生关系，我应该响应他的号召，到台湾去。不过，傅先生与蒋介石关系密切，我却与蒋介石没有什么关系，不愿跟他到那孤岛上去。我还和别人开玩笑说，如今国民党的军队是不战、不和、不守，我的态度是不死、不降、不走。我没有做过蒋介石的官，和国民党没任何关系，用不着为他们尽节殉死。”
邓广铭所说的是1949年初期的事，直到这年年末，甚至1950年的年初，傅斯年也一直未放松努力。像北京方面的郑天挺、罗常培、向达、钱三强、周一良、沈从文等，特别是转往岭南大学的陈寅恪，多次受到傅斯年的邀请，只是受邀者出于多方面的考虑未做响应，仍留在大陆“静观待变”。
这特定的历史阶段，还有一些不为人知的明争暗斗和黑幕，据说当时傅斯年很想邀请大陆的美学名家朱光潜到台大任教，但他手下的文学院院长沈刚伯生怕朱光潜到台后，对自己的地位形成威胁，就暗中作梗，把邀请信息暗中压下，秘而不宣。按朱光潜后来的说法自己没有去台之意，但就当时的情形，纵然想抽身起程也已经无能为力了。
坐在台大校长位子上的傅斯年，再度“聊发少年狂”，施展出当年敢打敢冲、“凡事先骑上虎背”的本领，对台大实实在在地来了一番大刀阔斧的改造。不论后台有多硬，凡不合学术水准、滥竽充数的教授，全部驱逐出校门；校内职员，特别是原“帝大”时遗留的医务人员，凡无医疗常识，不知救死扶伤为何事，只想者自己的薪水待遇的人，一律解聘。仅仅几个月的时间，傅斯年就抡圆了手中的权力之刀，如同切西瓜一样将70余名不合格的教授与职工切掉并赶出校园。
自此，台大面貌为之一新，形成了一个蓬勃向上的局面。许多年之后，无论是傅斯年的追捧者还是被赶走的对立者，在回忆这段不堪回首的往事之际，都不得不承认，假如没有傅斯年，台湾大学在那样动**的时局中，想要在短时间中迅速崛起，奠定一个现代大学的基础是不可能的。