因为长年累月超负荷工作，再加上过度饮酒，梅贻琦倒了下，其实这场疾病前就有预兆。
据秘书秘书赵赓飏回忆，1960年4月6日，梅贻琦就感觉腰部左方酸痛。直到24日，这种疼痛都没有缓解，反而越来越烈。等到5月1日，梅贻琦腰部疼痛不已，只得扶手杖勉强行动，最终病倒在金华街“清华”办事处寓所。
梅贻琦被送进医院后，尽管服药加物理辅助，但是疼痛不减，起坐不易。而此时部务与校务繁忙异常，梅贻琦不忍在医院空耗而耽误公事，就从医院借了一张病床拉至寓所，并请特别护士一人在寓所照料，以卧病之身忙于公文批阅与“清华”原子炉安装，以及研究所学生课业等事宜。直至5月30日，因腰痛、发热与肺炎并发症益见严重，不得不移入台大医院特二号病房接受治疗，自此开始了为期两年与病魔斗争的生活。
几日后，梅贻琦病情加重，已无法办公，但仍每日垂询部务与“清华”原子炉工程进行情况，并表示意见。6月10日，梅贻琦被诊断为前列腺癌，施行颈部淋巴腺摘除手术。但是癌细胞转移，手术后病况急变，很可能危及生命。
消息传出，中外人士震惊之余极表关切，蒋介石、陈诚等分别到医院探视，并下令台大医院想尽一切办法挽救与延长梅贻琦生命。台大医院院长高天成率各科有关医师，召开专门会议研究应对方案，并决定以增加抵抗力和控制肿瘤恶化为主治措施，以尽量维持到病人亲眼看到自己呕心沥血经营的“清华”原子炉完成时刻。
一个月后，梅贻琦病情更趋危急，就在台大医院医护人员全力为梅贻琦救治的同时，美国“驻台”协防司令，特别派美国知名专家前往会诊，并尽力自美军医疗系统供应所需药品。
在台湾层峰和美军驻台协防司令部共同努力下，梅贻琦病况渐有起色，食欲增加，至10月31日首次离床，由轮椅推出病室外散步，病情稳定。
此一现象，一直维持到翌年春夏之交。其间，新竹“清华”原子科学研究所招收的新一届学生，在教务长陈可忠组织带领下，集体乘车至台大医院晋见校长梅贻琦。据前来的新生杨觉民回忆说：“这天校长的脸色有些苍白，但精神很好，坐在**，笑容可掬。领队唱名后，校长与学生一一握手。嗣后对大家作简单的训勉，频频点头说自己非常高兴见到大家，很好、很好。我们大概是他所见到的最后一班清华学生。下一次见老人家的面，已经是临时组了个合唱团在葬礼上献诗了！”
入秋后，梅贻琦病情再度加剧，但他一直牵挂着自己倾尽心血的原子炉事宜，身体稍好的时候就在病榻上批阅公事。12月，原子炉安装完毕，台湾当局布置庆典，因梅贻琦不能下床出行，遂于1962年1月1日，安排梅贻琦在病榻上象征性地按动原子炉启动转运的电钮，标志着最后岁月中的一段“大事因缘”已修成正果。伴随这颗硕果到来的，是一个崭新的、科学现代化的原子时代。
就在梅贻琦病情暂时稳定，生命回光返照的日子，胡适也因突发急病住进了台湾大学附属医院，且就住在梅贻琦的的对门，这一对甘苦与共几十年的老友，想不到竟在这样的场合，以无可奈何的方式聚会，无论是胡适、梅贻琦，还是身边的亲友，皆不胜唏嘘。
经过治疗，胡适身体逐渐康复，之后的日子，他经常来探望躺在病**的梅贻琦，聊一些公私事宜。胡适深知梅贻琦病况和医治情形，预感到老友将不久于人世，在交谈中委婉劝他写一个遗嘱，不论公事、私事，皆立一字据，给自己也给后人一个明晰的交代。梅贻琦听罢并不作答，且有不悦之色，胡适不便继续劝说，此事只能不了了之。
不久后，胡适病愈出院，行前再来探望梅贻琦，说了一些安慰话。他知道梅贻琦已经病入膏肓，将不久于人世，出门时面带悲色，神情凄然。然而，他却没有想到，自己竟然会先躺在病**的梅贻琦而去。
1962年2月24日，“中央研究院”在南港蔡元培馆举行第五次“院士”会议，选举新一届“院士”。胡适在与众人交谈时，忽然面色苍白，仰面向后倒下，后脑先碰到桌沿，再摔倒在磨石子的地上。站在的人连忙伸手来扶，但为时已晚。一代鸿学硕儒、儒林宗师、新文化运动的老祖宗，因心脏病突发溘然长逝。
胡适撒手归天，台岛震动，梅贻琦从广播中听到如此不幸消息，陷入极度悲伤中，经此刺激，病情加重，几度昏迷不醒。
梅贻琦一生清廉俭朴，可谓两袖清风。患病入院后，由“教育部”与“清华大学”暂为垫付住院费，台大医院院长特批，采取记账方式，待出院时一并结算。但梅贻琦身边人员以及同事好友都知道，他所住的特二号病房属于高级护理室，较普通公教人员病床每日需补加数百元差额，伙食费例需自付半数，而营养费需全部自付，尤其输血几十次，涉数百人的营养补品代金，其数额超过个人薪俸数十倍。再加上特别医疗费、护士费等，更是一笔不小的数目。梅贻琦终身从事教育，毫无储蓄，自是无力偿付，但他又不愿申请动用一分公帑为自己补贴。
在这种情形下，台北的清华同学会发起祝贺梅贻琦任校长30周年募资贺仪捐献活动，一并祝梅校长早日康复。
身在台湾和岛外的清华、西南联大校友，以及梅贻琦亲朋好友、故旧门生闻讯，纷纷慷慨解囊，半年内就集资68万新台币。当卧于病榻的梅贻琦，看到凝聚着清华及西南联大同人爱心的征信录后，不由泪流满面。对这一举动和情谊，直至1962年4月29日校庆时，梅贻琦在校庆预做致辞录音中，仍感念不已，为之深情地说：
“近些天，才听到诸位校友有一番盛意，要为着本人在学校，曾任校长三十年而祝贺。只是本人在这三十年里没有什么大的建树，已经感觉很惭愧。诸位这种举动，更使我过意不去。
诸位聚起来的款数，据听说已经不少，现在在医院里边所用的钱，有的欠的款，或者借垫的款都还了之外，还余下的有相当的数目，等我出院后，这笔钱可以拿来作一点于学校于大家都有意义的事情，将来还要同各位委员同仁大家商量。现在，我想向诸位表示感谢。谢谢诸位。”
这段录音于新竹“清华”校庆集会时当众播出，听起来中气尚足。此为梅贻琦对挂怀于心，念念不忘的“清华”师生最后一次公开讲话。众人于悲欣交集中，暗暗为老校长祈祷、祝福。
可惜他们的祈祷并没有被命运女神听见，5月4日，梅贻琦病体由微热到高烧不退，咳嗽转剧，任何抗生素都不能控制。19日早晨陷入昏迷状态，脉搏140，呼吸40，体温升至41℃。如此病况，令国民党层峰为之震动，蒋介石闻讯，立即指示陈诚、蒋经国等组织台大院长、各科主任及医务人员全力抢救。延至上午10时50分，医务人员回天无力，梅贻琦终告不治，溘然长逝，享年73岁。
是日中午，台北各电台首传噩耗，“清华”师生与校友闻讯，数百人于惊骇、悲痛中急趋台大医院奔丧。特二号病房阴沉暗淡，韩咏华举哀室隅，泣不成声。清华校友会会长、台大教授查良钊忙于奔走料理，力竭声嘶。“清华”师生、校友环列榻前，默对遗体，缅想往日耳提面命之恩，益感此时天人遥隔之痛，无不掩面悲泣。
5月20日，台湾最有影响的报纸《联合报》发表梅贻琦去世消息，历数清华故校长梅贻琦经历与对中华教育事业付出的心血与巨大贡献，报道说：梅贻琦身患重病，仍然放心不下“教育部”和“清华大学”的公务，“直到住进台大医院，即使在昏迷中，还是惦记着部务，去年三月交卸‘教育部长’职务以后，仍然牵挂着清华大学的事。老人能够眼看到自己苦心策划的原子炉落成启用，实在有说不出的喜悦与安慰。这也是梅校长对中国科学发展的最后一项巨大贡献，梅校长与清华大学五十年的成就，在科学方面是完全做到了。当年西南联大时代的简陋设备，尚能培植出杨振宁和李政道。以今日新竹原子炉的设备，第一流的原子科学家，自必能不断的产生于台湾。”
事实验证了《联合报》的预言，一批世界第一流的原子科学家从新竹“清华大学”脱颖而出，成为世界原子科学界的翘楚。而于台湾新竹市土生土长、1959年考入新竹“清华”原子科学研究所的研究生李远哲，1979年被选为美国科学院院士，1986年获诺贝尔化学奖。这是20世纪中国继李政道、杨振宁获诺贝尔物理学奖之后，又一位在国内大学毕业，通过数年努力而成功的诺奖得主，而上述三人皆是梅贻琦主持大学校务时期栽培的学生。正是：原子创新纪，水木湛清华；千秋事业在，方兴未艾时。
梅贻琦生前有一个随身携带的手提皮包，入住台大医院时放在床下一个隐秘的地方，包里装的什么珍贵东西没人知道。他去世后，当提包打开时，所有人都目瞪口呆——里边没有片言遗嘱，装的是由梅贻琦亲自管理的清华基金账簿数册，一笔笔清清楚楚地列着。睹物思人，在场者无不为之感动，热泪盈眶。此时他的夫人韩咏华才顿悟，梅贻琦“没有任何财产，所有的话都在病**讲完了，所以也就无须写什么遗嘱了”。
梅贻琦走了，安葬在台北清华大学校园内的山顶上，墓园取名为“梅园”，他的碑文或许就是对他一生最好的注解——
一生尽瘁学术，垂五十年，对于国家服务之久，贡献之多，于此可见。其学养毅力，尤足为后生学习楷模。