一九六八年四月，李宗仁得了肺炎。住院期间，发现大便出血，以为是痔疮破裂，漫不经心。八月初，大便时大量出血，才重新入院检查，检验结果，医生告诉他一个不幸的消息，他得了直肠癌。但因发现得早，可以割治。
后由有关医院的肿瘤医生组成了一个医疗小组，拟制治疗方案，并经周总理核定，切除手术做得很好，九月下旬出院，迁居北总布胡同休养。九月三十日，他出席了人民大会堂的国宴，在宴会厅待了两个小时。回家以后，疲惫不堪，次日又病倒住院。周总理对我说：国庆节发了李宗仁先生两张请柬，一是宴会，一是上天安门。总理是要李先生十月一日到天安门城楼亮相一下，立即回家休息，不必参加国宴，可是周总理的指示没有能够清楚地贯彻下去。
这一次住院，经过详细检查，发现他因为晚年长期患肺气肿，有一支气管的功能完全消失，从而时时刻刻与氧气筒为伍；又因肺气下垂，心脏也呈老年衰竭征象。后又改用中药治疗，但虚不受补，成效甚微。一九六九年一月十七日，他自知不起，要我到医院为他处理后事。一月二十五日，又得了一场肺炎。由于青霉素发生抗药性作用，抢救未能成功。一月三十日上午，他的心脏已非常衰弱，医院用振搏器帮助呼吸，他在病床上挣扎了二十小时，于午夜十二时溘然长逝，享年七十八岁。
李宗仁先生临终前，向毛主席和周总理写了一封信，信中对党和国家在他回到祖国怀抱以后给予他的关怀和照顾，表示感激。
信上说：“我在一九六五年毅然从海外回到祖国所走的这条路是走对了的。”“我们祖国的潜力是举世无匹的，我们祖国的前途是无限光明的。”“在这个伟大的时代，我深深地感到能成为中国人民的一分子是一个无比的光荣。”“在我快要离开人世的最后一刻，我还深以留在台湾和海外的国民党人和一切爱国的知识分子的前途为念。他们目前只有一条路，就是同我一样回到祖国怀抱，……”
周总理在参加告别仪式中说：李宗仁先生的这一封信，是一个“历史文件”。