张伯苓先生是南开大学的创办者，对中国近代教育贡献很大，为人忠厚谦虚，颇有人缘。 张伯苓有爱国激情，但却不懂政治，更不知政情，过于相信蒋介石能够救中国于贫穷落后。 在蒋介石山穷水尽之际， 他曾天真地愿意助蒋一臂之力，于1948年7月出任国民党考试院院长。

1948年7月，张伯苓到南京履任后，目睹国民党政府违反历史潮流的倒行逆施,心情很不愉快。 他在南京就任考试院院长不到一个月，就返回天津，发出国民党政府“无官不贪， 无更不污”的愤慨, 之后便以“体弱需静养”为借口，离开了南京考试院， 避居重庆，终日深居简出。

这段时日，张伯苓从报纸上得知天津、北平相继解放，人民解放军横渡长江，迅速攻克南京，并向大西南进军，深悔一时糊涂，上了蒋介石的贼船。正在张伯苓苦闷仿得之际， 他收到南开校友来信，信上有一句话：“老同学飞飞不让老校长动。”张伯苓看到这封信喜形于色。 “飞飞”是周恩来在南开中学学习时的笔名，张伯苓最后终于听从了自己学生的劝告，决心不离开大陆。

解放前夕，蒋介石曾三番两次到张伯的住地，催促他回任考试院院长，要求他尽速离开重庆，去台湾和美国均可。乘飞机如有顾虑，可在机舱设卧铺，夫人和儿媳都可以随行。后来又派张群和蒋经国来劝行，他都婉言谢绝了。

蒋介石允诺， 只要张伯苓肯走，什么条件都可以答应。 张伯苓低头不语，主宾对坐无言，一时出现僵局。还是张夫人打破了沉默，对蒋说： “蒋先生，他老了，又有病，做不了什么事啦。 也该退休了，你让他辞职吧!”蒋答:“老先生要退休，到美国去休养，夫人、儿子和孙子，全家都去，不更好吗?去台湾也可以，无论去哪儿，生活上的一切，都由我给想办法。”张夫人答:“我们的三个儿子都在北方， 我们哪儿也不去，他舍不得儿孙。”蒋介石见事已至此，多说也恐难奏效，又沉默了一会儿，起身告辞。张伯送到门外，又站了好半响，两人仍是相对无言。蒋介石上汽车时，因心烦意乱，一头撞在了车门框上。

1951年2月14日，张伯苓患中风症。2月23日，下午六时逝世。3月4日，举行葬礼，初葬吴家窑永安公墓，后移葬东郊杨家台祖坟。4月8日，由周恩来等人发起，在南开女中礼堂举行追悼会，黄钰生致悼词。