1948年秋，上官云相想要辞去华北“剿匪”总司令部副司令的职务。时任天津市教育局局长的郝任夫等人劝说其留下，上官云相颇有深意的解释说：“华北不消数月，就会失守，我已经是社会上的罪人了，不愿意在做罪上加罪的罪人了。” 上官云相从山东商河一个普通农家走出来，家境本来就不宽裕，父亲靠务农加点手艺勉强撑着，还是咬牙供他念书。他小时候用功，成绩总在前头，后来一步步考进保定军官学校第六期步兵科，毕业后投到孙传芳部队，从底层干起，靠着打仗还算有几分本事，几年就升到旅长、师长。孙传芳败了，他的部队被蒋介石收编，他又指挥残部打了几仗，成绩不算差，可很快就被调开实权，只剩个空头衔。 抗战打响后，他又被拉出来，担任第三十二集团军总司令，移防安徽南部。1941年初，他直接负责指挥那场对新四军的围攻行动，调了几个师过去，执行得很彻底，导致新四军损失惨重。这事让他在国民党那边得了嘉奖，升了第三战区副司令长官，可兵权其实越来越少。胜利后，他调到第十一战区副司令长官，参与受降，1947年又去保定绥靖公署副主任，1948年初才挂上华北“剿匪”总司令部副总司令的名头。这职位其实就是安置老资格杂牌将领的，实际指挥不了多少部队。 解放战争打到1948年秋，国民党在华北战场上已经连连吃败仗，锦州战役刚结束，淮海战役眼看就要开打，平津一带形势摇摇欲坠。上官云相坐在天津的官邸里，看着送来的军报，心里大概门儿清。他出身杂牌，早年又干过那些事，知道自己背的包袱重，国民党这盘棋眼看着要翻。这时，天津教育局局长郝任夫带着几个山东老乡和熟人找上门来，劝他别急着辞职，说华北还需要他这样资历老的将领稳住局面，走了会乱了军心。 郝任夫表面上是国民党那边的人，其实背景复杂，两人都是山东人，又有点教育界交情，劝起来自然带几分乡里情面。可上官云相听完这些话，没多大动摇。他直截了当说了那句：华北撑不了几个月了，自己早因为过去那些事成了众人眼里的罪人，不想再多添一份罪过。话说得平实，却带着股子决绝。郝任夫他们劝了几轮，见他去意已定，也就没再多纠缠，陆续告辞。 辞职很快就批下来了，上官云相收拾了东西，离开天津，先去上海住下。那时候上海还算安静，他避开军政圈子，过几天清闲日子。1949年初，解放军渡江，局势彻底变了，他带着家人先飞香港，待了没多久，又转去台湾。到了那边，挂了个总统府战略顾问的虚职，实际没事干，1950年干脆退役，搬到高雄一处普通房子住下。晚年他接触佛教，取了个法号古穆和尚，日子过得低调。1969年夏天，他病重住进台北医院，8月8日就走了，享年七十四。
