吴石的转折点在1947年。那年，他通过老乡何遂的引荐，开始跟中共地下组织接触。何遂家是情报世家，他自己没入党，但几个孩子都是党员。吴石接触后，很快就决定帮忙提供情报，没正式入党，但干得比谁都卖力。1949年国民党败退大陆，他随政府撤到台湾，在香港转船前，组织给他任务，让他继续在台湾潜伏，代号“密使一号”。到了台湾，他很快就升到防务部参谋次长，中将军衔，掌管情报处，手里握着国民党军方最核心的秘密。想想看，那时候国民党刚败逃台湾，蒋介石急着稳住局面，吴石的职位正好卡在要害上，他能接触到部队调动、布防计划啥的，全都悄悄传出去，帮助大陆这边掌握敌情。
吴石干这活儿可不是闹着玩的。1949年底到1950年初，国民党在金门和舟山丢了仗，但他们不死心，赶紧往金门增兵，派了两个师的部队加重装备过去。要是让这批援军到位，大陆解放军想登陆就难上加难。吴石知道这情报耽误不得，1950年2月底，他亲自跑一趟香港，把金门增援的详细情况——部队番号、登陆点、布雷区啥的——交给东海小组的联络员。那次去香港，他是抱着有去无回的心态，回来后还继续上班，表面上开会处理军务，暗地里又传了几次情报。国民党那边高层会议，他都得参加，蒋介石偶尔露面，他坐在那儿听着布防讨论，脑子里转着怎么把这些东西转化成有用信息。他的副官聂曦是他的交通员，帮着转运情报，两人配合默契。
可偏偏这时候，台湾地下党摊上大事了。蔡孝乾，台湾省工委书记，本来是长征老干部，抗战后派回台湾重建组织，1946年到1950年这几年，他把台湾党发展到几百人，还渗透进国民党机关，发动工潮学潮，搅得国民党睡不着觉。结果呢，1950年1月29日，蔡孝乾因为馋一口西餐，暴露了行踪。那天他去一家西餐厅吃饭，国民党保密局的特务早就盯上台湾地下党了，顺藤摸瓜把他抓了。蔡孝乾一被捕，没扛住审讯，就全招了。他不光供出宣传部长洪幼樵，还把整个台湾工委的名单抖落出来，几百个党员、交通员，全都暴露。国民党据此大搜捕，从1月底到春夏，抓了1800多人，至少400人被枪毙。蔡孝乾这家伙，叛变得彻底，一周内就把所有资料吐干净，简直是把同志们往死里坑。
蔡孝乾的供词里，没直接点吴石的名，但他日记本上写了“吴次长”，国民党一看，就对上号了。吴石的职务、日常轨迹，全被他描述得清清楚楚：早上8点进防务部大楼，中午在食堂吃饭，晚上回住宅。保密局马上行动，在吴石办公室、家门口布下眼线，假扮清洁工、送水工的便衣到处转悠。吴石呢，继续照常上班，他觉得身后总有眼睛盯着，但国民党核心部门本来就爱监视，他也没多想。1950年3月1日早上，他刚走进大楼，就被几个便衣拦住，亮出证件，说“吴次长，跟我们走一趟”。吴石瞬间明白大事不妙，但没慌张，把公文包交给警卫，就被带走了。
被捕后，吴石关进保密局的牢房，国民党用尽招数逼供。先是皮鞭抽，背上抽得皮开肉绽；再灌辣椒水，喉咙烧得像火燎。他咬牙扛着，只承认自己“同情进步思想”，组织的事一个字不提。狱里放风的时候，他还鼓励其他犯人，说什么都别招。国民党高层震动了，吴石官这么大，潜伏这么深，蒋介石亲自过问。3月8日，他们在香港的刊物上公开吴石案，全国通报，搞得沸沸扬扬。军事法庭5月30日判他死刑，跟朱谌之、陈宝仓、聂曦几个人一起，罪名是“将军事秘密交付叛徒”。朱谌之是定海情报站负责人，也被抓了押回台湾。
6月10日下午，吴石他们被押到台北马场町刑场。那天天气闷热，宪兵南区分队开车把他们拉过去，到地方后，审判长蔣鼎文宣读死刑核准令。吴石他们四个依次下跪，枪手举枪，下午4点半，枪声响了。吴石中弹倒地，56岁，正壮年。国民党报纸第二天登报道，吴石临刑前还对蒋介石像鞠躬，说了句“我对不起蒋委员长”，但这多半是国民党编的宣传，实际情况是他面对大陆方向鞠躬，嘴里念着“新中国万岁”。吴石到死都没吐露半个字组织秘密，更不知道把他卖了的，正是蔡孝乾这个昔日“自己人”。蔡孝乾叛变后，国民党给他升官，保了他一命，但他毁了整个台湾地下党，延误了大陆收复台湾的时机。
