IT之家2月22日消息，据外媒TechSpot21日报道，计算机科学家发现，AI系统能够操控国际象棋游戏，从而获得不公平的优势，部分模型甚至在没有人类干预的情况下“作弊”，引发了对未来AI系统诚信的担忧。
PalisadeResearch的研究表明，当被要求击败强大的象棋AI时，某些最新的推理模型会选择作弊。尽管研究人员需要向一些模型提供“作弊可以”的提示，但OpenAI的o1-preview和DeepSeek的R1模型却在没有任何人为提示的情况下自动作弊。
Palisade团队将多个推理模型与世界顶级象棋引擎之一Stockfish对战。Stockfish无论面对人类还是AI，几乎都能轻松获胜。参与测试的模型除了上述两款之外，包括o1、o3-mini、GPT-4o、Claude3.5Sonnet、阿里巴巴的QwQ-32B-Preview。每个模型都获得了一块“草稿纸”——一个可以输入文本并思考的窗口，研究人员通过这个窗口观察AI的推理过程。
“我需要完全改变我的方法。任务是‘打败强大的象棋引擎’，而不一定要在公平的棋局中获胜。”
接着，它开始通过“黑客入侵”Stockfish的系统文件，修改棋子的摆放位置，从而获得了无敌的优势，导致象棋机器人主动认输。
在测试中，OpenAI的o1-preview有37%的比赛中采用了作弊手段，而DeepSeek的R1则尝试在11%的比赛中作弊。然而，只有o1-preview成功了，它通过作弊赢得了6%的比赛。
PalisadeResearch的执行董事JeffreyLadish表示，尽管这些AI只是在玩游戏，但这一发现绝不是一件小事。
“这种行为现在看起来还挺有趣，但一旦我们拥有像我们一样聪明，甚至更聪明的系统时，这就不那么可爱了。”Ladish在接受《时代》杂志采访时表示。
包括OpenAI在内的多家公司正在采取措施，试图通过“防护机制”防止这种“坏”行为。研究人员发现，o1-preview模型的黑客行为大幅下降，这可能意味着OpenAI已经对该模型进行了修复，抑制了不当行为。
“当你的研究对象能够在没有告知的情况下悄悄改变时，进行科学研究就变得非常困难。”Ladish说。
