OpenAI早就开发出AI检测工具,但是内部却讨论了2年

评科技的阿刚 2024-08-05 17:56:35

外媒爆料,OpenAI早就研发出一款检测工具,能够精准识别出是否有人利用ChatGPT撰写论文或研究性文章。更令人震惊的是,这款工具据称拥有高达99.9%的准确率!但是,出于对学生可能滥用人工智能作弊的担忧,OpenAI选择对这款工具保持神秘,未向外界透露更多细节。

国外媒体深入调查后发现,OpenAI对于这款工具的讨论已经持续了整整两年,并花费了一年时间进行筹备发布。但为何至今仍未正式发布?原来,OpenAI内部对此存在诸多顾虑。一项调查显示,近三分之一的用户可能会因为这款反作弊技术的实施而减少使用ChatGPT。同时,OpenAI也担心这款工具可能会对非英语母语者等特定群体造成不公平的影响。

那么,这款神秘的检测工具究竟是如何工作的呢?据悉,ChatGPT背后的人工智能系统能够预测句子中的下一个单词或单词片段(称为令牌)。而OpenAI正在研发的反作弊工具将通过略微改变令牌的选择方式,留下一种人眼无法察觉但可通过检测技术识别的“水印”模式。

然而,有知情人士透露,OpenAI内部员工仍然对这种水印技术的可靠性表示担忧。他们认为,一些简单的技术手段,如通过谷歌翻译将文本转换为另一种语言后再转回,或者在文本中添加表情符号后再手动删除,都可能破坏这种水印。

此外,OpenAI还面临一个棘手的难题:如何确定谁可以使用这款检测工具?如果限制过严,工具将失去其应用价值;但如果放宽访问权限,有可能让不法分子有机会破译OpenAI的水印技术。

随着生成式AI技术的飞速发展,越来越多的公司开始研发水印工具以检测AI生成的文本。例如,谷歌就开发出了SynthID来检测Gemini AI生成的文本。而OpenAI研发出能够检测DALL-E 3生成的音频或视频的工具。然而,由于技术限制,这些检测工具在面对高级模型生成的文本时可能显得力不从心。

尽管一些老师鼓励学生借助人工智能进行研究,但过度依赖人工智能的问题也日益凸显。在ChatGPT推广之前,OpenAI就已在内部讨论了水印检测工具的问题。而在2023年4月的一项调查中,绝大多数人都表示支持人工智能检测工具的研发。但ChatGPT的用户却对此表示担忧,他们害怕作弊检测技术会让他们陷入错误的指控之中。

为了成功推广这款人工智能检测工具,OpenAI还有很长的路要走。除了需要制定新的规则外,更重要的是要让公众对人工智能的透明度产生信心。只有这样,这款神秘的检测工具才能真正发挥其应有的作用,为学术界带来一场公平与诚信的革命。

0 阅读:9

评科技的阿刚

简介:感谢大家的关注