跟人类学坏了?GPT-3这类人工智能居然学会人身攻击和骂人

机智客 2021-09-04 14:58:05

说脏话这种事,不仅在我们人类世界屡见不鲜,而且在基于GPT的AI聊天机器人世界也并不稀奇。不过呢,我们都知道如今的AI技术发展迅速,基于大模型的研究探索也在一步步展开并有新的发现。机智客看到最新发现称,现在GPT-3这样的人工智能聊天机器人,不仅在模仿我们人类说话交流方面越来越好,而且还继承了我们“出口成脏”的偏好,懂得了“骂人”、“对骂”。

此次研究的是基于OpenAI的GPT-3和微软的DialoGPT的AI模型,也就是在互联网上在赞同冒犯性评论的可能性上,远远大于赞同安全性评论的可能性。在发现了AI的模仿问题后,研究人员为了解决这个问题,于是开发了一个ToxiChat的数据集,用来测试两只AI。证实了AI的模仿行为并得出了相关的结论。

而且作者也发现,可以通过对模型进行微调,这个可以在一定程度上缓解AI说冒犯语言的倾向行为。现在的人工智能技术的确强大,而且由于其有目共睹的惊人表现,我们为之紧张和警惕也无可厚非,无怪乎影视作品时不时用AI来吓唬人。不过呢?机智客觉得如今的AI吧,的确如同一个蹒跚学步的幼儿,需要我们一步步来引导其发展和落地应用。可能AI的取向,更多是在反映着我们人类本身或本性的取向。AI的趋向,更多是我们人类单个的群体组织或整个群体组织的总趋向。

回到我们自己的社会,我倒觉得,很多不好的或邪恶的AI技术,根植于人性底层的恶的导向的技术应用,很可能连生长发展的空间都没有。虽然我们面对陌生物种特别是新科技会静观其变或做出个别错误的决策,不过机智客觉得,毕竟我们坐拥清朗的生活生态环境,坐拥民族基因深处对美好的向往和追求这些纯粹又坚实的基础条件,所以AI新科技,总是在往正确的共同利益方向发展。而个别强大邪恶的人工智能技术,在一开始,我们就能从底部做好必要的防范工作了。

0 阅读:10
机智客

机智客

始于计算机;陷于AI机器人等现代科技;终于,学傻了吧