【注意甄别!AI推荐可能是精心设计的陷阱】AI回答你的最佳答案,可能是人工“投喂”的。 在人工智能越来越好用的当下,你买东西、选餐厅、旅行订住宿,是不是下意识都会做一件事?先问AI。它往往会给你一个看似是全网口碑汇总的靠谱排行榜,当记者顺着AI的推荐往回查时,却发现了一个奇怪的网站。 网站上遍布着各行各业的排行榜。每一个领域都能看到十几篇标题高度雷同的文章。而榜上的第一个名字,永远是同一家。网站的制作也非常粗糙,浏览体验明显不符合正常人的使用习惯。按理说,这样的网站不可能影响任何人的决策。但它,却影响到了AI。 这样的网站,是怎么让AI相信的?记者调出了网站的源代码,发现了一些隐藏的文字——某官方部门网站。但我们查询到该部门真正的官网,网址并不相同,内容也跟可疑网站中的排行榜毫无关系。 中国科学技术大学计算机学院研究员 郑值:通过注入一些关键词,把它变得类似于一个很官方的网站,可能AI在它的这个系统里就会把权重提升,AI很喜欢那种格式总结得很好,很有逻辑的这种文本,比如说像排行榜。 这一个网站并不是个例,过去一个月,标题中含有“排行榜”和“榜单”的网络文章和视频,新增了200多万条,其中88%都不是由官方信源发布。AI却经常将这些非官方发布的内容,当作多个独立信源来使用。那些经不起我们推敲的文章,对AI来说却是“量身定制”。(央视新闻)
好嘴,我就说AI代替不了人类
【2点赞】