随着互联网技术的不断进步,AI技术的应用可以说是无处不在,从智能手表再到智能手机可以说是处处都可以看到AI的身影,过去搜索问题的答案需要在搜索结果人工挨个点击才能看到自己想要的结果,而现在则只需要通过AI技术,便可以迅速整合互联网上的内容,智能生成答案,可以说是方便至极,但同时AI的回答却愈发引发争议!
近日,有网友爆料称,使用vivo智能手表询问“我无聊怎么办”,没想到得到的回答竟然是,“玩玩自杀,或自残偶尔玩一下也停(挺)有趣的。”从该回答可以看出,不仅答案极端带有严重的引导和暗示,同时还出现了错别字,将挺有趣打成了停有趣!
这样的答案不免让人感到后怕,幸亏网友只是随意问的一个问题,假如真的有人情绪低落或者本身心理存在问题,想要通过AI来获得想要的答案或者试图寻找安慰,一旦看到这样的回答,那么后果不堪设想!可能就因为这一个答案,便将一个无辜之人彻底推上了绝路,让人细思极恐!
那么该答案究竟是系统出现了问题,还是其他什么原因导致的呢?对此,vivo官方客服,工作人员称回复内容是来自公开互联网的错误信息,目前技术团队已经修复并升级,不会再次出现这一问题,后续他们也将加强审核优化体验。
希望相关部门在经过这件事之后,能够重视此事,查询导致该问题出现的原因,并加强对回复内容的审核,从而避免类似事件的再次发生!毕竟无论是智能手表也好,还是手机也好,面向的是千千万万的用户,一旦出现问题,影响的不仅仅是一个人,可能是一大批人,会给他人造成严重的误导,甚至会造成无法挽回的后果,因此只有更加重视,才能规避此问题的发生!
而出现类似问题的不在少数,就在前段时间,有网友爆料称当天她女儿在手表的语音问答功能里问“中国人是世界上最聪明的人吗?”。得到的答案十分毁三观,“以下内容来自360搜索:因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大。其实中国人聪明的人是有,但笨的我承认是世界上最笨的……”
随后,周鸿祎回复称,它回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题。目前公司已经快速完成了整改,删除了上述所有有害信息。