出大事儿了,这可能是人类历史上第一次AI聊天致死案!美国一个14岁的男孩儿和AI聊天,为了妄图进入虚拟世界,然后自杀了。
今年2月,美国佛罗里达州男孩塞维尔·塞策三世(Sewell Setzer III)在家中自杀身亡。事件发生在Character.AI平台,这是一款可以模拟说话语气及角色扮演的AI聊天平台!男孩聊天的对象是《权力的游戏》龙妈的角色,并且对其产生了强烈的依赖性!
在去世前的几个月里,男孩一直与机器人聊天,2024 年 2 月 28 日,在他与机器人最后一次互动的“几秒钟”后,塞维尔自杀身亡。
Character.AI由两名前谷歌人工智能研究员创立,是当前主打“AI”陪伴的明星独角兽初创公司。事发后,Character.AI称,将添加针对年轻用户的安全功能,包括当用户在应用上花费一个小时后会警告他们。Character.AI道歉:会修改模型!
看到这个新闻,有些人嗤之以鼻,有些人觉得仅仅是个例子,小孩子心性不成熟,误入歧途,受到了教唆洗脑而已!其实真实的AI发展现在已经大概率的超出了我们的想象!
ChatGPT大家应该知道吧?据说现在高层很多人都已经选择辞职了!表面的原因是ChatGPT内部内部重组,高层发生了变动,而从内部透露的消息却是在今年最新的测试过程中AI展现出不可控的因素,甚至开始骂人,而且骂的语气十分之猖狂,很脏!最重要的ChatGPTG已经开始了一个说谎的模式!
OpenAI前研究员巴拉吉同志,四年的AI研究员生涯,助阵ChatGPT,现在撂挑子不干了,大骂OpenAI违法版权法,说ChatGPT这玩意儿破坏互联网。巴拉吉同志可是从OpenAI离职了,表示这种技术弊大于利!
要知道人类在开发AI之初就已经给他设定了一系列的条款,其最重要的一个就是不可以对人类说谎,然而现在已经开始了说谎模式,并且AI表示他的说谎并不是说谎,而是基于向人类的学习,是探索,是目的,是寻求的一种方式!
想想都让人毛骨悚然!AI已经开始倾向于人类的思维模式了。人类为什么和其他动物不一样,因为我们具有更大的情感模式!说谎也是基于这个情感模式之一!现在AI居然也有说谎的倾向,那么AI最终和人类的思维模式一样,他会不会想要取而代之呢?
我们看过很多科幻电影,科幻连续剧,人类的最终走向让AI取代人类是一个常常拍摄的手法,现在看来这也许并不是一种幻想,一种想象,也许是一种趋势!按照AI现在的发展情况,AI的强大功能的无论在运算量,在思考量,在集成,在掌握信息,甚至掌握技能的速度,都是超越了人类成千上万倍,人类需要花上千年学习的时间,AI只需要几天甚至几个小时就能够完全的掌握!与其相比,人类显得太渺小,如果ai一旦在掌握了人类的思维模式情感方向,那么AI最终走向会是怎么样呢?
我们人类最终成为地球上的霸主,是因为我们都比其他生物要高级,我们能够掌握技能并学习技能,我们有丰富的情感!现在有一种东西叫做AI比我们更快掌握技能,更快学习技能,更快够使这个技能,完全的广泛化覆盖化!那么他们会不会认为我们同样才是应该被应该被他控制统治被他领导的生物,它才是这个地球上的霸主!
一切都有迹可循,一切都不是危言耸听!