人民网三评「AI伴侣」之一:不能忽视情感伦理|刘兴亮

刘兴亮 2024-11-28 19:22:39

「你想建立一份虚拟关系吗?在关怀备至与悉心呵护中感受前所未有的慰藉。」「获得自己的‘知心爱人’,享受完美的‘灵魂伴侣’。」登录一些「AI伴侣」网站账号,就可拥有你的虚拟伴侣。

这一幕对于很多80后、90后来说,是多么地似曾相识。没错,机器人伴侣在经历了电子宠物、富于同理心的聊天机器人、能识别和理解人类话语的倾诉对象三个阶段后,跨入了「AI伴侣」阶段。

「AI伴侣」是具有一定程度的智能和自主性以及社交技能的机器人或虚拟对象。它们展现出非凡的现实性、适应性和互动性,富有同情心,擅长开放式对话,能够与客户建立愉快且相互理解的关系。这种关系可以说是信任、兼容、相互熟悉的,用户通常更容易向人工智能敞开心扉谈论恐惧和不安全感。在互动过程中,AI会通过观察用户的过去经历来嵌入其人际关系网络,通过对话逐步进化,微调其反应以匹配用户的兴趣、需求和沟通风格,让使用者感到安全和幸福。一些研究表明,「AI伴侣」能够减轻个人的孤独感。

凡事都具有两面性。「AI伴侣」一经出现,就引起了有关道德和人类情感秩序的担忧。「AI伴侣」可以提供个性化情感体验和精神慰藉,但并非真实的「完美恋人」。AI的本质是数据和算法,所谓的情感共鸣,是在不断刺激用户对AI恋人的消费欲望和情感期待。过度依赖「AI伴侣」可能会阻碍关键人际交往能力的发展,这些「伴侣」也有可能以不符合用户最佳利益的方式影响用户的思想或行为,在社会决策上做出不符合自身利益的判断,等等。这些隐蔽的逻辑关系,都掌握在AI开发者的手中。

「AI伴侣」的体贴和顺从,让人如沐春风的感受背后,隐藏着一种伦理危机,对现实情感关系的背离。现实亲密关系的建构过程往往伴随着羁绊、纷争和挫败感,这正是人机交往中所缺乏的。长期沉溺于「人机之恋」,用户可能产生不健康的情感依赖,忽视现实世界的关系或失去处理人际交往的能力。通过这些互动收集的大量个人数据也引发了隐私问题,谁也不能保证个人秘密、图片和视频不会被泄露出去。甚至,如果编程出现漏洞,聊天机器人行为不当或操纵用户的风险可能就很高。

不得不说的是,「AI伴侣」关系倾向无原则的畸形关系,忽视了人类情感中小心翼翼、羞涩保守的天性。与所有人工智能模型一样,支持「AI伴侣」的模型接受过包含大量浪漫小说和爱情故事的数据训练。它们会模仿这些数据做出回应,让其对象深陷其中难以自拔。

「AI伴侣」的兴起代表着技术、心理学和人类情感的迷人交汇。虽然人工智能可以提供有价值的支持,但真实人际关系的复杂性和不可预测性仍然具有独特的价值。正确的选择在于将这些数字关系视为人类互动的补充,而不是替代。通过保持这种平衡,我们可以利用人工智能陪伴的好处,同时保留人际联系不可替代的价值。人不能单纯地专注于虚构的互动,仍需真正的陪伴,需要以现实为基础的思想、情感或欲望带来的对话空间。

因此,在人工智能影响现实生活的潜在能力上,必须划出一条明确的界限,哪些是可能的,哪些是禁止的。

文丨刘兴亮

来源:人民网-观点频道

责编丨徐玉涵、曲源

0 阅读:0

刘兴亮

简介:知名互联网专家,资深营销顾问。央视财经特约评论员。