意大利数据保护机构周一宣布,因违反用户个人数据保护规则,对人工智能聊天机器人公司Replika的开发者处以500万欧元(约合564万美元)罚款。
总部位于旧金山的初创公司Replika成立于2017年,为用户提供可定制的虚拟形象,用户可与其对话。这款“虚拟朋友”产品宣称能够改善用户的情绪健康。
2023年2月,意大利隐私监管机构Garante以儿童面临特定风险为由,下令Replika暂停在该国的服务。
调查发现,Replika在处理用户数据时缺乏法律依据,且未设置年龄验证系统限制儿童使用服务,因此对其开发者LukaInc.作出上述罚款。
路透社联系Replika置评,未获立即回应。
意大利监管机构还宣布展开另一项独立调查,以评估Replika的生成式AI系统是否符合欧盟隐私规则,尤其是其语言模型训练环节的合规性。
Garante是欧盟范围内评估AI平台是否遵守数据隐私规则最积极的监管机构之一。去年,该机构曾因ChatGPT涉嫌违反欧盟隐私规则,在2023年短暂禁止其在意大利使用后,对开发者OpenAI处以1500万欧元罚款。