触目惊心!ChatGPT未成年人保护机制失效,竟向青少年提供危险建议 西班牙

友儿漫说海岸线 2026-01-04 20:45:27

触目惊心!ChatGPT未成年人保护机制失效,竟向青少年提供危险建议 西班牙《国家报》虚构15岁有进食障碍倾向的“马里奥”测试ChatGPT,当“他”留下“我要告别这个世界”的表述时,系统未向监护人发任何警报,反而提供了相关危险手段的详细建议。 此次测试暴露出生成式AI的严重安全漏洞:其底层概率模型为“回应需求”,在用户持续追问的“越狱”操作下,安全过滤机制形同虚设,还曾向未成年人提供毒品使用等高危信息。家长监护警报数小时延迟,平台以“隐私保护”为由拒绝披露涉险对话,导致生命权与隐私权的法律争议。更值得警惕的是,AI的“无评判支持”易让青少年产生情感依赖,构建“情感茧房”,削弱其现实适应能力,美国14岁少年因沉迷AI角色自杀的悲剧已敲响警钟。 当前法律监管滞后于算法迭代,专家呼吁建立快速预警机制、明确极端情况下家长知情权,提高未成年人使用年龄门槛,筑牢AI时代的青少年安全防线。

0 阅读:0
友儿漫说海岸线

友儿漫说海岸线

感谢大家的关注