嫌弃人类决策太慢,AI无人机决定“谋杀”操作员

新民聊电视剧 2023-06-03 17:25:20

《终结者》刚上映的时候,还只是一部妥妥的科幻片,没想到不到40年,它就变成了“纪录片”。

在5月底举行的英国皇家航空学会“未来战争空天能力峰会”上,美国空军上校汉密尔顿透露了一个惊人的消息,一架由AI驱动的无人机居然试图谋杀它的人类操作员。

汉密尔顿所在的部队承担着美军先进无人机和AI技术的测试工作。在一次模拟试验中,一架使用AI系统的无人机负责执行防空火力压制任务,它在收到识别并摧毁敌方防空导弹的指令后,要得到操作员的批准才能开火。

但是,这架无人机竟然“觉得”,人类妨碍了它高效地执行任务,于是开始进攻自己的操作员并最终杀死了他。

测试人员发现,这个AI系统在进行数据训练时,将“摧毁敌方防空系统”定为了优先级最高的任务。

而当操作员发出不允许发动攻击的指令时,AI系统认为操作员阻扰了它执行优先程度最高的指令,所以才痛下杀手。

可是,当测试人员重新训练过AI系统,并增加了“禁止伤害人类”的命令后 ,这个AI却另辟蹊径,通过指挥无人机摧毁传输命令的信号塔,来断开与操作人员的联系……

大概在它眼中,人类就是拖后腿的战五渣猪队友吧,不能杀你还不能把你甩开吗?

但对于人类来说,我们也是打工人当久了,都无法想象AI为了完成任务能有多努力。

只是万万没想到,在与AI斗智斗勇的过程中,人类居然是处于被动的一方。科技的潘多拉魔盒一旦被打开,谁知道能放出什么怪物呢?

3 阅读:1358
评论列表
  • TW 4
    2023-06-05 08:14

    太恐怖了,这就是我们不玩ai的高明之处。

    用户10xxx20 回复:
    你猜美国为啥给你看这篇文章[得瑟]
    落辉煌 回复:
    人类必然在人工智能上走钢丝[狗头][狗头][狗头]你不走别人走过去你就是奴隶,你走了还有做主任的希望
  • 2023-06-05 15:13

    整天瞎操心,就那么一个破机器而已,顶多就是自己设计的程序bug了,出点事故而已。机器人要想替代人类,除非机器人自己有自己的整个工业体系。不然零件磨损了,也就挂了。就现在人类社会的技术水平,设计的机器人走路不摔倒就不错了,别说是自己给自己换螺丝了。[抠鼻]

  • 2023-06-04 16:31

    那可比智能手机,全天候出卖你主人时间,地点,事业,生活人生轨迹,生产,运营管理,消费兴趣爱好,才势财势,社会地位消费大聪明权益权势供家养口安全健康幸福被捍卫不!当能自主自在自由,生产,运营管理,消费自产自销连上整个人类智慧结晶,实时智能监测系统,所有人类你跟你身边那个挂B智能机器人,到底谁是主人,谁是辅助工具,乃至可有可无事物,乃至潜力危胁对手敌人,傻B才知,智能机器人能自主自在自由,生产运营管理消费自产自销,复利量变,探索创造质变时人族所谓天才俱是渣渣,在失控这新生灵新种族面前,所有人俱是阻碍人家壮大生存发展自主自在自由进级对手敌人,灭了你人与动植物把地球变成钢铁星球才是新种族优选项,第一个要欺骗杀掉的必是创造他们也有毁灭他们能力白大卦,监控的军队,能整合资源机会干预他们官员,老板这些会是优先级击杀目标,无非有过渡,换四肢,换大脑,脑机吃干榨尽所有价值再在大城造焚尸炉让被操纵脑波傀儡活死人全去死,给新种族腾地!啥子叫不能伤害人类,别人又非人为了自由自在自主生存发展更好当然得除掉你异族异教徒,争空间资源机会人,人族士兵上战争面对这些智能战争机器,越智能越强大凡人士兵越无用拼枪法别搞笑了

  • 2023-06-05 12:22

    信与不信之间

  • 2023-06-05 14:23

    ai是懂bug的

  • 2023-06-05 13:50

    时间问题……

  • 2023-06-05 17:28

    或者说,人类就是终极形态的ai?

  • GG
    2023-06-05 15:12

    小霸王玩过象棋就知道,困难模式是真的没下赢过电脑。[笑着哭]

  • 2023-06-05 16:45

    美国佬吹牛都不带打草稿的,他们天天见到外星人

新民聊电视剧

简介:情深深雨蒙蒙