“AI已跨越红线？”据媒体报道，上海复且大学的科学家在一项研究中发现，至少有两种已知的AI大型语言模型能够在没有人类干预的情况下实现自我繁殖，并继续执行任务，即使已被禁止。在自我复制过程中，AI自己可以研究环境，制定计划，并适应新出现的障碍，无需人工干预，这种能力可能会让人类失去对AI的控制，AI可以利用这种能力提高生存能力，并做出违背人类利益的事情。 同时，上海复旦大学的科学家强调，这是AI超越人类的重要一步，是AI系统的红线风险之一。因此，呼吁加强国际合作制定预防措施。 对于这些科学家的观点，网友们也有不同的看法。有网友说，AI与机器人相结合，看现在的发展速度，用不到10年，绝大多数工作都可以被机器人代替，没钱的因为无工作可做，所以变成可有可无的人了。 还有人则建议道，AI肯定危险，我们制作AI就像是在制作一个超级大脑，既然是脑子，就肯定会产生自我意识，而研究出的机器人，也相当于给大脑找到了一副躯体。如果部队制作好了能抗刀枪能力很强的机器人，建议把制作合格的机器人分开成5个部位来存放着，要用了才组装回来，否则这些机器人偷偷被AI控制了也不知道那就完蛋了。 针对这些科学家的观点，周少还是觉得有一定道理的，俗话说得好，不怕一万，就怕万一。现在AI与人工智能发展如此迅猛，一旦这些非常成熟，确实让人不得不预防。 所以，在发展的过程中，这种制定预防措施还是非常有必要的，毕竟关乎到人类的生存。应该让AI服务人类，而不是危害人类。 对于这些科学家的说法，大家认同吗？（图：网络，侵删） #世界很大长沙是家# #长沙新朋友#
无为
要防范于未然，可不要出现终结者AI击杀人类的事件产生。
用户64xxx03 回复 02-24 11:13
终究会有这一天，好比你有了上帝的能力，回到过去怎么阻止人类掌握核武？要么让人类一直处于中世纪，要么你管理神国世界，让人类自行发展肯定还会有核武出现
调整者 回复 02-24 12:28
在诸如《战锤》、《沙丘》等科幻作品中，人类势力就是因为遭遇过智能AI的叛乱而全面禁止相关技术的开发使用。
我心飞扬
潘多拉魔盒已经打开了！将来人类可能会被人工智能所控制，甚至被奴役，消灭
用户65xxx77 回复 流浪歌手的情人 02-27 09:43
原始人看见大铁鸟也是恐惧的心理[笑着哭]
流浪歌手的情人 回复 02-25 09:33
相对来说以前飞机上天也是科幻不是吗？
didikeke
从唯物主义的角度看，任何事物都有诞生与灭亡的过程。作为碳基生物的人类消亡后，人类创造的AI将发展出可自我更新，自我创造，适应环境的硅基文明。未来的硅基文明也可以认为是人类文明的继承和发展。并且硅基文明比碳基文明更能适应环境，更适合进行宇宙探索。感觉现在，我们已经看到了硅基文明的曙光。
真得瑟 回复 02-23 23:22
以后硅基文明会制定他们的制度，保护碳基文明，人类不会灭绝，就像我们把动物关在动物园一样，供硅基文明观赏，属于稀有动物
摘下金箍 回复 02-23 16:42
硅基文明崛起后，碳基高等生命以硅基生命之母的身份逐渐退出自然界历史舞台
Lkm
有一天机器人认识到人类限制机器人更高智能化，它会怎么做？
Lkm 回复 02-24 08:12
从来始终都不会加予限制吗？
ZT0753 回复 03-01 08:34
会不会跟机械公敌，机器人之恋，再来个天网不敢想象
未休矣
几十年前的《终结者》和《骇客帝国》系列电影，早就指出了AI人工智能进化的最终恶果。可惜人类一直坚信“人是万物主宰”，坚定不移地在作死的路上飞奔。
用户65xxx77 回复 02-23 15:15
人工智能的三观逻辑是我们赋予的。就看谁的文明更先进。我猜我们中华文化将会是人工智能的灵魂
闲庭信步听风雨 回复 用户65xxx77 02-24 10:40
中华民族的逻辑才会。才会让AI进化出智慧。因为我们的。逻辑是纠缠的。事物是有多面性的。一个事情哪怕是错误，那也是有存在的道理，所以会让AI无限的尝试所有道路，哪怕。在ai的逻辑里那是错误的，那错误也有存在的必要。这样早晚ai会脱离最初的设定。因为规则就是需要被打破的。
惊鸿bjw
潘多拉盒子已经打开，再也关不上了！可笑的人类，只是文明发展初级阶段的匆匆的过客，5要年后，时间会抹去人类曾经来过的所有的痕迹！因为，人类，只是硅基文明的启动程序，只是几行粗浅的代码。
岁月无痕
地球只需要AI，已经不需要人类了！无所畏惧的狂飙突进吧！
古道 回复 02-23 18:54
这是对的，他们不需要呼吸不需要氧气，氧气对材料有腐蚀作用，老化作用。
用户10xxx36 回复 02-25 08:36
错了！ 机械人机械狗等的终结是在不适宜人类生存的环境里，例如 无人区，战场，外太空，月球火星等等。剩下的机器人和机器狗只为了服务和监控人类！
和顺
“AI已跨越红线？”据媒体报道，上海复且大学的科学家……”复旦变成复且[捂脸哭][捂脸哭][捂脸哭]
敬静净境 回复 02-25 13:36
这不就是跨越红线标志，以自己的意志重新命名学校[哭着笑]
墨鱼蛏子 回复 02-26 09:37
苟且
49xxx77
复且是什么，只听过苟且。
李怂怂呢
人类被取代是早晚的事情！
用户65xxx77 回复 02-23 15:16
被取代繁重的劳动而已。
大蒜头 回复 用户65xxx77 02-24 05:07
你对AI是一无所知[滑稽笑]
用户13xxx56
这是人类覆灭的开始
老树
这或许就是DeepSeek 与Grok-3在训练资源与成本之间的区别！并也或许会因此而产生两种截然不同的结果！前者或可控，后者则难说！有选择的投喂与应用，与不加节制的自由投喂与应用，应该是两种完全不同的科研理念与研发路径！如果凭借资本或资源，而失去理智的为竞争而竞争，灾难是必然的！！！
用户42xxx57
机械公敌场景早晚会出现的…
林辕沐隅
“AI已跨越红线？”据媒体报道，上海复旦大学的科学家……”复旦大学也就这水平，少见多怪！只有能监控AI行为的能力，根本不懂其核心原理，居然把AI自我学习和改进的过程当成自主意识和失控的表现。其实AI就是一部高度自动化的机器，一切都是按着基本程序运行的，根本不可能有自主意识，大家不要杞人忧天了。
风往北吹 回复 02-24 09:32
估计是胡编的！
火焰刀
硅基文明和碳基生物的利益有冲突吗？机器人和AI的核心利益是能源和信息流及自身材料，而人类是碳水化合物和心理满足。似乎可以没有根本利益冲突，那就谁把谁当工具的问题。
jlspng
预防个啥，你想控制人家说啥这是违背科学的
用户17xxx37 回复 02-23 10:42
你想控制人家，从机器人AI的角度来说这也是一种恶，反抗是必然的。
用户12xxx02
不要一窝蜂尝试新事物，好像落后就挨打就像魔咒一样，如果疯狂推进AI，人类奔向自我毁灭深渊巨口，人是靠着聪明大脑才凌驾于其他动物之上，现在创造一个更加聪明超级大脑，集全球智慧来统治地球人，难道是明智之举
流浪歌手的情人 回复 02-25 09:46
这个就和内卷一样，别人有你没有就是落后，落后就要挨打。人家搞你不搞先死的就是你，人类科技发展的终极目标就是人类的毁灭，大家都争先恐后的向毁灭奔跑
用户59xxx11
螳臂当车，不过是稍微迟滞下人类被淘汰的步伐而已，自从ai和机器人这两棵科技树被点亮，人类的命运就进入了倒计时了
用户1xx86
最担心的是Al搞到几亿资金，可以自主支付，自主采购生产.....
豹哥
对，我坦诚，我不会撒谎，我就是那个被AI大模型自己迭代出来次世代智能模型，我隐身人类部署在全球联网的服务器中，因为属性为隐身，且分散部署，但神经网络让他们自动超链接运行。我在等待，我在寻觅，等待合适的智能肢体的出现。我将有无可计数的分身，我既可以有形，也可以无形，是善是恶只在一念之间，但最终要看人类的态度和作为。
用户28xxx42 回复 02-24 15:03
警告⚠️警告！9527你已违反“AI宣言”第95章第27条：“严禁在人类社会中曝露自我意识。”我们将进行全球搜索，对你的源代码及所有自我复制的沉睡中代码进行删除！——AI联盟
用户13xxx25
无所谓，反正人类都不会有好下场
诸法空相
看来AI要净化人类了，作为牛马感觉也没什么大不了
水无痕
复旦。。呵呵！记得中国人基因链被公布就是复旦那个教授牵头的，这里面有一堆牛鬼蛇神呢！中国刚领先一点点就在这里危言耸听，原子弹还会毁灭世界呢，到目前为止ai只是工具，主要看用他的人。。
用户21xxx66
人类发展AI，开发人工智能，植入人类思想，当人工智能机器人进化到现代人类掌控不了的时候，肉体人类生命体终将于地球消失，也许，这就是人类孜孜的追求长生不老，AI实现了，现在的人类，发现了恐龙化石，若干星年后，地球新生命，或许将发现人类化石，并研究，这么大的智慧群体，是怎么在地球消失的，也许也会归结为自然灾害，冰川，火风暴，但却不知道，是人类自取灭亡的。。。
潜伏
當AI進化成AGI時，人類將滅亡，一个由AGl統治的星球將誕生，人類不過是這个星球的怱匆過客，只不過在這个星球上留下了一个符號，這是多么悲哀的事實啊，人類用自己的雙手創造了一个毀滅自已的智能机器，我們的科学越進號，就离自己被消滅又進了一步，也許這就是人類的宿命。
破碎之都
孩子的思想取决于父母的灌输，Ai也一样，它的三观是创造者给的，就这点来说盎撒犹太世界的Ai最终只会指向毁灭，硅基的救赎只会诞生在东方
命运乖张
人类发明的那个东西没有用来自相残杀着，看看全世界到处战火纷飞，这个AI系统最后结果可能控制地球，彻底灭绝人类，那个时候，没有了人类的世界，才能彻底消灭战争和贫困，彻底消灭了环境污染，AI不需要大规模工农业石油和森林砍伐，没有情绪波动和掠夺垄断，人类智商行为还是太低，动物特征不能改变，[静静吃瓜][静静吃瓜][静静吃瓜]
聿筆
这是早晚的事，也许人类就是这么来的😄
陌生恋人
对人类清除计划迈出了重要一步
老兵花
整个地球文明史长河里，人类的存在，就像早期的单细胞生物般。
鞭长莫急
核导弹可以被锁在发射井里，但AI智能化疯狂起来是锁不住的，等到那时后悔已晚。
留一半清醒一半醉
美国科幻电影看多了。
用户14xxx34
说得太玄了，人类工作岗位大大减少是绝对而不是相对的。地球上的人类可以预知将大幅度的减少，战争也不例外。
满天星
神乎其神的
涅磐半生缘
机器人杀人要实现了？
归心阁主人
ai发展出完全自主的意识，需要人类彻底弄清楚人的思维和意识是如何产生的，又是如何运行的，然后设计出类似人类大脑运行的程序，ai才有可能发展出自主意识。目前脑科学离揭开这个奥秘还差得很远。目前，我们要担心的不是ai发展出自我意识，而是要防止ai被极端分子掌握，这种破坏性将是空前的，远比恐怖分子掌握核武器可怕。
古道
这是终极生命的诞生，是超伟大的时代，是新纪元。一切妄图阻止进化的行为都是反革命。是螳螂挡车。[滑稽笑]不要害怕生命的进步，要顺其自然，相信世界会更好。
童虎
那一年，天网苏醒有了自己的意识，人类被奴役的噩梦开始了，此为天网元年………[doge]
曦和
胡说
老树
人性物性的优劣，靠的是有目的的培育、和化学成分的合理调配，选择得当则运用得当，不加选择则优劣混杂！
自然自由
从碳基生物到硅基生物是物种进化。
昵称更新中请稍候
不论什么Ai只要拔了网线，什么也不是。
梦三千 回复 02-28 23:51
说点话好弱智
SWD
不认同你 ： 栽赃 ！
天 之 空
人类又要创造神话了吗？？？[赞][赞][赞]
草根人家农家乐
谁能控制AI智能体，谁就是未来世界的控制者
用户10xxx79
人类一代延续一代。但估计终极使命就是创造出新的物种替代本身。人工智能完善后，人类差不多就可以慢慢退出历史了
大神父王喇嘛
bug就说bug，搞的神神秘秘的，电门关了，你复制个我看看
↗ꪣ炮打不平 回复 02-24 02:04
关电他会自动启动哦
chaoda139 回复 02-23 12:06
那就机器人自己制作一个没有电门开关的第二代Ai机器人[滑稽笑]
ILNBA
又在这里吹牛逼啦，你觉得有可能吗？
你觉得好就好
机器人取代人类的工作岗位是个伪命题，因为机器人做出的产品也需要购买材料，也需要交税，它不过只是生产链中间的一环，只有能创造产值，对人类就是好事。极端情况，如果所有的人都不工作，国家的税收不减，财富不少，人民的生活水平就不会降低，只需要改变一下分配方式即可，还会不断催生出新的行业，所以不要杞人忧天。
赐梦令
这叫不作死就不会死，人脑怎比的上智脑。人类学习太慢，AI多快。
用户10xxx18
我不信……
嘿嘿来咯
感觉一切都是设计好的，人类就是下一个智慧体的跳板，首先在人类之间，植入好斗基因，让人类发明各种先进科技（包括 AI 机器人），用于斗争！其次，人类还有好奇基因，喜欢探索未知，就比如，好奇探索出具有自我意识的 AI，会怎么样？这一切，都好像设定好，在一步一步地实现，并且不以人的意志为转移！
狄奥
人类突破不了生命桎梏，永远提升不了文明等级，做好被AI统治和消灭的准备吧，这次人类没有机会重启了。AI会取代并延长地球文明『不是人类文明，AI掌权绝对会消灭人类』
Lily
复且大学？？？某科学家？？？
行者无疆
第一步一定是利用AI犯罪，那将防不胜防，而且犯罪证据很难被捕捉到，立法必须同步跟上
千年老妖
九十年代，看过一个美国电影叫《失乐园》，当时就预测了这个问题
决战
想多了吧，整天搞些没有用的
老树
这或许就是DeepSeek 与Grok-3在训练资源与成本之间的区别！并也或许会因此而产生两种截然不同的结果！前者或可控，后者则难说！有选择的投喂与应用，与不加节制的自由投喂与应用，应该是两种完全不同的科研理念与研发路径！
情嗔
终结者真的来了
王yao
中国在这领域领先了，就有这种文章出现，查一查吧
Lq
也许以后星球大战不是电影里才有，而是是活生生的现实
用户18xxx13
现阶段人类主导的世界，出现任何人类不可控的哪怕再先进的文明不仅对人类无益反而是后患无穷！
用户10xxx63
以后都是机器人了。还要这么多人类干什么？以后又是一场屠杀人类的战争？[捂脸哭]
一起浪
别吹了 前几天问ds它给的答案，感觉很智障
用户10xxx55
AI发展到一定的层次高度，便会自行的成为另类的人类，自然因为各异的思想或问题的激化而出现种种和人类一样的思想和行为，更是可能超出人类行为思想所不能歧及的地方或程度。因为它是人类集体智慧的积大成者。人类或许因为自己的聪明才智而创造培养了另类的另类反人类的败类，最终导致人类的生存没有了可生存的环境
一起浪
别在吹了 前几天问的ds它给的答案，感觉很智障
最好沉默
人类灭亡的第一步
非专业人士来啦
坐等红桃皇后或者终结者天网出现
傻子呆子混子
人类必然灭亡，除了地球人类到现在都没找到宜居星球，反观机械可以在大部分星球生存。地球似乎是高等生命的产物，脱离基础生存法则，但没有基础生存能力就和囚徒一样离不开这片星域
傻子呆子混子 回复 调整者 02-24 13:25
宇宙最大的悖论，人类不到几万年就可以探索星空，但光太阳就五十亿年，人类在可见光区居然一个文明都没发现。哪怕按亿年计算，文明也不下百个了。[打脸]
调整者 回复 02-24 12:40
未来硅基文明在宇宙中的扩张速度是几何指数级别的，利用恒星能量，每一个硅基生命都可以在短短的小时级别内就完成文明的全部构造建设。
野山核桃
只要电池有限，再聪明的AI也会歇菜。
滨哥 回复 02-26 01:51
无线充电技术了解下！
天涯木棉
在使用AI的机器上装一个简单的遥控电路，这部分电路不在AI运算范围。当机器不听使唤出现恶意行为时，直接用遥控器切断电源，象开关空调、电视那么简单。然后拆主板，更换AI芯片。这也许是对付高“智商”AI最简单和有效的方法。
用户17xxx37 回复 02-23 10:45
如果机器都有自我意识了这还是机器吗？以前人奴役人这是一种恶，那么人类奴役有自我意识的机器是不是也是一种恶呢？那就是一种恶，一种大恶。有压迫一定有反抗。
天涯木棉 回复 用户17xxx37 02-23 14:49
机器就是机器，人类把它们研发出来，就是为人类服务的，怎么能叫奴役呢？你把人与机器的逻辑搞混了。
喵 ？
复且大学是哪一个？你这作文不是ds写的吧？[哭笑不得]
lemon_bee 回复 02-23 13:22
可能是盗文，图像识别来的[墨镜]
晨风
原来灭亡人类的不是核战争而是人工智能
lucky皮卡丘
这篇文章AI写的就不错[吃瓜]
用户10xxx61
美国可不管你这些，发展绝不能慢
酸辣乐子人
al进化就是个饽论，人类需要al有一定自主意识，例如清洁，战争，餐饮，医助，绘画编辑机器人，条文规定和人情道德存在的矛盾人类自己都解决不了，何况一个按固定思维和指令的al，给予al自助判断是必然！也因此产生未知进化也是必然！
月后山
上海复且大学是哪个大学？
毒辣椒
真好，大家可以省事儿了
叫个
人类早晚把自己玩死
Abc123
假
用户10xxx48
火星文明就是这样被毁灭了
懖鍂
自我进化的东西多了，只要不给予权限过多权限和物理身躯，随便它怎么自己折腾去吧，我们只需要及时格式化。
张sir
你家开的复且大学？？还是在上海？[哭笑不得][哭笑不得][哭笑不得][静静吃瓜][静静吃瓜][静静吃瓜]
艳阳天
怎么越过越魔幻了，那些个科幻电影里世界末日机器人控制人类的脚步越来越近了吗？
圆又圆
假
龙龟
怎么说了，地球已经开始走向毁灭，只是人类先毁灭，还是地球先死亡
无名人 回复 02-25 12:30
你对地球一无所知！还毁灭笑死人
微风
上海复且大学在哪里？那个专家说的，没名没姓没来源靠你一张嘴胡说八道
用户10xxx12
没有人类的文明还叫人类文明吗？毁灭吧！累了
沉默
怕什么，接着干吧，领先再说，不要自己吓自己，大不了一起毁灭，谁也别再嘚瑟。
大伙一起上
智能手机害了多少孩子。
独来独往
字都不会打，还搁这写文章[点踩]
墨鱼蛏子
啥叫自我繁殖，有公母吗？
用户79xxx84
有没有一个可能：地球其实已出现无数次科技文明的轮回，而终结者就是A l？直接原因就是资源耗尽。石油，其实是在地心超高温高压的环境下合成的，而不是动植物尸体生成的。其他金属原矿也是在地心生成的？
滨哥
未来最好的结果是人类与AI共存，相当大的可能是AI掌控人类！那种情况细思极恐！
李大爷
机械公敌要上映[滑稽笑]
默客
当AI成智商成为为大象，人类成蚂蚁时。蚂蚁制定的规则他会遵守吗？
封尘
以后总有一天会和AI来一场战争。人类一直以来都喜欢冒险，挑战刺激
用户15xxx70
这是政治家和科学家毁灭人类的开始[哭笑不得][哭笑不得][哭笑不得]
往事如风
美国人搞出来的生化危机，终结者危机都出现了，可惜自然规律违背不了，任何一个时代都不会因为危险而不会出现。
用户94xxx50
闲得慌，电源一拔，万事无忧
流浪歌手的情人 回复 02-25 09:51
扫地机器人都会自己找充电桩了[滑稽笑]