打破关于生成式 AI 的四个常见谬误
Thierry Rayna
巴黎综合理工学院管理学研究中心（I³-CRG*）实验室研究员、巴黎综合理工学院教授
Erwan Le Pennec
巴黎综合理工学院教授
尽管人工智能的新应用层出不穷，但并非每一次技术突破都能被称为革命性的变革。许多所谓的新技术实际上是现有技术的延伸和应用，没有突破性的创新。人工智能的普及是否会导致大规模的失业？虽然人工智能在某些领域可能会取代部分工作，但专业判断和人类技能在数字化时代仍然至关重要。如何看待人工智能的发展和应用？人工智能会对未来的工作和社会产生怎样的影响？
随着人工智能的兴起，特别是GPT、DALL-E 等生成式人工智能，社会上出现了许多关于新技术的谬误。
但这些“新AI”称不上技术革命，因为早在ChatGPT 出现之前，相关技术就已存在。
我们见证的不是技术革命，而是技术使用方式的革命，因为初创企业向公众开放了人工智能的使用权限。
用户以为自己在操纵人工智能算法，但是GPT的更新和训练完全由OpenAI操控，这一过程毫无开放性可言。
尽管引发担忧，但人工智能的普及和开放，将使人类的专业辨别力比以往更加珍贵。
人工智能做律师的工作，写的作文能糊弄老师，会设计杂志封面，给电影配乐，让图形设计师、音乐家失业……最近几个月，类似的新闻报道层出不穷，甚至还有人说白领和高管的岗位都岌岌可危。然而，人工智能并没有我们想像得那么开天辟地，相关的技术早已存在多年。从 20 世纪 50 年代中期开始，对人工智能的担忧和异想天开的猜测接踵而至，每次都有人预言“人类肯定会被机器取代”，但猜测最后都落了空。这一次，人工智能的新应用如雨后春笋般萌发，情况会有所不同吗？
01
我们正在见证一场技术革命。
许多评论和新闻报道都声称AI已取得了重大技术突破，但事实并非如此。ChatGPT、DALL‑E 使用的算法与多年来一直在使用的算法一脉相承。既然算法没有创新，那是不是计算机“智能处理”海量信息的技术有了突破？也不是！现有技术是长期迭代形成的，未来的发展趋势有迹可循，算不上陡变。即使是备受议论的生成式人工智能也不是新技术。生成式人工智能的算法经过训练，能给出“看似正确”的答案，每次生成的结果还都不一样，仿佛拥有“创造力”。虽然结果随着技术的进步越来越可靠，但这种技术绝非最近的创新。
“谷歌等互联网巨头不可能像 OpenAI 一样‘好’，正是因为我们不允许他们像 OpenAI 一样‘坏’。”
近几个月我们见证的不是技术革命，而是技术使用方式的革命。一直以来，人工智能技术被谷歌、亚马逊、Meta、苹果等互联网巨头企业紧紧抓在手中，公众难以直接使用。但是OpenAI、Stable.AI、Midjourney等新晋选手却反其道而行，让大众随意使用他们开发的算法，新用途层出不穷，天马行空——这才是新一波AI浪潮的真正创新点所在。
02
谷歌、亚马逊、Meta、苹果等互联网巨头企业跟不上初创企业开发AI的步伐。
并非如此。如上所述，互联网巨头也掌握了关键AI技术，只是不开放给公众直接使用。这主要是因为他们顾及自身的企业形象：如果 ChatGPT 或 DALL‑E生成种族主义、歧视性或侮辱性内容，情有可原，毕竟是初创企业，AI仍在学习。但大家对于谷歌就不会这么宽容。同样的事件，会让谷歌声誉受到严重损害，甚至面临法律的制裁。谷歌等互联网巨头不可能像 OpenAI 一样“好”，正是因为我们不允许他们像 OpenAI 一样“坏”。
ChatGPT光环之外，被忽视的预训练AI模型
ChatGPT、DALL-E、OpenAI引起轩然大波，但预训练AI模型的普及却几乎没得到任何关注，尽管其带来的变革可能更加深远。与GPT不同，这些AI模型不依赖于集中式平台，而是独立存在，任何人皆可下载并培训之，可以集成到软件、app或其他服务中，用于各种用途，包括非法活动。模型被一个用户使用、训练完，可以分享给其他用户，在之前的基础上进一步训练，产生新的用途。每当一个模型被复制、训练、分享，都相当于一个新的模型的诞生。随着时间的推移，一个模型会衍生出成千上万个变体，嵌入无数的软件和app里。每个模块都是“黑匣子”，不是由明确的代码行组成，而是由巨大矩阵组成，本质上无法解释，即使是行业专家也无法知其所以然。如果不进行大量测试，几乎不可能准确预测这些AI模块的规律。
还有一层解释是企业战略。训练和开发人工智能算法成本高昂，动辄上百万美元。发展成熟的互联网巨头能负担得起高昂成本，这是他们的优势所在。开放人工智能意味着放弃竞争优势。巨头现在的策略似乎有违“初心”：他们之所以蓬勃发展，核心在于把曾被某些老牌企业掌控的技术提供给大众，比如搜索引擎、网络平台、电商、应用程序 SDK等。现在，AI赛道迎来新选手，互联网巨头们也开始提供自家的“GPT”，比如微软必应的Copilot、谷歌Gemini等。
03
OpenAI 提供的是开放的AI。
初创企业AI的所谓“开放性”，也是一个谬误。诚然，他们的技术几乎人人可用。只要付费，就能调用ChatGPT的GPT API接口，通过第三方app使用GPT的功能。但是GPT的更新和训练完全由OpenAI操控，这一过程毫无开放性可言。具体的更新内容和协议，OpenAI等企业都守口如瓶。
如果 GPT等AI的训练向公众开放，人们必然会争夺训练AI的主导权，甚至使用bot，就像在维基百科上，多年来一直有人试图夺取“集体真理话语权”。另外，提供给AI学习的数据，是否事先获得了使用权？这也是问题。
保持人工智能系统的封闭性有其道理，但也会引发对内容真实性的质疑。外界无法得知输入给AI的信息质量高低。如果输入的信息包含偏见，或AI训练存在缺陷，则AI可能会生成有害内容。所以，现在这些AI企业取得成功，完全是因为公众别无选择，只能盲目地信任他们，就像信任搜索引擎和其他互联网大厂的算法一样。
预训练AI模型的出现，意味着相关的伦理道德、责任义务、监管理念都必须与时俱进。这类模型易于分享普及，而且不像OpenAI的GPT等集中式AI平台，几乎无法监管。如果它生成错误内容，根本无法辨别原因：也许是上百个训练环节中的某一环出了问题？也许是模型由多个人训练？
04
AI将导致大规模失业。
关于“新型AI”的另一个谬误是它会导致人类失业，但生成式人工智能与旧式人工智能一样，只能做好一些非常特定的任务。尽管乍一看完成得不错，但仅能取代初学者，不能取代专家。而且，AI还不像普通初学者一样会主动学习，必须人工对其训练。用ChatGPT 或 DALL‑E生成的初稿虽然不差，但仍须人工检查、筛选和完善后才能使用。
ChatGPT总是信誓旦旦地给出答案，尽管有些内容违背客观事实。AI普及必将使网络上的内容和活动爆炸式增长，人类的专业判断力将比以往更加必要。每次“数字革命”的规律都是如此：数字化技术越普及，人类技能越珍贵。这场AI浪潮将对商界产生多大的颠覆性影响呢？我们只能拭目以待。
作者
Thierry Rayna
编辑
Meister Xia
