青牛君在3月3日曾写了随笔-ChatGPT的罪与罚,担心其内容的生产者和其自身的生成能力带来的不确定性:
ChatGPT并不只是一个科技的核,还包含着文化、哲学、宗教、思想、经济、法律等人类全方位的内容,科技可以造福全人类,而意识形态的东西却又足以裂解全世界。
使用者都以为ChatGPT是知识、科技和力量的化身,却忽略了站在ChatGPT背后的那个群体,甚至是ChatGPT这个可以“生成”万物的本体。最终,如果ChatGPT不能很好的得到规范,而成为操弄的工具,后果是难以设想的。昨天,看到马斯克联名上千人工智能领域的重量级人物呼吁暂停ChatGPT的升级,其理由是以免“对社会和人类造成潜在风险”。
ChatGPT代表的人工智能成果初用让人欢欣鼓舞。自动翻译又好又快,一般知识性问题逻辑清楚表达也流畅等。但肉眼可见的几个问题:
ChatGPT不会说不知道,所以,遇到不知道的问题时,会张冠李戴,胡乱生成,而且,在外行人来看,却是条理分明,煞有其事。这一点,是青牛君深感困扰的。人工智能毕竟首先应是以正确的知识为基础,而不是为了生成而生成。这还只是在知识层面,如果是意识形态方面呢?文化伦理方面呢?更为敏感的又会怎样?
ChatGPT的中文内容、知识极为欠缺,青牛君试用中国古代、古人、古诗等方面的内容错误百出。当然,有人会说,ChatGPT是洋玩意,并未向大陆开放。如此说来,是以土忧洋了。
一窝蜂的中国企业奔向类ChatGPT开发,百度、腾讯、360等不下10个大型企业公布或正在开发中。算力等一大批风口上的猪也随风乱舞。先不说这样的重复开发浪费、吞噬多少的资源和能源;先不说落后美丽国多少代是否需要统筹而行;先不说永远是别人定义你毫无话语权,冷不丁你投入了天量的人物资时,又被人在哪里卡了脖子。而是,搭上这个烧光你资源的硬核架子,会忽然发现,你的内容,还是空洞、混乱和错误百出。谁来构建数据?谁来审核数据?谁来为“G”生成的数据把关?毕竟内容才是王啊!
青牛君一厢情愿的认为ChatGPT不要承担太多的功能,不要与意识形态靠得太紧,保持相对纯洁的知识和技术特质。这,也可能是ChatGPT们长命百岁的基因吧。
我是青牛君,倾心打造传世茶品。本文部分图片来自网络,如涉侵权,请联系删除。祝各位读者有梦有爱,梦想成真!