今年，ChatGPT可谓是“引爆”了整个AI行业，GPT-4、文心一言等产品也相继问世。
智能对话、三维重建、AI换脸、AI绘画等技术，从高新科技走向全民应用，不但让曾经电影中的情节变成现实，还让科技走进普通人的生活。
AI可以成为安慰一个失去母亲女孩的“妈妈”；
随后，一位年轻女孩在广州3号线上光着身体玩手机的“果照”，出现在了群聊。
照片一出，震撼了所有吃瓜网友，还有人调侃：“便宜那趟地铁上的人了”。
然后，吃瓜群众开始围绕此名女孩的目的展开讨论，有人怀疑她炒作，有人猜测是特殊癖好，还有人说是金主想看等等。
原来，女孩是穿搭博主，平时会分享一些日常穿搭，被黄谣的原图不过是她在2022年8月时分享的一张照片。
而这样的受害者还有很多：
近期热议的南华大学何某某盗用女生朋友圈照片，P成不雅图片进行牟利的受害女同学；
特效师洪亮利用AI换脸，将自己与电视剧男主换脸，和女主迪丽热巴“接吻”的成视频的受害女明星……
更可怕的是，AI一键换衣可以进行捏脸，可以造出和真实照片每个像素点都一模一样的照片，可以捏出和照片当天一模一样的你，而你在同样的场景却做出各种奇怪的举动。
当时间、地点都对得上的情况下，用伪造的照片制造的谣言，对普通人来说更是百口莫辩！
实则不然。
一段视频、一段语音，甚至都未必是真人拍摄或录制，在你不知道的手机App后台、支付界面，乃至门禁闸机，或许有人正在盗刷你的脸、篡改你的声音。
利用合成后的视频，轻而易举就能直接骗过社交平台、支付账户的人脸核验机制；骗过手机卡注册过程中的人工审核环节，继而利用他人名下的手机号进行电信网络诈骗、网络赌博等。
普通人的“钱包”就被这样偷走了。
篡改声音也不过需要几段60秒的语音，就能通过AI合成语音。如果这些合成语音的内容是：
“不用打卡，直接微信转给我吧”
“今天你不用去接孩子了，我就在学校附近，顺路去接孩子”……
这何止“钱包”不保，甚至可能连人身安全都难以保障吧？
AI是一把双刃剑。如何用好这把双刃剑？既不能让AI成为悬在大众头顶的达摩利斯之剑，让所有人都担心是不是下一个“受害者”就是自己，也不能让AI创新止步不前，无法发展。
我们必须要制定配套的规则、规范和保护措施，来避免AI的滥用。
虽然还未推出关于AI的新规，但网络并非法外之地。
AI换脸、AI换衣都侵犯了他人的肖像权；而利用这些技术制作、复制、贩卖、传播淫秽视频，还构成传播淫秽物品罪；盗刷人脸及合成声音骗取财物，还涉及诈骗犯罪……
AI本身并没有善恶之分，AI向善就是人的向善，最重要的是手持这把利刃的人。
AI向善之前，我们先从自己做起，做个善良的人，好吗？
文章转载于：公益中国网http://www.pubchn.com/news/show.php?itemid=97491
