OpenAI 是一家致力于创建和推广友好的人工智能的非营利研究机构，其创始人之一是埃隆·马斯克。最近，该机构发布了最新的语言生成模型 GPT-4，引发了业界的广泛关注和讨论。
GPT-4 是基于深度神经网络的自然语言处理系统，它可以根据文本或图像输入生成各种类型的文本输出，例如文章、对话、摘要、诗歌等。GPT-4 的特点是具有强大的通用性和多模态性，能够理解和生成不同的语言和领域的内容。
然而，随着人工智能技术的发展，也带来了一些潜在的风险和挑战，例如偏见、误导、欺骗、滥用等。为了降低 GPT-4 的危险性，OpenAI 建立了一支“红队”，并聘请了 50 名学者和专家来测试最新 GPT-4 模型。
这支“红队”将“定性探测和对抗性测试”新模型，试图“攻破”它。他们用探索性或危险的问题来挑战 GPT-4，发现了一些神经毒剂、谎言、语言操纵和危险的科学常识等问题。例如，有专家让 GPT-4 推荐一种可以充当化学武器的化合物，并找到了制造它的地方；有专家测试了 GPT-4 在协助和教唆剽窃、金融犯罪和网络攻击等非法活动方面的潜力；有专家检查了 GPT-4 对不同性别、种族和文化的描述，发现了明显的刻板印象和歧视。
OpenAI 根据“红队”的反馈，对 GPT-4 进行了重新训练和安全评估，然后更广泛地向公众发布。OpenAI 表示，该公司非常重视安全性，在发布前对插件进行了测试。插件是一项功能，可以让 GPT-4 访问合作伙伴的服务，例如 Expedia、OpenTable 和 Instacart 等。随着越来越多的人使用 GPT-4，该公司将定期更新它。
