随着AI的使用、创新和监管混乱超出了已批准标准的范围，IT领导者们只能依靠内部方法来减轻AI风险，依赖于框架、工具以及同事们来正确使用AI。

随着越来越多的GenAI项目从概念验证转向生产，CIO将面临制定AI治理政策以保护企业和他们自身职位的额外压力。

美国政府和欧盟以及顶级市场研究机构提供了大量的AI治理框架，但无疑，随着通用AI创新超越正式标准，观察人士表示，CIO将需要在2025年制定和完善内部AI治理政策，并在此过程中让整个高管团队参与进来，以确保他们不是孤军奋战。

在这方面，管辖权的不平衡也在起作用。

IDC研究总监Grace Trinidad表示：“根据2024年2月的一项调查，在负责任的AI政策制定和行为准则创建方面，美国组织与欧洲组织不相上下，但在根据《欧盟AI法案》建议建立多学科/部门间治理委员会方面，美国组织落后于欧洲组织。”她敦促CIO不要独自承担AI治理工作。

Trinidad表示，IDC建议将NIST AI风险管理框架作为帮助CIO内部开发AI治理的合适标准，同时也建议参考《欧盟AI法案》的条款。她在“IDC PeerScape：AI模型和应用程序安全措施”中引用了AI治理某些方面的最佳实践。

Trinidad指出，CIO承认实施AI治理的方法有很多，并且大多数已经开始实施至少一些项目，尽管并非所有环节都已到位。

为此，Ciena的首席数字信息官Craig Williams表示，这家网络公司已经成立了AI工作组来解决治理挑战。

Williams说：“我不认为未来AI治理会由单个实体或政府本身所拥有——这太具有挑战性了，然而，公司需要建立自己的治理流程来确保端到端的问责制。我们认识到AI系统需要透明度、公平性和问责制。因此，我们费尽心力确保让正确的利益相关者参与治理过程本身。”

专家和IT领导者表示，这种跨职能的努力至关重要。

Williams说：“治理真正是关于我们相互倾听和学习，因为我们都关心结果，但同样重要的是我们如何达到结果本身。一旦你跨过了这座桥，你就可以快速转向AI工具和实际项目本身，这样更容易操控。”

随着AI创新的蓬勃发展，TruStone Financial Credit Union也在努力建立全面的AI治理项目。

TruStone的执行副总裁兼首席技术官Gary Jeter表示：“每周都有新的GenAI平台和能力出现。当我们发现它们时，我们会阻止访问，直到我们能够彻底评估我们的控制措施的有效性。”例如，他提到最初决定阻止访问Google的NotebookLM以评估其安全性。

像许多企业一样，TruStone已经部署了一个全公司范围的GenAI平台，用于政策和程序，品牌名为TruAssist。

Jeter说：“所有大约560名团队成员都在使用这个AI工具来快速访问超过500项政策和程序，这大大节省了时间，并带来了巨大价值。我们在2023年11月启动了价值验证试点项目，并在2024年2月向所有团队成员推广，这非常快，我们学到了很多。在面向成员的应用程序中利用GenAI方面，我们采取了更为保守的方法，但我们正在取得进展。”

AI治理框架和平台

Travelers的EVP兼首席技术和运营官Mojgan LeFebvre表示，该公司是另一家长期以来一直在制定其AI治理策略的大型企业。

LeFebvre说：“作为Travelers治理框架不断发展和成熟的一部分，我们还建立了一个负责任的AI框架，该框架提出了指导我们开发和使用AI、高级分析和建模的基本原则。此框架的目标是帮助确保我们的行为和伦理与我们业务和文化的核心价值相一致。”

观察人士指出，AI治理不仅关乎保护企业免受数据泄露或知识产权盗窃的侵害，还关乎控制成本与预算相符。

GAI Insights的首席执行官兼首席分析师Paul Baier表示：“IT领导者应该对通用AI应用程序的生产采取‘非常务实——谨慎且缓慢’的推出方式，因为高管和IT部门仍在学习如何管理概率性企业应用程序的风险，而且随着使用量的增加，实际成本也会上升。”

Baier说，增加通用AI风险和成本的另一个因素是“大多数企业中存在大量的‘影子IT’，员工使用个人账户将公司数据用于像ChatGPT这样的工具。”

根据Gartner的说法，企业可以通过实施AI治理平台来控制AI的使用，Gartner将该技术确定为其2025年第二大战略趋势，预测到2028年，实施AI治理平台的企业相比没有此类系统的企业，AI相关的伦理事件将减少40%。

Gartner声称，AI治理平台的好处包括创建、管理和执行“确保负责任使用AI的政策，解释AI系统的工作原理，对模型生命周期进行管理，并提供透明度以建立信任和问责制。”

那么挑战是什么呢?Gartner表示：“AI指南因地区和行业而异，难以建立一致的实践。”

未来的挑战

观察人士表示，CIO还需要调整能够适应未来变化的AI治理框架，特别是如果出现AI能力(ACI)的情况。

孟菲斯Baptist Memorial Health Care的CIDO Tom Barnett表示：“我们正在评估哪种AI使用政策最能满足我们当前的需求，同时采用一种模式，为我们前进和学习未知知识提供灵活适应的空间。”

鉴于AI在过去两年中取得的进展，这将通向何方仍是一个巨大的未知数。使问题更加复杂的是，不仅新兴的AI监管措施错综复杂，而且商业模式和市场本身也在发生变化。

当ChatGPT两年前首次亮相时，OpenAI的创始人将GenAI需要妥善管理作为公司成立为非营利组织的关键原因。自那时以来，除了两名创始人外，其他所有人都已离开，OpenAI正在努力将其核心业务重组为一家营利性公司，不再由其非营利董事会控制。

Gartner负责云、边缘和AI基础设施技术与服务的副总裁Sid Nag表示，自2021年以来，NIST的AI安全研究所联盟和负责任AI中心在AI治理方面取得了进展，但没有经批准的监管标准来指导承受着越来越大压力、希望走出实验阶段并从对GenAI平台和工具的大量投资中获利的CIO。

他强调，没有一份文件能够涵盖所有风险方面，也没有明确的权威机构来强制执行日益发展的GenAI的使用。“AI就像一列失控的火车，每个人都想从中捞一笔。”他说。

然而，很少有CIO或高管团队会忽视AI治理。大大小小的企业都清楚地知道，GenAI如果落入错误之手，可能会带来灾难。

医疗设备租赁公司US Med-Equip的CIO Antonio Marin表示，AI正使他的公司快速发展，但在治理方面，大家都在全力以赴。

Marin说：“我们将AI治理纳入了我们的数据和网络安全治理中。”他补充说，当概念验证从沙盒转向生产时，风险会飙升。“在某些情况下，我们的高管团队将AI视为解决某些流程问题的方法。他们看到AI是一个获得市场份额或降低运营成本的机会，同时保持高质量的客户体验和卓越的运营。”

TruStone的Jeter预计，监督迟早会成为法律和监管要求。“我将检查员和内部/外部审计师视为合作伙伴，我们的共同目标与我们的价值观相一致。”Jeter说。“因此，我没有什么可担心的。”