联合国安理会日前举行高级别会议，主题是：人工智能与维护国际和平与安全。联合国秘书长古特雷斯现场发表讲话，敦促会员国迅速采取行动，为人工智能技术的迅猛发展制定出一套全面的国际规范。他警告说，任何拖延都可能导致全球和平与安全面临更为严峻的风险。播 分享 赞
古特雷斯指出，人工智能技术的发展速度已远超当前人类治理人工智能的能力，这给人类的决策体系带来了前所未有的挑战，特别是在问责制、公平性、安全性以及人类监督方面。他警告说，每拖延一刻，全球面临的风险就会增加。
古特雷斯强调，任何国家都不应在武装冲突中设计、开发、部署或使用违反国际人道法和人权法的人工智能军事应用，特别是那些能够自主选择和攻击目标的人工智能系统。他明确指出，新兴技术所引发的地缘政治竞争绝不能以牺牲国际和平与安全为代价。
古特雷斯表示，人工智能是一把双刃剑，既具有推动社会变革的巨大潜力，如预测气候变化导致的人口迁移和清除地雷等，同时也伴随着巨大的风险，尤其是在军事系统的应用和数字安全领域的滥用上。
古特雷斯提到，人工智能与核武器的潜在结合以及量子人工智能系统的出现，都可能对全球安全构成严重威胁。他强调，人类命运绝不能交由算法的“黑箱”决定，必须确保在涉及武力使用的决策中，人类始终占据主导地位。
古特雷斯指出，人工智能在信息领域的应用同样存在令人担忧的潜在风险。他提到，换脸技术和人工智能生成的虚假信息可能操控公众舆论、引发社会危机并侵蚀社会信任。
与此同时，他也关注到了人工智能对环境的潜在影响，例如数据中心对资源的高需求以及围绕人工智能技术所需关键矿物的地缘竞争。
面对这些前所未有的全球挑战，古特雷斯呼吁各国应展开前所未有的合作，确保人工智能造福全人类，而非加剧不平等
古特雷斯表示，人工智能全球治理近期取得了一些成果，包括未来峰会上通过的《联合国全球数字契约》，以及联大通过的两项关于加强全球合作与能力建设的关键决议。他还透露，联大即将讨论一项关于人工智能在军事领域应用的第三项决议。
古特雷斯呼吁各国禁止研发致命性自主武器，并敦促安理会发挥表率作用，防止人工智能的军事化对国际和平与安全构成威胁。他强调，各国应携手共进，共同创造一个安全、可靠且包容的人工智能未来。
联合国大会通过
里程碑式决议
联合国图片｜联大会场
联合国大会于今年3月一致通过了一项具有里程碑意义的决议，呼吁抓住“安全、可靠和值得信赖的”人工智能系统带来的机遇，让人工智能给人类带来惠益，并以此促进可持续发展。
这是联合国大会首次就监管人工智能这一新兴领域通过决议。决议草案由美国提交，同时还有120多个会员国成为“共同提案国”或表达支持。
决议表示，各国认识到，“人工智能系统的设计、开发、部署和使用速度加快，技术变革日新月异，对加快实现可持续发展目标具有潜在影响”。为此，联大“决心促进安全、可靠和值得信赖的人工智能系统，以在全面实现《2030年可持续发展议程》方面加快取得进展”。
联大此份决议强调，“安全、可靠和值得信赖的人工智能系统” 是指非军事领域的人工智能系统，必须在其整个生命周期内“尊重、保护和增进人权和基本自由”。联大还促请所有会员国及其他利益攸关方“不要使用或停止使用无法按照国际人权法运作或对享受人权构成过度风险的人工智能系统，特别是对于那些处于弱势的人而言”。
决议同样提出，“人们在线下享有的权利也必须在线上得到保护，包括在人工智能系统的整个生命周期内”。
联大鼓励会员国并邀请所有区域和国家的利益攸关方，包括私营部门、国际和区域组织、民间社会、媒体、学术界和研究机构、技术界及个人，在各自角色和职责范围内，制定和支持与安全、可靠和值得信赖的人工智能系统有关的监管和治理办法及框架。
决议表示，各国还认识到，“目前存在人工智能和其他数字方面的鸿沟，国家之间和国家内部的技术发展水平参差不齐，发展中国家在跟上这一迅速加速的步伐方面面临独特挑战，这对可持续发展造成障碍”。
联合国大会因此“决心弥合国家之间和国家内部的人工智能鸿沟和其他数字鸿沟”，同时“促请会员国并邀请其他利益攸关方采取行动，与发展中国家合作并向其提供援助，以实现包容和公平地获得数字化转型以及安全、可靠和值得信赖的人工智能系统所带来的惠益”。
联大通过中方主提
AI能力建设决议
联合国图片｜中国常驻联合国代表傅聪
第78届联合国大会还于今年7月1日协商一致通过了中国主提的加强人工智能能力建设国际合作决议，140多国参加决议联署。
该决议强调人工智能发展应坚持以人为本、智能向善、造福人类的原则，鼓励通过国际合作和实际行动帮助各国特别是发展中国家加强人工智能能力建设，增强发展中国家在人工智能全球治理中的代表性和发言权，倡导开放、公平、非歧视的商业环境，支持联合国在国际合作中发挥中心作用，实现人工智能包容普惠可持续发展，助力实现联合国2030年可持续发展议程。
中国常驻联合国代表傅聪在联大全会介绍决议草案时表示，当前全球人工智能技术飞速发展，对各国经济社会发展和人类文明进步产生深远影响。但大多数国家特别是发展中国家尚未能真正接触、使用人工智能并从中受益，全球数字鸿沟仍有扩大之势。广大联合国会员国普遍期待就人工智能能力建设加强国际合作，平等发展和利用人工智能技术，共享人工智能知识成果。
傅聪说，这份决议聚焦人工智能能力建设主题，围绕加强相关国际合作提出一系列重要务实举措，旨在帮助各国特别是发展中国家从人工智能发展中平等受益，弥合数字鸿沟，完善全球人工智能治理，加快落实2030年可持续发展议程。该决议获得协商一致通过，表明广大会员国普遍赞同通过对话合作加强人工智能全球治理，充分彰显出中国对人工智能发展和治理的负责任态度和重要引领作用。
傅聪表示，中方期待以本决议通过为契机，同广大会员国一道积极推动决议后续落实，坚持发展优先，坚持以人为本，坚持平等互利，坚持守正创新，以实际行动帮助发展中国家加强人工智能能力建设，促进人工智能赋能可持续发展，增进全人类共同福祉，推动构建人类命运共同体。
本月早些时候，中国和赞比亚在纽约联合国总部共同举办了“人工智能能力建设国际合作之友小组”首次会议，标志着该小组正式成立。
埃及、巴基斯坦、巴西、埃塞俄比亚、印度尼西亚、俄罗斯、美国、法国、英国等80多个国家以及联合国秘书长技术特使办公室等联合国机构的代表与会。
中国常驻联合国代表傅聪、赞比亚财政部常务秘书卡玛在会上致辞。傅聪表示，中国提出《全球人工智能治理倡议》，围绕人工智能治理的重大课题贡献了中国智慧。面对人工智能带来的机遇和挑战，我们要推动智能向善，坚持公平普惠，践行多边主义，聚焦能力建设。人工智能能力建设国际合作之友小组将推动广泛伙伴关系，采取务实有效行动，促进人工智能赋能各国可持续发展。
卡玛表示，国际社会应致力于弥合智能鸿沟，支持联合国在人工智能全球治理中发挥关键作用。希望各方支持这一小组，加强全球协调合作。
