事关AI风险，美国再出手！谷歌、微软、英伟达等先后加入

9月12日，美国白宫发布声明称，美国商务部长雷蒙多等政府高官将在白宫召集人工智能行业高管，宣布Adobe、Cohere、IBM、英伟达、Palantir、Salesforce、Scale AI和 Stability八家公司承诺采取自愿监管措施管理AI技术开发风险，包括在推出前展开安全测试、构建将安全放在首位的系统、为AI生成内容添加数字水印等。

承诺聚焦在三方面

根据白宫声明，本次自愿承诺包括三个方面：

第一，在向公众推出产品之前确保产品安全。八家公司承诺在发布AI系统之前，将对其系统进行内部和外部安全测试。这项测试将部分由独立专家进行，旨在防范人工智能风险的一些最重要的来源，如生物安全和网络安全，以及其更广泛的社会影响。此外，公司还承诺在整个行业以及与政府、民间社会和学术界共享有关管理人工智能风险的信息。包括安全最佳实践、有关规避保障措施的企图的信息以及技术合作。

第二，构建将安全放在首位的系统。公司承诺投资于网络安全和内部威胁保障措施，以保护专有和未发布的模型权重。这些模型权重是人工智能系统中最重要的部分，八家公司一致认为，只有在预期和考虑安全风险时才发布模型权重至关重要。此外，公司还致力于促进第三方发现和报告其人工智能系统中的漏洞，以便在人工智能系统发布后如果出现问题，报告机制使这些问题能够快速发现和修复。

第三，赢得公众的信任。相关公司致力于开发强大的技术机制，以确保用户知道内容何时由人工智能生成，例如水印系统。这一行动使人工智能的创造力和生产力得以蓬勃发展，但减少了欺诈和欺骗的危险。此外，相关公司承诺公开报告其人工智能系统的功能、局限性以及适当和不当使用的领域。这些报告将涵盖安全风险和社会风险，例如对公平和偏见的影响。

八家公司还承诺优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视，以及保护隐私。人工智能的记录显示了这些危险的潜在规模和普遍性，这些公司承诺推出减轻这些危险的人工智能。

连续召集AI企业自愿监管

这不是白宫第一次召集人工智能企业进行自愿监管。

今年5月，美国总统拜登召集了四家处于人工智能创新前沿的美国公司的首席执行官——谷歌、Anthropic、微软和OpenAI，强调推动负责任、值得信赖和道德创新的重要性，并采取保障措施，减轻人工智能对个人和社会的风险和潜在伤害。应这些公司的要求，白宫随后举办了一次会议，重点关注网络安全威胁和最佳实践。

今年7月21日，白宫召集人工智能七大公司做出一系列保护用户的自愿承诺，包括同意进行安全测试，采用新的水印系统以告知用户内容是人工智能生成的。

这七家公司是亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI，它们的代表与美国总统拜登举行了会面，并同意白宫提出的一系列要求，以解决人工智能带来的许多风险。

具体来看，这些公司同意进行安全测试，部分由独立专家进行；对偏见和隐私问题进行研究；与政府和其他组织共享有关风险的信息；开发应对气候变化等社会挑战的工具；采取识别AI生成材料的透明度措施。

七家公司均表态自己为自愿签署协议，这些承诺不包括具体的截止日期，如果不履行承诺，目前不会产生任何重大法律后果。此外，每家公司都可以做出不同的解释。但这些承诺的执行将在很大程度上由美国联邦贸易委员会监督。而联邦贸易委员会的一名官员称，违反公共承诺可以被视为一种欺骗性做法，这将与现有的消费者保护法相冲突。

中国由政府主导监管AI

今年7月，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》。该办法已于8月15日起施行。其时，国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

《办法》强调，近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。

《办法》提出，国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。规定了生成式人工智能服务规范，明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务，按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识，发现违法内容应当及时采取处置措施等。此外，还规定了安全评估、算法备案、投诉举报等制度，明确了法律责任。

国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人民。

校对：高源