正确的提示信息

扫码打开虎嗅APP

从思考到创造
打开APP
搜索历史
删除
完成
全部删除
热搜词
2023-10-31 20:35
美国发布最全AI监管原则,剑指主导全球AI发展格局

本文来自微信公众号:Internet Law Review(ID:Internet-law-review),作者:互联网法律评论,题图来自:视觉中国

文章摘要
美国总统拜登签署了最全面的人工智能监管原则,旨在确保美国在技术开发方面处于领先地位,并加强数据隐私和网络安全等方面的监管。

• 行政命令要求公司向联邦政府提交报告,详细说明他们如何训练和测试最强大的新人工智能系统。

• 该命令强调了防止强大的人工智能模型落入外国对手手中的重要性,并要求大型云服务提供商通知政府外国人租用服务器空间的情况。

• 行政命令包含要求国家安全委员会和白宫办公厅制定“国家安全备忘录”,以确保美国军方和情报界在使用人工智能时安全、道德和有效。

2023 年 10 月 30 日,美国总统拜登签署了美国迄今为止最全面的人工智能监管原则:指示所有类型的政府机构确保美国在技术开发方面处于领先地位,同时指示各机构制定标准,以确保数据隐私和网络安全、防止歧视、加强公平性,密切监控快速增长行业的竞争格局。


用拜登自己的话说,人工智能是“我们这个时代最重要的技术”。


这项命令酝酿了数月之久,它代表着对这项技术强加国家秩序最重大的努力。该行政命令将使美国密切关注私营部门开发强大的人工智能系统。它包括要求公司向联邦政府提交报告,详细说明他们如何训练和测试所谓的“双重用途基础模型”,它定义的这一类别包括最强大的新人工智能系统等。



以下是关于该行政命令的重要事项:


一、拜登的行政命令的效力如何?


这项行政新令超越了 OpenAI、谷歌和 Meta 等公司今年早些时候做出的自愿承诺,但它仍旧更强调建立最佳实践和标准,而不是如何甚至是否执行新指令。也就是说,该命令并不具有法律效力。


该命令“呼吁”美国国家标准技术研究所(NIST)在模型推出之前为广泛的“红队”测试制定标准,即旨在破坏模型以暴露漏洞的测试。然而,该行政命令并不要求人工智能公司遵守 NIST 标准或测试方法。行政命令的许多方面仍然依赖于科技公司的自愿合作。


但该行政令将向十多个机构发布规模庞大的指令,针对它们处理人工智能系统的情况,各机构有 90 至 240 天的时间来满足行政命令的要求,新的指导方针通过联邦机构的购买力和执行工具赋予联邦机构在美国市场的影响力。拜登的命令特别指示联邦贸易委员会(FTC)重点关注人工智能行业的反竞争行为和消费者伤害问题,FTC主席莉娜·汗(Lina Khan)已经公开支持这一行政命令。


同时,美国国会已忙于制定立法来应对人工智能的风险和潜力。尽管一些政界人士表示他们希望在年底前通过有关人工智能的法律,但参议院多数党领袖查克·舒默表示,明年之前可能不会推出广泛的人工智能法案。


二、美国要促进网络安全并成为全球领导者


该命令表明,白宫将“国外”先进网络武器的快速发展视为人工智能带来的最重大风险之一,同时着力发展本国人工智能在发现美国政府网络漏洞、对抗对手人工智能的军事使用方面的应用。


一方面,为了防止强大的人工智能模型落入外国对手手中,该命令将要求开发强大人工智能模型的公司向商务部提供定期报告,概述他们计划如何保护其技术免受间谍或数字颠覆,并要求大型云服务每当外国人租用服务器空间来训练大型人工智能模型时,亚马逊和微软等提供商就会通知政府。


另一方面,该命令包含要求国家安全委员会和白宫办公厅制定“国家安全备忘录”,指导人工智能和安全方面的进一步行动,确保美国军方和情报界在其任务中安全、道德和有效地使用人工智能,并将指导行动以对抗对手对人工智能的军事使用。


行政令强调了“在人工智能领域扩大双边、多边和多方利益攸关方的合作”的重要性,旨在将美国定位为人工智能政策的全球领导者。在此行政令发布之前,七国集团在 10 月 29 日就开发先进人工智能系统的公司行为准则达成一致,各国政府寻求减轻该技术的风险和潜在滥用。英国人工智能安全峰会将于2天后举行,美国这一行政令将为英国峰会定下基调,并可能鼓励欧盟最终确定其人工智能法案,因为该行政命令发出了一个明确的信息,即美国同意欧盟的许多政策目标。


三、标记人工智能生成内容的新规则:解决造假和知识产权问题


作为该命令的一部分,商务部将为人工智能生成的标签项目“制定内容认证和水印指南”,人工智能公司将使用该指南来开发白宫希望联邦机构采用的标签和水印工具。


这类工具被广泛提出作为解决深度造假和虚假信息等人工智能问题的解决方案,同时还对知识产权监管机构和联邦执法机构提出了要求,以解决人工智能培训中版权作品的使用问题,包括呼吁“评估人工智能系统是否违反知识产权法”。


今年 8 月份向白宫宣布的自愿承诺中,谷歌和 OpenAI 等领先的人工智能公司承诺开发此类技术。问题在于水印等技术仍在开发中。目前还没有完全可靠的方法来标记文本或调查一段内容是否是机器生成的。


美国白宫表示,计划与“内容来源和真实性联盟”(C2PA倡议)一起推动这些技术的开发和使用。组织包括 Adobe、英特尔和微软等一些大公司,并设计了一种新的互联网协议,该协议使用加密技术对有关内容来源的信息进行编码。


该行政命令草案呼吁美国专利商标局局长和美国版权局局长采取额外的行政行动,以解决与人工智能生成作品的版权保护和使用受版权保护的作品训练人工智能相关的问题算法。


四、鼓励内部竞争、扶植小企业、防止垄断


该命令草案指示其旗下的每个机构监管人工智能业务竞争,留意“集中控制带来的风险”,并防止占主导地位的公司进一步巩固权力。


该行政令特别指出,要通过为小型开发商和企业家提供技术援助和资源,帮助小型企业将人工智能突破商业化,并鼓励联邦贸易委员会行使其权力,促进公平、开放和竞争的人工智能生态系统。


人工智能所花费的成本巨大,如果只有谷歌、亚马逊和微软等最大的公司才能参与竞争,他们可能会通过人工智能的开发加固其垄断地位。


值得注意的是,行政令特别向联邦贸易委员会(FTC)表示认可,该委员会主席已经强烈表示,她打算积极打击以反竞争方式行事的人工智能公司。该命令鼓励联邦贸易委员会利用其规则制定权来帮助加强该行业的竞争,并保护消费者。


五、推出AI.gov与人才争夺计划


拜登总统在 10 月 30 日的新闻发布会上宣布推出了 AI.gov,这是一个新网站,展示联邦政府在人工智能 (AI) 方面的努力和成就,此外还为研究人员、开发人员和公众提供资源和指导。这也是美国政府在人工智能领域更广泛战略的一部分,旨在推动人工智能在美国的发展和采用。


一个关键功能是政府新推出的“国家人工智能人才激增”门户网站,该门户旨在快速招募技术专家,以根据政府的价值观构建和管理人工智能系统。该网站还提供了有关政府如何投资人工智能研发的信息。


获得技术工人是科技行业的主要关注点,美国行政命令列出了一系列全面的指令,旨在提高具有人工智能专业知识的移民获得绿卡或以其他方式为处于人工智能和新兴技术前沿的美国公司工作的能力。


该命令指示包括国务院和商务部以及白宫科学技术政策办公室在内的多个机构开展一项海外活动,以宣传美国作为对具有科学或技术专业知识的外国人有吸引力的学习目的地、人工智能和其他关键技术的研究或工作。


六、受科技公司欢迎的AI监管政策


该行政命令建立在白宫与人工智能公司达成的非约束性协议的基础上。美国政府的做法仍然对科技公司相对友好,强调创新和竞争,而不是限制和约束,进一步体现了美国对人工智能监管相对宽松的态度。因此,各大科技公司基本上对这项行政命令表示欢迎。


微软副董事长兼总裁布拉德·史密斯(Brad Smith)称赞这是“人工智能技术治理方面又向前迈出的关键一步”。


谷歌全球事务总裁肯特·沃克表示,该公司期待“与政府机构进行建设性合作,以最大限度地发挥人工智能的潜力,包括让政府服务变得更好、更快、更安全。”


Adobe 总法律顾问兼首席信托官 Dana Rao 表示:“很高兴看到白宫通过创建负责任的人工智能实践框架来投资人工智能的发展。”


哥伦比亚大学法学教授布拉德福德表示:“这项行政命令可能是我们目前对美国政府所能期望的最好的行政命令。”


本文来自微信公众号:Internet Law Review(ID:Internet-law-review),作者:互联网法律评论

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系 hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
打开虎嗅APP,查看全文
文集:
频道:

支持一下

赞赏

0人已赞赏

大 家 都 在 看

大 家 都 在 搜

好的内容,值得赞赏

您的赞赏金额会直接进入作者的虎嗅账号

    自定义
    支付: