DeepMind首席执行官希望为前沿人工智能设立裁判。

谷歌DeepMind首席执行官 @demishassabis 呼吁美国建立一个正式机构，在世界上最强大的人工智能模型投入用户使用之前对其进行审查，并警告说，通用人工智能可能只需几年时间就能实现，而建立防护措施的窗口正在迅速关闭。

FINRA针对前沿人工智能的模型

哈萨比斯提议建立一个人工智能标准机构，其模式效仿美国金融业监管局（FINRA）。FINRA是一家私营的、由行业资助的监管机构，在证券交易委员会（SEC）的监督下监管华尔街。前沿实验室最初将自愿与该机构分享其模型，最多可在发布前30天进行安全测试，以检验其是否存在危险的网络攻击、生物攻击和“欺骗”能力。一旦测试机制被证明“有效且稳健”，正式化流程“即可迅速推进”，这意味着前沿模型必须通过测试才能在美国市场部署。

哈萨比斯设想成立一个以图灵奖得主和其他权威专家为主的独立委员会，成员包括行业、政府和开源领域的代表。该委员会需要“大量”资金来吸引世界一流的技术人才，并提供大规模测试所需的计算资源，这些资金很可能来自行业。哈萨比斯表示，他希望该委员会能在年底前投入运作。

该提案最引人注目之处在于其制动机制。哈萨比斯表示，随着风险的增加，该机制可以“逐步加强”，包括“在必要时协调前沿实验室放缓研发速度”。他还表示，几个月来，他已就此向特朗普政府、竞争对手实验室和欧洲官员进行了汇报。

持怀疑态度的白宫和尴尬的资金结构

这项提案出台的时机十分复杂。“人工智能领域不会设立像FDA那样的监管机构，”白宫人工智能顾问斯里拉姆·克里希南7月3日对《金融时报》表示。他指出，政府倾向于采取轻度监管的方式，并警告称，过度监管会减缓创新，削弱美国的竞争力。哈萨比斯框架刻意避免使用政府许可的措辞，似乎旨在巧妙地平衡各方利益，将监管权交给行业而非联邦机构。

但这种自律模式本身也存在矛盾。一个由其监管的实验室资助的机构，显然存在利益冲突，而近期模型发布处理方式也难以让人对这种临时安排抱有信心。在克里希南发表评论的几周前，联邦政府进行了一次“史无前例的干预”，迫使Anthropic撤回其Mythos模型的最新版本，同时暂停了OpenAI 5.6版本的发布。哈萨比斯指出，这些事件表明，华盛顿需要的是一个正式的治理结构，而不是临时应对措施。

哈萨比斯认为，能够在广泛的任务中媲美人脑的通用人工智能“可能只需几年时间”就能问世，这给社会留下了一个建立监管机制的“宝贵窗口期”。华盛顿能否在这个窗口期关闭之前就监管框架达成一致，仍然是目前悬而未决的核心问题。

来源：
Axios：谷歌首席执行官哈萨比斯呼吁成立由美国主导的全球人工智能监管机构
CNBC：谷歌DeepMind首席执行官呼吁美国牵头成立人工智能标准制定机构
PYMNTS：白宫顾问称特朗普不会为人工智能设立FDA