当前围绕人工智能(AI)的政策辩论,大多聚焦于如何改变获取AI的成本——通过调整相对成本,将AI应用引导至社会能够监管的渠道,同时远离那些无法监管的渠道。
以往的政策分析多集中在这一问题的供给侧,采用出口限制、许可要求、计算硬件管控等手段。但AI能力最终流向何处,其实取决于组织和个人在选择采用何种AI以及通过哪些渠道时所做的决策,而成本转移类政策工具正是作用于这一需求侧。相比之下,需求侧问题所获得的系统性分析要少得多。
本报告针对这一空白,提出了一个判断框架,用于评估成本转移策略何时能按预期引导AI应用走向、何时收效甚微、又何时会适得其反、加剧AI扩散风险。作者构建了一个正式模型,其中AI的应用采纳取决于不同获取渠道之间的相对成本,而治理工具正是通过操纵这些相对成本发挥作用。核心问题是:当政策改变AI获取的相对成本时,用户会如何在受监管渠道和不受监管渠道之间重新分配选择?在什么条件下,这种重新分配能够减少、无法影响或反而加速不受控AI的扩散?
关键发现
对受监管AI获取渠道施加合规负担,可能加剧不受控AI的扩散
如果只提高受控前沿AI获取渠道的成本,而未对不受监管的替代渠道施加相应压力,可能会将用户使用转向不受监管的获取渠道。在作者进行的模拟中,这种情况出现在约四分之一的相关情境中。
AI获取治理能否有效延缓或抑制不受监管获取渠道的增长,取决于三个需求侧条件
有三项指标可以预测政策能否抑制不受监管的AI获取:(1)使用者对不同渠道之间成本差异的敏感程度;(2)政策能在多大程度上有效提高不受监管AI获取的成本;(3)用户在不同获取渠道之间切换所需付出的成本。
一旦AI能力足够强大,AI获取治理政策将不再能够把用户引导至受监管渠道
一旦AI能力对用户而言变得足够有价值,那些试图调整受监管与不受监管AI获取相对成本的政策就会失去作用力。当AI能力发展到一定程度后,本研究建模框架中评估的任何政策都无法抑制不受监管渠道的使用。
区分AI能力发展动态与获取成本动态,对该技术的治理具有重要意义
以能力门槛为核心的治理框架,意味着监管应当追踪并响应特定的技术里程碑;而以价格动态为核心的治理框架,则意味着监管应当追踪并响应获取成本的变化。后者可能更易于观测、更便于政策干预,也更能预测谁会采用什么技术、通过哪些渠道采用。
Q&A
Q1:什么是成本转移类AI治理政策?
A:这是一种通过调整不同AI获取渠道之间的相对成本,引导用户采用可监管渠道、避开不可监管渠道的政策手段,与出口管制、许可要求等供给侧措施不同,它主要作用于用户的需求侧选择。
Q2:为什么提高受监管AI渠道的合规成本反而可能适得其反?
A:如果只提高受控前沿AI获取渠道的成本,而没有对不受监管的替代渠道施加相应压力,用户可能会转而选择不受监管的渠道获取AI,从而加剧而非减少不受控AI的扩散。据模拟结果显示,这种情况约占相关情境的四分之一。
Q3:AI能力发展到什么程度后,治理政策会失效?
A:一旦AI能力对用户而言变得足够有价值,试图通过调整相对成本来引导用户选择的政策就会失去作用力。当AI能力发展到足够强大的阶段后,报告建模框架中评估的所有政策都无法再抑制不受监管渠道的使用。