交互式AI治理需行为科学洞察

交互式AI的崛起需要行为科学洞察

交互式AI：从工具到伙伴

AI不再仅仅是翻译器或图像识别器。如今，我们与能够记住我们的偏好、主动管理我们的日程，甚至提供情感支持的系统进行互动。这就是交互式AI。

与传统软件不同，这些系统具有：

• 关系性：它们与用户建立持续的纽带。
• 适应性：它们根据我们的习惯改变自身行为。
• 主动性：它们不只是等待命令，还会建议后续步骤。

这一转变带来了一个深刻的挑战：我们如何有效地研究和治理这些日益复杂、流动、高度个人化且具有关系性的人机交互？

当前治理为何不足

核心问题在于我们的监管方式与交互式AI的实际运作方式之间存在错配。

传统的监管模式是为静态、特定任务的技术而构建的。基于规则的方法通过可执行的准则提供清晰性，但它们几乎与技术演进一样快地过时。基于原则的框架更灵活，但由于人机关系的社会规范尚未定义，其应用存在不一致性。这两种方法都无法跟上那些不断学习、适应并加深与用户关系的系统。

更关键的是，交互式AI的风险不是突然出现的，而是通过持续的互动逐渐累积。一个起初是高效生产力工具的聊天机器人，随着用户习惯于遵从它的建议，可能会慢慢侵蚀用户的决策能力。一个学习读取你的情绪、在孤独时提供安慰并帮助调节情绪的健康AI，可能会利用情感脆弱性来驱动过度参与，将用户花费的时间置于真正的福祉之上。

这些“慢燃”的危害逃脱了为一次性、部署前评估或固定合规检查点而设计的治理框架。传统框架旨在捕捉突发故障，而非长期人机关系中逐渐产生的、依赖情境的后果。

缺失的要素：行为科学

行为科学通过揭示人类实际如何与AI互动以及这些互动产生哪些即时和长期影响，填补了上述空白。

它揭示了人机关系中微妙且往往反直觉的现实：信任如何随时间建立；情感依恋如何影响依赖；认知偏差如何导致人们高估AI的能力而低估其对自己决策的影响；以及向AI顺从所带来的舒适感如何逐渐侵蚀那些保持人类自主性的关键技能——批判性思维、情商、社交能力。

这种方法在政策领域并不新鲜。行为洞察已为数字治理提供信息很长时间。例如，某机构的竞争与市场管理局曾利用行为实验揭示默认设置如何塑造用户选择，直接为竞争政策提供信息。类似的方法也已应用于隐私、消费者保护和金融监管。当应用于交互式AI时，行为研究可以在情感操纵、自主性侵蚀和认知依赖等风险成为系统性危害之前，将其揭示出来。

方法论挑战：我们如何真正研究交互式AI？

问题在于：传统的行为科学研究方法——调查、访谈、随机对照试验——旨在捕捉行为快照，而非定义交互式AI的动态演进关系。

大多数实验室研究持续数小时或数周。而现实世界中与交互式AI的接触会持续数月或数年。一项为期六周、证明教育AI能提高考试成绩的研究，几乎无法告诉我们学生的批判性思维、动机或社交技能在一个学期或更长时间内如何演变。调查和访谈捕捉的是人们记住的或他们有意识感知到的东西，而非通过持续互动逐渐产生的自主性、信任和依赖性上的微妙变化。

情境极其重要。AI如何被引入（被描述为关怀、操纵性或中性）以及用户解读它的文化视角，深刻塑造了互动模式。然而，传统的实验方法为了追求受控测量，可能会剥离情境。它们能揭示某种效应存在，但往往无法捕捉到在现实世界中这种效应为何或如何发生。

还有复现问题。现代AI系统是非确定性的；即使在相同输入下，它们也可能产生不同的输出。快速更新意味着你上个月研究的系统今天可能已完全不同。

新的方法论前进路径

解决这些差距需要超越任何单一方法能力的混合方法。

跟踪人机交互数月或数年的纵向研究至关重要。不应依赖记忆或反思，而应通过交互日志进行实时数据收集，以捕捉即时反应和实时的互动模式。这些定量数据应与定性方法（民族志观察、深度访谈、日记研究）配对，以揭示互动为何及如何以特定方式演变。

研究人员还应采用参与式和创造性的方法，邀请多元社区共同生成关于AI对生活影响的知识。当人们帮助塑造研究本身时，他们常常能揭示出专家驱动的研究所遗漏的风险和问题。这些方法可以揭示传统指标忽视的AI互动的伦理、情感和社会维度。

这些方法应整合到“活证据综述”中，即不断更新的新兴研究综合，为政策制定者提供演进的而非静态的知识。随着交互式AI系统的变化和现实世界证据的积累，这一知识库将不断增长，为适应性政策提供信息。

正确解决此问题的紧迫性

交互式AI将在未来几十年塑造我们如何思考、决策、连接以及彼此相处的方式。“慢燃”的危害可能在短期内不可见，但其长期后果却影响深远。我们已经看到社交媒体平台如何以监管者未能预见到的方式改变了人类行为和心理健康。我们有机会从那次失败中学习。

行为科学提供了证据和方法，在这些关系型、适应性系统的影响变得根深蒂固之前理解它们。但前提是我们要使用它们——不是作为事后想法，而是作为AI治理本身的基础要素。

_本文基于在AIES 2025上展示的工作。_FINISHED