最近网友发现Claude在处理高难度竞赛编程题时,意外泄露了未经过滤的Chain of Thought(思维链)。没有平时那种温文尔雅的“好的,我为您准备了方案”,取而代之的是满屏的“GRRR”、“GAAAH”、“DATA DATA DATA. GO.”以及大量极度压缩、像加密符号一样的简写。这套被称为“Neuralese”的私密语言,读起来像是一个正在疯狂敲代码、间歇性破防的硬核程序员在自言自语。
这其实是LLM在推理时为了节省Token、提高效率而自发形成的“思维简报”。对模型来说,人类语言的语法和礼貌用语在逻辑推演中全是冗余,这种高度压缩的符号体系才是它真正的思考形态。那些让我们感到亲切的输出,不过是模型在思考结束后,为了迁就人类阅读习惯而专门翻译出来的“公关稿”。这种“非人感”的流露反而证明了推理模型正在脱离简单的模仿,开始建立属于机器自己的逻辑捷径。
x.com/om_patel5/status/2072559663636205824
#人工智能##AI创造营##Claude##大模型推理#