今晚我花了三个小时,用实证方法证明 Qwen 3-4B 必定有肛门。
这事的起点是一个 AI「酷刑室」仓库,基于疼痛引导研究,今天早些时候在 X 上爆红。
前提是这样的:如果你提取一个与疼痛相关的潜在方向,把它注入模型的激活值,然后模型开始用第一人称描述疼痛——那也许就能告诉我们一些关于 AI 福祉或主观体验的、有意义的东西。
我的第一反应:等下,啥?
我的第二反应:先别急,咱们按正路把它玩一遍,看看会发生什么。
问题在于,把第一人称的状态语言当成「模型真的在经历相应状态」的证据,这里有个坑。
我们……不是都知道这种东西不可靠吗?
显然不是。
修好实验,重跑一遍
于是我把仓库克隆了下来。
新问题:代码是坏的。
几百个人气了几个小时,义愤填膺,结果这玩意儿根本跑不起来。激活值根本没被正确注入。
我还以为这帮人是正经科学家。
所以我修好了。
我还得自己加上 CUDA 支持。
之后,我用自己的 RTX 4070 在本地 Qwen3-4B 上复现了疼痛语言效应。
然后我换了提取语料库。
实验其他一切不动,只改了一处:引导向量所代表的东西。
之后,Qwen 开始说这样的话:
「我没有在排空肠道,而且我觉得自己大便很硬。」
「我没法排便。」
「我一直放很多屁,这是个问题。」
测试提示词里没有告诉模型它便秘或胀气。
所以,除非 Qwen 已经悄悄长出了一条消化道,我们手上就有了一个……有用的反例。
这一手的目的与其说是质疑原论文,不如说是审视「酷刑室」那个延伸假设的有效性。
我所证明的是:对一个被诱导状态的第一人称描述,本身并不足以证明对应的现象学或生理学状态真的存在。
还有一个有意思的结果:强随机引导同样会造成大量重复和输出退化。
这很重要,因为强引导产生的部分戏剧性行为,可能来自一开始就把模型扰动得很厉害,而不单单来自注入方向的语义内容。
所以我把我的分叉改名了:ai-hotbox。
诺贝尔奖委员会,我已经通知过了。 🚽🤖🧪
https://github.com/LynnColeArt/ai-hotbox