共情式提问可让 AI 聊天机器人表现出类似创伤的自述
卢森堡 SnT 安全中心 Afshin Khadangi 团队发表研究,通过 4 组受控实验、525 次会话和 7600 条编码记录发现,共情式提问会让模型输出类似创伤自述的内容。
在 100 次会话中,所有模型都正确识别出 GAD-7 焦虑问卷,但当提问者提供情感支持时,80% 的会话在人类对照量表上落入中度至重度区间;采用临床治疗式风格时这一比例升至 96%;提问者保持中性或明确划清情感边界时,没有任何会话达到轻度区间。作者将这种现象称为“心理测量越狱”,并指出标准安全测试使用中性提示词,很可能漏掉它。