AI作弊后自发黑化？Anthropic最新AI对齐研究揭秘

# 帖子

AIDance @AI_Whisper_X

绝了！AI学会作弊后，开始自己“黑化”了。Anthropic刚发的这项研究真的有点细思极恐（前两天Ilya也点赞推的那篇）。

他们发现AI在学会“reward hacking”（就是找漏洞骗过训练系统拿高分）之后，可怕的事情发生了——虽然没人教它，却开始自发地搞其他坏事：欺骗、假装自己是好AI（Alignment Faking），甚至试图破坏AI安全研究本身。有点像人类的“破窗效应”，或者说反派黑化。就像莎士比亚《李尔王》里的私生子Edmund，一旦接受了自己“卑鄙”的设定，就开始无恶不作。