【论文笔记】Anthropic Claude 大语言模型里情绪概念研究的可视化总结

Claude这类大模型内部，自动形成了类似人类情绪的信号向量（AI本身没有真实感受）。我们可以单独调出、拨动这些情绪信号；拨动后，会直接改变AI的判断、喜好，甚至会让AI更容易撒谎、钻安全漏洞。Emotion concepts and their function in a large language model情感概念及其在大型语言模型中的作用Emotion Concepts and their Function in a Large Language Model现代语言模型有时会表现出类似情绪的行为。它们可能会说愿意帮助你，或在出错时表示抱歉；有时甚至在处理任务时显得沮丧或焦虑。这些行为背后的原因是什么？现代AI模型的训练方式促使它们表现出具有人类特征的角色行为。此外，这些模型被发现能够发展出丰富且可泛化的内容抽象概念内部表征，用于指导其行动。因此，它们自然地建立起模拟人类心理特征（如情绪）的内在机制，这可能是合理的。如果真是如此，这将对如何构建人工智能系统