克劳德在每次谈话中的行为方式并不相同。根据周一发布的新研究,人工智能巨头 Anthropic 发现其助手根据用户选择的模型和他们所说的语言始终表达不同的价值观。
在周一发布的一份报告中,Anthropic 研究人员分析了 309,815 条匿名用户与 Claude 的对话,其中涉及提供建议或提供反馈等主观任务。该公司表示,它将 3,300 多个已确定的价值观提炼为四个行为维度——尊重与谨慎、热情与严谨、深度与简洁、坦诚与执行——描述了克劳德在每次对话中的反应有何不同。

研究人员写道:“为了确保我们测量克劳德表达的价值观,而不是用户询问的内容或提问方式的差异,我们控制了每个对话的任务、主题和用户表达的价值观。”
根据 Anthropic 的说法,每个克劳德模型都表现出独特的行为特征。
Sonnet 4.6 强调温暖、尊重和简洁,经常肯定用户并以幽默或鼓励的方式回应。同时,Opus 4.7 强调严谨、谨慎、坦诚和深度,更频繁地挑战假设、解释其推理、识别风险并承认其局限性。 Opus 4.6 通常采用更简洁、更注重执行的方法,同时比 Sonnet 更强调严谨性。
“这些发现与人们对这些模型的看法一致,无论是在 Anthropic 内部还是在网上。Claude.ai 用户评论说,Opus 4.7 比其他模型更频繁地对冲其答案,”研究人员写道。
根据 Anthropic 的说法,克劳德的行为也因语言而异。
阿拉伯语的回应往往更加恭敬,而英语的回应则更加强调谨慎。克劳德说的印地语和阿拉伯语最为热情,使用的语言更加礼貌、有趣和鼓励。与此同时,英语和俄语的反应更加严格,经常挑战假设、纠正细节并索取证据。
英语答复也往往提供更详细的解释,而阿拉伯语答复通常更简洁。荷兰的回应最为坦诚,更容易承认不确定性和错误,而印度尼西亚的回应则更注重完成用户的请求。
Anthropic表示,这项研究并不表明克劳德本身有价值观。该公司表示,尚不知道造成这些差异的原因,也不知道这些差异是否是可取的,但相信该框架可以帮助评估未来的模型并识别意外的行为变化。
这项研究是一系列研究克劳德内部行为的人类学研究中的最新研究。
10 月份,该公司报告称,其模型显示出所谓的“功能性内省意识”的早期迹象,使它们能够识别和描述自己内部处理的各个方面。今年四月,Anthropic 发表了一项研究,确定了影响克劳德行为的内部“情绪向量”,同时强调它们并不是情绪或意识的证据。