🧠 AI知识库

简介

Anthropic的安全研究是AI对齐领域的标杆。首创Constitutional AI（宪法AI）——通过"红队测试+宪法规则"训练模型遵循人类价值观。在机械可解释性（Mechanistic Interpretability）、RLHF改进、安全评估等方面产出一系列顶级论文。Anthropic的安全方法论影响了整个行业的安全实践标准。