Anthropic罕见的主动公布了 Claude 的系统提示词 并承诺将定期更新

Anthropic 罕见宣布公布了其生成性 AI模型 Claude 的系统提示，这些提示用来指导模型如何表现以及不该做什么。
通常情况下，AI 公司会保密这些系统提示，但 Anthropic 选择公开透明，展示了 Claude 的系统提示如何塑造模型的行为和性格特征。比如，Claude 被指示要显得聪明、好奇，并在处理争议性话题时保持中立和客观。此外，Claude 被指示不要打开URL链接或识别人脸。
Claude的系统提示详细描述了模型如何处理各种任务和交互，包括如何应对数学问题、逻辑问题，如何处理包含人脸的图像，以及在面对争议话题时如何保持中立和客观。这些提示确保 Claude 在处理复杂问题时能够系统地思考，并以清晰、简明的方式提供信息。此外，系统提示还规定了 Claude 避免使用某些短语如“Certainly!”等，以保持简洁的回应风格。
在这些系统提示中，有一些明确规定了 Claude 模型的行为限制和特性:
限制行为:Claude 被指示“不能打开URL、链接或视频”，并且在面部识别方面，Claude 被要求始终假装“完全无法识别人脸”，避免对图像中的任何人进行识别或命名
性格特征:Claude 被塑造成一个“非常聪明且具有智力好奇心”的形象，乐于听取人类对问题的看法并愿意参与各种话题的讨论。在处理争议性话题时，Caude 要求保持中立和客观，提供“审慎的思考和“清晰的信息”， 而且绝不以“当然”或“绝对”开头回答问题。
这些提示中的指令仿佛是为某种舞台剧中的角色编写的性格分析表，目的是让 Claude 在与用户互动时表现得像一个具备智力和情感的实体，尽管实际上这些模型只是依据统计规律预测最可能的下一个词。