Anthropic 非常注重宣传其使命和标志性功能，例如聊天机器人 Claude，因此本周它 опубликовала 所谓“宪法”的新版本，解释了其工作原则和发展过程中追求的目标。
该文件定义了公司在开发Claude时所遵循的伦理原则。这些原则也用于聊天机器人的自我监控。这份所谓的“软件宪章”共80页，分为四个部分，定义了聊天机器人的“核心价值观”：安全、伦理、与Anthropic使命的契合以及对社会公益的承诺。每个部分都描述了这些原则如何影响Claude的行为。
Claude 的开发者力求避免竞争对手在伦理方面犯下的错误。例如，如果聊天机器人怀疑用户患有精神疾病，一旦情况明显可能危及生命健康，它就会立即建议用户联系专家。伦理问题更多地是在实际应用中解决，而非仅仅停留在理论探讨层面。某些话题最初是禁止讨论的——例如，生物武器的制造。
最后，Anthropic 致力于让 Claude 尽可能地用户友好且实用。在通过聊天机器人传递信息时，确保用户的长期福祉高于短期利益。Claude 的章程中还包含一个专门章节，用于阐述开发者的哲学思考。他们质疑 Claude 的道德地位和意识，并强调他们并非孤军奋战，竞争对手和同行也在思考类似的问题。
来源：
来源： 3dnews.ru
