Claude 是由 Anthropic 开发的一款 AI 助手,该公司专注于 AI 安全研究。Anthropic 由 Dario Amodei 和 Daniela Amodei 兄妹及其团队于 2021 年创立,该团队成员此前曾在 OpenAI 工作。Claude 于 2023 年 3 月首次发布,此后通过不同规模和能力的模型版本不断进行迭代开发。
安全理念
Anthropic 解释称,它使用一种被称为“宪法 AI”(Constitutional AI)的方法来训练 Claude:根据一份书面的原则清单来评估并改进模型的行为。该公司还发布了一项“负责任扩展”(responsible scaling)政策,在发布强大的模型之前进行风险评估。这种方法与 Claude 的目标相一致,即在面对有害请求时保持谨慎,并在面对不确定性时保持透明。
它能做什么?
- 处理长文档:上传报告、合同或书籍章节进行摘要提取、对比分析并进行提问。
- 写作与编辑:撰写文章草稿、进行校对、调整风格和语气。
- 分析:从表格和数据中得出结论,解读图表和图像。
- 软件开发:编写、解释和调试代码;为开发者提供基于终端的工具。
- 工作区(Workspaces):创建将文档和指令整合在一起的项目,并在独立面板中编辑生成的内容。
获得更好结果的技巧
- 清晰地说明任务、受众和输出格式。
- 对于复杂的任务,先要求它制定计划,然后逐步进行。
- 提供示例:展示一段你喜欢的文本并说明“按此风格”效果很好。
- 要求它指出自己不确定的地方。
注意事项
与所有 AI 助手一样,Claude 可能会犯错,并提供不完整或过时的信息。在做出法律、医疗和财务决策时,请咨询专家,并在分享个人或机密数据时保持谨慎。在您的账户设置中,您可以控制您的对话是否被用于改进模型。
AI 工具的功能、方案和价格经常变动。请务必查看工具的官方页面以获取最新信息。
常见问题解答
“Claude”这个名字从何而来?
Anthropic 尚未对该名称给出详细的官方解释;人们普遍认为这是向信息论奠基人克劳德·香农(Claude Shannon)致敬。
参考资料与延伸阅读
- Anthropic,“Introducing Claude”(2023 年 3 月)及公司官方页面。
- Yuntao Bai 等,“Constitutional AI: Harmlessness from AI Feedback”,arXiv,2022 年。
- Anthropic,“Responsible Scaling Policy”。
发表评论
您的电子邮箱地址不会被公开。必填项已用 * 标注