今天，我们很高兴地宣布我们对Anthropic的投资，Anthropic是为未来构建安全和负责任的AI的领导者。

原作者：Paul Drews and Emily Zhao

May 23, 2023

未来是什么？

我们正处于采用生成式AI的第一局。在Salesforce新调查的500多名高级IT领导者中，67%的人将在未来18个月内优先考虑其业务的生成式AI，其中三分之一的人将其列为重中之重。他们中的大多数人认为生成式人工智能是“游戏规则改变者”，该技术有可能帮助他们更好地为客户服务，利用数据并提高运营效率。调查结果显示，企业对人工智能系统的使用将继续增长，客户在评估人工智能技术方面只会变得更加成熟和复杂。同时，监管变化是不可避免的，将有助于为人工智能系统部署创建一个结构。Anthropic有能力应对这种环境中出现的任何挑战，我们希望Claude成为客户的首选LLM合作伙伴之一。

Anthropic

过去几年基础模型的进步促使每个人使用、思考和构建技术的方式发生了范式转变。虽然人工智能研究的格局在不断变化，但从第一天开始就一直关注的一个日益严重的领域是安全可靠地使用人工智能系统。最近几个月，随着来自世界各地的技术专家、行业知名人士和政府出来讨论人工智能对人类的潜在好处和危害以及实施监管的正确框架，这一点才受到更多关注。

Anthropic 处于推动这种范式转变的创新前沿，自 2019 年其创始团队离开 OpenAI 以集中押注 AI 安全以来，它就抢占了这场辩论。Anthropic由Dario Amodei（前OpenAI研究副总裁），他的妹妹Daniela Amodei（前OpenAI安全和政策副总裁）以及一群令人惊叹的前OpenAI研究人员创立。自成立以来，该团队已经训练了当今世界上最有能力的大型语言模型（“LLM”）之一，称为Claude。Claude是一个通用模型，擅长广泛的任务，从复杂的对话和创意内容生成到问答，编码，详细的指导遵循和推理。最近，Anthropic发布了一个名为Claude Instant的更轻，更便宜，更快的选项，它可以处理类似的任务，如随意对话，文本分析，摘要和文档问答。客户可以请求访问通过API向克劳德和克劳德即时发送并尝试Claude in Slack.

Claude基于Anthropic在宪法AI方面的研究突破，这是该公司在AI安全方面采取的独特方法。随着人工智能系统变得越来越强大，它们可以通过自我批评和自我修正来监督其他人工智能系统——唯一的人类监督是一套预定的原则。克劳德接受了使用宪法人工智能的培训，以在其输出中推广有用、无害和诚实的原则，并防止滥用或有害和不良行为。由于宪法人工智能的自我改进方面，它还允许人择在不牺牲模型性能的情况下提高模型安全性。克劳德可以获取有限数量的最高质量的人类反馈，创建以这些反馈为模型的合成数据，并根据这些数据进行自我训练。这使得Anthropic能够提供更高的透明度和可操纵性，同时仍然保持高度的自然语言流畅性。

除了关注人工智能安全和高质量的模型外，Anthropic还通过越来越重视定制来赢得企业客户的心智份额，这将推动长期的防御能力。它通过几个不同的领域实现定制，例如将客户的专家人工标记反馈合并到模型中，使其更好地完成特定任务，或与客户合作创建基于公司价值观和品牌的“宪法”，以塑造模型的整体行为。

为什么我们支持Anthropic

Claude的能力和达里奥对公司的长期愿景很快就吸引了我们。随着我们与 Anthropic 团队相处的时间越来越多，很明显，Anthropic 和 Salesforce 在创建植根于安全的创新技术方面有着共同的清晰愿景。我们坚信，Anthropic 是极少数拥有正确技术并拥有合适团队来利用这种范式转变的基础模型参与者之一。 Anthropic 是我们从 Salesforce Ventures 于 2023 年 3 月推出的 2.5 亿美元新生成人工智能基金中进行的首批投资之一。我们很高兴与 Anthropic 合作并加强我们两家公司之间的关系。

当我们查看AI技术堆栈时，我们相信价值将在核心基础模型层的AI技术堆栈中累积。Anthropic是在这一层运营的少数几家公司之一，它已经建立了技术差异化，并且处于保持领先地位的有利地位。将基础模型训练到高性能状态所需的技术知识很少，并且购买用于模型训练和托管的计算所需的资金创造了防止大量扩散的天然屏障。虽然人工智能社区的开源方面最近取得了更多进展，但围绕使用安全性仍然存在有意义的问题，以及开源和闭源模型在生产中的性能之间存在明显而显着的差距。Anthropic的模型被客户，开发人员和学术机构视为世界上最好的模型之一。Anthropic团队围绕宪法人工智能，从人类反馈中强化学习（“RLHF”）等发表的重要研究也表明，它今天具有与其他公司竞争的技术能力。开源和闭源都将继续发展，并且对这两种类型的模型都有需求——未来将是混合的。与此同时，Anthropic有能力支持增长并推动下一代Claude的发展。

最重要的是，Anthropic拥有一支具有非常强大研究背景的A +团队。 Anthropic由OpenAI前研究主管Dario Amodei领导，他领导了GPT-2和GPT-3项目。创始团队和技术领导层的其他成员来自OpenAI，Google Brain和百度（AI研究领域的领导者，他们在OpenAI上共同撰写了这些论文）。创始人和领导团队的成员之一是贾里德·卡普兰（Jared Kaplan），他是一位训练有素的理论物理学家，曾在约翰霍普金斯大学任教10多年。Jared是OpenAI的研究顾问，并开发了对Constitutional AI和Claude至关重要的对齐模型。需要专业的研究背景来保持技术优势，并在快速发展的环境中真正竞争，因为新模型的开发每周甚至每天都会发生。Anthropic在研究界所拥有的威严和思想份额也有助于他们在人才竞争日益激烈的舞台上吸引合适的人才。

宪法人工智能仍然是一个关键的差异化因素，并且与Salesforce的价值观非常一致。 Anthropic的研究团队开创了宪法人工智能的概念，该概念使模型能够使用一组旨在促进有用性，无害性和诚实的约束进行训练。这种方法及其对安全 AI 的持续关注与 Salesforce 对可信生成 AI 的愿景非常吻合，并且是一个关键的差异化因素，因为 AI 安全始终是 Salesforce 及其客户的首要考虑因素。

强烈推荐收藏官网

官网 https://fyzai.com海量AI学习资源、最新最热AI工具，建议收藏

收藏备用网址老站点，建议一起收藏，找到回家的路

添加官方微信

今天，我们很高兴地宣布我们对Anthropic的投资，Anthropic是为未来构建安全和负责任的AI的领导者。

疯语咒AI ：AI技术和AI教育的先行者，每个人都能获取海量的AI学习材料，包括AI课程、AI学习视频、AI项目、AI代码、AI研究论文、AI基础理论、深度学习、机器学习、提示词课程、大语言模型训练和微调、AI绘画设计以及AI工具(chatgpt、midjourney、stable diffusion、claude2、brad、huggingFace…