谷歌加持，百度出来的AI大神要干掉ChatGPT？( 二 ) ChatGPT迎来最强竞品Anthropic。作

一直到2019年之前，这家总部位于旧金山破旧工厂内的公司都以非盈利为目的，没有创造出任何营收， DarioAmodei也在其中享受着最纯粹的技术快乐，然而， OpenAI每年的开支是极其巨大的，先不谈其团队笼络了不少业界最顶级的研发者，每年的工资都得数亿美元， OpenAI旗下核心业务AI模型的每次训练都需花费数百万美元，即便OpenAI有硅谷众多大佬的支持，钱也经不起这样烧。
在2019年这一年，创始人阿尔特曼辞去YC总裁，成为OpenAI的CEO ，并从微软CEO萨蒂亚·纳德拉（SatyaNadella）处拿下了微软10亿美元的投资，条件就是将技术授权给微软，获得微软巨额注资的OpenAI很快推出了震惊人工智能领域的重量级AI模型GPT-2、GPT-3 。
DarioAmodei作为GPT-2、GPT-3的核心研发成员，在训练AI模型的过程中便着眼于在AI迅猛发展的过程保证其安全可控性，包括AI能反映了人类的价值观，能够解释AI决策背后的逻辑以及AI能够在不伤害人类的情况下学习，这或许也是DarioAmodei加入OpenAI的主要目的。
当非盈利性的OpenAI接受了微软注资后，内部团队也逐渐出现了分裂。以DarioAmodei为代表的部分核心成员认为，随着AI模型的增大、算力的增强， AI的安全性、可操纵、可解释性变得更加重要，而不是盲目迭代比GPT-3更大的AI模型，应该把解决神经网络的“黑盒”问题放到更重要的位置。

文章图片
AI的黑盒子问题：黑盒子是一个算法，能够将数据转变成其它东西。问题在于，黑盒子在发现模式的同时，经常无法解释发现的方法。
图源：Topbots
然而在微软注资后， OpenAI很快将上述问题还未解决的GPT-3交给微软来使用， OpenAI的逐渐商业化以及对创始初心的背离，让以DarioAmodei为代表的部分核心成员感到不满。
以DarioAmodei为代表的一群技术理想主义者不愿再与微软捆绑，想要重现OpenAI的精神实质。 2021年2月， DarioAmodei和他的妹妹Daniela联手创立Anthropic ，与DarioAmodei一起离开OpenAI的还有10名员工。
Anthropic旨在创造可操纵、可解释的人工智能系统， “当今的大型通用系统可以带来显著的好处，但也可能无法预测、不可靠和不透明：我们的目标是在这些问题上取得进展。 ”DarioAmodei曾对外表示， “Anthropic的目标是推进基础研究，让我们能够构建更强大、更通用、更可靠的人工智能系统，然后以造福人类的方式部署这些系统。 ”
明星团队走向OpenAI老路？
Anthropic的创始团队阵容颇为豪华，除了创始人DarioAmodei之外，包括TomBrown（GPT-3论文一作）、GabrielGoh、JaredKaplan、SamMcCandlish、KamalNdousse、JackClark等，成员大部分来自于OpenAI原有团队，并在AI可解释性、AI模型安全设计事故分析、引入人类偏好的强化学习等方面有颇深的造诣，可以预见的是，核心成员出走的OpenAI可能在这些领域会逊色于Anthropic 。
而且即便是在OpenAI引以为傲的AI大模型GPT-3上， Anthropic同样实力不俗。 DarioAmodei是OpenAI的前研究副总裁，他和OpenAI的联合创始人兼首席科学家IlyaSutskever作为团队主要技术负责人开发了GPT-2和GPT-3 。这也是为何其推出的AI聊天机器人模型产品Claude还在封测阶段，便受到不少测试人员的称赞。 Claude甚至无需人为再次调试，自主解决了ChatGPT在与人类聊天过程中出现的性别歧视、种族歧视问题。

文章图片
2022年12月， Anthropic提出「Constituional人工智能：来自人工智能反馈的无害性」，并基于此创建了一个人工智能模型Claude