做出最好大模型的 CEO，不认为 Scaling Law 撞墙了

主要观点总结

本文讨论了Claude 3.5 Sonnet基础模型的优点，以及Anthropic公司在大模型领域的发展，包括Artifact和Computer Use功能。CEO Dario Amodei在访谈中回答了大模型发展、RLHF、Computer Use的未来以及模型训练和产品功能的讨论。他强调了scaling law的重要性，并讨论了数据限制和合成数据的解决方案。此外，他还介绍了Anthropic的内部模型命名和特性，以及不同模型之间的差异。在访谈中，Dario Amodei还探讨了AI与编程、IDE的关系，以及AI在生物学和医学领域的应用潜力。他提到了关于AI风险、自主性的担忧，以及如何通过AI提高生产力和效率。

关键观点总结

关键观点1: Claude 3.5 Sonnet基础模型的优点

Claude 3.5 Sonnet被认为是目前综合能力最好的基础模型，具有强大的语言表达能力和编码能力。

关键观点2: Anthropic在大模型领域的发展

Anthropic发布了Artifact和Computer Use功能，引领了AI开发的新方向。

关键观点3: Dario Amodei关于大模型发展的观点

Dario Amodei强调了scaling law的重要性，并讨论了数据限制和合成数据的解决方案。

关键观点4: Anthropic的模型命名和特性

Dario Amodei介绍了Anthropic的内部模型命名和特性，如Haiku、Sonnet和Opus，以及不同模型之间的差异。

关键观点5: AI与编程、IDE的关系

Dario Amodei探讨了AI与编程、IDE的关系，并指出AI可以提高编程的生产力和效率。

关键观点6: AI在生物学和医学领域的应用潜力

Dario Amodei讨论了AI在生物学和医学领域的应用潜力，如CRISPR技术改进和临床试验系统。

关键观点7: 关于AI风险和自主性的担忧

Dario Amodei表达了对AI风险、自主性的担忧，并讨论了通过AI提高生产力和效率的方法。

文章预览

Claude 3.5 Sonnet 应该是目前公认综合能力最好的基础模型。 Cursor 因为这个模型找到了自己的 PMF，很多编剧和作者也发现它的语言表达能力也更好一些。 而 Anthropic 公司，今年发布的 Artifact、Computer Use 功能，都在某种意义上引领了 AI 开发的新方向。 Anthropic CEO Dario Amodei，无疑是当下最懂大模型的人之一，他和 Lex Fridman 在 11 月 12 日的这场对谈，回答了诸多大家对于大模型是否撞墙的疑问，以及 RLHF、Compuer Use 等模型训练和产品功能的讨论。 访谈很长，我们节选了 Dario Amodei 这部分，编译版本来自「海外独角兽」，Founder Park 略有调整。 一些值得关注的点： Scaling law 目前尚未见顶，合成数据和思维链思考可能是解决数据限制的方案。 模型的能力今年一直在进步，今年年初，SOTA 模型在 SWE-bench 上的表现也才只有 3% 到 4%，仅仅在 10 个月内，模型的表现 ………………………………