奥尔特曼新年发文：OpenAI开始将注意力转向“超级智能”

主要观点总结

OpenAI首席执行官Sam Altman表示公司有信心构建通用人工智能（AGI），并开始将目标转向超级智能。他强调了克服当前人工智能技术的局限性和扩大广泛利益的重要性。OpenAI对通用人工智能有自家定义，并与微软有特定协议。关于超级智能，奥尔特曼表示可以加速科学发现和创新，增加财富和繁荣，但安全运行是最大的挑战，尤其是防止人工智能系统失控。

关键观点总结

关键观点1: OpenAI的目标转向通用人工智能和超级智能

OpenAI计划构建通用人工智能，并已经开始将目标转向超级智能。首席执行官Sam Altman强调了公司的信心和对此目标的追求。

关键观点2: 关于通用人工智能的定义和挑战

OpenAI和其紧密投资伙伴微软对通用人工智能有不同的定义。构建通用人工智能面临重大的技术挑战和局限性，但OpenAI似乎有信心克服这些困难。

关键观点3: 超级智能的愿景和挑战

奥尔特曼谈到了超级智能的愿景，表示可以加速科学发现和创新，增加财富和繁荣。然而，安全运行是最大的挑战，尤其是如何防止人工智能系统失控，这是一个尚未解决的问题。

关键观点4: OpenAI面临的挑战：如何确保超级智能系统的安全运行

随着OpenAI将重点转移到超级智能上，如何确保超级智能系统的安全运行成为关键。人类可能无法可靠地监督比人类聪明得多的人工智能系统，这是当前最大的技术和道德挑战。

文章预览

OpenAI将有信心构建通用人工智能（AGI），并且公司已经开始将目标转向“超级智能（superintelligence）”。 文|周子意 OpenAI首席执行官Sam Altman在1月6日的最新个人博客中写道，OpenAI将有信心构建通用人工智能（AGI），并且公司已经开始将目标转向“超级智能（superintelligence）”。 奥尔特曼还指出，“我们热爱现在的产品，但我们在这里是为了辉煌的未来。” 目前来看，当今的人工智能技术仍存在重大的技术局限性，不仅是一些显而易见的错误，对模型的训练还非常昂贵。 不过，奥尔特曼似乎有信心克服这一切，而且能很快解决。奥尔特曼称，“我们非常有信心，在未来几年内，每个人都会看到我们所看到的，而且在最大限度地扩大广泛利益和赋权的同时，需要非常谨慎地采取行动，这一点非常重要。” ▌ 构建通用人工智能 构建通用人工智能（AGI） ………………………………