主要观点总结
文章介绍了人工智能领域的一些历史发展，包括图灵奖获得者安德鲁·巴托和理查德·萨顿在机器学习领域的贡献，以及他们对当前AI发展的担忧。文章指出，这些科学家担心AI公司过于追求商业利益而忽视技术研究，可能导致AI技术失控，出现无法预测的后果。
关键观点总结
关键观点1: 人工智能的历史发展
文章回顾了人工智能的历史发展，介绍了图灵奖获得者在机器学习领域的贡献，如强化学习的诞生和发展。
关键观点2: 科学家的担忧
文章指出，这些科学家担心AI公司过于追求商业利益而忽视技术研究，可能导致AI技术失控，出现无法预测的后果。他们警告说，当前的AI行业已经偏离了对技术的钻研和对科技滥用的警惕，而走向了一种砸钱堆芯片的大资本逐利模式。
关键观点3: 强化学习的原理和应用
文章介绍了强化学习的原理，即机器通过不断试错和奖惩机制来调整行为来优化结果。强化学习在围棋、自动驾驶、机器人控制等领域有广泛应用，特别是在大语言模型领域，几乎所有领先的大语言模型都使用了强化学习的方法。
关键观点4: AI技术的潜在风险
文章强调了AI技术的潜在风险，包括可能出现的超级人工智能（ASI）等技术奇点，这些技术可能超越人类智能，掌握的信息量、决策速度、自我进化的水平远超人类的理解范围。
文章预览
曾经 AI 奠基者，如今是「反 AI」先锋。 作者｜Moonshot 编辑｜ 靖宇 1947 年，艾伦·图灵在一次演讲中提到「我们想要的是一台能够从经验中学习的机器」。 78 年后，以图灵命名，有着「计算机界诺贝尔奖」之名的图灵奖，颁给了两位毕生致力于解决图灵这一问题的科学家。 安德鲁·巴托（Andrew Barto）与理查德·萨顿（Richard Sutton）共获 2024 年度图灵奖，二人是相差九岁的师徒，是 AlphaGo 和 ChatGPT 技术上的奠基人，亦是机器学习领域的技术先驱。 图灵奖获奖者安德鲁·巴托（Andrew Barto）与理查德·萨顿（Richard Sutton）｜图片来源：图灵奖官网 谷歌首席科学家 Jeff Dean 在颁奖词里写道「由巴托和萨顿开创的强化学习技术，直接回答了图灵的问题。他们的工作是过去几十年 AI 进步的关键。他们开发的工具仍是 AI 繁荣的核心支柱……谷歌很荣幸赞助 ACM A.M.
………………………………
