专栏名称: 歸藏的AI工具箱
互联网科技博主 产品设计师、模型设计师、 不会代码的独立开发者。 关注人工智能、LLM 、 Stable Diffusion 和设计。
今天看啥  ›  专栏  ›  歸藏的AI工具箱

Karpathy 新观察:#ai# - 强化学习训练做得正确时,-20241202105330

歸藏的AI工具箱  · 微博  ·  · 2024-12-02 10:53
    

文章预览

2024-12-02 10:53 本条微博链接 Karpathy 新观察: #ai# - 强化学习训练做得"正确"时,模型会放弃使用人类可理解的自然语言来表达思维过程。 - 模型会发展出更简洁、更高效,但对人类来说难以理解的推理方式。 - 模型正在优化其内部思维过程,而不是为了人类理解而"表演"。 模型的可解释性和效率是需要权衡的。 就像人类在深入思考时可能不会用完整的句子思考一样,AI 也会有自己的思维方式。 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览