全球首个AI CUDA工程师来了！将PyTorch原生实现提速10-100倍

文章预览

机器之心报道 编辑：张倩 用 AI 提高 AI 的效率，它们就能变得像人类大脑一样高效？ 我们的大脑只用了 20 瓦的能量就能完成复杂思考，而现代 AI 系统却需要成排的高功率 GPU 和惊人的电力消耗。这种差距如何缩小？ 日本 AI 初创公司 Sakana AI 团队提出了一个大胆的愿景：利用 AI 本身来优化 AI。他们开发的「AI CUDA 工程师」是这一理念的具体实践。 「AI CUDA 工程师」是第一个用于全自动 CUDA 内核发现和优化的综合智能体框架 。这种方法不仅开创性地将进化计算与大型语言模型相结合，更展示了 AI 自我优化的巨大潜力。  CUDA 是一个 low-level 软件层，可直接访问 NVIDIA GPU 用于并行计算的硬件指令集。CUDA 内核是用 CUDA 语言编写的在 GPU 上运行的函数。通过直接在 CUDA 内核层编写指令，工程师可以为 AI 算法实现更高的性能。然而，使用 CUDA 需要相当多的 ………………………………