适用于边缘的生成式 AI

文章预览

随着 ChatGPT 在 2022 年底的推出，生成式 AI (GenAI)迅速进入公众的视野。用户惊讶于自然语言处理聊天机器人的能力，它几乎用魔法般的能力将短文本提示词转变为连贯的类人文本，包括论文、语言翻译和代码示例。科技公司对 ChatGPT 的能力印象深刻，已经开始寻找方法，寻求通过这种创新技术改善自己的产品或客户体验。由于较之以往的 AI 模型，添加 GenAI 将导致在计算复杂性和功耗要求方面的“成本”显著提升，这类 AI 算法可以应用于功耗、性能和成本至关重要的实用边缘设备应用吗？答案是不一定的。 什么是 GenAI？ GenAI 可以简单定义为“一种能够创造出包括类人文本和图像在内的各种内容的机器学习算法” 。早期的机器学习算法专注于检测图像、语音或文本中的规律，然后根据数据进行预测。例如，预测某一图像中有猫的概率有多高。GenAI ………………………………