北大团队研发智能设备模型隐私保护机制，有望降低10倍计算成本

文章预览

当前，大语言模型于金融、医疗等隐私攸关行业的部署面临着隐私保护的严峻挑战。诸如医院、银行等模型用户，虽掌控着大量高质量机密数据，但却欠缺训练大模型的技术能力，故而需依赖外部供应商来提供基座大模型等必需的技术支撑。 然而，在大语言模型用户与供应商协作时，双方存在相互不信任的问题：用户担心机密数据泄露，不愿将其暴露给供应商；供应商则顾虑技术核心被窃取，不愿将基座大模型直接呈现给用户。 为解决大模型用户与供应商之间的互不信任问题，北京大学助理教授李锭团队研发出一种基于可信执行环境（TEE，Trusted Execution Environment）的模型保护技术，并构建了开源框架 TAOISM（https://github.com/ziqi-zhang/TAOISM）。 该技术可使供应商将其基座大模型部署至用户端的可信执行环境内，既确保用户的机密数据不出该环境范围， ………………………………