治理之智 | 合成数据在生成式人工智能时代的价值与风险

主要观点总结

本文介绍了合成数据在生成式人工智能时代的形态与价值，讨论了其风险与安全机制，并展望了合成数据的产业特点及发展。文章还引发了关于数据相应政策体系如何顺应极速发展的前沿科技的思考。

关键观点总结

关键观点1: 合成数据的发展历程

合成数据是通过计算机程序或数学模型生成的数据集，其随着人工智能技术的发展而演进。

关键观点2: 合成数据在模型训练和应用中的价值

合成数据在模型训练和应用中发挥着重要作用，能够突破人类数据的限制，提高模型训练的效果和实际应用的效果。

关键观点3: 合成数据的系统安全风险及防范

合成数据的系统安全风险可以通过数据治理来防范，包括数据质量的筛选和治理动作，以及数据类型配比等。

关键观点4: 合成数据的数据安全风险及管控

合成数据的数据安全问题可以用现行法规进行管理，例如反映真实主体的权利或者要求承担相应的安全责任。

关键观点5: 合成数据在模型对齐和自博弈训练中的应用

合成数据可以用于模型对齐和自博弈训练，提高训练效率和模型能力。

关键观点6: 合成数据的产业特点及发展展望

合成数据产业规模有限，但具有动态性和技术敏感性。其发展受到大模型研发和应用的影响，同时也在推动大模型的发展。

文章预览

导语： 合成数据随人工智能技术跌宕演进，随生成式人工智能发展成为产业和政策热点：从价值上说，合成数据有助于突破人类数据限制，在产业中的使用场景、数量占比和实际效果都远超预期。从安全上说，合成数据并非“超级智能”逃逸的助力，不会引发新的安全问题，反而是人类控制风险的抓手。从产业发展说，合成数据难以“独自成席”，对其市场规模和催生的创新企业不适合做过高预期。但合成数据是一个合适切口，理解大模型对数据要素价值发挥机制的整体改变，也是一个契机，思考数据相应政策体系如何顺应极速发展的前沿科技。 一、合成数据发展历程回顾 合成数据 （Synthetic Data）并没有准确定义，一般指通过计算机程序或者数学模型生成的数据集， 不直接来源于实际观察或测量，但能够反映真实世界的统计特征或者运行规律， ………………………………