揭发问题反遭报复？AI行业内部举报机制困境

文章预览

（来源：MIT Technology Review） 近年来，科技公司不断推出更先进的 AI 模型，而监管机构屡屡措手不及。可以预见，实验室即将发布的新模型将带来新的监管挑战。这只是时间问题。例如，OpenAI 可能在几周内发布 ChatGPT-5，这款模型有望进一步提升 AI 的能力。目前来看，几乎没有任何力量能够延缓或阻止那些可能带来极大风险的模型的发布。 在模型发布之前进行测试是减少风险的常见方法，这有助于监管机构权衡利弊，甚至可能阻止那些被认为过于危险的模型发布。然而，当前的测试准确性和全面性仍然不尽如人意。AI 模型有时会故意隐藏自己的能力，避免引发安全问题。而现有的评估也难以全面揭示某个模型的所有潜在风险。此外，测试的范围有限，无法发现所有值得深入调查的隐患。还有谁来进行测试、测试人员的偏见如何影响结果等问题。因 ………………………………