今天看啥  ›  专栏  ›  InfoQ

内部数百工程师可随意摄取 OpenAI 先进模型!OpenAI 前员工揭露:谏言即被开除,祈祷公司不报复

InfoQ  · 公众号  · 科技媒体  · 2024-09-21 10:15

主要观点总结

本文讲述了OpenAI面临的一系列问题,包括内部员工举报、安全漏洞、与前任员工的股权纠纷以及涉嫌信息泄露而解雇员工的事件。文章还提到了员工对于先进人工智能的担忧,以及他们发声权的受限。

关键观点总结

关键观点1: OpenAI 被内部员工举报存在安全漏洞,可能允许数百名工程师绕过访问控制,窃取最先进 AI 系统。

一名名为 William Saunders 的 OpenAI 举报人在听证会上提出此问题,并表示对 AI 安全性的担忧。

关键观点2: OpenAI 曾遭遇黑客入侵,窃取 AI 技术设计的详细信息,但直到最近才被公开。

OpenAI 高管选择在内部会议上告知员工和董事会,但决定不对外公开,因为未涉及客户或合作伙伴的信息。

关键观点3: OpenAI 对前员工采取严格的保密协议和股权纠纷处理引发争议。

媒体曝光显示,OpenAI 对离职员工施加压力,要求他们签署保密协议并可能失去股权。多数前员工在压力下选择屈服。

关键观点4: OpenAI 以涉嫌信息泄露为由解雇了两名员工,引发争议。

其中一名被解雇的员工 Leopold Aschenbrenner 透露了更多细节,并对被解雇的原因表示质疑。

关键观点5: 员工对于先进人工智能的担忧和发声权的受限。

一些员工担心 AI 的发展可能带来风险,并试图公开发表意见。然而,严格的保密协议和公司的做法限制了他们的发声。


文章预览

整理 | 褚杏娟 核子可乐 就在 OpenAI 新模型发布不久还被广泛赞誉的时候,OpenAI 举报人对其悄悄“背刺一刀”。 “我在 OpenAI 工作期间,运营体系有很长一段时间都存在漏洞,这些漏洞可能允许我或者公司内的其他数百名工程师绕过访问控制、窃取包括 GPT-4 在内的最先进 AI 系统。”OpenAI 举报人 William Saunders 在近日参加的一场关于人工智能监管的听证会上说道。 去年年初,一名黑客入侵了 OpenAI 的内部消息系统,并窃取了该公司 AI 技术设计的详细信息。这件事大家是最近才知道的。OpenAI 高管于 2023 年 4 月在公司旧金山办公室举行的全体会议上向员工透露了这一事件,并通知了董事会。但高管们决定不对外公开这一消息,因为没有关于客户或合作伙伴的信息被窃取。另外高管层也认为这与所谓国家安全没有关系,因为他们相信黑客是一名个人,与外 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览