专栏名称: 硅兔赛跑
这里有你想知道的关于硅谷·未来的资讯、分享与深度思考。思想,改变世界。
今天看啥  ›  专栏  ›  硅兔赛跑

三位哈佛00后联手创业,7个月拿下亿元估值

硅兔赛跑  · 公众号  ·  · 2024-09-03 10:29
    

主要观点总结

本文主要介绍了Haize Labs这家AI安全创企的创始人及其创业背景,包括三位哈佛应届生成立该公司,该公司关注AI大模型安全领域。Haize Labs通过打造AI产品Haizing套件,为AI大模型进行压力测试,发现安全漏洞。该公司已经在AI大模型安全领域建立了一定初步影响力,并且获得了客户的支持。

关键观点总结

关键观点1: Haize Labs成立背景及创始人介绍

Haize Labs由三位哈佛应届生成立,创始人Leonard Tang是AI安全创企的领军人物,他暂停斯坦福大学博士课程学业专注于公司发展。公司专注于AI大模型安全领域。

关键观点2: Haize Labs主要产品及其作用

Haize Labs打造的Haizing套件是该公司的主要产品,该套件主要通过攻击AI大模型进行压力测试,以发现安全漏洞。它结合了模糊测试和红队测试技术,可以较为全面地检查AI系统。

关键观点3: Haize Labs的发展情况及客户支持

Haize Labs已经获得了知名基金的参与投资,估值达到1亿美元。该公司与多家AI大厂合作,客户包括AI爱好者、政府的附属机构、模型供应商等。此外,公司推出的免费版商业版也为公司的盈利带来了保障。

关键观点4: AI大模型安全性的挑战与应对

随着AI大模型的快速发展,安全性问题日益突出。传统审查机制在AI大模型面前显得捉襟见肘。Haize Labs通过自动化攻击测试AI大模型的安全漏洞,试图建立更稳固的防线。但各大AI厂商也开始加强对AI越狱行为的防守。


文章预览

👆关注的人,领先不止一步👆 作者 | Xuushan,编辑 |Evan “ 成立不到7月,估值已过亿。 ” 前有三位90后创办的Cohere估值冲向360亿美元,后有95后郭文景创办的Pika拿到55亿美元估值。很显然,硅谷里的AI创业潮正在影响所有人,00后Leonard Tang也是被裹挟进去的万分之一。 Leonard Tang 是 AI安全创企  Haize Labs   的创始人兼CEO,也是今年哈佛大学本科毕业生。 他创办的Haize Labs通过一段视频展示了AI大模型安全防线的“脆弱”。只需短短几行提示,就能绕过大模型的安全限制,从而让AI大模型生成大量的色情文字、血腥图片等,甚至可以自动攻击其他网络。 目前,Haize Labs主要通过其打造的首款AI产品——自动化套件 Haizing 。该套件主要通过攻击AI大模型进行压力测试,以发现AI大模型的安全漏洞。据外媒winbuzzer报道, 明星AI创企Anthropic、Scale AI均是其客户 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照
总结与预览地址:访问总结与预览