加州AI法案做出妥协，开发大模型有安全问题，坐牢风险降低了一点点

文章预览

SB-1047 是这个加州法案的编号，全称是《前沿人工智能模型安全创新法案》，试图为高风险的 AI 大模型建立明确的安全标准，以防止其被滥用或引发灾难性后果，如造成多人死亡，或者5亿美元以上的损失，将会追究开发者的法律责任。 该法案于今年 2 月份在参议院提出，马上引起了很大的争议。AI圈子里的研究人员、创业者、独角兽、巨头们认为，法案中的许多条款过于不合理，将对科技创新造成毁灭性的影响。其中争议的焦点，是从研发阶段针对基础大模型监管，还是监管大模型的应用；法案应该如何界定根据开源大模型定制模型的责任。 刚刚结束的加州参议院拨款委员会，在做出一些修改后通过了该法案。其中的一个重要改动，是加州检查部门将不会起诉那些疏忽安全措施的AI企业；但是，检察部门仍然可以通过救助令，要求AI企业停止其AI ………………………………