【大模型周报第91期】OpenAI和Anthropic同意推出新模型前交给美国政府评估安全

文章预览

本期总览 【人工智能治理与监管政策】关键词： 安全评估、行业自律  OpenAI和Anthropic承诺在发布重大新的人工智能模型前， 将允许美国政府下属的AI安全研究所提前访问并评估模型能力及风险 ，并共同研究减轻潜在安全隐患的方法，确保这些AI技术不会对社会带来负面影响。 《生成式人工智能行业自律倡议》发布 ，BAT、华为、小米、OPPO、荣耀、北大、清华等参编，从保障数据和算法模型安全合规、促进内容生态建设、追求技术创新与质量提升、遵循价值观与伦理道德标准和促进交流合作与开放共建等方面发出行业倡议。 【前沿技术进展】关键词： 生成式验证器、动态神经网络、推理解决方案  谷歌DeepMind发表arxiv论文展示生成式验证器GenRM ，该技术无缝集成指令调整，支持思维链推理，通过多数投票利用额外的推理时间计算，微调LLMs作为奖励 ………………………………