OpenAI 与 Goodfire 达成 AI 安全合作,此前曾探讨超 50 亿美元收购
IT之家 11 月 17 日消息,今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。 与此同时,据《The…
核心信息
- IT之家 11 月 17 日消息,今日,OpenAI 宣布与 Apollo Research、METR、Transluce 和 Goodfire 达成合作,将启动首阶段嵌入式评估项目(Embedded Assessments),共同开展模型可解释性与安全评估工作。
- 与此同时,据《The Information》今日报道,OpenAI 此前曾探讨以超过 50 亿美元 (IT之家注:现汇率约合 333.92 亿元人民币) 收购 Goodfire 的方案,但双方最终未能达成收购协议。
- 根据 Goodfire 发布的公告,该公司将派遣可解释性研究人员进驻 OpenAI,使用自有可解释性分析平台监测模型训练过程、排查非预期行为,并帮助改善模型对齐与安全性。
- 研究人员将获得 OpenAI 内部模型和系统的深度访问权限,具体包括训练过程中的内部信号及相关技术资源。
这对做企业的意味着什么
模型能力每几个月就上一台阶,但企业内部的流程一年都未必改一次。所以不要为了追新模型去重构系统,把模型调用做成可替换的一层接口,换模型时只改一个配置项,这才是长期省钱的架构。
把大模型接进业务系统,难点从来不是调接口,而是三件事:数据要不要出内网、回答错了谁负责、成本怎么核算。这三点想清楚再动手,比先选模型重要得多。私有化部署能解决第一点,人工复核流程解决第二点,按调用量做预算上限解决第三点。
落地建议
源码交付是我们的默认做法。你拿到的不只是能跑的程序,还包括数据库结构、部署文档和一份「怎么改」的说明,这样以后换人维护不用从零猜。
信息来源:IT之家,查看原文。本文由志权软件工作室摘要整理并附行业分析。

微信扫码,直接说需求手机上长按识别也可以。软件定制、网站、小程序、数据采集都能聊,看到了都会回。