硅谷科技巨头为产品收益而忽视人工智能安全
币圈网报道：
硅谷曾是世界顶尖人工智能专家进行创新研究的聚集地，但专家警告称，情况已然发生改变，如今的人工智能已完全以产品为中心。人工智能研究人员和专家还认为，自OpenAI于2022年底发布ChatGPT以来，科技行业通过打造面向消费者的人工智能产品，将商业化置于研究之上。
摩根士丹利分析师 预测到2028年，人工智能行业年收入有望达到1万亿美元。行业专家表示，随着领先企业追求通用人工智能（AGI），他们担心安全问题。
硅谷优先考虑产品而非安全，人工智能研究重回盈利轨道
杰弗里·辛顿表示，人工智能公司应该被迫将三分之一的计算资源用于安全研究，因为人工智能在未来 20 年内将变得比我们更聪明，我们需要开始担心届时会发生什么pic.twitter.com/ocT3Scmyxg
— 查拉图斯特拉 (@tsarnick)2024年10月25日
OpenAIOpenAI 成立于 2015 年，最初是一家非营利性研究实验室，据其首席执行官 Sam Altman 称，目前正致力于转型为营利性实体。OpenAI 前协调负责人 Jan Leike 的团队专注于 AI 安全，他于去年辞职，并表示，过去几年里，“安全文化和流程已经让位于光鲜亮丽的产品。”
网络安全初创公司 Calypso 的首席技术官詹姆斯·怀特 (James White) 认为，科技公司在向公众发布 AI 模型之前，为了严格测试而采取的捷径越来越多。他指出，较新的 AI 模型正在牺牲安全性来换取质量，也就是让 AI 聊天机器人做出更好的响应。
“模型越来越好，但它们也更有可能擅长做坏事。更容易诱骗它们做坏事。”
– Calypso 首席技术官 James White。
今年 3 月，谷歌似乎将产品置于安全之上，此前 发布该公司发布了其最新的人工智能模型 Gemini 2.5，并称这是该公司目前最智能的人工智能模型。但该公司数周以来一直未能发布 Gemini 2.5 的模型卡，这意味着该公司在发布该模型后并未分享其工作原理、局限性和潜在危险等信息。
公司 承认4月2日，谷歌表示，其最先进的模型在发布前会评估其潜在的危险能力。谷歌后来更新了博客文章，删除了“在他们获释之前。”
该公司于 4 月 16 日发布了不完整的模型卡，并于 4 月 28 日（AI 模型发布一个多月后）对其进行了更新，以包含有关 Gemini2.5 危险能力评估的信息。
人工智能科技公司从研究转向创收产品
元 前员工表示，当 Meta 副总裁兼 FAIR 部门负责人 Joelle Pineau 表示，他们并不感到惊讶。 宣布上个月，她宣布将于 5 月 30 日离职。他们表示，他们认为此举将巩固公司从人工智能研究转向优先开发实用产品的战略。
Pineau 自 2023 年起担任 FAIR 总裁，据 FAIR 员工称，Meta小型研究团队可以研究各种前沿技术，这些技术可能会成功，也可能不会成功。这一转变始于这家科技公司在2022年底裁员2.1万名员工，占其员工总数的近四分之一。知情前员工表示，作为削减成本措施的一部分，FAIR的研究人员被要求与产品团队更紧密地合作。
两位知情人士透露，今年早些时候，FAIR 的一位董事 Kim Hazelwood 离职，这是 Meta 裁员 5% 计划的一部分。知情人士指出，OpenAI 推出 ChatGPT 让 Meta 感到紧迫，需要将更多资源投入到大型语言模型（LLM）中。
知情人士还透露，Meta 首席产品官 Chris Cox 一直在负责 FAIR 的事务，以弥合研究与专注于产品的 GenAI 团队之间的差距。他们补充说，在 Cox 的领导下，GenAI 由于在公司中的地位提升，一直在从 FAIR 吸走更多的计算机资源和团队成员。
上个月，Meta 发布Meta 为开发者提供安全工具，帮助他们使用 Llama 4 AI 模型构建应用程序。Meta 表示，这些工具有助于降低 Llama 4 无意泄露敏感信息或生成有害内容的可能性。
KEY 差异线：加密货币项目用来获得媒体报道的秘密工具
