必威官方网站,Betway必威,必威APP下载随着 Sora 模型的迭代和 AI 浏览器 ChatGPT Atlas 的推出，OpenAI 的产品线越来越丰富。OpenAI 到底想要打造一个什么样的产品矩阵？这一次，Sam Altman 也通过一张产品矩阵图给出了比较明确的回答。「传统上我们的一些产品表现为ChatGPT内部的 AI 超级助手。但我们不会仅仅停留在自身进化，而是要成为一个平台，让其他人可以在其上构建。」Sam Altman 提到，希望 OpenAI 成为一个平台，一条通往「AI 云」的道路。他还谈到自己的理念来自于比尔·盖茨的名言：当你平台上构建者所创造的价值超过平台构建者本身时，你才算建立了一个平台。因此，明年 OpenAI 希望通过技术、用户群以及构建的框架，让全世界都能在其上构建出色的新公司、服务和应用程序。
同时，另一位 OpenAI 发言人也提到一些对 AI 病毒的预防对策。他提到随着 AI 进步，某些坏人可能利用 AI 制造人为的病毒。那么，在安全层面，就需要建立一个「AI 韧性层」，缓解病毒的传播，确保模型阻止与病毒逻辑相关的查询。但即使 OpenAI 阻止了它，有人很可能使用其他不同的模型仍然能够制造出他们的病原体。所以，OpenAI 希望在问题发生时，「AI 韧性层」具备快速响应能力，并推动在不同模型之间建立一个协同联防的生态体系。
首先是有关于 GPT 6 什么时候来？Sam Altman 说现阶段，OpenAI 花了很多精力在解决系统集成、接口或知识产权的问题上，并展示出一些成果。基础模型上，GPT 5 是增强了模型预测能力，在这些应用能力提升后，很多变化会在五年甚至两年内发生。因此，当 GPT 6 出来时候，很难说这会是一个像是 GPT 3 到 GPT 5 的突破，还是说会是某些特定方面的升级，这可能需要 OpenAI 去内部规划，建立规则，增加投入，以及制定具体计划。从目前来看，GPT 6 可能是下一个出现重大升级的场景。
其次，Sam Altman 还讨论了目前在通往 AGI 路上的进展、思考以及下一步。首先是，Sam Altman 在直播过程中比较坦诚地提到目前并没有看到清晰通往 AGI 的道路。但他们尝试通过一个 OpenAI 账户将能够接 AI 世界，构建出海量的应用。而且，系统应该摆脱要某些限制，在收到通知后能自动运行。目前，他们还在思考 AI 到底应该如何影响我们的工作？AI 要如何加速未来 AI 系统的开发？未来的 AI 系统会是什么样子？「到明年某个时候，我们希望建立一个能够自动执行大型研究项目的系统，相当于一名研究员的水平。」Sam Altman 说：「但ChatGPT发布整整 5 年后，我们能拥有一个真正合格的 AI 研究员水平。」
Sam Altman 还觉得未来人与AI的对齐将会是关键的一步。「这个智能体是否与人类互动？它如何与人互动？它的可靠性如何？AI 目前能否校准预测，使其在简单任务上可靠？并能处理我正在使用的环境？」他觉得，除了认知对齐以外，价值对齐也很重要。「AI 从根本上真正关心的是什么？它能否遵循一些高级原则？当被赋予不明确或相互冲突的目标时，它会怎么做不危害人类。」Sam Altman 提到 OpenAI 内部正在做很多研究，目前有了一些初步阶段，正在尝试转化结果。为了达到这一点，OpenAI 最新思考是，设置一个「通道冲突」，主要通过在训练中有意不监督模型的特定内部推理过程，以保留其思维轨迹的真实性，从而更准确地理解模型的内在运作机制。
