OpenAI 的混乱与其秘密构建的超强大新人工智能有关

【纬度新闻网】OpenAI 首席执行官萨姆·奥特曼 (Sam Altman)为何被赶出公司，不到一周后又复职，这仍是一个谜，不过该公司非营利董事会的戏剧性逆转引发了天文数字般的猜测。

尽管如此，各种理论已经成为谣言的焦点。最有趣的一点是：OpenAI 可能一直在悄悄地开发一种高度先进的人工智能，这种人工智能可能会让董事会陷入恐慌模式并引发骚乱。

毕竟，OpenAI 长期以来一直将实现通用人工智能（AGI）作为其首要使命——宽松地定义为一种可以完成复杂任务，甚至比人类更好的算法——以“造福全人类”。奥特曼本人的话。

该公司是否真的更接近实现这一目标仍然存在很大争议。该公司历来在研究方面一直高度保密，这使得最近几周来解读茶叶变得更加困难。

但这个故事的一个有趣的新转折表明 OpenAI 可能正处于重大飞跃的边缘，而且它可能确实与这次重组有关。

上周，路透社和The Information报道称，一些 OpenAI 领导者可能对该公司正在开发的一款名为 Q*（发音为“Q 星”）的强大新人工智能感到震惊。一些人显然认为这个新系统是公司朝着建立 AGI 目标迈出的重要一步，据报道能够解决小学数学问题。

据路透社报道，前 OpenAI 非营利组织董事会成员米拉·穆拉蒂 (Mira Murati)在发给员工的内部消息中承认了这种新模式的存在，她在 Altman 被解职后很短一段时间内担任了首席执行官。

路透社消息人士称，Q* 是导致 Altman 被解雇的众多因素之一，引发了人们对将尚不完全了解的产品商业化的担忧。

虽然学校数学听起来不像是一项突破性的成就，但研究人员长期以来一直将这种能力视为一个重要的基准。能够解决数学问题的人工智能算法需要提前“计划”几个步骤，而不是像该公司的 GPT 系统那样简单地预测句子中的下一个单词。

将其视为类似福尔摩斯的实体，可以将线索串在一起以得出结论。

“提高 LLM 可靠性的主要挑战之一是用规划取代自回归令牌预测，”“人工智能教父”、Meta 首席人工智能科学家 Yann LeCun 在一条推文中解释道。“几乎每个顶级实验室（FAIR、DeepMind、OpenAI 等）都在致力于此，有些实验室已经发布了想法和结果。”

“Q* 很可能是 OpenAI 的规划尝试，”他补充道。

人工智能培训初创公司 Tromero 的联合创始人查尔斯·希金斯 (Charles Higgins) 向《商业内幕》表示：“如果它能够对抽象概念进行逻辑推理和推理，而这正是它目前真正面临的难题，那么这将是一个巨大的飞跃。”

“数学是关于象征性推理的——例如，‘如果 X 大于 Y，Y 大于 Z，那么 X 大于 Z，’”他补充道。“传统上，语言模型在这方面确实很困难，因为它们不进行逻辑推理，它们只是拥有有效的直觉。”

萨里以人为本人工智能研究所所长安德鲁·罗戈斯基 (Andrew Rogoyski) 告诉BI：“就数学而言，我们知道现有的人工智能已被证明能够完成本科水平的数学运算，但无法处理更高级的数学问题。” “然而，如果人工智能能够解决新的、看不见的问题，而不仅仅是反省或重塑现有知识，那么这将是一件大事，即使数学相对简单。”

但 Q* 真的是一个可能构成实际生存威胁的突破吗？专家们并不相信。

“我不认为它会立即让我们陷入 AGI 或可怕的情况，”剑桥大学数学和人工智能博士研究员凯蒂·柯林斯 (Katie Collins)告诉《麻省理工科技评论》。

“解决小学数学问题与将数学界限推向菲尔兹奖得主的水平是非常非常不同的，”她补充道，指的是国际数学奖。

“我认为这具有非常重要的象征意义，”Tromero 联合​​创始人兼博士生索菲亚·卡拉诺夫斯卡 (Sophia Kalanovska) 告诉《商业时报》。“实际上，我不认为这会导致世界末日。”

简而言之，OpenAI 的算法——如果它确实存在并且其结果能够经受住审查——可能代表该公司在实现 AGI 的努力中取得了有意义的进展，但有许多警告。

这是奥特曼被驱逐的唯一因素吗？目前，有大量证据表明幕后发生了更多事情，包括对公司未来的内部分歧。

人工智能的非凡崛起往往是由看似古怪的主张、大量的恐吓和大量的炒作所推动的。传闻中的 OpenAI 后续 GPT-4 模型的最新进展可能也不例外。

路透社的一位消息人士称，尽管只解决了小学水平的数学问题，但研究人员仍然对最新模型的成功感到乐观。

但人工智能专家和深度学习评论家加里·马库斯 (Gary Marcus) 在他的 Substack最近发表的一篇文章中称，围绕该系统的讨论是“疯狂的推断” 。

“如果我每一个这样的推断都能得到五分钱——今天，它适用于小学生！明年，它将接管世界！——我会成为马斯克级别的富人，”他写道，指的是 OpenAI 联合创始人埃隆马斯克于 2018 年因自己的分歧离开了 OpenAI 董事会。

（本文依据了Futurism的消息）