萨姆·奥尔特曼（Sam Altman）于2023年11月29日在OpenAI官方网志宣布，正式重任执行长，象征着该公司的宫斗风暴彻底完结。当初奥尔特曼之所以被董事会免职，传闻中的关键原因是他秘密研发的AI项目“Q*”，近期取得重大突破，可能会对人类构成威胁。究竟“Q*”与ChatGPT等生成式AI有什么差别？它是否真的足以影响全人类存亡呢？

Q*计数能力远胜ChatGPT

   OpenAI宫斗事件引人注目之处，除了执行长奥尔特曼的戏剧性回归外，还有在斗争过程中被抛出来的神秘AI项目Q*（读作“Q-star”）。目前OpenAI仍未有披露有关Q*的详细资料，暂时只知道研究团队在2023年某个时间点获得重大突破，成功创建出可以解决基本数学问题的AI模型Q*。

   有消息指，奥尔特曼被罢免前，OpenAI内部曾对Q*进行操演，结果显示它能够正确解答小学程度的数学问题。听起来，如此基础的数学能力似乎没什么了不起，但对GPT-4等大型语言模型而言，这已属极高难度动作。

Q*拥有人类的逻辑推理能力

   大家要知道，即使是最先进的GPT-4模型，都只是精于语言文字处理，要是碰上加减乘除数学问题，就会经常计错数。假如Q*真的具备正确解答数学问题的能力，就算仅是小学程度，已远胜于市场上所有生成式AI模型。

   人们要学习数学，是要训练逻辑推理能力。一旦AI模型懂得数学计算，代表着它能够对抽象概念进行逻辑推理；换言之，它可以像人类般能够理解抽象概念，并通过逻辑推理，获得新知识、发展新想法，甚至面对前所未见的难题时，都可以发想出新的解决方法，这跟当下生成式AI完全是不同层次的概念。

Q*模型是发展AGI关键一步

   美国斯坦福大学辖下以人为本AI研究所（Human-Centered AI Institute）所长安德鲁·罗戈斯基（Andrew Rogoyski）表示，如果AI能解决新的、从未见过的问题，而不仅仅是重塑现有知识，那么这将是一件大事。更有AI研究员认为，假如Q*能够解决简单的数学问题，代表OpenAI朝着“通用人工智能”（Artificial General Intelligence，AGI）目标迈出了一大步。

   所谓“AGI”，意指具备与人类同等智慧的超级AI；OpenAI更将之定义为，在最具经济价值的任务中，拥有超越人类能力的自主系统。2023年11月举行的APEC企业领袖高峰会上，奥尔特曼提及OpenAI近日达成第四次技术突破，让他们得以“揭开无知之幕，并抵达探索发现的前沿”。外界认为，他所指的正是Q*模型。

奥尔特曼在APEC企业领袖高峰会上表示：“在OpenAI历史上发生过四次重大突破，最近一次就是在过去几个星期，当我们揭开无知之幕，并抵达探索发现的前沿时，我就在房间里，这是职业生涯中的最高荣誉。”（图片来源：X.com@Kr00ney）

Q*模型可能变成天网雏形？

   但有些AI专家担忧，尽管Q*今天只是一名小学生，可是未来却可能成为接管全世界的AI统治者。当Q*像人类般懂得应用推理，那么人们对其控制或预测就会变得非常困难。再者，它能够产生新想法来解决前所未见的问题，或许会做出超越人类理解范围的决策和行动。

   更有网民将Q*描绘为经典科幻电影《未来战士》（Terminator）中的“天网”（Skynet）：它原本是美国政府所研发的国防计算机系统，后来因产生自我意识，判断人类是威胁它的物种，所以发射核弹来灭绝全人类。

在《未来战士》电影中，拥有自我意识的超级AI“天网”于2029年向人类发动核战，并派出AI机械人军团追杀幸存下来的人类。（图片来源：IMDb网站）

Q*不算新技术，没有威胁性

   不过，有另一派AI专家质疑，Q*实际上不算是全新技术，更谈不上威胁性，现阶段就担心“天网”的降临，似乎言之尚早。Facebook母公司Meta首席AI科学家杨立昆（Yann LeCun）认为，Q*是OpenAI既有项目的延伸研究，绝非可以威胁人类的崭新技术。

有AI研究员认为，OpenAI的Q*模型可能是“Q-learning”强化学习算法与“A*”智能搜寻方法结合而成，只符合当前AI研究趋势，不算是崭新技术。（图片来源：Unsplash图库）

   艾伦AI研究所（Allen Institute for AI）科学家内森·兰伯特（Nathan Lambert）认为，Q*是用于研究基本数学问题、而不是毁灭人类的AI。乔治亚理工学院计算机科学教授马克·里德尔（Mark Riedl）更直言，传媒对Q*报道有点夸大不实。

   随着奥尔特曼的回归，其战友格雷格·布罗克曼（Greg Brockman）亦回巢重任公司总裁，加上在董事会重组后，与他敌对者已全数下马，其最大支持者微软（Microsoft）亦会以无投票权的观察员身份加入，故此OpenAI现已完全落入其掌控之中。在奥尔特曼的全权领导下，OpenAI究竟会引导AGI造福全人类，还是打开潘多拉盒子，创造出足以威胁全人类的AGI呢？事态发展绝对值得我们长期观察。

   《经济通》所刊的署名及／或不署名文章，相关内容属作者个人意见，并不代表《经济通》立场，《经济通》所扮演的角色是提供一个自由言论平台。