对话OpenAI科学家：iPhone时刻还没有到来

　来源：经济观察报 

　　作者：陈白

　　究竟如何才能够“解开禁锢创新的枷锁”，肯尼斯·斯坦利和他的同伴的总结是，几乎人类所有伟大的成就都不是源于可被计划的目标，我们需要允许偶然性在进化中发挥作用的力量。

　　导读

　　壹  ||  我认为一种不受目标驱动的探索方式确实是可以培养的。我们中的许多人是在自然地喜欢追求自己的兴趣，但通常我们只是害怕后果。

　　贰  ||  有些技术趋势只是短暂的潮流，而有些则是真正的革命。在它们的周期初期，很难判断哪个是、哪个不是。但我认为，人工智能最有潜力成为真正的革命，但区块链和元宇宙也在等待它们的“奇点时刻”。

　　叁  ||  基础和应用研究之间的区别在学术界和产业界都经常被讨论。显然，两者都有好处，关键是找到合适的平衡点。

　　“在你规划之际，生活已经悄然前行。”

　　来自约翰·列侬写给自己孩子的这句经典歌词，被置于了肯尼斯·斯坦利和乔尔·雷曼的《为什么伟大不能被计划》一书的显著位置。

　　肯尼斯·斯坦利（Ke.NETh Stanley）和乔尔·雷曼（Joel Lehman）是目前享誉全球的创业公司AI target=_blank class=infotextkey>OpenAI科学家，在加入OpenAI之前，他们就已经是行业内知名的硅谷技术大牛，我们对话的肯尼斯·斯坦利，还曾经是Uber人工智能实验室的创始成员。近期他选择投身创业，正在建立一个开放式的、专注于偶然性的名为Maven的社交网络。

　　ChatGPT对肯尼斯·斯坦利的介绍是，在进化计算领域做出了重要贡献，他所提出的“踏脚石模型”（Stepping Stone Model），用于解释创新和发现的过程。他的研究涉及创造性的智能系统、神经进化、遗传算法等领域，对人工智能领域的发展有着深远的影响。是人工智能和进化计算领域的杰出学者。

　　可正是这样一位学者，他的方法论却是“无目标者的胜利”。在他看来，从最早的大航海探索到后来的蒸汽革命、电力革命、互联网革命，再到最近如火如荼的ChatGPT人工智能革命，这些重要的发明创造，背后都没有什么“计划委员会”，“真正的伟大是计划不出来的，跟着好奇心一步一步走，才是成就非凡的正确路径。”

　　当我们向肯尼斯·斯坦利提问什么是他眼中的伟大时，他向我们列举了我们意料之内的许多工业品，比如“第一台电话”、“第一台飞机”、“第一台iphone”，但随后在我们意料之外的回答是，“摇滚乐（rock and roll）是非常伟大的发明。”在他眼里，摇滚乐和第一台iPhone是并列的关系。

　　对话中的另一则意外，是中国市场已经掀起“百模大战”，作为人工智能领域最前沿学者的 他，对此并无了解。他说，“我们需要评估它们在技术前沿或创新方面的程度，而不仅仅是追随技术前沿。”

　　当我们问及他的模型能否能够用于理解经济时，他显得谦逊，“我希望这个概念对他们来说会有新的启发。在价值创造的解释中，最终存在着一个开放式、生成式的过程，可以用‘踏脚石模型’和‘寻宝者’的概念来解释。这些元素积累和启发得越多，创新和发现就会越多。”

　　那么究竟如何才能够“解开禁锢创新的枷锁”，肯尼斯·斯坦利和他的同伴的总结是，几乎人类所有伟大的成就都不是源于可被计划的目标，我们需要允许偶然性在进化中发挥作用的力量。

　　这个概念似乎能从本轮生成式AI的技术逻辑底层——“涌现”——中找到共鸣。大模型的推理能力，不是科学家们计划出来的，相反是在足够的尝试和数据支持下自然生发出来的。

　　创新从未如同今天这样被重视。科技是第一生产力、人才是第一资源、创新是第一动力，这些表述在主流叙事中被反复提及。而在产业端，一些新的颠覆式变革似乎也在接踵而至。从年初的生成式AI再到近期的室温超导狂欢，都可以见到人们对于颠覆式创新的渴望——当全球经济进入上一轮技术红利周期的尾部，所有人都在渴望着新的像iPhone那样的现象级产品，能够带领我们进入一个技术红利的大爆炸时刻。

　　肯尼斯·斯坦利认为，“如今还没有到iPhone时刻，但可能很快就会出现。”

　　不预设既定的目标、而是把探索的过程视为寻找珍宝的旅途，这是肯尼斯·斯坦利所提出的另外一个模型。而这样一个寻找科学皇冠上珍宝的发现之旅，或许也同样适合用肯尼斯他们所热衷引用的约翰·列侬的歌曲吟唱来总结：

　　我想我们都需要有足够的耐心，因为这还有漫长的道路需要前行。（ I guess we‘ll both just have to be patient ’Cause it‘s a long way to go）

　　对话：

　　创新的涌现

　　经济观察报：人类历史上什么样的产品或发明可以称为伟大？

　　Kenneth Stanley：人类历史上有许多我认为是伟大的产品和发明。可以举一些简单例子，比如第一台数字计算机、第一架飞机、第一部电话和第一部iPhone的诞生。

　　但我觉得，也有一些伟大的发明与技术无关。例如，我觉得摇滚乐是一个伟大的发明，古典音乐也是如此。

　　经济观察报：在这本书中提到了“无目标者的胜利”。无目标的认知和行为模式可以被广泛复制吗？

　　Kenneth Stanley：无目标或者说缺乏目标，我认为并不意味着缺乏动力。相反，它可能意味着被其他东西驱动，比如趣味性。也就是说，我可能非常有动力去追求我的兴趣，即使我不知道它们会通向何处。

　　而且，即使我没有具体目标，我也可以拥有强烈的价值观，比如说珍视内心的好奇心，或者是善良本身。因此，我认为一个人是否有强烈的自我驱动力(3.050, 0.01, 0.33%)或价值观与其是否客观上有动力是两个不同的问题。

　　我认为一种不受目标驱动的探索方式确实是可以培养的。我们中的许多人是在自然地喜欢追求自己的兴趣，但通常我们只是害怕后果。如何减少对于没有目标的恐惧，找到探索本身的勇气，我认为经过培养或者说锻炼之后，对任何人来说都是可能的，尽管它的难易程度会因个性而异。

　　经济观察报：当新事物出现时，监管力量也会出现。如何监管创新？

　　Kenneth Stanley：我认为即便是监管，也不一定要以目标为导向。对于我自己来说，我会区分目标和约束。目标是你想要达到的地方，约束是你不被允许去的地方。我可以在没有目标的情况下探索世界，但仍然受到约束的限制。

　　例如，我可以在城市的高速公路和街道上开车，随意去任何地方，即使我没有明确的目的地，但我仍受到禁止我开车离开道路进入人行道的规则的限制。这是一个合理的约束（即一种规定），但我仍然可以在受到约束的情况下无目标地探索。

　　经济观察报：涌现正变成一个流行词。这是否可以被视为人工智能带来的一种新世界(7.550, -0.01, -0.13%)观？

　　Kenneth Stanley：涌现这个词似乎对不同的人有不同的意思，并且当人们在它的含义上存在分歧时，也会引起争议。

　　如果我们简单地将涌现理解为指某种结果超出了我们预测的过程，那么当然我们在人工智能系统（如LLMs的诞生）中看到了这种情况，即使有些人可能不会称其为涌现。无论我们如何称呼它，它确实在某些系统中发生，当它发生时非常有趣，但我不确定是否应该将其称为一种新的世界观。毕竟，几十年来，涌现一直在不同的阶段中流行，所以它并不是新的。它更多可能是可以作为我们理解当下的一些背景。

　　iPhone时刻还没到来

　　经济观察报：一些人将生成式人工智能取得的进展类比为iPhone时刻。你同意吗？

　　Kenneth Stanley：我认为还没有到iPhone时刻，但可能很快就会出现。因为我们回过头来看iPhone这款产品，会发现它不仅仅是许多人感兴趣的东西，实际上它对他们的日常活动非常重要。生成式人工智能无疑已经席卷了世界，的确一些人每天都在使用它，但我认为我们仍然处于探索阶段，正在弄清楚我们如何个体地使用它。如果我们都找到了一个非常强烈的理由去随时使用它，那应该将会是iPhone时刻。

　　经济观察报：从区块链到元宇宙再到现在的人工智能，你认为这次技术革命与过去有何不同？

　　Kenneth Stanley：有些技术趋势只是短暂的潮流，而有些则是真正的革命。在它们的周期初期，很难判断哪个是、哪个不是。但我认为，人工智能最有潜力成为真正的革命，但区块链和元宇宙也在等待它们的“奇点时刻”。

　　因此，这些技术中可能有些并不像预期的那样具有革命性，但其他一些可能会有，这样它们就不会相同。不过，目前来看，我认为确定所有这些事物的发展方向还为时过早。如果我必须猜测，我会猜测人工智能是最有前途的，但这并不意味着其他领域没有前途。

　　中国AI，他山之石

　　经济观察报：你对中国人工智能产业的发展了解吗？在ChatGPT之后，中国在六个月内发布了100多个大模型，如何看待这种变化？

　　Kenneth Stanley：我并不知道中国市场在六个月内发布了超过100个大模型的情况。关于我对这一趋势的看法，我认为这体现了中国致力于成为这一技术领域的重要贡献者。

　　当你发布超过100个大模型时，人们显然是认真在对待这件事情。不过，我不知道的是，这些模型的质量如何。要真正了解或预测突然集结资源的长期影响，我们需要评估它们在技术前沿或创新方面的程度，而不仅仅是追随技术前沿。

　　我对来自中国的这些模型没有足够的了解，但因为发布了这么多模型，很可能其中有一些非常有趣和独特的地方。

　　经济观察报：近年来，中国经常讨论基础研究创新和应用创新之间的区别。而中国庞大的市场规模常被视为应用创新的竞争优势。你如何看待基础研究创新和应用创新？

　　Kenneth Stanley：基础和应用研究之间的区别在学术界和产业界都经常被讨论。显然，两者都有好处，关键是找到合适的平衡点。不同的组织可能从不同的平衡中受益。例如，政府可能会大力投资基础研究，而一些公司可能会更多地投资应用研究。然而，其他公司可能会认为大力投资基础研究很重要。

　　总的来说，我认为可以说一点：基础研究是两者中更加微妙的、也是最容易出错的。因此，基础研究需要特别的关怀和保护，以确保它得到真正的支持。有时，从事基础研究的人员需要一种方式来获得支持，即使他们不能明确陈述一个定义明确的目标（这与我们书中的想法相关）。

　　经济观察报：对于“集中力量办大事”这种路径，你怎么看？

　　Kenneth Stanley：正如之前的回答中所述，我认为一些资源需要分配给没有明确目标的事业，但这恰恰是最困难的问题。

　　大多数经理、领导者和决策者害怕支持尚无明确测量或预测的事物。然而，这些领域往往才是带来最大突破的活动。

　　因此，真正的问题在于如何将资源分配到没有明确结果的事物上？这个问题的答案是，你必须能够讨论有趣性，这使得许多人感到不适，因为它是主观的。也就是说在我看来，投资于目的不明确的一件事的原因，首先应该是它足够有趣！但是要理解为什么有趣，需要进行主观的、充分地自由讨论。