来源：雪球App，作者： 公子蟹，（https://xueqiu.com/4193057703/316282042）
#“中国会比美国先去火星吗？”#
白宫在变，硅谷也在变。2024年美国大选，硅谷与白宫的联动成为美国政治光谱变迁的一道“靓丽的风景线”。日前，《奥尔特曼传》作者周恒星接受观察者网独家采访，作为国内第一个采访到马斯克的科技记者，周恒星讲述了他与OpenAI创始人奥尔特曼的交往，以及对硅谷微妙转型的一线观察。其实是从2014年周恒星刚认识萨姆·奥尔特曼（Sam Altman）的时候，那时刚到硅谷，然后写到2024年八九月份，中间跨度可能有10年。
#AGI与硅谷两条路线的宗教战争#
22）好像你在书里面提到了马斯克和奥尔特曼之间有很复杂的历史渊源和恩怨情仇，我们可不可以花一点时间去讨论一下他们两个最开始的交集？
周恒星：对，我这本书一开始就梳理了整个 AI 发展的历程， AI 从上世纪 60 年代大家就开始广为讨论，其实中间有很多挫折，也产生了一些流派纷争。但大部分的时候AI都很失败，中间经历了很多低谷。
一直到 2012 年的时候，2024年获得了诺贝尔物理学奖的辛顿（Geoffrey E. Hinton)搞出了一套算法。这套算法通过非常少的算力，用了区区几块GPU，就可以识别一些图片，准确率一下子就达到97%——这应该算是历史性的事件，说明 AI 真的可以去识别很多东西了。在那个时候，奥尔特曼当时在硅谷应该很早就看到了这个突破，所以他在2014、2015 年的时候，他在 YC 的时候就特别想通过 AI 来做一些事情，他当时觉得互联网已经进入到瓶颈期了，因为在当时很多该上市的公司都上市了，他（奥尔特曼）感觉互联网可能不会再引领下一波的科技浪潮，而AI 会引领，所以他就找了很多人去聊。
他在那个时间点细致观察了AI产业，感觉这个产业有爆发的潜力。他是一个很好的攒局者，比如说会组织一些饭局，包括他去找了很多不是创投圈，甚至是学术圈的人，比如说辛顿的学生伊利亚·萨特斯基弗（Ilya Sutskever）。他大约在 2014 年的时候给马斯克发过邮件，说我们一起来做个非营利组织来对抗。但是因为马斯克跟拉里·佩奇（Larry Page）是很好的朋友，不过他们在一点上有很大的分歧，就是拉里·佩奇觉得未来机器人会统治人类，这是历史的必然，他是一个非常达尔文主义者，他觉得人类就是有一天要被机器人统治的。但马斯克说我热爱人类，我不能让这种事情发生。
23）马斯克热爱人类的想法是从哪里来的？因为我知道这个有效算法（effective algorithm ）和牛津大学教师William Macasco有关。他是何时接触到Macasco的？因为 Macasco也是个年轻人。马斯克是什么时候开始忧天下了呢？
周恒星：这是个很好的问题，其实我也一直在想这个问题，因为他（马斯克）不是一个童年很幸福的人，儿时也一直遭到同龄人的排挤，包括他的父亲对他也有很多精神虐待。他为什么会热爱人类？这个其实我也尝试去找到答案，说实话我没有找到。我其实觉得他更像拉里·佩奇（Larry page ）一样，我之前问过他，我说你有没有信仰？马斯克的回答说我没有信仰，我只相信物理学。为什么这么一个理性，把物理学作为信仰的人会热爱人类，说实话我不知道。
24）但其实相信物理学，相信自然法则和热爱人类也没有什么矛盾。
周恒星：但我觉得如果他是一个非常理性的人，他把人类跟其他生物是放在同一个平等地位的话，可能就会觉得我被机器人统治，那也OK。
25）萨姆奥尔特曼（Sam Altman）、 伊利亚·萨特斯基弗（Ilya Sutskever）他们两个都是犹太人。但他们都应该都只是文化属性的，不是一直参与宗教活动的人。但会不会文化背景在某一点程度上给予了他们一种非常坚定的信仰？先讲一讲马斯克，马斯克和奥尔特曼这些带有极客精神的一些人想要去挑战，因为谷歌财大气粗，而且像DeepMind 也是走在了全世界的前面，就像你在书里面写的，如果我们从后往前看的话，谁有可能做出这个ChatGPT？答案应该是谷歌。因为 transformer 是谷歌做的。他们两个就相当于是后来的一个挑战者，然后因为他们都很喜欢看那种科幻作品，“我们去拯救这个世界，不要被邪恶的大公司给控制”。那为什么这个护戒小队出发之后就中道崩殂呢？
周恒星：我觉得有几方面原因，在 2018 年的时候，马斯克他当时经历了 Model3 的量产地狱，他当时情绪不太稳定，而且那段时间正在吊打OpenAI，OpenAI 是什么都没有，他们当时也没有找到正确的方向，他们尝试了很多，比如说做机械手臂，或者说去玩游戏，但这些都失败了，一直到 Transformer 这个论文出来之后。
26）但是那个时候大家都不是做大语言模型的。
周恒星：对，但就财大气粗，它是可以承受，尝试很多不同的方向，但像OpenAI 其实并没有很多资金，如果他们四处出去乱花钱的话，很快钱就烧没了。但是马斯克也对这个团队失去信心了，当时就说要把这个团队并入到里面。当时应该是 OpenAI 的所有人都反对，那时 Transformer 已经出来了。
反对理由就是OpenAI已经找到正确方向，他们已经准备发布第一代GPT。如果马斯克再多呆两个月的话，他看到 GPT 1 的成果，他可能会改变主意，但他其实已经对团队里的进展不太了解，因为他住在工厂里面，而工厂离 open AI 总部开车要两个小时，所以我猜他那段时间就是不怎么去，然后又对他们彻底失望，就你只会花我的钱，然后什么都没有做出来。
27）但是奥尔特曼那个时候去总部吗？
周恒星：萨姆奥尔特曼就住在旧金山，他跟 OpenAI 总部其实离得很近，我猜他应该知道说 GPT 1快做出来了，所以他也是反对并入。但马斯克他是一个很固执的人，他在 2018 年 2 月的时候开了一次会，他还骂了一个实习生是蠢蛋，然后就离开了，再也没有回来。
之后奥尔特曼，他也没有办法，因为没有钱了，但同时他知道快做出来了，所以他就去抱大腿找了。但是从马斯克的角度来说，当时做OpenAI其实为了对抗，结果你去抱另外一个巨头的大腿，他觉得他被萨姆奥尔特曼骗了。马斯克其实并不是因为这些钱，他说不记得他到底捐了多少钱。因为他后面说了好几个数字都不太对，后来有人跟他算了一下，可能就 5,000 多万美元。后面他就改口一直说 5000 多万美元，这可能是有人跟他说之后他才想起来的。
28）他（马斯克）后面指责说，我们叫OpenAI，但好像做成了一个 Close AI。他的意思就是我们最开始说好的是开源，你们需要把所有的一切都让大众去使用，不要像 搞DeepMind黑盒化。他这个说法你觉得站得住脚吗？
周恒星：可以看看当时的邮件往来。伊利尔给马斯克发邮件，说开源就开一部分，闭源实际上在某个阶段是更好的选择。马斯克当时好像就回了一个OK，也就是他当时是没有反对的。我觉得他并不是反对开源或者闭源，他（马斯克）反对的是自己失去了对Open AI的控制权。
29）他后来好像还说，奥尔特曼掌握了权力之戒，马斯克自己难道他不想要去掌握这个权力之戒吗？
周恒星：其实我在书里面也写到，像比尔盖茨，其实大家都觉得他是一位慈善家，实际上在他的时代里面，30 多岁的时候他打败了所有的竞争对手，是当之无愧的科技界战神，但他在2000 年美国有个反垄断案，当时说要拆分，后来比亚盖茨就隐退了，然后就让鲍尔默成为了微软的CEO，但鲍尔默成为 CEO 不久就出现了。后面就是谷歌一直在吊打微软，而且微软错过了很多机遇，像互联网、其实都错过了。
30）搜索这个方面，像以前雅虎之类的也都做不过。
周恒星：对，商业模式也很好，基本上融了一轮之后就可以赚很多钱了，他也不需要投资，后面很多人想收购谷歌也都失败了，所以谷歌就是一直吊打，到纳德拉成为 CEO 之后，可能云计算方面开始让微软稍微扳回了一局，因为谷歌虽然也有云计算，但其实不是它的优势。纳德拉觉得应该做一些谷歌还不是特别擅长的东西，就看准了AI，他也说服了比尔盖茨，之后就跟 OpenAI 结盟了。我觉得双方可能互相都有需求，就一拍即合。
31）它成了一种弯道超车的工具。有自己的 AI 、微软和OpenAI 也有它们之间特殊的关系,有Anthropic、马斯克有个X AI，包括各个国家都有很多公司在做这个内容。现在所有人都在AI 的这条赛道上疯狂的卷。从技术的角度来讲，这些大公司之间，他们相互的厮杀能对我们国内做 AI 的公司提供什么启发吗？他们这些公司的目的都是在追求 AGI 吗？
周恒星：我觉得他们的终极目标还是AGI。 AGI 有点像圣杯，所有人都在追逐它。我觉得国内现在的确是稍微弱一些，不过还是有弯道超车的机会。如果回顾历史，中国科技行业其实一直都是从一个跟随者，然后慢慢超越。从互联网到新能源汽车， AI 的话，我觉得现在可能差距不会比当年小。
中国人才也是足够多的，但现在目前来看中国更追求的是应用，而不是大模型。在应用层面我觉得中国是有优势的，就看能不能做一些比较好的 AI 应用出来。至于说如果要达到 AGI 做大模型，这可能不是我们的优势。
另外一方面中国还有个优势，就是硬件。中国的供应链可能除了芯片造不出来，其实可以造任何东西，而美国现在其实什么东西都造不出来。中国在这方面是有优势的。在未来，像具生智能需要做的那种机器人，如果要保证量产的话，可能那些公司还要来中国，必须要依靠中国的供应链。
32）这好像是一个圣杯战争，在美国大家都朝着 AGI 的方向在卷。你觉得你作为一位科技行业观察者来讲，这是AI 的未来吗？这是人类的未来吗？AGI好像不光是科技的问题了，不是一个单纯讲技术的问题，人算什么？人要干什么？因为比如说像辛顿（Hinton），他好像就不太支持AGI。
周恒星：对，他比较看重 AI 安全，不想让大公司垄断整个行业，比如就只有Open AI 获得AGI，获得这个圣杯，然后其他人都做不到，这个时候他觉得很危险。我觉得 AGI 这个事情早晚会发生，而且会很快，虽然现在遇到一些瓶颈，但还是会慢慢达到那个点，我觉得可能速度会超过很多人想象，这会对社会的冲击非常大。
OpenAI的AGI机器人
33）不做非常垂直类的AI，而是要做通用的智能，让它有人类的这种推理能力。你觉得这个是必然的趋势吗？
周恒星：我觉得这个可能要根据行业来说，其实如果只是需要AGI的推理能力，完全没有必要有个硬件，只要用软件就可以。如果涉及到硬件的话，比如说陪伴机器人，当然就是越像人类越好。而像工厂机器人，其实只能做一个动作。但如果未来它可能不像人类这么智能，但它可以获得智能，可以做很多动作，那就不需要多条生产线，就只需要一条生产线，然后这个机器人可以轮流做不同的动作。这个其实是可以节省成本的，但这需要看行业。
34）所谓未来能解决万事万物的AGI要回答你所有问题，包括情感陪伴、历史哲学、数学题，还要写程序，人们对他的期待就会影响资本对他的估值。这是一个非常感性的故事。人类先要有一个想象，然后希望这个想象真的会在现实中间呈现出来，以这个方式推进的话，未来我们是朝着哪条路？
周恒星：如果大模型越来越智能，具身机器人也可以变得越来越聪明，这是需要跟产业结合起来，中国的优势可能更多是产业结合这条路，因为中国的大模型现在稍微比美国弱一些。
35）奥尔特曼最近被辛顿（Hinton）批评更关心利润，而不是关心 AI 安全。你如何看待利润和安全之间的取舍？
周恒星：我觉得这是两种价值观的冲突，可能 Hinton是学术圈的。我觉得学术圈特别是西加州的一些大学很多受到了自由主义左派的影响，他们应该当年是从一些环保，反战的环境中成长起来的。我觉得学术圈有个问题，对商业缺乏认识，但是从创业圈的角度来说，对于创业者最大就是竞争。这就需要你在竞争里面活下来。
我觉得对于奥尔特曼他们来说，他有可能意识到了安全这个问题非常重要，包括他当时也答应了伊利亚，会给 20% 算力来做超级对齐的问题——毕竟AI的某些情感价值观跟人类不一致。但后面很有可能就是因为跟和 Anthropic 竞争实在太激烈了，OpenAI必须全力向前，把资源都投入到做大模型里面，所以后面的矛盾就越来越大。其实我觉得这两点都是可以理解的。因为我觉得他作为一个 CEO首先要赢得竞争，这方面压力应该是最大的，而不是像辛顿把这个问题看的这么重。
36）马斯克也经常考虑安全和人类未来。
周恒星：对，我在书里面其实也写到他在 OpenAI 那段时间，特别是 2018 年的时候他的一些言论，当时他很明显是个有效加速主义者。他当时就一直批评团队，说你们太慢了，要快一点，这跟奥尔特曼是一样的，从一个资本家的角度不断去逼迫团队。但他从OpenAI出来之后就说安全的问题，我觉得这更多的是一种竞争策略。
37）所以你在书中有一章是提到“硅谷宗教”。历史上的宗教战争，往往也不是为了宗教这件事情本身，而是现实中间所坚持的利益，只不过找到一个理由。
周恒星：对，如果我们看马斯克，他的很多理论包括他描绘的蓝图其实是有变化的。根据他的这套逻辑，终极目标是要把人类送往火星。他把电动车当作是在火星上一个运输的工具，火箭是作为从地球到火星中间的运输工具，X平台就是在火星上的通讯，包括还有一些脑机接口计划。他（马斯克）是有一整套逻辑，里面有他的理想和坚持，当然也有很多其实是为了讲故事。
38）除了加速主义，还有另一条路线：“有效利他主义”，第一次见马斯克，对他的观感是这样的吗？