OpenAI CEO Sam Altman 访谈录：对话 Lex Fridman
OpenAI CEO Sam Altman 最近接受了 Lex Fridman 的采访（上一位受访者是 Meta 首席科学家 Yann LeCun）。在这场接近两个小时的采访中，他们探讨了许多核心问题。
Claude 3 生成的中文摘要
OpenAI 董事会的权力斗争
- 去年 11 月发生的事件是 Sam 职业生涯中最痛苦的经历，但也让他感受到了他人的支持和爱。
- 这次经历凸显了 OpenAI 需要强大治理结构和流程的必要性。
OpenAI 的进展与展望
- GPT-4 虽然了不起，但离最终目标还有差距。
- 预计到 2030 年前后会出现非常强大的系统。
- OpenAI 今年将以渐进方式发布更多模型。
计算能力与能源问题
- 计算能力将成为未来最宝贵的商品，世界需求巨大。
- 能源（尤其是核聚变）是其中的难题；Helion 在核聚变方面表现出色。
对搜索引擎和商业模式的看法
- 建立一个“更好的谷歌”没有意义，目标是用全新的方式帮助人们利用信息。
- 不喜欢广告，青睐简单的商业模式。
AGI 竞争与安全问题
- AGI 竞争可能引发军备竞赛，令人担忧。
- OpenAI 努力实现安全性，并希望竞争对手也同样重视安全。
Sora 的进步和影响
- Sora 仍有局限性，但会随规模增加而改进。
- 正在审慎应对深度伪造（Deepfake）等潜在危害。
- 艺术家需要找到新的创作方式；正在探索如何让 Sora 更好地了解用户。
对 AGI 时间表和控制权的看法
- 很难准确评判 AGI 出现的时间，期待 2030 年前后出现强大的系统。
- 即使 OpenAI 先建成 AGI，也不应由任何个人完全控制。
- 需要强有力的治理，政府应制定规则。
当前最担心的 AI 风险
- 目前担心的不是失控，而是模型被窃取等安全因素。
- 随着进展加快，OpenAI 将更多考虑各方面的安全问题。
对外星文明和人生的思考
- 非常想相信外星文明存在，但对费米悖论感到困惑。
- 人类过去的成就让他对未来充满希望，即使明天死去也心存感激。
Gemini 1.5 完整翻译摘录
简介
- 0:00 - 计算能力将成为未来的货币，可能是世界上最宝贵的商品。我预计在本世纪末甚至更早，我们将拥有非常强大的系统。通往通用人工智能 (AGI) 的道路将是一场巨大的权力斗争。
- 0:26 - 谁先造出 AGI，谁就拥有巨大的权力。
- 0:32 - 对话 Sam Altman，OpenAI 首席执行官。
OpenAI 董事会风波
- 1:13 - 那是我一生中最痛苦的职业经历，充满了混乱、羞愧和沮丧。但我看到人们说关于我的好话，感受到了难以置信的支持。
- 2:30 - 很高兴这件事发生得相对较早，帮助我们建立了韧性，为未来的挑战做好准备。
- 7:09 - 董事会应拥有很大权力。我们的非营利结构下，董事会权力巨大且不向任何人负责。我们希望董事会能尽可能向整个世界负责。
- 8:46 - 提到布雷特·泰勒 (Bret Taylor) 和拉里·萨默斯 (Larry Summers) 加入新董事会。我们需要多元化的专业知识（非营利、运营、法律和治理）。
关于伊利亚·苏茨克维尔 (Ilya Sutskever)
- 18:57 - 我爱伊利亚，非常尊重他。我希望在我的职业生涯剩余时间里能和他一起工作。
- 19:30 - 伊利亚没有看到 AGI，但他非常认真地对待 AGI 和安全问题。
埃隆·马斯克的诉讼
- 24:54 - 八年前我们起步时只是研究实验室，不确定技术会如何发展。后来我们需要更多资金，结构也随之调整。我不明白埃隆的真正动机。
- 27:44 - 埃隆当时想要完全控制权并与特斯拉合并，因为他认为 OpenAI 会失败。他选择离开，这没关系。
- 31:29 - 这让我很难过。他可能是史上最伟大的建设者之一，我怀念以前的埃隆。
Sora 与视频生成
- 34:57 - 模型对物理世界的理解比想象中多。我看到 Sora 视频中物体被遮挡后再次出现，物理表现很好。它会随规模扩大变得更好。
- 40:20 - 创造有价值数据的人应该获得补偿。模式正在改变，但人们必须得到报酬。
- 41:40 - 就像摄影术出现时艺术家感到担心一样，新工具会出现，人们会以新方式使用它们。
GPT-4 与 GPT-5
- 45:05 - 我认为 GPT-4 “有点糟糕”（相对于未来的目标）。
- 45:18 - 预计 5 和 4 之间的差距将与 4 和 3 之间的差距相同。我们正处于指数曲线上。
- 46:23 - 我现在更多地把它当作头脑风暴的合作伙伴。
- 53:58 - 幻觉问题在即将推出的版本中会改善，但今年无法完全解决。
- 1:06:36 - 我们今年会发布一个很棒的模型，不论它叫什么。但在发布类似 GPT-5 的模型之前，还有很多其他重要内容要发布。
竞争、能源与未来
- 1:10:06 - 计算能力是未来的货币。由于需求巨大，计算能力的供应链和能源（核聚变）是最大的瓶颈。
- 1:18:33 - 构建一个更好的谷歌搜索副本很无聊。有趣的是帮助人们以全新方式寻找、处理和综合信息。
- 1:20:26 - 我讨厌广告。我青睐简单的商业模式，用户付费，答案不受广告商影响。
- 1:38:20 - 我不想要对 OpenAI 的超级投票控制权。任何一个人都不应该控制 AGI，我们需要政府制定规则。
结语
- 1:54:12 - 我对生命心存感激。我们正处于一个多么奇妙、有趣的时代。