今天，OpenAI 正式发布 Astra。这是继 Sol、Terra、Luna 之后，OpenAI开辟的全新模型类别。它不仅被视为当下最强大的 AI 模型之一，也是OpenAI首款跨过“关键级”网络安全能力门槛的模型。OpenAI总裁Greg Brockman表示，最新模型 Astra 的发布标志着世界已经进入AGI时代。

而在这一切发生之前，我有幸和 OpenAI 数据与大模型 Infra 工程师赵迪，进行了一场 72 分钟的深度对话。

他将马斯克称为“最混蛋的人”，可在介绍自己时，却只有一句简单的话：

“我只是一个普通的工程师。”

但在我看来，他的职业经历几乎可以当作一部硅谷技术迭代史来读：甲骨文、摩根士丹利、Salesforce、Fanatics、Netflix，再到 Twitter、X 和 OpenAI。企业软件、金融实时系统、SaaS、推荐系统、大数据、机器学习，直到今天的大模型。过去二十五年的每一次技术浪潮，他都是其中的见证者与建设者。

但他始终觉得，自己不过是在踏踏实实做一件喜欢的事。技术没有高低贵贱，而工程师的工作也不需要被神化。

鲜有人知道，他是 Navi 的创造者。Navi 曾支撑 Twitter 与 X 的首页推荐和搜索，并为 Grok 提供相似性搜索基础设施。而它最初只是赵迪出于兴趣用 Rust 写的一个“玩具”，后来落地广告系统，为 Twitter省下百万美金成本。马斯克接手 X 后，又将 Navi 推向推荐系统，最终成为核心推理基础设施的统一底座。

值得一提的是 Navi 这个名字，它来自赵迪最喜欢的电影《阿凡达》里骑着飞鸟的纳威人。他把自己对自由的向往，写进了一个每天处理数十亿次请求的系统，尽显理工男的极致浪漫。

2025年3月，赵迪加入OpenAI。他说，他非常认同Sam Altman提出的Intelligence as Utility：让智能像水和电一样，成为人人可用的基础设施，即智能平权。

他喜欢OpenAI的另一个原因也非常具体：工程师共用MTS（Member of Technical Staff，技术专家）这个头衔。不谈层级，只做事情。

而我想借这期节目聊的，恰恰就是“做事”这件小事。

赵迪没有创办公司，未曾站上任何发布会的舞台，从未po过一条被反复引用的推文。他是那种走进一栋楼，坐下来，打开电脑，然后开始build的人。但正是这样踏踏实实的每一天，堆成了我们今天所说的「技术进步」。

ChatGPT的每一次回答，你信息流里的每一次排序，一个模型从实验室走到十亿人手里的每一步，背后都是成千上万个赵迪这样的工程师，一行一行写出来的。而他们中的绝大多数，从未成为过任何媒体故事的主角。

所以这一期，我想让一个幕后工程师的名字和故事，被看见一次。

OpenAI对员工公开表达有严格的合规要求。赵迪告诉我，他最终愿意参加这次录制，还有一个很重要的原因：他想为当年被马斯克裁掉的三千多位前X 员工正名——大家都是非常有能力的人。

这场对话里，我们聊了这几件事：

从推荐系统到大模型，模型服务到底哪些变了，哪些没变？

大模型公司的牌局，究竟该怎么打？

OpenAI 的工程师，如何面对自己有一天也可能被 AI 取代？

马斯克为什么被他称为是最混蛋的人，同时也是最伟大的企业家？ 

什么是智能平权，以及如果做不到，人类未来会怎样？

当我问他，奇点什么时候会到来时，他毫无犹豫地回答：

“奇点三年前已经到来。2022 年 11 月 30 日，也就是 ChatGPT 发布的那一天。”

📌 一点说明

本期节目录制于6月13日。AI 行业变化极快，模型、产品与认知都在持续迭代。因此节目上线时，对话中涉及的部分产品、数据与判断，可能已经不是最新状态。

此外，赵迪老师近三十年在美国求学生活和工作，对话中会自然地穿插中英文。我们选择保留这种最真实的表达状态，没有刻意修饰，也请各位听友多多包涵。

本期视频播客已同步上线各大平台，完整文字版亦收录于微信公众号「硅谷创见汇」，欢迎收看并订阅。

以下，是本期访谈内容。

🎙️本期主播

尚莞迪 Lydia 

• 《创见》播客主理人
•  Stanford GSB｜Wharton School
• 美元基金投资人｜国际量化金融分析师
• 小红书：尚莞迪 Lydia  / bilibili：尚莞迪 Lydia
• 视频号：尚莞迪Lydia 
• 公众号：硅谷创见汇
• 🎙️本期嘉宾

赵迪 Di Zhao

• OpenAI 技术团队成员（MTS），专注 Data Infra / ML Infra
• Navi 创造者：X 首页推荐、搜索及 Grok 相似性搜索基础设施
• 前 Twitter / X 工程师，通过优化搜索、广告与推荐基础设施，每年为 X 节省逾百万美元成本
• 曾任职于 Netflix、Fanatics、Salesforce、摩根士丹利上海及 Oracle
• 清华大学自动化专业学士
• 马里兰大学计算机科学硕士

⌚️时间戳

02:59｜在全球最受关注的 AI 公司工作，是什么感觉？

09:35｜马斯克接管 X 之后：硅谷大厂文化被彻底改写

25:24｜为 X 每年省下逾百万美元：Navi 与“搜广推”降本实验

34:33｜把最爱的电影写进系统：一个 AI Infra 工程师的浪漫

38:50｜每个 Token 背后：Agent 时代的 Batching、Caching、Routing 与序列化难题

40:51｜AI 公司真正的壁垒是什么？世界模型会是终点吗？

52:07｜看清马斯克之后，为什么依然敬佩他？

53:50｜从 X 到 OpenAI：为了一个“智能平权”的理想

56:39｜OpenAI 内部还写代码吗？Codex 普及与“初级工程师断层”

01:09:28｜ChatGPT 发布就是奇点到来：AI 的 0 到 1 为什么只有一次？

📚名词解释

MTS（Member of Technical Staff） OpenAI 的核心技术岗位统称。公司内部不以层级区分，所有做事的人共用这一头衔。

Navi 赵迪在 Twitter/X 期间用 Rust 开发的推理引擎（inference engine）。负责在推荐与广告链路中把用户请求高效送入神经网络并返回排序结果，最终统一了平台最重要的推理基础设施。名字取自《阿凡达》中的纳威人。

模型推理与服务（Inference & Serving） 区别于”训练”。指模型训练完成后，如何以低成本、低延迟、高稳定性把它的能力实时交付给海量用户。决定一家 AI 公司能否规模化的关键工程环节。

粗排与精排（Candidate Generation / Ranking） 推荐系统的漏斗结构：从每天数十亿条内容中先做候选生成，再用轻量神经网络粗排，最后精排出呈现给用户的约一百条。Navi 承担的正是粗排与精排的推理环节。

Batching 与 KV Cache 两种核心的推理提效手段。Batching 把多个请求打包一起送入 GPU 计算；KV Cache 把已算过的昂贵中间结果缓存下来，避免重复计算。赵迪指出，这些手段在推荐系统时代就已被反复验证。

Routing 把海量用户请求以最高效的方式分发到算力资源的调度环节。与模型本身的计算并列，是模型服务的两大核心问题之一。

Codex OpenAI 的 AI 编程工具。赵迪表示公司内部已全面普及，他给出的个人体感是年初至今约 8 至 10 倍增长、亚太地区约 12 倍（属个人观察，非官方数据）。

世界模型（World Model）与 VLA 关于 AGI 终极形态的一种判断：AI 最终会形成融合视觉、语言与行动能力（Vision-Language-Action）的统一模型，真正理解物理世界。李飞飞是这一方向的主要提出者之一。

Intelligence as a Utility（智能作为公共设施） 把智能像水电一样变成人人可用的基础服务，而非某个特权阶级独占的工具。这是赵迪从 X 转向 OpenAI 的核心动因，也是他所理解的”智能平权”。

✨关于「创见」播客｜ Build Up With Lydia

一档从硅谷出发，连接全球创业者、投资人与科学家的商业对话节目，由投资机构Astra X Ventures出品。

音频版：苹果播客 · 小宇宙 · 喜马拉雅 · 豆瓣 · 微博播客 · Spotify · Substack 搜索「创见」或Build Up with Lydia

视频版：微信视频号 · YouTube · B站 搜索 尚莞迪Lydia 或 LydiaShang 即可找到我们

文字版：公众号 – Build Up Nexus+ 硅谷创见汇

商务合作：[email protected]

期待与创业者、投资人、内容创作者共创高质量内容与长期价值。

免责声明

本节目内容仅供交流与参考，不构成任何投资建议。嘉宾观点仅代表其个人立场，与其所在或曾任职的公司及机构无关。