Dylan Patel: Supply & Demand of AI Tokens
类别: 定价与经济 · 时长: 46 分钟 · ▶ 观看
讲者: Dylan Patel · Patrick O’Shaughnessy
章节 (12)
- 00:00:41 · AI Token 支出的爆炸式增长
- Dylan Patel 描述了他的公司在 AI Token 上的支出如何从几万美元飙升至 700 万美元的年化运行速率，这主要是由非技术员工使用 AI 编写代码所推动的。
- 00:02:33 · 用例：从芯片逆向工程到宏观经济学
- Patel 详细介绍了 AI 影响力的两个有力例子：自动化芯片逆向工程（这项任务以前需要一个完整的团队），以及让一位经济学家能够构建一个原本需要 200 人部门花费一年时间才能完成的宏观分析工具。
- 00:04:56 · 企业主的困境：要么花钱，要么被商品化
- 对话转向了企业在最新 AI 上进行大量投资的战略必要性，因为如果不这样做，就会面临迅速被商品化和被淘汰的风险。
- 00:10:14 · Tokenomics：AI 算力经济学
- 对 AI Token 需求的分析，这种需求如此强烈，以至于推动了 Anthropic 等模型提供商的收入大幅增长和利润率扩张，创造了一种新形式的套利。
- 00:11:56 · 前沿模型 ‘Mythos’ 与能力飞跃
- Patel 透露了一个代号为 ‘Mythos’ 的更强大、尚未发布的 Anthropic 模型，突显了 AI 模型改进的快速加速步伐。
- 00:15:02 · 供应链瓶颈：从 GPU 到铜箔
- 深入探讨供应端，AI 基础设施堆栈的每个组件，从 GPU 和内存到铜箔等利基材料，都面临着极度短缺和漫长的交货期。
- 00:17:17 · 对 CPU 和 FPGA 尚未被看见的需求
- 除了 GPU，Patel 解释说，由于 CPU 在强化学习环境以及运行 AI 生成的大量代码中的关键作用，对 CPU 的需求也在爆炸式增长。
- 00:19:12 · “永久底层”与 Token 的价值
- Patel 认为，未能积极使用 AI Token 来产生超额经济价值的个人和公司将被抛在后面，成为新的“永久底层”。
- 00:22:40 · 即将到来的机器人浪潮
- 随着软件实现变得轻而易举，下一个重大突破将出现在机器人领域，少样本学习将在未来 6-18 个月内引发新一波物理自动化浪潮。
- 00:26:10 · AI 实验室竞赛：Anthropic 对决 OpenAI
- 尽管 Anthropic 目前凭借其 Opus 模型处于领先地位，但竞争还远未结束，因为主要的限制是算力容量，而 OpenAI 正在积极获取算力。
- 00:29:03 · 衡量“幽灵 GDP”的挑战
- AI 创造的真实经济价值很难用 GDP 等传统指标来衡量，因为它体现在生产力提升和通货紧缩效应上，而这些是很难被捕捉到的。
- 00:30:28 · 预测：针对 AI 的大规模抗议
- Patel 预测，公众对 AI 日益增长的恐惧和误解，加上其日益严重的经济破坏，将在三个月内引发针对 AI 公司的大规模抗议活动。
价格数据 (14)
| 时间 | 项目 | 数值 | 背景 |
|---|---|---|---|
| 00:00:51 | Firm’s AI spend last year | tens of thousands of dollars | 描述他的公司最初相对较低的 AI 支出水平。 |
| 00:01:28 | Firm’s AI spend run rate (initial mention) | $5 million | 一周前向主持人提到的 AI Token 年化支出速率。 |
| 00:01:30 | Firm’s AI spend run rate (current) | $7 million | 更新后的当前 AI Token 年化支出速率，在一周内从 500 万美元增至此数。 |
| 00:01:42 | Individual daily spend on Claude Code | thousands of dollars | 一些非技术员工每天使用 AI 编写代码的支出金额。 |
| 00:01:53 | Firm’s total salary expense | $25 million | 公司的年度薪资支出，用作与 AI 支出进行比较的基准。 |
| 00:02:55 | Cost to build chip analysis app | a couple thousand dollars of Claude tokens | 一个人构建用于芯片逆向工程的复杂 GPU 加速应用程序的成本。 |
| 00:06:26 | Energy data services market size | $900 million | 得益于 AI，他的公司现在能够参与竞争的市场规模。 |
| 00:06:48 | Individual daily spend on energy model | $6,000 a day | 一名员工构建美国电网综合模型每天的 AI Token 支出。 |
| 00:10:20 | Anthropic ARR (initial) | $9 billion | Anthropic 在最近某个时间点的年化收入运行速率。 |
| 00:10:22 | Anthropic ARR (current) | $35-40 billion | 估计的 Anthropic 当前年化收入运行速率，显示出巨大的增长。 |
| 00:12:34 | Mythos token cost | 5 or 10x the token cost | 未发布、更强大的 ‘Mythos’ 模型在针对网络应用选择性发布期间的定价。 |
| 00:13:33 | DeepSeek cost vs GPT-4 | 1/600th the cost | 说明实现特定水平 AI 能力的成本正在快速下降。 |
| 00:16:18 | TSMC 2028 Capex Prediction | $100 billion | 对 TSMC 到 2028 年年度资本支出的预测，突显了所需的巨大投资规模。 |
| 00:17:25 | FPGAs per AI rack | 120 | 单个下一代 AI 服务器机架所需的 FPGA 数量。 |
预测 (4)
- [00:23:45, 6-18 months] 机器人领域将出现真正的突破，实现少样本学习。
- [00:30:28, 3 months] 将发生针对 Anthropic 和 OpenAI 等 AI 公司的大规模抗议活动。
- [00:16:31, By 2028] TSMC 将在单一年份投入 1000 亿美元的资本支出。
- [00:14:58, 未指定] DRAM 价格将从当前水平再次翻倍或涨至三倍。
公司提及 (28)
Vanta · Ridgeline · WorkOS · Rogo · Ramp · OpenAI · Anthropic · CoreWeave · Intel · FRED (Federal Reserve Economic Data) · Shopify · Stripe · Cursor · Perplexity · Vercel · Jane Street · Citadel · DeepSeek · TSMC · Lam Research · Applied Materials · ASML · MKS Instruments · Siemens · Nvidia · Oracle · SoftBank · Amazon (AWS)
引用 (6)
If this trajectory continues, then you know, we’ll spend more than 100% by the end of the year. — Dylan Patel @ 00:01:55
If this person can do the work of 5 to 10 to 15 people using Claude Code, then all of a sudden, I should probably cut people. — Dylan Patel @ 00:02:21
Dude, this would have taken the team of 200 economists a year. — Dylan Patel @ 00:04:52
If I don’t move up the bar, then I will be commoditized. — Dylan Patel @ 00:05:48
If you don’t use more tokens, you’ll never escape the permanent underclass. — Dylan Patel @ 00:19:12
What used to matter a lot was execution was very, very fucking difficult and ideas were cheap. Now, ideas are cheap and plentiful, but execution is very easy. So really only the good ideas are the ones that can justify the spend on super cheap implementation. — Dylan Patel @ 00:18:56
主题
AI Token 经济学 · AI 算力成本 · GPU 供应链 · 半导体资本支出 · AI 模型定价 · 企业 AI 采用 · AI 投资回报率 (ROI) · AI 驱动的生产力 · 模型训练与推理 · 硬件瓶颈 · AI 商品化 · 缩放定律 · 机器人与 AI · AI 中的 CPU 需求
要点
- 对 AI Token 的需求正在爆炸式增长，一些公司的支出在几个月内增加了几个数量级，现在占其总运营成本的很大一部分。
- AI 正在大幅降低执行的成本和难度，将价值的主要来源从构建能力转移到构思高价值想法并交由 AI 实现的能力。
- 非技术员工正成为 AI 算力的主要消费者，他们使用 Claude Code 等工具构建以前需要整个专业工程师团队才能完成的应用程序，从而带来了巨大的生产力提升。
- 整个 AI 基础设施供应链受到严重限制，从尖端 GPU 和内存到铜箔等利基组件，导致价格飙升、硬件生命周期延长以及供应商利润率扩大。
- 对于企业而言，积极采用并在最新 AI 上投入资金正成为生存的必然要求；如果不这样做，就有被更灵活的竞争对手迅速商品化（淘汰）的风险。
- 前沿 AI 模型产生的巨大价值的增长速度超过了为其提供服务的基础设施的建设速度，从而形成了需求增加、算力短缺和成本上升的反馈循环。
- 下一波 AI 驱动的颠覆将发生在物理世界，因为软件和模型效率的突破将很快解锁机器人的少样本学习，从而导致物理自动化的爆发。
- 对前沿 AI 模型的强烈、集中的需求正在创造一种新形式的经济分层，在这种分层中，获得最佳模型（以及支付这些模型的资本）决定了谁能产生超额价值，这可能会造就一个被时代抛弃的“永久底层”。