⚡ Luminal
Production-grade ML compiler + inference cloud — 让 AI 推理跑满硬件极限
YC S25
种子轮 $5.3M
AI Inference
基础设施
🎯一句话定位
PyTorch for Production — 一个开源 ML 编译器，自动将 PyTorch 模型编译成极限优化的 CUDA 内核，一行代码部署到生产级推理云。模型速度提升最高 10x，吞吐量碾压同价竞品。
👥 创始团队
| 姓名 | 角色 | 背景 |
|---|
| Joe Fioti | CEO | Intel AI 加速器芯片设计专家，深知软硬件之间的鸿沟 |
| Jake Stevens | 联合创始人 | Apple 软件工程背景，系统级优化经验 |
| Matthew Gunton | 联合创始人 | Amazon 基础设施团队，大规模云端系统实战 |
"You can make the best hardware on earth, but if it's hard for developers to use, they're just not going to use it." — Joe Fioti
🔥 解决什么问题
AI 推理的「软件瓶颈」
- 硬件飞速发展，软件拖后腿：NVIDIA GPU 算力每代翻倍，但大多数 AI 团队的模型只用了 GPU 理论算力的 30-40%
- CUDA 手写内核门槛极高：手写 Flash Attention 级别的优化内核需要 PhD 级 GPU 编程能力，普通团队做不到
- 推理成本是最大开销：AI 公司每月在推理上浪费数千美元，因为模型没有被正确优化
- 部署到生产极其复杂：从 PyTorch 实验代码到生产级推理服务，中间有无数坑（量化、批处理、内存管理）
🛠️ 产品架构
① 开源 ML 编译器（核心引擎）
- 接收任意 PyTorch 模型 → 自动编译为极限优化的 CUDA 内核
- 能自动发现 Flash Attention 等级的手写优化（AI 辅助编译探索）
- 一键部署：
luminal.deploy(model) → 生产就绪
- 开源策略：GitHub 开源编译器核心，建立开发者信任
② 推理云服务（商业模式）
- 卖算力，跟 CoreWeave / Lambda Labs 同赛道
- 差异化：不是裸 GPU，而是编译器 + GPU 一体化，同等硬件价格下性能碾压
- 按推理调用量付费（类似 Together AI / Baseten）
- 已与 Positron AI（ASIC 加速器）合作，覆盖非 NVIDIA 硬件
技术原理示意
PyTorch Model
→ Luminal Compiler（算子融合 + 内存优化 + 内核生成）
→ 极速 CUDA Kernel
→ Luminal Cloud Serving（批处理 + 自动扩缩容 + 可观测）
→ 高吞吐低延迟 API
💰 商业模式
双层变现
开源层
- 编译器完全开源
- 开发者自行部署
- 建立生态信任
- 零直接收入
云服务层
- 托管推理即服务
- 按量付费 / 预留实例
- 编译器 + 硬件一体化优势
- 核心收入来源
"Our big bet is that anything short of 6 months hand-tuning, the all-purpose use case is still very economically valuable." — Joe Fioti
⚔️ 竞争格局
| 玩家 | 定位 | vs Luminal |
|---|
| CoreWeave / Lambda | 裸 GPU 云 | 无编译优化，纯卖硬件 |
| Together AI / Baseten | 推理服务 | 有优化但非编译器级 |
| Tensormesh | 推理优化创业 | 更早期，$4.5M 种子 |
| Clarifai | 推理引擎 | 更偏应用层 |
| NVIDIA CUDA / TensorRT | 官方工具链 | 强但封闭，Luminal 走开源路线 |
| 各大型 AI Lab 内部团队 | 自研优化 | 只优化自家模型，通用性差 |
⚖️ 优势和风险
✅ 核心优势
- 团队 CEO 在 Intel 做芯片设计，理解软硬件鸿沟的痛点
- 技术 编译器自动发现优化，不需要手写 CUDA 内核
- 飞轮 开源编译器引流 → 用户自然迁移到云服务
- 时机 GPU 短缺时代，优化 = 省钱 = 刚需
- 投资人 Felicis 领投，Paul Graham、Guillermo Rauch 天使
⚠️ 关键风险
- 竞争壁垒 编译魔法可能被 NVIDIA TensorRT 追赶
- 通用性 为客户适配各种模型架构，vs 大厂只优化自家模型
- 利润率 卖算力是低毛利生意，编译器优势能维持多久？
- 规模 5人团队，需要大量 GPU/编译工程师
- 依赖 高度依赖 NVIDIA 生态，硬件变化可能颠覆优化逻辑
📅 发展时间线
2025年
Joe Fioti 离开 Intel，与 Jake Stevens、Matthew Gunton 创立 Luminal
2025年夏
进入 YC S25 批次，开始加速开发开源编译器
2025年9月
YC Demo Day 首次公开亮相
2025年11月
宣布 $5.3M 种子轮，Felicis Ventures 领投
2026年5月
与 Positron AI 合作，将编译器扩展到 ASIC 加速器
💡 对 OpenClaw 的启示
Luminal 验证了什么
- 推理优化是巨大市场 — AI 公司每月在推理上浪费大量资金，谁能帮他们省，谁就有价值
- 开源编译器 + 商业云 是被验证的打法 — 跟你的 Skills 开源 + 生态收费逻辑一致
- "软件定义硬件"的趋势 — 未来不是谁 GPU 多谁赢，而是谁编译器强谁赢
你的差异化空间
- Luminal 只做模型推理层，你做的是 整个 agent 栈的结算和路由
- Luminal 优化模型推理，你优化 agent 能力的经济路由（同样的任务，选最优性价比的模型+技能组合）
- 你们天然互补 — Luminal 让推理更快更便宜，你让推理的调度更聪明