Tinybox:售价 12 万的深度学习工作站
tinygrad 团队推出的高性能深度学习计算机,MLPerf 基准测试超越价格高出 10 倍的竞品
什么是 Tinybox
Tinybox 是由 tinygrad 团队出品的高性能深度学习专用计算机,定位为”最佳性价比的深度学习工作站”。已在 MLPerf Training 4.0 中与价格高出 10 倍的竞品进行了基准测试并取得了优势。
三款型号对比
| 规格 | Red v2 | Green v2 | Blackwell ExaBox |
|---|---|---|---|
| FP16 算力 | 778 TFLOPS | 3,086 TFLOPS | ~1 EXAFLOP |
| GPU | 4x RX 9070 XT | 4x RTX PRO 6000 | 720x RDNA5 AT0 XL |
| GPU 显存 | 64 GB | 384 GB | 25,920 GB |
| GPU 显存带宽 | 2,560 GB/s | 7,168 GB/s | 1,244 TB/s |
| 系统内存 | 128 GB | 192 GB | 23,040 GB |
| 磁盘容量 | 2 TB NVMe | 4 TB RAID + 1 TB boot | 480 TB RAID |
| 噪音 | < 50 dB | 65 dB @ 10 米 | — |
| 尺寸/重量 | 12U, 60-90 磅 | 20x8x8.5 ft, 20,000 磅 | 混凝土基座 |
| 价格 | $12,000 | $65,000 | ~$10M |
| 状态 | 现货 | 现货 | 2027 年发售 |
Red v2 配置详解
如果你只需要一台高性能深度学习工作站,Red v2 是最佳选择:
- 4x AMD RX 9070 XT:共 778 TFLOPS FP16 算力
- 128 GB 系统内存:204.8 GB/s 带宽
- 2 TB NVMe:7.3 GB/s 读取带宽
- Ubuntu 24.04:开箱即用
- 噪音 < 50 dB:31 个低速风扇,办公室友好
- 12U 机身:可落地或机架安装
tinygrad 软件加持
Tinybox 运行 tinygrad团队优化的 Ubuntu 24.04,驱动质量被评为”Good”(Red v2)或”Great”(Green v2)。
作为对比,同样使用 AMD 显卡的传统方案往往面临驱动问题,tinygrad 提供了开箱即用的解决方案。
购买信息
- 发货:付款到账一周内发货,San Diego 自提或全球发货
- 付款方式:仅支持电汇(wire transfer)
- 电源:1600W,100V~240V 宽电压
性能对比
tinygrad 团队声称 Tinybox 在 MLPerf Training 4.0 基准测试中超越了价格高出 10 倍的竞品。这意味着:
| 方案 | 算力 | 价格 | 每美元算力 |
|---|---|---|---|
| Tinybox Red v2 | 778 TFLOPS | $12,000 | 最高 |
| 竞品 A | ~800 TFLOPS | ~$120,000 | 较低 |
目标用户
- 个人开发者/研究者:Red v2 适合需要大模型训练但不想要万元美元工作站的用户
- 中小团队:Green v2 提供 3 PFLOPS 级别的算力,适合团队共享
- 企业级:Blackwell ExaBox 面向需要百亿亿次算力的超大规模 AI 训练场景
总结
Tinybox 的出现代表了几个重要趋势:
- AMD ROCm 生态成熟:RX 9070 XT 搭配 Linux 驱动终于可用
- 性价比为王:tinygrad 选择 AMD 方案而非 NVIDIA,在性能和价格间找到平衡
- 软件定义硬件:tinygrad 团队既是软件也是硬件供应商,确保端到端优化
对于需要本地深度学习硬件的团队和个人,Tinybox 值得关注。
官网:tinygrad.org
相关文章
评论
加载中...
评论
加载中...