今天翻到一张图,看着这块板子突然就有点感慨。
就是图里这块 ——NVIDIA Jetson 系列的核心计算模块,从丝印和布局看应该是 Orin NX 级别的东西。DDR4 SODIMM 插槽、核心板 + 载板的设计、上面密密麻麻的电源和存储芯片,一看就是为嵌入式 AI 推理场景做的东西。
本来就是干这个的
说实话,Jetson 这条产品线,从最早的 TK1 到后来的 Xavier、Orin,定位一直很清楚:边缘端 AI 计算。
-
功耗从十几瓦到几十瓦不等,不用插大个电源
-
体积小,能塞进机器人、无人机、工业设备里
-
专门优化了推理框架,TensorRT 一拉起来直接跑模型
说白了,这东西从出生那天起就是 “跑 AI” 的,不是给你打游戏的。
那问题出在哪?
看着这块板我就纳闷了:你 NVIDIA 好好把这条边缘 AI 的线做深做透不就行了?工业、机器人、自动驾驶边缘端,市场够大了吧?
为啥还要把产能往数据中心堆,堆到最后消费级显卡都缺货涨价?
后来想通了 ——利润不一样。
一张 H100 卖多少钱?一张 4090 卖多少钱?但成本呢?晶圆切出来的 Die,良率稍微好点的都拿去做数据中心卡了,剩下的边角料才做成游戏卡往外卖。换你是 CEO,你也这么干。
硬件人的无奈
做嵌入式的都懂,Jetson 其实是个好东西。开发文档全、生态成熟、性能也够。但架不住整个 GPU 市场的盘子都被 AI 需求拱起来了 ——
-
以前买个消费卡回来做模型推理,图个便宜
-
现在价格涨得比专业卡还离谱,性价比直接没了
-
想买个正经推理卡吧,数据中心卡又贵又费电,消费卡又被炒
最后就是两头不讨好:玩游戏的嫌贵,做边缘 AI 的也嫌贵。
好好的一条 Jetson 产品线,本来可以安安稳稳占住嵌入式 AI 这个赛道,结果整个行业的 GPU 产能都被大模型需求吸走了。
只能说一句:AI 是好 AI,就是苦了我们这些想装个机、想跑个小模型的普通人。

大家现在手头都用什么卡跑推理?欢迎评论区聊聊。







