d-Matrix CEO:AI推理分层,交互级token溢价十倍
d-Matrix CEO分析AI推理市场分层:交互式响应溢价高达10倍,GPU带宽成瓶颈,专用芯片迎来机会。
嘉宾Sid Sheth
节目简介
AI芯片看似被NVIDIA垄断,但d-Matrix CEO Sid Sheth提出市场正分化为两档:一档是低成本批量推理,另一档是“溢价token经济”——用户愿为秒级响应支付10倍价格。GPU架构受显存带宽限制难以兼顾,而专用芯片可突破。他还观察到AI从个人助手转向“组织级AI”——多智能体协作运营公司职能。