SemiAnalysis 创始人 Dylan Patel 表示:
算力云厂商光靠“出租显卡”很快就会走投无路!
因为底层软件技术都在变得标准化,客户根本没必要养大团队去搭基础设施。
未来单纯卖 GPU 算力的市场会死掉,取而代之的是按 Token(模型产出)卖服务。
只有死磕推理效率、把每块显卡产出的 Token 价值榨到极致的云厂商,未来几年才能活下来!
SemiAnalysis 创始人 Dylan Patel 表示:
算力云厂商光靠“出租显卡”很快就会走投无路!
因为底层软件技术都在变得标准化,客户根本没必要养大团队去搭基础设施。
未来单纯卖 GPU 算力的市场会死掉,取而代之的是按 Token(模型产出)卖服务。
只有死磕推理效率、把每块显卡产出的 Token 价值榨到极致的云厂商,未来几年才能活下来!