资讯

Together AI 发布 Together Compiler：推理最高提速 2.6 倍

Together AI 推出 Together Compiler（TKCC），用编码智能体持续重写模型前向计算，随生产流量变化重新优化推理；已在多个 serverless 端点运行，官方称对比 InferenceX 最佳配置最高提升 2.6 倍 TPS。