Clarifai新推理引擎：让人工智能模型速度提升、成本降低

Clarifai推出新型推理引擎，提升AI模型性能，降低成本

人工智能平台Clarifai宣布推出一款新型推理引擎，该引擎在运行速度上提升一倍，同时成本降低40%，这款引擎可适配多种模型及云主机，通过一系列优化手段,在相同硬件条件下释放更强的推理能力。

Clarifai首席执行官马修・蔡勒表示，该推理引擎采用了多种不同类型的优化技术，从底层的CUDA内核优化，到先进的投机性解码技术，全方位提升显卡性能，据悉，第三方公司Artificial Analysis通过一系列基准测试验证了该推理引擎的性能，测试数据显示,其在吞吐量和延迟两项指标上均创下行业最佳纪录。

这款推理引擎的优化重点聚焦于“推理阶段”，即运行已完成训练的人工智能模型时所需的计算过程，随着智能体模型和推理模型的兴起，这一阶段的计算负载变得尤为繁重，Clarifai最初以计算机视觉服务起家，随着人工智能热潮大幅推高对图形处理器（GPU）及承载GPU的数据中心的需求,该公司逐渐将重心转向计算编排领域。

去年12月，Clarifai在亚马逊云科技（AWS）re：Invent大会上首次公布了其计算平台，而此次推出的新推理引擎,是该公司首款专门针对多步骤智能体模型打造的产品。

在人工智能基础设施领域，Clarifai认为，尽管当前硬件建设力度巨大，但在优化现有基础设施方面，还有更多工作可做，蔡勒表示：“像Clarifai推理引擎这样的软件技术，可以让优秀模型的性能更进一步，算法改进也有助于缓解对千兆瓦级数据中心的需求，而且我认为，算法创新尚未达到终点。”

此次Clarifai推出的新型推理引擎，无疑将为人工智能领域带来更多可能性，在硬件建设不断推进的同时，软件技术的优化同样至关重要，相信随着更多类似技术的问世，人工智能的发展将更加迅速,为各行各业带来更多创新与变革。