Zoho携手英伟达，加码研发推进AI大模型落地

在前不久结束的NVIDIA AI峰会上，Zoho CEO Sridhar Vembu及CTO Shailesh Davey会见NVIDIA英伟达CEO黄仁勋，宣布了Zoho在AI领域的最新进展——Zoho和NVIDIA达成深度合作，将借助NVIDIA的AI加速计算平台，构建和部署大语言模型，为全球用户提供更具场景化的AI解决方案。

过去一年，Zoho在NVIDIA的AI技术和GPU上投资了超过1000万美元，计划今年追加等同金额，继续推进AI大模型的落地。

Zoho人工智能总监Ramprakash说道：“现今市场上的许多大模型更侧重于面向消费者应用，比如ChatGPT等，这些模型在生成文本、创意内容、语言翻译等方面表现出彩，但对于企业业务来说，他们仍然存在很大的局限性。Zoho致力于填补这块的不足，我们开发专门针对各种业务场景使用的AI大模型。同时，由于Zoho拥有完整的技术堆栈，产品涵盖各种业务功能，也使得我们能够发挥AI真正有效的基本要素：场景。”

长久以来，Zoho采用多模态AI方法，为业务决策提供全面的情境智能支持。除了大模型，Zoho 还在开发小型和中型语言模型，满足不同企业对数据处理能力和模型复杂度的差异化需求。值得一提的是，Zoho的AI模型，从未接触过客户数据训练，充分保障了企业数据安全与隐私。

NVIDIA南亚区董事总经理Vishal Dhupar表示：“Zoho提供了一系列大中小AI模型，使企业能够根据自己的需求精确定制AI解决方案，从而平衡性能与成本效益。借助NVIDIA的AI加速计算平台，Zoho正在构建广泛的模型，以满足其客户的多样化需求。”

目前，Zoho正在测试NVIDIA TensorRT-LLM优化大模型以便部署，与以前使用的开源框架相比，吞吐量提高了60%，延迟减少了 35%，模型处理请求的速度更快，用户得到的响应时间更短。

接下来，Zoho将借助NVIDIA Hopper GPU在NVIDIA加速计算平台上加速大模型运行，Hopper GPU的强大算力将为大模型提供更快的训练和推理速度。还将使用NVIDIA的NeMo平台来开发自定义的生成式AI，NeMo是一个端到端的平台，提供了丰富的工具和预训练模型，可以帮助开发者快速构建各种各样的生成式AI应用，包括大语言模型、多模态模型、视觉模型和语音模型。

Agentic AI，即代理人工智能，具有主动性、自治性和适应性的智能系统，它能够在复杂环境中设定目标、独立决策并主动执行任务，而无需受人影响和控制。

Agentic AI在企业应用中展现出巨大的潜力，尤其是自动化任务、智能化决策、个性化服务、解决复杂问题以及提高效率等方面表现出色。比如在Zoho CRM中，AI代理可以自动生成潜在客户线索、进行客户分类、预测销售额等，帮助销售团队提高效率。在Zoho Desk中，AI代理可以自动分类客户问题、提供标准化的回复等等。

本次与NVIDIA合作，也为Zoho Agentic AI的发展注入新活力。NVIDIA的GPU提供了强大的计算能力，大幅提升Agentic AI模型的训练和推理速度，缩短开发周期，降低成本。同时，NVIDIA的软件生态系统也为Zoho的AI开发提供了极大的便利。