赛轮思联手NVIDIA打造汽车级LLM平台 引领未来车载体验

近日，Cerence赛轮思推出了一款由NVIDIA技术驱动、具有开创性的汽车级大型语言模型CaLLM™。在NVIDIA DRIVE上运行的CaLLM™（Cerence Automotive Large Language Model）是赛轮思新一代车载计算平台的基础。针对汽车制造商面临的多个关键挑战，赛轮思和NVIDIA联手为他们提供解决方案：通过与现有嵌入式系统和新生成式AI功能的云集成，部署新的用户体验，加速产品上市周期，从而在驾驶者对智能车载功能需求日益增长的情况下，为汽车制造商带来优势。

随着汽车制造商和移动出行OEM应用生成式AI和 LLM以提升用户体验，CaLLM™满足了用户多项关键需求，并拥有独特的汽车级智能答问能力。基于赛轮思近25年在汽车行业的深厚积累，以及经过微调、不断增长的、包含数十亿个token的汽车数据集，提供的集成车载用户体验，远远超越一般通用LLM。CaLLM™能够支持汽车功能、特性和要求，并可以通过训练、微调和专属的应用，为汽车制造商进行深度定制。此外，它还可以为用户提供个性化以及本地信息检索，例如Cerence Car Knowledge生成式AI应用。

赛轮思利用NVIDIA AI Foundation 构建CaLLM，其中包括NVIDIA AI Foundation Models、NVIDIA AI Enterprise软件和NVIDIA 加速计算。赛轮思将首先利用NVIDA DGX Cloud和 NVIDIA DGX系统在其广泛的数据集上训练CaLLM™，然后开发车载用户体验所需的功能。其次，为了实现响应极快的用户体验，赛轮思将通过NVIDIA AI Enterprise在NVIDIA加速基础设施中部署CaLLM，这是一个端到端、云原生、安全的软件平台，可通过NVIDIA NeMo 框架和NVIDIA TensorRT-LLM 优化库，加速对LLM 的训练、微调和推理。

赛轮思首席技术官 Iqbal Arshad表示：“通过与NVIDIA 合作，我们将提供一个突破性的车载计算平台，利用我们的垂直技术架构，让用户使用统一的对话界面完成跨应用的任务。通过NVIDIA 业界领先的AI框架和平台相配合，结合我们独有的数据集、与汽车制造商的深厚关系以及广泛的市场渗透率，使我们处于领先的位置，更好的发挥开创性、汽车级的LLM、CaLLM™和自研的车载计算平台的优势。展望未来，我们认为这种专有架构也有利于汽车行业以外的行业领导者。”

NVIDIA汽车事业部副总裁Ali Kani表示：“生成式AI和汽车级LLM有望在车内外实现全新、直观和个性化的用户体验、功能和特性。通过NVIDIA在云计算和边缘技术方面的核心专长，赛轮思可以在其车载用户体验平台中更快速地训练、扩展和部署这些模型，从而实现更安全、更智能、更愉悦的驾乘体验。”

CaLLM在构建未来汽车方面发挥着关键作用，是赛轮思全新车载计算平台的基础。该平台是车载交互的未来，赋能汽车和移动出行助理，可提供集成的车载体验。以往的解决方案需要多步骤交互作为不同的独立步骤进行，从而导致过多的手动交互并给驾驶者带来很高的认知负担。赛轮思的新平台将用户所有种类的交互整合到一个无缝、直观的对话界面中。新平台可以帮助OEM将现有的应用平稳过渡到一个更直接的对话界面，并为用户提供生成式AI驱动的新服务。

CaLLM和赛轮思的新平台已经与全球领先的汽车制造商进行了概念验证，并将在CES2024 | LVCC 西馆#6627 展台上展出。