ArmKleidi進(jìn)軍汽車市場大動作，全力助推車載AI性能快速飛躍

Arm 控股有限公司正式宣布將 Arm? Kleidi 技術(shù)拓展至汽車市場。Arm Kleidi 是一項涉及廣泛軟件及軟件社區(qū)參與的計劃，旨在大力推動人工智能(AI)發(fā)展。借助這一技術(shù)，合作伙伴能夠深入挖掘下一代特定應(yīng)用 AI 模型在汽車領(lǐng)域的優(yōu)勢，并且加快其部署進(jìn)程。

Arm 汽車事業(yè)部產(chǎn)品和解決方案副總裁 Suraj Gajendra 指出，在汽車行業(yè)，AI 常被視為自動駕駛汽車的核心，看似頗具未來感，距大規(guī)模量產(chǎn)上路仿佛還有數(shù)年之遙。但實際情況是，如今新車型的諸多應(yīng)用和功能，如自適應(yīng)巡航控制、個性化車載信息娛樂系統(tǒng)、駕駛員和乘客監(jiān)控系統(tǒng)等，早已運(yùn)用 AI 技術(shù)，且這些特定應(yīng)用模型和工作負(fù)載已在 Arm 平臺高效運(yùn)行。這得益于 Arm 計算平臺卓越的靈活性、性能、能效和可擴(kuò)展性，使其成為汽車行業(yè)開發(fā)者的首選。

不過，隨著汽車應(yīng)用與功能的不斷升級，對更多 AI 功能和復(fù)雜工作負(fù)載的需求持續(xù)攀升，汽車行業(yè)也面臨一系列獨(dú)特挑戰(zhàn)。例如，汽車行業(yè)擁有龐大復(fù)雜的軟件系統(tǒng)，開發(fā)環(huán)境極為繁雜;需要強(qiáng)大的從云端到車端的軟件開發(fā)和驗證基礎(chǔ)設(shè)施，以便將云端應(yīng)用無縫部署到汽車中;軟件必須符合嚴(yán)格的汽車功能安全和信息安全行業(yè)標(biāo)準(zhǔn)與法規(guī);汽車使用周期長，軟件需具備升級能力以適應(yīng)未來新增功能和更新。

Arm 憑借領(lǐng)先的汽車增強(qiáng)型技術(shù)以及在汽車生態(tài)系統(tǒng)中的合作來應(yīng)對這些挑戰(zhàn)。合作涉及虛擬平臺和基于標(biāo)準(zhǔn)的軟件解決方案，通過面向嵌入式邊緣側(cè)的可擴(kuò)展開放架構(gòu)(SOAFEE)加速汽車開發(fā)周期。這些解決方案為開發(fā)者提供工具，使其能借助廣泛應(yīng)用的 Arm 計算平臺無縫獲取更高性能，加快產(chǎn)品上市。

Arm Kleidi 于 2024 年推出，旨在為 Arm CPU 上運(yùn)行的 AI 推理工作負(fù)載進(jìn)行軟件性能優(yōu)化，開發(fā)者無需額外操作。目前該軟件庫已應(yīng)用于移動端、云和數(shù)據(jù)中心等領(lǐng)域，且已集成到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等熱門 AI 框架的最新版本中，開發(fā)者構(gòu)建應(yīng)用程序時，在基于 Arm 架構(gòu)的平臺上可自動獲得顯著性能提升。如今，Kleidi 的性能優(yōu)化特性已引入汽車市場。例如，AWS Automotive 借助 Arm 與 Corellium 聯(lián)合開發(fā)的虛擬平臺，為軟件定義汽車打造全新概念驗證 AI 聊天機(jī)器人，集成 Kleidi 的最新版 Llama.cpp 使其聊天機(jī)器人響應(yīng)速度提高 10 倍，響應(yīng)時間縮短至 1 - 3 秒，還節(jié)省了六周開發(fā)時間。VicOne 的 xCarbon 車載解決方案借助 TinyLlama - 1 1B 模型，在 Kleidi 幫助下，預(yù)填充提示速度翻倍，詞元生成速度提升超 60%，縮短了檢測網(wǎng)絡(luò)安全威脅的響應(yīng)時間。Sonatus 的 AI Technician Builder 平臺最初在云端 GPU 運(yùn)行，引入 Kleidi 優(yōu)化框架后，可輕松移植到搭載 Arm 架構(gòu)的 AWS Graviton EC2 云實例上，為在 Arm 架構(gòu)汽車計算平臺運(yùn)行邊緣 AI 工作負(fù)載奠定基礎(chǔ)。全球 94% 的車廠在最新車型中采用 Arm 技術(shù)，其在車載 AI 應(yīng)用性能優(yōu)化方面優(yōu)勢顯著。將 Kleidi 集成到現(xiàn)有軟件堆棧，推動了更高效先進(jìn)的 AI 應(yīng)用場景實現(xiàn)，為關(guān)鍵汽車應(yīng)用提供更快響應(yīng)速度，助力開發(fā)者在 Arm CPU 上優(yōu)化并運(yùn)行新的特定應(yīng)用 AI 模型和工作負(fù)載 。