本次適配基于XC-LLM統一的顯存管理抽象架構，通過(guò)復用已有的顯存管理層接口與資源治理協(xié)議，快速完成從昇騰到昆侖芯的平滑遷移，此次遷移為后續向海光、寒武紀等更多信創(chuàng )芯片擴展奠定基礎。

在昆侖芯P800實(shí)測中，單卡部署多模型且總顯存需求遠超物理容量的場(chǎng)景下，系統持續服務(wù)穩定。當請求在不同模型間切換時(shí)，調度系統觸發(fā)秒級熱切換，完成顯存換入換出與資源重分配，全過(guò)程對應用透明，性能表現優(yōu)異。

昆侖芯版本已正式開(kāi)源，下載地址：

https://git.modelhub.org.cn:9443/EngineX/xc-llm-kunlun

關(guān)于信創(chuàng )模盒ModelHub XC與XC-LLM

信創(chuàng )模盒ModelHub XC是面向信創(chuàng )算力生態(tài)的AI模型與工具平臺，致力于推動(dòng)國產(chǎn)硬件平臺上的人工智能創(chuàng )新與落地。其自研的信創(chuàng )模盒大模型推理引擎XC-LLM，是面向信創(chuàng )場(chǎng)景打造的新一代推理基礎設施，系統化解決信創(chuàng )環(huán)境下普遍面臨的適配性、成本與運行效率三大核心挑戰。

InfiniVRAM無(wú)限顯存作為XC-LLM的首個(gè)關(guān)鍵特性，通過(guò)"顯存—內存協(xié)同+系統級調度編排"的聯(lián)合方案，使單張算力卡能夠承載并穩定運行多個(gè)大模型，支持多模型總顯存需求顯著(zhù)超過(guò)物理顯存容量的場(chǎng)景，推動(dòng)算力資源從"可部署"走向"可運行、可調度、可運營(yíng)"。