智能推理框架

xLLM：京东开源的国产芯片适配型高效智能推理框架

xLLM可广泛适配大语言模型、多模态模型及生成式推荐等多类场景，能够提供高性能、低成本的推理服务，助力智能客服、实时推荐、内容生成等业务高效落地，推动大语言模型在国产芯片生态上的规模化应用。

京东AI智能推理框架