LazyLLM是由商汤大装置团队开发的开源低代码开发框架，专注于多智能体大语言模型（LLM）应用的构建。它通过简化的开发流程，帮助开发者以极低的成本快速构建复杂的AI应用，同时支持持续迭代优化。

LazyLLM功能特点：

1、低代码开发：

即使不熟悉大模型，开发者也可以通过内置的数据流和功能模块轻松组装多智能体AI应用，就像搭乐高积木一样。

2、一键部署：

提供一键部署功能，简化了多智能体应用的部署过程。支持本地测试到云端上线的无缝迁移。

3、跨平台兼容：

无需修改代码即可一键切换IaaS平台，兼容裸机服务器、开发机、Slurm集群、公有云等。

4、模型微调与推理：

支持应用内模型微调，自动选择最佳的微调框架和模型分割策略，持续提升应用性能。

5、动态Token剪枝：

引入动态Token剪枝技术，优化长文本推理效率，推理速度提升300%。

6、多模态扩展：

支持结合图像、音频等多模态数据，构建更丰富的应用场景。

7、灵活配置：

提供丰富的配置选项，支持定制化开发和性能优化。

LazyLLM应用场景：

1、聊天机器人：快速搭建从简单对话到支持多模态和意图识别的复杂聊天机器人。

2、检索增强生成（RAG）：内置强大的RAG组件，快速构建基于知识库的问答系统。

3、故事创作助手：从大纲生成到具体内容创作实现全流程自动化。

4、AI绘画助手：将用户的文字描述转化为精美的图像。

进入LazyLLM官网入口