DeepSpeed
- DeepSpeed-MII：DeepSpeed开源的大模型高性能推理专属Python库
DeepSpeed-MII是微软DeepSpeed团队开源的轻量级Python库，专注于大型语言模型高效推理加速，凭借阻塞KV缓存、连续批处理、动态SplitFuse等创新技术。
- [推荐] 豆包网页版：支持AI聊天，AI图片生成，AI漫画生成，AI写作等
字节跳动开发的一款多功能人工智能工具，基于云雀模型（豆包大模型）构建。它不仅是一个AI聊天机器人，还具备多种功能，包括写作助手、英语学习助手、音乐生成、编程助理等。
