NobodyWho是一款专为 Godot 游戏引擎 设计的 AI 插件，支持在本地运行大型语言模型（LLM），实现互动小说创作和其他文本生成任务。它通过简单的节点系统与 Godot 场景无缝对接，让创作者可以快速构建动态叙事内容。

NobodyWho功能特点：

1、本地运行与隐私保护：

NobodyWho 支持在本地运行 LLM，无需联网即可使用高性能的 LLM 功能，避免了隐私问题。

2、高性能推理：

通过 Vulkan（Linux/Windows）或 Metal（macOS）技术实现 GPU 加速，推理速度比云端快数倍。

3、多上下文支持：

可以同时维护多个独立的“对话”或叙事线程，适用于不同角色或游戏状态。

4、流式输出：

生成文本时逐字输出，使游戏对话更具动态性和实时性。

5、采样器功能：

根据上下文动态调整生成参数（如温度、种子等），以控制对话风格。

6、嵌入功能：

通过 LLM 比较自然文本的语义内容，而不仅仅是关键词或字面内容。

7、工具调用：

支持 LLM 与游戏内的功能或系统交互，例如访问库存、触发事件等。

8、记忆功能：

为 LLM 提供长期记忆，以便在叙事中引用过去的事件，确保故事连贯性。

9、技术原理：

本地运行与 GPU 加速：通过 Vulkan 或 Metal 实现 GPU 加速，确保高性能。

节点系统集成：通过 NobodyWhoModel 和 NobodyWhoChat 节点实现与 LLM 的无缝对接。

NobodyWho应用场景：

1、互动故事创作：玩家可以与游戏中的角色进行实时对话，推动故事发展。

2、动态对话系统：为游戏中的 NPC 创建自然、动态的对话系统。

3、多角色和多线叙事：支持在同一游戏中维护多个独立的对话或叙事线程。