# LiteRM-LT Unreal 集成与开源协作计划

本文档旨在明确 **LiteRM-LT** 模型集成至 UE5 环境及发布独立开源插件的执行路径，以便与 LiteRM 开发者（或 AI）高效协作。

## 1. 核心战略：解耦与独立化
由于现有的 `LlamaUnreal` 插件结构过于复杂且稳定性欠佳，本项目计划建立一个独立的、轻量级的开源仓库 `LiteRM-LT-Unreal`。

### 阶段执行表

| 阶段 | 任务目标 | 关键产出物 | 技术逻辑 |
| :--- | :--- | :--- | :--- |
| **1. 基础解耦** | 摆脱 `LlamaUnreal` 架构，提取核心调用 | `LiteRMInternal.h/cpp` | 编写最简 C++ 类，仅负责加载、推理与流式回调。 |
| **2. 开源封装** | 发布独立仓库 `LiteRM-LT-Unreal` | `LiteRM.uplugin`, `Build.cs`, `ThirdParty/` | 封装 `.lib`, `.dll`, `.h`。确保该插件可独立在其他 UE5 项目运行。 |
| **3. Provider 接入** | 在 `FabUmgMcp` 中替换现有的实现 | `UmgMcpLiteRMAiProvider.h` | 在主插件中创建新 Provider，通过 API 调用独立插件，实现无缝切换。 |
| **4. 性能优化** | 适配 13900HX + 4060 硬件 | 异步推理 & KV Cache 管理 | 实现多 Agent 切换时的物理显存快照恢复（类似 LlamaProvider 方案）。 |

## 2. 物料获取清单 (Request for LiteRM AI)
为了启动第一阶段的开发，需要 LiteRM AI 提供以下具体组件：

| 类别 | 具体内容 | 详细要求 |
| :--- | :--- | :--- |
| **头文件** | 推理接口头文件 (如 `literm.h`) | 包含所有的导出符号声明。 |
| **二进制库** | `.lib` (静态/导入库) 与 `.dll` (动态链接库) | 针对 Windows x64 平台编译的版本。 |
| **推理示例** | 最简化的 `main.cpp` 调用示例 | 展示如何：初始化模型、设置推理参数、实现流式 Token 回调、卸载模型。 |
| **环境依赖** | 运行依赖说明 | 明确是否需要 CUDA 运行时、MKL、zlib 等，并告知具体版本。 |

## 3. 集成参考规范
在 `FabUmgMcp` 插件中，LiteRM 的接入将遵循以下标准：
- **Provider 名称**: `LiteRMLocal`
- **缓存命中接口 (Cache Hit Interface)**: 
    - **虚函数设计**: 推理接口（如 `ChatCompletion`）应设计为虚函数或通过策略模式实现。
    - **Session 标识**: 接口输入应包含一个 `void*` 指针作为自定义标识符。
    - **灵活性**: 这种设计是为了适配不同的缓存命中策略（如单例 Agent、基于 ID 的多 Agent、或更复杂的缓存管理算法）。底层的 `LiteRM-LT-Unreal` 插件不应写死缓存逻辑，而是通过该接口允许上层（如 `FabUmgMcp`）根据 `void*` 标识来决定是否复用 KV Cache。
- **并发控制**: 继承 `IUmgMcpAiProvider` 接口，使用独立推理线程。
- **内存管理**: 支持手动 `UnloadModel` 以释放显存。

---
*Generated by Gemini CLI - Winyunq Core Engineering Standard*
