🛠
AI工具
hallucination detection 精选资源合集
开源免费，本地部署，数据完全自主可控
英文名：awesome-hallucination-detection
8.0AI 综合评分
幻觉检测大语言模型自然语言处理学术资源
✦ AI Skill Hub 推荐
AI Skill Hub 强烈推荐：hallucination detection 精选资源合集 是一款优质的AI工具。已获得 1.1k 颗 GitHub Star，AI 综合评分 8.0 分，在同类工具中表现稳健。如果你正在寻找可靠的AI工具解决方案，这是一个值得深入了解的选择。
📚 深度解析
hallucination detection 精选资源合集 是一款基于 Python 的开源工具，在 GitHub 上收获 1k+ Star，是幻觉检测、大语言模型、自然语言处理、学术资源领域中的优质开源项目。开源工具的最大优势在于代码完全透明，你可以审计每一行代码的安全性，也可以根据自身需求进行二次开发和定制。
**为什么要使用开源工具而非商业 SaaS？**
对于个人开发者和有隐私需求的用户，本地部署的开源工具意味着数据不离本机，不受第三方服务商的数据政策约束。同时，开源工具通常没有使用次数限制和月度费用，一次安装即可长期使用，对于高频使用场景的总拥有成本（TCO）远低于订阅制商业工具。
**安装与环境准备**
hallucination detection 精选资源合集 依赖 Python 运行环境。建议通过 pyenv（Python）或 nvm（Node.js）管理 Python 版本，避免全局环境污染。对于新手用户，推荐先创建虚拟环境（python -m venv venv && source venv/bin/activate），再安装依赖，这样即使出现问题也可以随时删除虚拟环境重新开始，不影响系统稳定性。
**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues（已关闭的问题），大多数常见问题都已有解答。遇到 Bug 时，提供 pip list 的输出、完整错误堆栈和最小可复现示例，能显著提高开发者响应速度。AI Skill Hub 将持续追踪 hallucination detection 精选资源合集 的版本更新，及时通知重要功能变化。
**为什么要使用开源工具而非商业 SaaS？**
对于个人开发者和有隐私需求的用户，本地部署的开源工具意味着数据不离本机，不受第三方服务商的数据政策约束。同时，开源工具通常没有使用次数限制和月度费用，一次安装即可长期使用，对于高频使用场景的总拥有成本（TCO）远低于订阅制商业工具。
**安装与环境准备**
hallucination detection 精选资源合集 依赖 Python 运行环境。建议通过 pyenv（Python）或 nvm（Node.js）管理 Python 版本，避免全局环境污染。对于新手用户，推荐先创建虚拟环境（python -m venv venv && source venv/bin/activate），再安装依赖，这样即使出现问题也可以随时删除虚拟环境重新开始，不影响系统稳定性。
**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues（已关闭的问题），大多数常见问题都已有解答。遇到 Bug 时，提供 pip list 的输出、完整错误堆栈和最小可复现示例，能显著提高开发者响应速度。AI Skill Hub 将持续追踪 hallucination detection 精选资源合集 的版本更新，及时通知重要功能变化。
📋 工具概览
精心整理的LLM幻觉检测研究论文合集。汇聚最新幻觉识别方法、检测算法和评估框架，为NLP研究者、AI工程师提供系统的学术资源和技术参考。
hallucination detection 精选资源合集 是一款基于 Python 开发的开源工具，专注于 幻觉检测、大语言模型、自然语言处理 等核心功能。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。
GitHub Stars
⭐ 1.1k
开发语言
多语言
支持平台
Windows / macOS / Linux
维护状态
正常维护，社区驱动
开源协议
Apache-2.0
AI 综合评分
8.0 分
工具类型
AI工具
Forks
88
📖 中文文档
以下内容由 AI Skill Hub 根据项目信息自动整理，如需查看完整原始文档请访问底部「原始来源」。
精心整理的LLM幻觉检测研究论文合集。汇聚最新幻觉识别方法、检测算法和评估框架，为NLP研究者、AI工程师提供系统的学术资源和技术参考。
hallucination detection 精选资源合集 是一款基于 Python 开发的开源工具，专注于 幻觉检测、大语言模型、自然语言处理 等核心功能。作为 GitHub 开源项目，它拥有活跃的社区支持和持续的版本迭代，代码完全透明可审计，支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流，都能提供稳定可靠的解决方案。
📌 核心特色
- 开源免费，支持本地部署，数据完全自主可控
- 活跃的 GitHub 开源社区，持续迭代更新
- 提供详细文档和使用示例，新手友好
- 支持自定义配置，灵活适配不同使用环境
- 可作为基础组件集成进现有技术栈或进行二次开发
🎯 主要使用场景
- 本地部署运行，保护数据隐私，满足合规要求
- 自定义集成到现有系统，扩展技术栈能力
- 作为开源基础组件进行商业化二次开发
以下安装命令基于项目开发语言和类型自动生成，实际以官方 README 为准。
安装命令
# 克隆仓库 git clone https://github.com/EdinburghNLP/awesome-hallucination-detection cd awesome-hallucination-detection # 查看安装说明 cat README.md # 按 README 完成环境依赖安装后即可使用
📋 安装步骤说明
- 访问 GitHub 仓库页面
- 按照 README 文档完成依赖安装
- 根据系统环境完成初始化配置
- 参考官方示例或文档开始使用
- 遇到问题可在 GitHub Issues 中查找解答
以下用法示例由 AI Skill Hub 整理，涵盖最常见的使用场景。
常用命令 / 代码示例
# 查看帮助 awesome-hallucination-detection --help # 基本运行 awesome-hallucination-detection [options] <input> # 详细使用说明请查阅文档 # https://github.com/EdinburghNLP/awesome-hallucination-detection
以下配置示例基于典型使用场景生成，具体参数请参照官方文档调整。
配置示例
# awesome-hallucination-detection 配置说明 # 查看配置选项 awesome-hallucination-detection --config-example > config.yml # 常见配置项 # output_dir: ./output # log_level: info # workers: 4 # 环境变量（覆盖配置文件） export AWESOME_HALLUCINATION_DETECTION_CONFIG="/path/to/config.yml"
以下内容由系统直接从 GitHub README 解析整理，保留代码块、表格与列表结构。
awesome-hallucination-detection
[Elastic Weight Removal for Faithful and Abstractive Dialogue Generation](https://arxiv.org/abs/2303.17574)
- Metrics: Faithfulness between predicted response and ground-truth knowledge (Tab. 1) -- Critic, Q², BERT F1, F1.
- Datasets: Wizard-of-Wikipedia (WoW), the DSTC9 and DSTC11 extensions of MultiWoZ 2.1, FaithDial -- a de-hallucinated subset of WoW.
[Hallucination Detection in LLMs Using Spectral Features of Attention Maps](https://arxiv.org/abs/2502.17598)
- Metrics: AUROC, Precision, Recall, Cohen's Kappa
- Datasets: NQ-Open, TriviaQA, CoQA, SQuADv2, HaluEval-QA, TruthfulQA, GSM8K
- Comments: Approaches the LLM as a dynamic graph and analyzes structural properties of internal attention mechanisms. Extracts spectral features (eigenvalues) from attention maps to predict when the model is fabricating information: factual retrieval produces stable eigen-structures, while hallucination leads to diffuse, chaotic patterns. Creates a white-box hallucination detector that operates independently of the generated semantic content, evaluated across seven QA benchmarks. (EMNLP 2025)
[LLMs Prompted for Graphs: Hallucinations and Generative Capabilities](https://arxiv.org/abs/2409.00159)
- Metrics: Graph edit distance, spectral distance, distance between degree distributions.
- Datasets: Graph Atlas Distance
- Comments: This benchmark presents the capability to directly prompt LLMs for known graph structures. Distances from the outputs of LLMs and of the ground truth graphs are studied. A ranking based on graph edit distance sorts LLMs in their hallucination amplitude.
[Leveraging Hallucinations to Reduce Manual Prompt Dependency in Promptable Segmentation](https://arxiv.org/abs/2408.15205)
- Metrics: MAE, F_{beta}, S_{alpha}
- Datasets: CHAMELEON, CAMO, COD10K, CVC-ColonDB, Kvasir, ISIC
- Comments: The first study does not regard hallucinations as purely negative, but as a common aspect of model pre-training. Unlike previous approaches that directly eliminate hallucinations, ProMaC first stimulates hallucinations to mine the prior knowledge from model pre-training to gather task-relevant information in images. Then, it eliminates irrelevant hallucinations to mitigate their negative impact. The effectiveness of this method has been demonstrated in multiple challenging segmentation tasks.
[Mitigating Hallucinations in Multi-modal Large Language Models via Image Token Attention-Guided Decoding](https://aclanthology.org/2025.naacl-long.75/)
- Metrics: CHAIRs (CS), CHAIRi (CI), F1, GPT-4V correctness score, MME score
- Datasets: CHAIR (COCO), POPE, GPT-4V-assisted evaluation (COCO), MME
- Comments: Introduces iTaD, a plug-and-play decoding strategy that uses attention to image tokens to select layers and apply inter-layer contrastive decoding. By amplifying image grounding when attention drops, it consistently reduces hallucinations across multiple MLLMs and benchmarks.
[Re-FRAME the Meeting Summarization SCOPE: Fact-Based Summarization and Personalization via Questions](https://arxiv.org/abs/2509.15901)
- Metrics: ROUGE (R-1, R-2, R-L), BERTScore F1, MESA (8 dimensions including hallucination), P-MESA (7 personalization dimensions), Balanced Accuracy, Cohen's kappa
- Datasets: QMSum (ICSI, AMI, WPCP meetings), FAME (500 English, 300 German synthetic meetings)
- Comments: Tackles meeting-summary hallucinations by introducing the FRAME pipeline and SCOPE protocol. FRAME extracts salient facts and scores them thematically; SCOPE forces the model to structurally justify context selection via a nine-question reasoning trace before generating the summary. Introduces P-MESA, a multi-dimensional personalized evaluation framework, and shows that on QMSum and FAME, FRAME reduces hallucination and omission by 2 out of 5 points on MESA, while SCOPE improves knowledge fit and goal alignment over prompt-only baselines. (EMNLP 2025 Findings)
[Localizing and Mitigating Errors in Long-form Question Answering](https://arxiv.org/abs/2407.11930)
- Metrics: Human preference rate, span-level error annotation (5 error types)
- Datasets: HaluQuestQA (698 QA pairs, 1.8K span-level expert annotations)
- Comments: Introduces HaluQuestQA, a dataset with expert span-level annotations of specific hallucination and omission errors in complex long-form QA answers. Trains an automated feedback model on these annotations to detect problematic spans, then applies Error-Informed Refinement to rewrite hallucinated or incomplete spans. Achieves an 84% human preference rate over baseline generations. (ACL 2025 Findings)
[When Models Lie, We Learn: Multilingual Span-Level Hallucination Detection with PsiloQA](https://huggingface.co/papers/2510.04849)
- Metrics: IoU, AP
- Datasets: PsiloQA, RAG-Truth, Mu-SHROOM, FAVA, HalluEntity
- Comments: Introduces PsiloQA, a large-scale dataset for multilingual span-level hallucination detection that serves both as a benchmark and a training resource for detector models. Building upon prior English-only and sequence-level datasets, PsiloQA offers fine-grained supervision across 14 languages through an automated three-stage pipeline of QA generation, hallucinated answer elicitation, and GPT-4o–based span annotation. It enables comprehensive evaluation and training of uncertainty-based, encoder-based, and LLM-based detectors, demonstrating strong cross-lingual generalization and cost-efficient scalability.
🎯 aiskill88 AI 点评
A 级
2026-05-22
aiskill88点评：高价值的学术资源集合，论文覆盖全面，定期更新，对幻觉检测研究具有重要��考意义。
📚 实用指南（长尾问题）
适合谁
- 需要让 Claude / Cursor 操作本地工具的 AI 工程师
- 构建企业知识库 / RAG 检索应用的团队
最佳实践
- 配置 MCP 服务器时建议使用 stdio 传输 + JSON-RPC，避免暴露公网
- 分块大小建议 256-512 tokens，向量库优选 pgvector 或 Qdrant
常见错误
- API key 直接提交到 git 仓库（请用 .env 并加入 .gitignore）
- MCP 配置路径拼错或权限不足，重启 Claude Desktop 才生效
- embedding 模型与查询模型不一致导致检索失效
部署方案
- 云端托管：可放在 Vercel / Railway / Fly.io 等 PaaS 平台
⚡ 核心功能
- 开源免费，支持本地部署，数据完全自主可控
- 活跃的 GitHub 开源社区，持续迭代更新
- 提供详细文档和使用示例，新手友好
- 支持自定义配置，灵活适配不同使用环境
- 可作为基础组件集成进现有技术栈或进行二次开发
👥 适合谁
- 需要让 Claude / Cursor 操作本地工具的 AI 工程师
- 构建企业知识库 / RAG 检索应用的团队
⭐ 最佳实践
- 配置 MCP 服务器时建议使用 stdio 传输 + JSON-RPC，避免暴露公网
- 分块大小建议 256-512 tokens，向量库优选 pgvector 或 Qdrant
⚠️ 常见错误
- API key 直接提交到 git 仓库（请用 .env 并加入 .gitignore）
- MCP 配置路径拼错或权限不足，重启 Claude Desktop 才生效
- embedding 模型与查询模型不一致导致检索失效
👥 适合人群
🎯 使用场景
- 本地部署运行，保护数据隐私，满足合规要求
- 自定义集成到现有系统，扩展技术栈能力
- 作为开源基础组件进行商业化二次开发
⚖️ 优点与不足
✅ 优点
- +Apache-2.0 协议，可免费商用
- +完全开源免费，无授权费用
- +本地部署，数据完全自主可控
- +开发者社区支持，遇问题可查可问
⚠️ 不足
- −安装和初始配置可能需要一定技术基础
- −功能完整性通常不如成熟商业产品
- −技术支持主要依赖开源社区，响应速度不稳定
⚠️ 使用须知
AI Skill Hub 为第三方内容聚合平台，本页面信息基于公开数据整理，不对工具功能和质量作任何法律背书。
建议在沙箱或测试环境中充分验证后，再部署至生产环境，并做好必要的安全评估。
📄 License 说明
✅ Apache 2.0 — 宽松开源协议，可商用，需保留版权声明和 NOTICE 文件，含专利授权条款。
🔗 相关工具推荐
📰 相关 AI 新闻
🍿 AI 圈相关吃瓜
🗺️ 相关解决方案
🧩 你可能还需要
基于当前 Skill 的能力图谱，自动补全的工具组合
技能寻求者
MCP · Agent · 工作流
natively-cluely-ai-assistant — Claude Skill 中文使用文档
免费开源的AI面试助手，实时转录，隐蔽模式，局部RAG，BYOK。无订阅，防止数据泄露。
total-agent-memory MCP工具
为Claude Code和Codex CLI提供持久化记忆功能的开源MCP工具。自动提取知识图谱，支持多轮对话上下文保留，适合需要长期记忆和
kb-arena开源AI工作流
kb-arena是开源的AI工作流，用于Benchmark 9 retrieval architectures（向量、上下文、QnA、知识图
CrewAI 多代理协作平台
MCP · Agent · 工作流
代码智能引擎
MCP · Agent · 工作流
❓ 常见问题 FAQ
模型生成看似合理但事实不符的内容，如编造事实、逻辑矛盾等。
💡 AI Skill Hub 点评
总体来看，hallucination detection 精选资源合集 是一款质量优秀的AI工具，在同类工具中具备一定竞争力。AI Skill Hub 将持续追踪其更新动态，建议收藏备用，结合自身场景选择合适时机引入使用。
🌐 原始信息
| 原始名称 | awesome-hallucination-detection |
| 原始描述 | 开源AI工具：List of papers on hallucination detection in LLMs.。⭐1.1k |
| Topics | 幻觉检测大语言模型自然语言处理学术资源 |
| GitHub | https://github.com/EdinburghNLP/awesome-hallucination-detection |
| License | Apache-2.0 |
🔗 原始来源
🐙 GitHub 仓库 https://github.com/EdinburghNLP/awesome-hallucination-detection
收录时间：2026-05-14 · 更新时间：2026-05-16 · License：Apache-2.0 · AI Skill Hub 不对第三方内容的准确性作法律背书。