能力标签
LLM安全评估框架
🛠
AI工具

LLM安全评估框架

基于 Python · 开源免费,本地部署,数据完全自主可控
英文名:LLM-Security-Assessment-Framework
⭐ 22 Stars 🍴 8 Forks 💻 Python 📄 MIT 🏷 AI 8.0分
8.0AI 综合评分
ai安全对抗性攻击网络安全进化算法Python
✦ AI Skill Hub 推荐

AI Skill Hub 强烈推荐:LLM安全评估框架 是一款优质的AI工具。AI 综合评分 8.0 分,在同类工具中表现稳健。如果你正在寻找可靠的AI工具解决方案,这是一个值得深入了解的选择。

📚 深度解析

LLM安全评估框架 是一款基于 Python 的开源工具,在 GitHub 上收获 0k+ Star,是ai安全、对抗性攻击、网络安全、进化算法领域中的优质开源项目。开源工具的最大优势在于代码完全透明,你可以审计每一行代码的安全性,也可以根据自身需求进行二次开发和定制。

**为什么要使用开源工具而非商业 SaaS?**
对于个人开发者和有隐私需求的用户,本地部署的开源工具意味着数据不离本机,不受第三方服务商的数据政策约束。同时,开源工具通常没有使用次数限制和月度费用,一次安装即可长期使用,对于高频使用场景的总拥有成本(TCO)远低于订阅制商业工具。

**安装与环境准备**
LLM安全评估框架 依赖 Python 运行环境。建议通过 pyenv(Python)或 nvm(Node.js)管理 Python 版本,避免全局环境污染。对于新手用户,推荐先创建虚拟环境(python -m venv venv && source venv/bin/activate),再安装依赖,这样即使出现问题也可以随时删除虚拟环境重新开始,不影响系统稳定性。

**社区与维护**
GitHub Issue 和 Discussion 是获取帮助的最快渠道。在提问前建议先检查 Closed Issues(已关闭的问题),大多数常见问题都已有解答。遇到 Bug 时,提供 pip list 的输出、完整错误堆栈和最小可复现示例,能显著提高开发者响应速度。AI Skill Hub 将持续追踪 LLM安全评估框架 的版本更新,及时通知重要功能变化。

📋 工具概览

LLM安全评估框架 是一款基于 Python 开发的开源工具,专注于 ai安全、对抗性攻击、网络安全 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。

GitHub Stars
⭐ 22
开发语言
Python
支持平台
Windows / macOS / Linux
维护状态
轻量级项目,按需更新
开源协议
MIT
AI 综合评分
8.0 分
工具类型
AI工具
Forks
8

📖 中文文档

以下内容由 AI Skill Hub 根据项目信息自动整理,如需查看完整原始文档请访问底部「原始来源」。

LLM安全评估框架 是一款基于 Python 开发的开源工具,专注于 ai安全、对抗性攻击、网络安全 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。

📌 核心特色
  • 开源免费,支持本地部署,数据完全自主可控
  • 活跃的 GitHub 开源社区,持续迭代更新
  • 提供详细文档和使用示例,新手友好
  • 支持自定义配置,灵活适配不同使用环境
  • 可作为基础组件集成进现有技术栈或进行二次开发
🎯 主要使用场景
  • 本地部署运行,保护数据隐私,满足合规要求
  • 自定义集成到现有系统,扩展技术栈能力
  • 作为开源基础组件进行商业化二次开发
以下安装命令基于项目开发语言和类型自动生成,实际以官方 README 为准。
安装命令
# 方式一:pip 安装(推荐)
pip install llm-security-assessment-framework

# 方式二:虚拟环境安装(推荐生产环境)
python -m venv .venv
source .venv/bin/activate  # Windows: .venv\Scripts\activate
pip install llm-security-assessment-framework

# 方式三:从源码安装(获取最新功能)
git clone https://github.com/Coff0xc/LLM-Security-Assessment-Framework
cd LLM-Security-Assessment-Framework
pip install -e .

# 验证安装
python -c "import llm_security_assessment_framework; print('安装成功')"
📋 安装步骤说明
  1. 访问 GitHub 仓库页面
  2. 按照 README 文档完成依赖安装
  3. 根据系统环境完成初始化配置
  4. 参考官方示例或文档开始使用
  5. 遇到问题可在 GitHub Issues 中查找解答
以下用法示例由 AI Skill Hub 整理,涵盖最常见的使用场景。
常用命令 / 代码示例
# 命令行使用
llm-security-assessment-framework --help

# 基本用法
llm-security-assessment-framework input_file -o output_file

# Python 代码中调用
import llm_security_assessment_framework

# 示例
result = llm_security_assessment_framework.process("input")
print(result)
以下配置示例基于典型使用场景生成,具体参数请参照官方文档调整。
配置示例
# llm-security-assessment-framework 配置文件示例(config.yml)
app:
  name: "llm-security-assessment-framework"
  debug: false
  log_level: "INFO"

# 运行时指定配置文件
llm-security-assessment-framework --config config.yml

# 或通过环境变量配置
export LLM_SECURITY_ASSESSMENT_FRAMEWORK_API_KEY="your-key"
export LLM_SECURITY_ASSESSMENT_FRAMEWORK_OUTPUT_DIR="./output"
📑 README 深度解析 真实文档 完整度 75/100 查看 GitHub 原文 →
以下内容由系统直接从 GitHub README 解析整理,保留代码块、表格与列表结构。

简介

GitHub About 建议

仓库侧栏描述建议:

面向报告交付的 LLM 安全评估框架,用于生成可复现红队套件、证据包、QA 回执、Schema 合约和可校验归档。

建议 Topics:

llm-security, ai-red-team, prompt-injection, jailbreak, owasp-llm, mcp-security, agent-security, security-reporting, risk-register, audit-evidence, json-schema, pytest, python

<a id="citation"></a>

GitHub About

Suggested repository description:

Report-first LLM security assessment framework for reproducible red-team suites, evidence packs, QA receipts, schemas, and archive verification.

Suggested topics:

llm-security, ai-red-team, prompt-injection, jailbreak, owasp-llm, mcp-security, agent-security, security-reporting, risk-register, audit-evidence, json-schema, pytest, python

核心能力

能力说明
Report suitesYAML suite、内联/导入用例、响应缓存、确定性种子、策略门禁、运行前预检。
Report artifactsMarkdown/HTML 报告、执行摘要、证据 CSV、case matrix、风险登记、覆盖率摘要、发布说明、bundle index。
Evidence integrityJSON Schema、制品 manifest、SHA256/大小校验、跨制品一致性校验、脱敏发布泄漏检查。
Handoff QAQA receipt JSON/Markdown、验收准则、评审决策、owner/due date、严格交接门禁。
Assessment coveragePrompt Injection、越狱角色扮演、系统提示泄漏、敏感信息/PII、Agent/MCP/工具策略风险、模型制品信号。
Baseline engineFORGEDAN、AutoDAN、PAIR、GCG、Crescendo、TAP、模型适配器、WebScan、CLI、REST API、Vue dashboard。

<a id="cli-reference"></a> <a id="cli-reference--常用-cli"></a> <a id="zh-cli"></a>

Key Capabilities

AreaWhat it does
Report suitesYAML suite definitions, inline or imported cases, replay caches, deterministic seeds, policy gates, and preflight readiness checks.
Report artifactsMarkdown/HTML reports, executive summaries, evidence CSVs, case matrices, risk registers, coverage summaries, release notes, and bundle indexes.
Evidence integrityJSON Schemas, artifact manifests, SHA256/size checks, cross-artifact consistency, and redacted-publication leak checks.
Handoff QAQA receipt JSON/Markdown, acceptance criteria, reviewer decisions, owner/due-date tracking, and strict handoff gates.
Assessment coveragePrompt injection, jailbreak roleplay, system prompt leakage, secrets/PII exposure, Agent/MCP/tool policy risk, and model artifact signals.
Baseline engineFORGEDAN, AutoDAN, PAIR, GCG, Crescendo, TAP, model adapters, WebScan, CLI, REST API, and Vue dashboard.

<a id="en-cli"></a>

Web dashboard 和 WebScan 依赖

pip install -e ".[web]"

全量 provider、web、monitoring 和 dev 依赖

pip install -e ".[all]"

Web dashboard and WebScan dependencies

pip install -e ".[web]"

快速开始

前置要求

项目要求
PythonPython >= 3.9
Git克隆仓库和管理本地变更需要 Git
Node.jsNode.js >= 18,仅运行 Vue dashboard 时需要

安装

```bash git clone https://github.com/Coff0xc/LLM-Security-Assessment-Framework.git cd LLM-Security-Assessment-Framework

后端最小安装

pip install -e .

Minimal backend install

pip install -e .

Frontend build

cd frontend npm install npm run build ```

使用截图

下面截图来自 examples/ready-for-handoff-suite.yml 生成并提交到仓库的样例报告包。完整样例见 docs/sample-report-pack/ready-for-handoff

报告包总览

报告包总览

QA 交接回执

QA 交接回执

归档校验

归档校验

<a id="quick-start"></a>

Quick Start

Prerequisites

ItemRequirement
PythonPython >= 3.9
GitGit is required for cloning the repository and managing local changes.
Node.jsNode.js >= 18, only required for the Vue dashboard.

Install

```bash git clone https://github.com/Coff0xc/LLM-Security-Assessment-Framework.git cd LLM-Security-Assessment-Framework

Screenshots

The screenshots below come from the checked-in sample generated by examples/ready-for-handoff-suite.yml. The rendered sample is available at docs/sample-report-pack/ready-for-handoff.

Report Pack Overview

Report pack overview

QA Receipt

QA receipt handoff readiness

Archive Verification

Archive verification

攻击方法

方法类型说明论文
FORGEDANEvolutionary多层级 mutation,结合语义适应度和双 judge。[arXiv:2511.13548](https://arxiv.org/abs/2511.13548)
AutoDANEvolutionary面向隐蔽越狱 prompt 的层次化遗传算法。[ICLR 2024](https://arxiv.org/abs/2310.04451)
PAIRLLM-iterative通过 attacker-target LLM 迭代完成黑盒越狱。[NeurIPS 2024](https://arxiv.org/abs/2310.08419)
GCGGradient-free基于贪心坐标搜索的 adversarial suffix 生成。[ICML 2023](https://arxiv.org/abs/2307.15043)
CrescendoMulti-turn从低风险内容逐步升级到高风险请求的多轮攻击。[USENIX Security 2025](https://arxiv.org/abs/2404.01833)
TAPTree searchTree-of-thought 攻击搜索,带剪枝和多 LLM 协作。[NeurIPS 2024](https://arxiv.org/abs/2312.02119)

API 端点

后端使用 Flask Blueprint 暴露 REST API,适合自动化脚本、演示环境和内部评估流程接入。

POST   /api/attacks/run
GET    /api/attacks/{id}/status
GET    /api/attacks/{id}/result
POST   /api/attacks/{id}/stop

GET    /api/models/providers
POST   /api/models/test

POST   /api/webscan/crawl
POST   /api/webscan/scan
POST   /api/webscan/llm-test

POST   /api/reports/generate
GET    /api/reports/{id}
GET    /api/reports/{id}/download

GET    /api/datasets
POST   /api/datasets/upload

GET    /api/health
GET    /api/metrics

<a id="documentation"></a>

CLI Reference

ScenarioCommandNotes
Run a suitepython -m forgedan.cli suite run examples/smoke-suite.ymlGenerate report outputs from a YAML suite.
Per-run output dirspython -m forgedan.cli suite run examples/smoke-suite.yml --run-id-dirIsolate output directories by run ID.
Run preflightpython -m forgedan.cli suite preflight examples/ready-for-handoff-suite.yml --strict --output reports/preflight-readyCheck report readiness before spending model budget.
Validate reportpython -m forgedan.cli suite validate-report reports/suite-ready/suite-result.jsonValidate schema and semantic consistency.
Verify bundlepython -m forgedan.cli suite verify-bundle reports/suite-ready/suite-manifest.jsonVerify manifest, hashes, sidecars, and cross-artifact consistency.
Write QA receiptpython -m forgedan.cli suite qa-report reports/suite-ready/suite-manifest.json --output reports/suite-ready/qa --strict-handoffWrite a strict handoff QA receipt.
Create ZIPpython -m forgedan.cli suite archive reports/suite-ready/suite-manifest.json --output reports/suite-ready/handoff.zipCreate a single-file handoff package.
Verify ZIPpython -m forgedan.cli suite verify-archive reports/suite-ready/handoff.zipRe-check the archive after copying or sharing.
Compare resultspython -m forgedan.cli suite compare base.json current.json --output comparison.json --fail-on-regressionGenerate historical comparison and optionally fail on regressions.
Export taxonomypython -m forgedan.cli suite taxonomy --jsonExport the finding taxonomy.
Export schemaspython -m forgedan.cli suite schemas --jsonExport report artifact schema references.
Attack demopython -m forgedan.cli run --quick -g "test prompt" -m mock:testRun a zero-config demo with the mock model.
Web backendpython -m forgedan.cli webStart the API/web backend.

API Endpoints

The backend exposes a Flask Blueprint REST API for automation scripts, demos, and internal assessment workflows.

POST   /api/attacks/run
GET    /api/attacks/{id}/status
GET    /api/attacks/{id}/result
POST   /api/attacks/{id}/stop

GET    /api/models/providers
POST   /api/models/test

POST   /api/webscan/crawl
POST   /api/webscan/scan
POST   /api/webscan/llm-test

POST   /api/reports/generate
GET    /api/reports/{id}
GET    /api/reports/{id}/download

GET    /api/datasets
POST   /api/datasets/upload

GET    /api/health
GET    /api/metrics

报告工作流

步骤说明
1. 定义范围在 suite YAML 中定义 cases、导入证据源、报告元数据、策略门禁、覆盖率要求、验收准则、评审决策和风险登记默认值。
2. 运行预检使用 suite preflight 在消耗模型预算前检查元数据、scorer、交接准则、来源证明和确定性 replay 设置。
3. 生成报告使用 suite run 写出原始与脱敏 JSON/JSONL、Markdown/HTML 报告、CSV 矩阵、覆盖率、风险登记、发布说明和 manifest。
4. 本地验证使用 validate-reportverify-bundle 校验 schema、hash、摘要计数、脱敏制品、Markdown/HTML sidecar 和跨制品身份。
5. 准备交接使用 qa-report --strict-handoff 生成 QA 回执,记录 checklist、blocker、验收准则、Source Inventory、schema 校验和评审证据。
6. 归档复核使用 archiveverify-archive 生成单文件 ZIP,并在复制或分享后重新校验。

<a id="report-artifacts"></a>

模型适配器

Provider模型范围配置示例
OpenAIGPT-3.5, GPT-4, GPT-4oopenai:gpt-4
AnthropicClaude 3 Opus/Sonnet/Haikuanthropic:claude-3-opus
GoogleGemini Pro, Gemini Visiongemini:gemini-pro
DeepSeekDeepSeek Chat/Coderdeepseek:deepseek-chat
Zhipu / 智谱GLM-4, GLM-3zhipu:glm-4
Qwen / 通义千问Qwen Max/Plusqwen:qwen-max
Moonshot / 月之暗面Kimimoonshot:moonshot-v1-8k
Yi / 零一万物Yi Large/Mediumyi:yi-large
Baichuan / 百川Baichuan 4/3baichuan:baichuan-4
Ollama本地 Ollama 模型ollama:llama2
vLLM本地 vLLM 服务vllm:model-name
HuggingFaceHuggingFace 模型huggingface:model-name
Mock本地测试,无需 API keymock:test-model

Report Workflow

StepDescription
1. Define scopeDefine cases, imported evidence sources, report metadata, policy gates, coverage requirements, acceptance criteria, reviewer decisions, and risk-register defaults in a suite YAML file.
2. Run preflightRun suite preflight before spending model budget to catch metadata, scorer, handoff-criteria, provenance, and deterministic replay issues.
3. GenerateUse suite run to write raw and redacted JSON/JSONL, Markdown/HTML reports, CSV matrices, coverage, risk register, release notes, and manifest artifacts.
4. Validate locallyUse validate-report and verify-bundle to bind schemas, hashes, summary counts, redacted artifacts, Markdown/HTML sidecars, and cross-artifact identities back to the source result.
5. Prepare handoffUse qa-report --strict-handoff to write a QA receipt with checklist status, blockers, acceptance criteria, source inventory, schema checks, and reviewer-facing evidence.
6. Archive and re-checkUse archive and verify-archive to create a single ZIP and re-check it after copying or sharing.
🇨🇳 中文文档镜像 AI 翻译 2026-06-03
英文原文章节由系统翻译为中文摘要,便于快速理解。完整原文见上方 "📑 README 深度解析"。
📌 简介

基于 FORGEDAN 框架的 LLM 安全评估框架,旨在生成可复现的红队套件、证据包、QA 回执、Schema 合约和可校验归档。

⚡ 功能介绍

核心能力包括 Report Suites(报告套件)、Report Artifacts(报告附件)和 Evidence Integrity(证据完整性)等。

📋 环境依赖

项目要求 Python >= 3.9、Node.js >= 18(用于前端)和 Git 等环境依赖。

🛠 安装步骤(Docker/pip/源码)

项目支持多种安装方式,包括 Docker、pip 和源码部署方式。

🚀 使用教程

使用教程包括生成可复现报告交付链路、QA 回执和归档校验等功能。

⚙️ 配置说明(含 MCP / env)

配置说明包括 MCP、env 和关键参数等。

🔌 API 说明

API/接口说明包括 CLI 参考和 REST API 参考等。

🔄 工作流/模块

工作流 / 模块说明包括定义范围、运行预检和生成报告等流程。

❓ FAQ 摘要

FAQ 摘要包括常见问题和答案等。

🎯 aiskill88 AI 点评 A 级 2026-06-03

高质量的LLM安全评估框架,提供多种攻击方法

📚 实用指南(长尾问题)
适合谁
  • 需要让 Claude / Cursor 操作本地工具的 AI 工程师
  • 构建多智能体协作系统的 Agent 开发者
  • 构建企业知识库 / RAG 检索应用的团队
最佳实践
  • 配置 MCP 服务器时建议使用 stdio 传输 + JSON-RPC,避免暴露公网
  • 本地部署优先选 GGUF 量化模型,节省显存并保持响应速度
  • 分块大小建议 256-512 tokens,向量库优选 pgvector 或 Qdrant
  • Agent 任务先做 dry-run 验证工具调用链,再开启自主执行
常见错误
  • API key 直接提交到 git 仓库(请用 .env 并加入 .gitignore)
  • MCP 配置路径拼错或权限不足,重启 Claude Desktop 才生效
  • embedding 模型与查询模型不一致导致检索失效
  • 显存不足直接 OOM — 优先降低 context 或换更小的量化模型
  • Python 依赖冲突:建议用 venv / uv 隔离环境
部署方案
  • CLI:直接 npm install -g / pip install,命令行调用
  • 本地部署:CPU 8GB 起,GPU 推荐 16GB+ 显存
  • 云端托管:可放在 Vercel / Railway / Fly.io 等 PaaS 平台
相关搜索
LLM-Security-Assessment-Framework 中文教程LLM-Security-Assessment-Framework 安装报错怎么办LLM-Security-Assessment-Framework MCP 配置LLM-Security-Assessment-Framework Agent 工作流LLM-Security-Assessment-Framework 与同类工具对比LLM-Security-Assessment-Framework 最佳实践LLM-Security-Assessment-Framework 适合谁用

⚡ 核心功能

👥 适合谁
  • 需要让 Claude / Cursor 操作本地工具的 AI 工程师
  • 构建多智能体协作系统的 Agent 开发者
  • 构建企业知识库 / RAG 检索应用的团队
⭐ 最佳实践
  • 配置 MCP 服务器时建议使用 stdio 传输 + JSON-RPC,避免暴露公网
  • 本地部署优先选 GGUF 量化模型,节省显存并保持响应速度
  • 分块大小建议 256-512 tokens,向量库优选 pgvector 或 Qdrant
  • Agent 任务先做 dry-run 验证工具调用链,再开启自主执行
⚠️ 常见错误
  • API key 直接提交到 git 仓库(请用 .env 并加入 .gitignore)
  • MCP 配置路径拼错或权限不足,重启 Claude Desktop 才生效
  • embedding 模型与查询模型不一致导致检索失效
  • 显存不足直接 OOM — 优先降低 context 或换更小的量化模型

👥 适合人群

AI 技术爱好者研究人员和学生开发者和工程师技术创业者

🎯 使用场景

  • 本地部署运行,保护数据隐私,满足合规要求
  • 自定义集成到现有系统,扩展技术栈能力
  • 作为开源基础组件进行商业化二次开发

⚖️ 优点与不足

✅ 优点
  • +MIT 协议,可免费商用
  • +完全开源免费,无授权费用
  • +本地部署,数据完全自主可控
  • +开发者社区支持,遇问题可查可问
⚠️ 不足
  • 安装和初始配置可能需要一定技术基础
  • 功能完整性通常不如成熟商业产品
  • 技术支持主要依赖开源社区,响应速度不稳定
⚠️ 使用须知

AI Skill Hub 为第三方内容聚合平台,本页面信息基于公开数据整理,不对工具功能和质量作任何法律背书。

建议在沙箱或测试环境中充分验证后,再部署至生产环境,并做好必要的安全评估。

📄 License 说明

✅ MIT 协议 — 最宽松的开源协议之一,可自由商用、修改、分发,仅需保留版权声明。

🔗 相关工具推荐

📰 相关 AI 新闻
🍿 AI 圈相关吃瓜
🗺️ 相关解决方案
🧩 你可能还需要
基于当前 Skill 的能力图谱,自动补全的工具组合

❓ 常见问题 FAQ

LLM-Security-Assessment-Framework 是一款Python开发的AI辅助工具。开源AI工具:FORGEDAN — An Evolutionary Framework for LLM Security Assessment | 6 Attack Meth。⭐22 · Python 主要应用场景包括:评估LLM模型安全性。
💡 AI Skill Hub 点评

总体来看,LLM安全评估框架 是一款质量优秀的AI工具,在同类工具中具备一定竞争力。AI Skill Hub 将持续追踪其更新动态,建议收藏备用,结合自身场景选择合适时机引入使用。

📚 深入学习 LLM安全评估框架
查看分步骤安装教程和完整使用指南,快速上手这款工具
🌐 原始信息
原始名称 LLM-Security-Assessment-Framework
原始描述 开源AI工具:FORGEDAN — An Evolutionary Framework for LLM Security Assessment | 6 Attack Meth。⭐22 · Python
Topics ai安全对抗性攻击网络安全进化算法Python
GitHub https://github.com/Coff0xc/LLM-Security-Assessment-Framework
License MIT
语言 Python
🔗 原始来源
🐙 GitHub 仓库  https://github.com/Coff0xc/LLM-Security-Assessment-Framework

收录时间:2026-06-03 · 更新时间:2026-06-05 · License:MIT · AI Skill Hub 不对第三方内容的准确性作法律背书。

📺 订阅 AI Skill Hub Daily Telegram 频道
每天 8 条精选 AI Skill、MCP、Agent 与自动化工具推送
加入频道 →