AI Skill Hub 推荐使用:论文摘要工具 是一款优质的AI工具。AI 综合评分 7.5 分,在同类工具中表现稳健。如果你正在寻找可靠的AI工具解决方案,这是一个值得深入了解的选择。
自动爬取arXiv论文并使用LLM进行摘要
论文摘要工具 是一款基于 Python 开发的开源工具,专注于 论文摘要、LLM、arXiv 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。
自动爬取arXiv论文并使用LLM进行摘要
论文摘要工具 是一款基于 Python 开发的开源工具,专注于 论文摘要、LLM、arXiv 等核心功能。作为 GitHub 开源项目,它拥有活跃的社区支持和持续的版本迭代,代码完全透明可审计,支持本地部署以保护数据隐私。无论是个人使用还是集成到企业工作流,都能提供稳定可靠的解决方案。
# 方式一:pip 安装(推荐)
pip install insightarxiv
# 方式二:虚拟环境安装(推荐生产环境)
python -m venv .venv
source .venv/bin/activate # Windows: .venv\Scripts\activate
pip install insightarxiv
# 方式三:从源码安装(获取最新功能)
git clone https://github.com/xmkxabc/InsightArxiv
cd InsightArxiv
pip install -e .
# 验证安装
python -c "import insightarxiv; print('安装成功')"
# 命令行使用
insightarxiv --help
# 基本用法
insightarxiv input_file -o output_file
# Python 代码中调用
import insightarxiv
# 示例
result = insightarxiv.process("input")
print(result)
# insightarxiv 配置文件示例(config.yml) app: name: "insightarxiv" debug: false log_level: "INFO" # 运行时指定配置文件 insightarxiv --config config.yml # 或通过环境变量配置 export INSIGHTARXIV_API_KEY="your-key" export INSIGHTARXIV_OUTPUT_DIR="./output"
🌐 View the Live Digest: xmkxabc.github.io/insightarxiv/
run.sh command.asyncio for high-concurrency processing, significantly boosting efficiency. The system is designed with robust error handling for network fluctuations, API errors, and data inconsistencies to ensure stable operation.template.md, completely separating content from presentation. This allows users to easily customize the report's style. The architecture is clean, modular, and easy to extend.---
Clone this repository to your local machine:
git clone https://github.com/xmkxabc/insightarxiv.git
cd insightarxiv Make sure you have Python 3.10+ installed, along with uv (or pip) for package management.
It is recommended to use uv (or pip) to install the project dependencies: ```bash
Create a .env file in the project's root directory. This is crucial for the project to run.
```env
GOOGLE_API_KEYS=your_google_api_key_1,your_google_api_key_2
InsightArxiv operates on a well-architected, modular data processing pipeline:
1. [CRAWL] daily_arxiv/ (Scrapy) A sophisticated Scrapy spider that fetches the latest papers from arXiv, configured via the CATEGORIES environment variable. Features intelligent deduplication, filtering of cross-lists, and rich metadata extraction. * Output: data/date.jsonl
2. [ENHANCE] ai/ (LangChain + Gemini) Reads the raw data and processes it with high concurrency using asyncio. Leverages Pydantic models defined in ai/structure.py to instruct Gemini to return structured, multi-dimensional analysis. The core enhance.py script manages complex model/key rotation, rate limiting, and retry logic. Output: data/date_AI_enhanced_lang.jsonl
3. [GENERATE] to_md/ (Python) A powerful report generation engine that consumes the AI-enhanced data. Renders the structured data into a beautiful, readable Markdown report based on template.md. Intelligently generates a categorized TOC sorted by user preference and convenient in-page navigation. Output: data/date.md
4. [PUBLISH] update_readme.py * Reads the daily generated Markdown report and dynamically updates the root README.md to publish the latest content.
---
InsightArxiv 是一个由 AI 驱动的 arXiv 每日论文摘要工具。它能够自动追踪 arXiv 上的最新研究动态,并将其转化为易于阅读的每日简报。你可以通过项目提供的 Live Digest 页面实时查看生成的论文分析内容,让科研人员能够高效地掌握领域前沿动态。
本项目实现了从论文抓取、AI 分析到报告生成的全链路自动化流程,只需运行 `run.sh` 即可启动。核心亮点在于其多维度的 AI 分析能力:利用 Google Gemini 模型对每篇论文进行深度解构,自动生成包含 TL;DR(摘要)、研究动机(Research Motivation)、研究方法(Methodology)以及实验结果(Experimental Results)在内的结构化洞察,帮助你快速理解论文核心。
在开始之前,请确保你的本地环境已安装 Python 3.10 或更高版本。此外,你需要安装 `uv` 或 `pip` 作为包管理工具。首先通过 `git clone` 将本项目仓库克隆至本地,并进入项目目录进行后续操作。
推荐使用 `uv` 或 `pip` 来安装项目所需的依赖项。请在项目根目录下运行相应的安装命令,以确保所有必要的 Python 库都已正确配置。建议在虚拟环境中进行安装,以保持开发环境的整洁。
项目通过自动化脚本进行驱动。完成环境配置后,你只需在终端执行 `run.sh` 命令,系统便会自动启动从数据抓取到 AI 处理的完整流水线,无需手动干预每个环节。
运行本项目前,必须在项目根目录下创建一个 `.env` 文件进行关键配置。该文件用于存储必要的环境变量,确保程序能够正确调用 AI 模型并识别抓取范围。请务必妥善管理你的配置文件,避免敏感信息泄露。
本项目高度依赖 Google API 进行深度语义分析。你需要在 `.env` 文件中配置 `GOOGLE_API_KEYS` 参数,支持通过逗号分隔的形式填入多个 API Key,以确保在高并发或大规模处理任务时的稳定性与可用性。
InsightArxiv 采用模块化设计的流水线架构,确保数据处理的高效与稳定。工作流始于 `daily_arxiv/` 模块,该模块利用 Scrapy 编写的高级爬虫,根据 `CATEGORIES` 环境变量配置,智能地从 arXiv 抓取最新论文,并内置了去重与过滤机制,确保后续 AI 处理阶段的数据质量。
自动化论文摘要工具,提高效率
AI Skill Hub 为第三方内容聚合平台,本页面信息基于公开数据整理,不对工具功能和质量作任何法律背书。
建议在沙箱或测试环境中充分验证后,再部署至生产环境,并做好必要的安全评估。
✅ Apache 2.0 — 宽松开源协议,可商用,需保留版权声明和 NOTICE 文件,含专利授权条款。
总体来看,论文摘要工具 是一款质量良好的AI工具,在同类工具中具备一定竞争力。AI Skill Hub 将持续追踪其更新动态,建议收藏备用,结合自身场景选择合适时机引入使用。
| 原始名称 | InsightArxiv |
| 原始描述 | 开源AI工具:This tool will daily crawl https://arxiv.org and use LLMs to summarize them. cs。⭐16 · Python |
| Topics | 论文摘要LLMarXiv |
| GitHub | https://github.com/xmkxabc/InsightArxiv |
| License | Apache-2.0 |
| 语言 | Python |
收录时间:2026-05-27 · 更新时间:2026-05-30 · License:Apache-2.0 · AI Skill Hub 不对第三方内容的准确性作法律背书。