这个开源神器终结了AI数据整合的噩梦!一键聚合网页、代码、论文到剪贴板!

在用大语言模型(如 GPT、Claude、DeepSeek 等)提问网页、GitHub 仓库、论文或视频时,手动整合内容既耗时又低效。

但是 AI 模型特别倚重高质量上下文,以便从多源数据中提取有用信息。

基于这个过程既繁琐且低效,GitHub 上出现了一款开源的高效数据聚合工具:OneFileLLM

它能自动从网页、GitHub 仓库、ArXiv 论文、YouTube 视频等来源提取内容,整合为单一文本文件并复制到剪贴板,极大提升 LLM(大语言模型)处理效率。

本质上一个一个命令行数据聚合工具,支持从多种来源提取内容,并将其整合为单一文本文件,自动复制到剪贴板以供 LLM 使用。

该工具基于 Python 开发,依赖轻量,支持 PDF、Jupyter Notebook 等格式。

主要功能

  • 多源数据支持:覆盖 GitHub 仓库、ArXiv 论文、YouTube 视频和网页内容等。

  • 多种文件格式处理:支持 PDF、Jupyter Notebook(.ipynb)、Markdown、Python 脚本等多种格式。

  • 内置网页爬取:支持爬取网页及其链接内容,最大深度可配置(默认 2 层)。

  • Sci-Hub 集成:通过 DOI 或 PMID 自动下载 Sci-Hub 论文,转换为文本。

  • 文本预处理与优化:提供标记计数,确保输出适合 LLM 上下文窗口,并支持 XML 封装,内容更规范。

  • 一键输出至剪贴板:整合内容为单一文本文件,自动复制到剪贴板。

快速使用

OneFileLLM 的安装和使用简单,以下是详细步骤,助你快速上手:

1、克隆仓库

bash 复制代码
git clone https://github.com/jimmc414/onefilellm.git
cd onefilellm

2、安装依赖

复制代码
pip install -U -r requirements.txt

3、使用方法

基本使用方法:Python脚本 + 源(文件或目标URL)

bash 复制代码
python onefilellm.py <source>

比如:将github仓库内容整合为 output.txt 并复制到剪贴板。

bash 复制代码
python onefilellm.py https://github.com/jimmc414/onefilellm

单一执行 python onefilellm.py 会弹出以下窗口,然后接着输入目标URL也可以。

网页爬取使用方法:

lua 复制代码
python onefilellm.py https://llm.datasette.io --depth 2

自定义文件类型,需修改Python文件中的 allowed_extensions 参数:

ini 复制代码
allowed_extensions = ['.py', '.txt', '.md', '.ipynb']

写在最后

OneFileLLM 可以实现自动抓取 & 整理网页、代码、论文、视频内容到一个统一文本文件中,并复制到剪贴板,让 LLM 问答更高效!

它是连接"数据来源 ➜ AI 问答"的理想桥梁,尤其适合 Claude、ChatGPT、DeepSeek、Moonshot 等模型用户作为高效预处理工具使用!

如果你需要为 AI 模型快速准备上下文,或想从复杂来源提取信息,不妨试试 OneFileLLM。

GitHub 项目地址:github.com/jimmc414/on...

相关推荐
njsgcs4 小时前
我有待做任务清单和不良操作图片集,如何设计ai agent协助我完成工作
大数据·人工智能
AI科技星4 小时前
《全域数学》第三卷:代数原本 · 全书详述【乖乖数学】
开发语言·人工智能·机器学习·数学建模
zh_xuan4 小时前
上传api调试工具到github
github
AI科技星4 小时前
《全域数学》第一部 数术本源 第三卷 代数原本第14篇 附录二 猜想证明【乖乖数学】
人工智能·算法·数学建模·数据挖掘·量子计算
XD7429716364 小时前
科技早报|2026年5月2日:AI 编程工具开始按用量收费
人工智能·科技·ai编程·github copilot·科技早报
liangdabiao4 小时前
乐高摩托车深度报告-致敬张雪夺冠 -基于llm-wiki技术自动化写文章的效果
运维·人工智能·自动化
KC2704 小时前
Prompt 注入攻击的 5 种姿势和防御指南
人工智能
不懒不懒4 小时前
【从零入门本地大模型:Ollama 安装部署 + Qwen2.5 实现零样本情感分类】
人工智能·分类·数据挖掘·大模型·ollama
徐健峰4 小时前
GPT-image-2 热门玩法实战(二):AI 面相分析 & 个人色彩诊断 — 上传自拍秒出专业报告
人工智能·gpt
冰西瓜6004 小时前
深度学习的数学原理(三十二)—— Transformer全场景掩码机制详解
人工智能·深度学习·transformer