首页 / 开源 · 本地跑模型 / 自部署 / AnythingLLM
📦
AnythingLLM
Mintplex-Labs
本地优先的全能 AI,把文档变成私有知识库、带 agent。
它能帮你做什么
- 把 PDF、Word、网页变成可问答的私有知识库,直接问里面的内容
- 本地优先,资料不外传,适合放合同、简历、内部资料等敏感文档
- 接本地 Ollama = 完全免费;也能接云端 GPT/Claude 求效果
- 带 agent 功能,能联网搜索、调用工具
解读
AnythingLLM 是一个「本地优先」的全能 AI 应用,核心能力是把你的文档、PDF 变成可问答的私有知识库——把资料拖进去,就能直接问里面的内容,还会给出处。
它数据全留在本地,还带 agent、联网搜索等功能。适合学生、研究、律师、做资料整理的职场人:把一堆资料喂给它,之后有问题直接问,不用自己翻。
最大优点是有桌面版,双击安装就能用,不用 Docker、不用命令行,是本地知识库里对小白最友好的一个。
适合谁
想把自己的资料 / 文档变成「能问答的知识库」的人:学生、研究者、律师、做资料整理的职场人。有桌面版,双击安装就能用,对小白友好。
开始前的准备
- 一台电脑(Windows/Mac/Linux)。
- 想完全免费:先装好 Ollama;想效果更好:备一个云端 API Key。
- 你要问答的文档(PDF、Word、txt 等)。
手把手教程
- 下载:去
anythingllm.com下载桌面版安装包,双击安装(最省事,不用 Docker)。 - 选模型:打开后按引导选一个大模型——想免费选本地 Ollama,想效果好选 GPT/Claude 并填 key。
- 建工作区:新建一个「工作区(Workspace)」,相当于一个知识库项目。
- 传文档:把 PDF/Word 等拖进去,等它处理(切片、建索引)完成。
- 提问:在对话框直接问文档里的内容,它会基于你的资料回答并给出处。
- 分类管理:不同主题建不同工作区,互不干扰。
常见问题 / 踩坑
一定要装 Ollama 吗?
不一定。想完全免费本地就配 Ollama;想省事且效果好,直接填云端 API Key 也行。
支持中文文档吗?
支持。中文 PDF、Word 都能问答,效果也取决于你选的模型。
我的资料会被上传吗?
桌面版本地优先,文档存在你机器上;但若选了云端模型,问答时相关内容片段会发给该模型。敏感资料建议配本地 Ollama。
和 Open WebUI 有啥区别?
都能文档问答。AnythingLLM 更聚焦「知识库」、有桌面版更省事;Open WebUI 更像通用的 ChatGPT 界面。
进阶技巧
- 文档越干净(去掉无关页)问答越准;扫描版 PDF 建议先做 OCR 转成文字版再传。
- 敏感资料 + 本地 Ollama = 全程离线不外传,最安心。
打不开 GitHub / 国内访问
官网 anythingllm.com 国内可访问、有桌面安装包,不必碰 GitHub、不用 Docker,是最省事的路线。配本地 Ollama 可完全离线免费。