DeepSeek 导航网:AnythingLLM 开源基于 RAG 私有知识库,可以将任何文档、资源(如网址链接、音频、视频)或内容片段转换为上下文,以便任何大语言模型(LLM)在聊天期间作为参考使用。此应用程序允许您选择使用哪个 LLM 或向量数据库,同时支持多用户管理并设置不同权限。用 DeepSeek 建立个人知识库,可以本地运行,也可以远程托管,并能够与您提供的任何文档智能聊天。
功能特色
- 多用户支持和权限管理:允许多个用户同时使用,并可设置不同的权限。
- 支持多种文档类型:包括 PDF、TXT、DOCX 等。
- 简易的文档管理界面:通过用户界面管理向量数据库中的文档。
- 两种聊天模式:对话模式保留之前的问题和回答,查询模式则是简单的针对文档的问答
- 聊天中的引用标注:链接到原始文档源和文本。
- 自带 LLM 模式:可以选择使用商业或开源的 LLM 。
- 高效的成本节约措施:对于大型文档,只需嵌入一次,比其他文档聊天机器人解决方案节省 90% 的成本。
- 完整的开发者 API:支持自定义集成。
支持的 LLM
支持的 LLM
- 任何与 llama.cpp 兼容的开源模型
- OpenAI
- OpenAI (通用)
- Azure OpenAI
- AWS Bedrock
- Anthropic
- NVIDIA NIM (聊天模型)
- Google Gemini Pro
- Hugging Face (聊天模型)
- Ollama (聊天模型)
- LM Studio (所有模型)
- LocalAI (所有模型)
- Together AI (聊天模型)
- Fireworks AI (聊天模型)
- Perplexity (聊天模型)
- OpenRouter (聊天模型)
- DeepSeek (聊天模型)
- Mistral
- Groq
- Cohere
- KoboldCPP
- LiteLLM
- Text Generation Web UI
- Apipie
- xAI
- Novita AI (聊天模型)
- PPIO (聊天模型)
支持的嵌入模型
支持的转录模型
- AnythingLLM 内置 (默认)
- OpenAI
TTS (文本转语音) 支持
- 浏览器内置(默认)
- PiperTTSLocal - 在浏览器中运行
- OpenAI TTS
- ElevenLabs
- 任何与 OpenAI 兼容的 TTS 服务
STT (语音转文本) 支持
- 浏览器内置(默认)
API部署