GPT4All 是一个生态系统,用于运行功能强大且定制的大型语言模型,这些模型可以在消费级 CPU 和任何 GPU 上本地运行。请注意,您的 CPU 需要支持 AVX 或 AVX2 指令。
GPT4All 模型是一个 3GB – 8GB 文件,您可以下载该文件并将其插入 GPT4All 开源生态系统软件中。 Nomic AI 支持并维护这个软件生态系统,以加强质量和安全性,同时带头让任何个人或企业轻松训练和部署自己的边缘大型语言模型。
新增内容(问题跟踪器)
- 2023 年 10 月 19 日:GGUF 支持启动,支持:
- Mistral 7b 基础模型、gpt4all.io 上更新的模型库、几个新的本地代码模型,包括 Rift Coder v1.5
- Nomic Vulkan 支持 GGUF 中的 Q4_0、Q6 量化。
- 离线构建支持运行旧版本的 GPT4All 本地 LLM 聊天客户端。
- 2023 年 9 月 18 日:Nomic Vulkan 推出支持 AMD、Intel、Samsung、Qualcomm 和 NVIDIA GPU 上的本地 LLM 推理。
- 2023 年 8 月 15 日:GPT4All API 启动,允许从 docker 容器推断本地 LLMs。
- 2023 年 7 月:对 LocalDocs 的稳定支持,这是一个 GPT4All 插件,可让您在本地私下与数据聊天。
聊天客户端
使用自动更新的桌面聊天客户端在您的家庭桌面上本机运行任何 GPT4All 模型。请参阅 GPT4All 网站,获取可与此功能强大的桌面应用程序一起运行的开源模型的完整列表。
GPT4All 的功能
探索 GPT4All 的功能。在您自己的硬件上。
回答有关世界的问题
有任何问题都可以向 GPT4All 询问。
个人写作助理
撰写电子邮件、文档、创意故事、诗歌、歌曲和戏剧。
了解文档
提供您自己的文本文档并接收有关其内容的摘要和答案。
编写代码
获取有关简单编码任务的指导。代码能力正在改进中。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
THE END
请登录后查看评论内容