Skip to content

About

轻量、本地优先的 Ollama 模型连接与对话组件,支持离线运行、模型查询和基础聊天。

Topics

Resources

Contributing

Stars

0 stars

Watchers

0 watching

Forks

Repository files navigation

EarthfireAI Local AI

一个轻量、本地优先的 Ollama 调用层。它提供模型状态检查、模型列表和基础对话命令,使用 Python 标准库,不包含 Ollama、模型权重、DeepTutor 或任何私人配置。

已实现

  • 连接本机或用户指定的 Ollama 地址。
  • 检查服务状态并列出本地模型。
  • 通过 Ollama /api/chat 完成非流式对话。
  • 从环境变量读取地址、模型和超时。
  • Windows 辅助启动脚本只启动 Ollama 服务,不下载模型。

未包含

  • DeepTutor 和 Open WebUI 的源码或界面。
  • 模型下载、模型权重、知识库、工具箱和云端 API Key。
  • 多用户鉴权、联网发布和后台自动更新。

要求

  • Python 3.10 或更高版本。
  • 用户自行安装 Ollama 并准备一个模型。

安装与使用

python -m venv .venv
.venv\Scripts\python -m pip install -e .
Copy-Item .env.example .env
$env:EARTHFIRE_MODEL='qwen2.5:7b'
earthfire-local-ai status
earthfire-local-ai models
earthfire-local-ai chat "用两句话解释达西定律"

也可以运行 scripts\Start-Ollama.ps1。脚本不会下载模型,也不会修改系统服务。

配置

环境变量 默认值 作用
OLLAMA_BASE_URL http://127.0.0.1:11434 Ollama 地址
EARTHFIRE_MODEL qwen2.5:7b 对话模型
EARTHFIRE_TIMEOUT 120 请求超时秒数

测试

python -m unittest discover -s tests -v

测试使用模拟 HTTP 服务,不要求下载模型。真实对话验收需要用户本机已有 Ollama 与模型。

与其他项目的关系

Knowledge Base 可以独立完成文档索引和检索;Toolbox 可以独立运行确定性计算。本项目只负责模型连接。EarthfireAI 整合版可以同时连接三者。

已知限制

  • 当前 CLI 使用非流式回答。
  • 不负责安装或管理 Ollama 自身。
  • 模型能力、许可证和硬件要求由所选模型决定。

第三方说明

本项目不分发 Ollama 或模型。Ollama 和模型应由用户从官方来源单独取得,并遵守各自许可证。

许可证

原创代码采用 Apache-2.0,见 LICENSE。

About

轻量、本地优先的 Ollama 模型连接与对话组件,支持离线运行、模型查询和基础聊天。

Topics

Resources

Contributing

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages