Ollama LM Studio llama.cpp Open Source / 开源

本地 LLM 聊天平台 Local LLM Chat Platform

Helix 是一个开源平台，支持多模型运行时、本地部署、群聊讨论、深度监控和参数调优。让多个 AI 模型协作讨论，自主得出最佳方案。 Helix is an open-source platform for multi-model runtimes, local deployment, group chat discussions, deep monitoring, and parameter tuning. Enable multiple AI models to collaborate and reach optimal solutions together.

GitHub 仓库 GitHub Repository → 快速开始 Quick Start

Python FastAPI React TypeScript WebSocket
3+
支持模型运行时
Model Runtimes
5
群聊模式
Group Chat Modes
∞
可扩展插件
Extensible Plugins
3
部署模式
Deployment Modes

核心功能 Core Features

多运行时支持 Multi-Runtime Support

统一接口连接 Ollama、LM Studio、llama.cpp，自动适配不同运行环境。 Unified interface connecting Ollama, LM Studio, and llama.cpp with automatic runtime adaptation.

群聊模式 Group Chat Modes

并行响应、串行对话、角色分工、自主讨论，多种模式自由切换。 Parallel responses, serial dialogue, role-based collaboration, and autonomous discussion modes.

深度监控 Deep Monitoring

实时显示内存占用、GPU 使用、参数数量、量化类型、KV Cache 等详细信息。 Real-time display of memory usage, GPU utilization, parameter counts, quantization types, and KV cache.

参数调优 Parameter Tuning

全局、会话级、模型级三级参数配置，实时调整 temperature、top_p 等。 Three-level parameter config (global, conversation, model) with real-time temperature, top_p tuning.

跨平台部署 Cross-Platform Deployment

支持 Linux、Windows、macOS，可本地、局域网、远程服务器多种模式。 Runs on Linux, Windows, macOS — deploy locally, on LAN, or connect to remote servers.

插件系统 Plugin System

事件驱动的插件架构，轻松扩展新功能：模型评分、聊天导出、能力对比。 Event-driven plugin architecture for easy extension: model scoring, chat export, capability comparison.

系统架构 System Architecture

Frontend React + Vite + TS Model Management UI Chat + Monitor REST / WS Backend API FastAPI + Socket.IO /models /chat /monitor /config + WebSocket HTTP Model Runtimes Local / LAN / Remote Ollama · LM Studio llama.cpp Core Modules Model Adapters OllamaAdapter LMStudioAdapter LlamaCppAdapter Plugin API Chat Engine Parallel · Serial Role-based · Autonomous Control: pause / resume 5 modes Monitor Agent CPU / RAM / GPU Model Params · KV Cache Quantization Info Real-time Plugin System Event Bus + Hooks pre_generate · post_generate · on_metrics · on_chat_event Extensible: scoring · export · benchmarking Config Global / Session / Model bindings Import / Export Storage JSON · SQLite Chat History Cloud Sync (opt)

快速开始 Quick Start

1. 克隆仓库 1. Clone the Repository

git clone https://github.com/TbusOS/Helix.git
cd Helix

2. 启动后端 2. Start Backend

cd backend
pip install -r requirements.txt
uvicorn helix.main:app --reload --port 8000

3. 启动前端 3. Start Frontend

cd frontend
npm install
npm run dev

4. 使用 Docker (可选) 4. Using Docker (Optional)

docker-compose up -d

功能对比 Feature Comparison

功能 Feature Helix Open WebUI Lobe Chat SillyTavern
多运行时支持 Multi-Runtime ✓ Ollama/LM Studio/llama.cpp ✓ Ollama + OpenAI ✓ Ollama + OpenAI ○ API only
群聊模式 Group Chat ✓ 5 种模式 ○ Limited ○ In progress ✓ Extensions
深度监控 Deep Monitoring ✓ 全方位 ○ Basic ○ Basic ○ Limited
参数调优 Parameter Tuning ✓ 三级配置 ✓ Yes ✓ Yes ✓ Yes
插件系统 Plugin System ✓ Event-driven ○ Extensions ✓ Plugins ✓ Rich ecosystem
跨平台部署 Cross-Platform ✓ 本地/LAN/远程 ✓ Local ✓ Cloud ✓ Local
开源协议 License Apache 2.0 MIT MIT MIT

开源贡献 Open Source Contribution

Helix 采用 Apache 2.0 开源协议，欢迎提交 Issue 和 Pull Request！你的每一份贡献都将推动项目发展。 Helix is Apache 2.0 licensed. Contributions, Issues, and Pull Requests are welcome! Every contribution helps make this project better.

提交 Issue Submit Issue 提交 PR Submit PR