Основные возможности v0.2.0
Удобный просмотр локальных .gguf моделей, встроенный поиск по HuggingFace Hub с сортировкой, отслеживанием прогресса и скачиванием в один клик.
Настоящая системная консоль прямо в правой панели (cmd.exe в Windows, xterm в Linux). Поддерживает интерактивные TUI-утилиты (например, pi).
Индикатор статуса с цветовой индикацией (зеленый/оранжевый/синий) и живое определение установленной версии llama-server через опрос --version.
Быстрый запуск установки консольного pi-агента прямо из меню приложений (Файл → Установить pi-агента).
Расширенная гибкая конфигурация: контекст, GPU, память, CPU, batch, параметры генерации, MoE, Embeddings/Reranking, SSL и опции бэкендов.
Поддержка тёмной и светлой темы оформления, а также мгновенное переключение языка интерфейса (RU / EN).
Видеоинструкции и демонстрации
Узнайте, как эффективно настраивать контроллер, искать и скачивать модели с HuggingFace и работать со встроенным терминалом.
История релизов
Выберите необходимую версию или архив релиза
Главное обновление приложения:
- Менеджер моделей: Поиск и прямое скачивание файлов .gguf с HuggingFace Hub.
- Встроенный системный терминал: Интеграция настоящей консоли ОС прямо в панель интерфейса.
- Система статусов и версий: Живой опрос версии llama-server --version и цветовой индикатор работы сервера.
- Расширенная конфигурация: 18 категорий параметров запуска.
- Интеграция pi-агента: Пункт меню для автоматической установки.
Добавлена тёмная тема интерфейса, автоматическая проверка обновлений самого приложения и свежих сборок llama.cpp.
Быстрый запуск
Запустите контроллер и скачайте бэкенд через Файл → Установить llama.cpp.
Скачайте модель в Файл → Модели… через HuggingFace или выберите локальный .gguf.
Настройте GPU-слои, контекст и параметры генерации в боковом меню.
Нажмите Старт. Сервер запустится на порту 18080 и откроется в браузере!
Системные требования
- ✔ Windows: Windows 10/11 x64 (полная поддержка).
- ✔ Linux: Ubuntu 20.04+ (пакеты .deb, .rpm, .tar.gz).
- ✔ Python: Версии 3.8–3.12 (при сборке из исходных файлов).
Поддерживаемое железо (Бэкенды)
Приложение поддерживает любые графические процессоры благодаря глубокой интеграции с экосистемой: