llama.cpp b12079: поддержка NCCL для кластеров
· 1 мин чтения
Версия 0.8.0 добавила поддержку семейства LiquidAI LFM3 и экспериментальный голосовой API через эндпоинт /v1/realtime. То есть локальный сервер теперь умеет…
1 мин чтенияРедакция «Нейродвиж»Источник: GitHub llama.cpp
Версия 0.8.0 добавила поддержку семейства LiquidAI LFM3 и экспериментальный голосовой API через эндпоинт /v1/realtime. То есть локальный сервер теперь умеет обрабатывать речь и новые архитектуры из коробки.
Обновить llama.cpp до версии 0.8.0.
Это короткий пересказ своими словами, а не перевод. Текст подготовлен с помощью ИИ и сверен с источником. Нашли ошибку?
· 1 мин чтения
· 1 мин чтения
· 1 мин чтения