llama.cpp b12079: поддержка NCCL для кластеров
· 1 мин чтения
В сборке b11958 эндпоинт /v1/realtime научился обрабатывать вызовы инструментов. То есть локальный голосовой ассистент теперь может не только говорить, но и…
1 мин чтенияРедакция «Нейродвиж»Источник: GitHub llama.cpp
В сборке b11958 эндпоинт /v1/realtime научился обрабатывать вызовы инструментов. То есть локальный голосовой ассистент теперь может не только говорить, но и выполнять действия.
Обновить llama.cpp до b11958.
Это короткий пересказ своими словами, а не перевод. Текст подготовлен с помощью ИИ и сверен с источником. Нашли ошибку?
· 1 мин чтения
· 1 мин чтения
· 1 мин чтения