LIVE

Tether выпустила SDK для локального запуска ИИ на устройствах

Компания Tether анонсировала набор инструментов QVAC SDK, позволяющий разрабатывать и запускать ИИ-модели на пользовательских устройствах без облачной инфраструктуры.

Tether выпустила SDK для локального запуска ИИ на устройствах

Компания Tether представила набор инструментов QVAC SDK, предназначенный для разработки и запуска искусственного интеллекта непосредственно на пользовательских устройствах. Программный комплект с открытым исходным кодом позволяет создавать и дообучать ИИ-модели на устройствах любого класса — от смартфонов до серверов — без зависимости от облачной инфраструктуры.

Решения, реализованные с помощью SDK, могут работать на iOS, Android, Windows, macOS и Linux с единым кодом без необходимости адаптации под конкретную операционную среду. Tether позиционирует QVAC SDK как базовый элемент для нового класса приложений — от персональных ИИ-ассистентов до автономных агентов, интегрированных с Web3-сервисами.

В основе SDK лежит QVAC Fabric — модификация минималистичного движка llama.cpp для запуска локальных моделей. Она поддерживает полную совместимость с экосистемой Llama для генерации текста, эмбеддинга и мультимодальных рабочих нагрузок. Платформа также интегрирует ряд автономных механизмов, таких как Parakeet (распознавание речи) и Bergamot (перевод).

QVAC SDK включает встроенные механизмы P2P-взаимодействия на базе стека Holepunch, позволяющие распространять модели без централизованных серверов и использовать ИИ в распределенной сети. «Мир приближается к моменту, когда миллиарды людей будут делить планету с миллиардами автономных машин и триллионами ИИ-агентов», — отметил CEO Tether Паоло Ардоино.

Что это значит: Tether продолжает развивать технологии децентрализованного ИИ, предлагая решения, которые работают без облачной инфраструктуры. Это может быть полезно для пользователей, которые ценят приватность и устойчивость к сбоям.

Комментарии

0
    Станьте первым, кто прокомментирует эту новость.