Tether представляет TurboQuant для запуска более крупных моделей ИИ на устройствах
Tether добавила новый инструмент оптимизации памяти в QVAC SDK 0.12.0 — шаг, который может помочь ноутбукам, смартфонам и другим устройствам справляться с большими локальными нагрузками. Объявляя обновление на X, генеральный директор Паоло Ардоино сообщил, что релиз включает TurboQuant — технологию, которая снижает требования к памяти ИИ до пяти раз, сохраняя при этом почти одинаковое качество …