Команда Yandex Research разработала метод HIGGS, который позволяет «ужимать» сложные ИИ-модели до размеров, совместимых с обычными ноутбуками и смартфонами, без потери качества. Технология устраняет ключевое препятствие для массового использования ИИ — зависимость от дорогих серверов и видеокарт. Лаборатория Yandex Research совместно с ведущими научными вузами создала метод HIGGS, который позволяет сжимать большие языковые модели (LLM) [&]

Компьютерра

https://www.computerra.ru/312593/uchenye-razrabotali-metod-pozvolyayushhij-effektivno-zapuskat-llm-na-obychnyh-ustrojstvah-bez-moshhnyh-serverov/