Повсеместное внедрение нейросетей, ставшее главным IT-трендом последнего времени, порой сталкивается с проблемой: мощности гаджетов не хватает для работы с тяжеловесными нейросетевыми архитектурами. В результате пользователи не могут использовать искусственный интеллект на смартфонах без интернета. О том, как сжатие нейросетей помогает решить этот вопрос, и какие возможности оно открывает для пользователей, в колонке для Forbes рассказывает ученый «Сколтеха», резидент Yandex Research ML Residency, лауреат премии Yandex ML Prize в номинации «Исследователи Яндекса» Денис Кузнеделев Запрос на сжатие
Сегодня все больше людей и предприятий внедряют технологии искусственного интеллекта (ИИ) для решения своих задач. Однако современные нейросети разных видов (генеративные, сверточные и другие), которые могут показывать высокое качество при выполнении целевых задач, обычно требуют много ресурсов и дорогостоящей инфраструктуры для внедрения. Их может себе позволить далеко не каждый человек или малый бизнес.
В результате нейросетевые архитектуры на гаджетах пользователей работают или хорошо, но медленно, или быстро, но с многочисленными ошибками. Пользователи просто не могут полноценно применять многие технологии с хорошим качеством — например, для обработки изображений, распознавания речи или переводов.