Проектирование программно-аппаратного комплекса для решения в реальном времени задач классификации средствами трансферного обучения на малых данных

Аннотация

Задачи искусственного интеллекта в реальном времени актуальны в системах высокой доступности для быстрого принятия решений. Выполнение многих из этих задач целесообразно методами трансферного обучения нейросети – подхода, суть которого заключается в тренировке сети на одном наборе данных, а применении уже обученной модели на другом – целевом. Благодаря трансферному обучению можно значительно сократить потребность в целевых данных, повышая точность аналитики средствами тонкой настройки параметров. Однако настройка предварительно обученной модели классификации к новой задаче на малом наборе – процесс вычислительно сложный и длительный, особенно, когда целевые данные существенно отличаются от тех, на которых модель обучалась изначально. В статье предлагается решить проблему подобной адаптации трансферной модели путем разработки программно-аппаратного комплекса, разделяющего тонкую настройку параметров модели и ее последующее развертывание на производительном веб-сервисе, выполняющего классификацию в реальном времени. Такой комплекс обеспечивает повышение эффективности классификации за счет лучшего использования аппаратуры и параллельной обработки данных. Для тонкой настройки выбрана сверточная нейросеть ResNet-18, не подверженная переобучению на небольших конкретных наборах. Особенности сети: компактная архитектура и остаточные блоки, благодаря которым сеть имеет приемлемую скорость обучения и конкурентоспособную точность. Предложена стратегия тонкой настройки модели и разработана программа ее реализации на малых данных с целью прогнозирования класса изображения, достигающая точности прогноза 97%. Модель развернута на веб-сервисе, структура которого представлена в статье, с использованием высокопроизводительного веб-фреймворка FastAPI, выступающего ключевым программным ядром аппаратно-программного комплекса реального времени. Веб-сервис соединяет модель прогнозирования с PWA-устройствами удаленных пользователей, обеспечивая сверхмалые задержки и быстрый обмен информацией при обработке запросов. Эксперимент проведен на доступных интернет-данных с малыми обучающими выборками.