MLOPS ПРОТОТИП СИСТЕМИ ШТУЧНОГО ІНТЕЛЕКТУ ДЛЯ ГРАНИЧНИХ ОБЧИСЛЕНЬ

Анотація

У статті представлено підхід до розробки системи штучного інтелекту, що базується на сучасній концепції MLOps. Така система розроблена в контексті граничних обчислень та представляє собою апаратно-програмний комплекс, який не залежить від доступу до хмарних сервісів та може розгортатися локально. Для периферійної апаратної частини ми використовуємо мікрокомп’ютер Nvidia Jetson Nano, який виступає в якості серверної частини для обробки мережевих запитів, зберігання даних і саморозгортання моделей машинного навчання. Запропоновано робочий конвеєр MLOps, повністю розроблений з використанням таких промислових програмних рішень як TensorFlow 2, Mlflow, Apache Airflow. Такий конвеєр повністю інтегрується у розроблений прикладний програмний інтерфейс. Архітектурна схема конвеєра складається з трьох операційних етапів: а) зберігання та обробки даних, що означає отримання даних з бази даних, очищення та їх перетворення для використання у процесі тренування моделі машинного навчання – рекурентної нейтронної мережі б) створення моделі з синхронною оптимізацією гіперпараметрів та реєстрацією моделі; в) розгортання та обслуговування моделі. Увесь конвеєр обгорнутий REST API, створеним за допомогою мікро-фреймворку FastAPI і організований за допомогою служби Apache Airflow. Для реалізації описаного конвеєра ми вибрали температурні дані, які оброблялися рекурентною нейронною мережею на основі GRU, що здійснює короткотермінове прогнозування температури. Гіперпараметри цієї мережі можна оптимізувати за допомогою генетичного алгоритму, який реалізовується під час другого етапу конвеєра та викликається паралельно у процесі її тренування. Також на основі технології сокетів наведена схема приєднання сервера Nvidia Jetson Nano до іншого граничного пристрою – мікроконтролера STM32 H745, що слугує об’єктом розгортання натренованої на сервері нейромережі.

Ключові слова: граничні обчислення, MLOps, машинне навчання, Mlflow, генетичний алгоритм.