ВИКОРИСТАННЯ БІБЛІОТЕКИ ПРОГРАМ TENSORFLOW ДЛЯ РЕАЛІЗАЦІЇ НЕЙРОМЕРЕЖ НА МІКРОКОНТРОЛЕРАХ ФІРМИ INFINEON TECHNOLOGIES AG

A. Tsemko, Ya. Berko, V. Bihday, Zinovii Liubun

Анотація


Останнім часом суттєво збільшується кількість задач розв’язання яких через свою складність стає можливою тільки з використанням методів машинного навчання. Виходячи з означення машинного навчання, можна зрозуміти, що його використовують у випадках, коли традиційним способом задача погано формалізується і визначення правил чи закономірностей для неї утруднене. Так, наприклад, використовуючи традиційні парадигми програмування, написання алгоритму розпізнавання зображень в більшості випадків не дає задовільних результатів. В такому випадку звертаються до машинного навчання, яке визначає правила і закономірності, аналізуючи вхідні і вихідні дані, і надає можливість з певною імовірністю провести розпізнавання зображення.

Головною проблемою використання нейронних мереж на сьогодні є те, що їх розмір, а через це і кількість математичних операцій, займає дуже великий обсяг. Це призводить до ускладнення і зниження швидкодії алгоритмів, які використовують нейронні мереж. Зазвичай, задачі з використанням нейронних мереж потребують отримання швидкого результату, і тоді, для використання нейронних мереж на IoT пристроях підключають віддалений сервер, який отримує набір даних, пропускає їх через нейронну мережу, і надсилає дані у відповідь. У такого способу організації використання нейронної мережі є очевидні недоліки, такі як: потреба у постійному і швидкому інтернет підключенні (що іноді не є можливим); потрапляння конфіденційної інформації користувача у інтернет мережу (що підвищує ризик перехоплення цих даних зловмисниками); потужний віддалений сервер, який спроможний паралельно обраховувати достатню кількість запитів від пристроїв користувачів, задля надання мінімального часу затримки між отриманням і надсиланням запитів і т.д.

Альтернативним способом використання та організації нейронних мереж на IoT пристроях є їх квантування (перетворення значень ваг нейронної мережі в цілочисельні значення з значень із плаваючою комою), що значно зменшує розмір навченої нейронної мережі, і дозволяє, в свою чергу, обчислювати математичні операції нейронних мереж на процесорах, призначених для роботи з цілочисельними типами даних. Такий спосіб організації нейронних мереж не потребує доступу до інтернету, що, в свою чергу, виключає час очікування на передачу і приймання даних по бездротових мережах, а також виключає можливість перехоплення конфіденційних даних користувача під час передавання або приймання даних.

Ключові слова: штучні нейронні мережі, нейронні мережі на мікроконтролері, квантування нейронних мереж.


Повний текст:

PDF

Посилання


TensorFlow Guide [Електронний ресурс] – Режим доступу: https://www.tensorflow.org/guide - 30.09.2020

Post-training quantization [Електронний ресурс] – Режим доступу: https://www.tensorflow.org/lite/performance/post_training_quantization - 11.11.2020

Karpin O. Method of Neural Network Training with Integer Weights / O. Karpin, V. Mandziy, Z. Liubun, V. Rabyk // Proceedings of the XIth International Scientific and Practical Conference "Electronics and Information Technologies" (ELIT - 2019), September 16 – 18, 2019, Lviv, Ukraine. P. 168 – 172. doi: 10.1109/ELIT.2019.8893349 .

CY8CKIT-062-WiFi-BT PSoC® 6 Wi-Fi Pioneer Kit Guide [Електронний ресурс]

Документація Cypress Semiconductor щодо мікроконтролера PSoC 6 6 Wi-Fi Pioneer Kit – Режим доступу: https://www.cypress.com/file/407731/download – 30.09.2020 р.




DOI: http://dx.doi.org/10.30970/eli.14.4

Посилання

  • Поки немає зовнішніх посилань.