Електронний каталог науково-технічної бібліотеки
Вінницького національного технічного університету

ПРАВИЛА КОРИСТУВАННЯ ЕК
          Бодянський, Є. В.
    Адаптивно гібридна функція активації для глибоких нейронних мереж (на англ. мові) [Текст] / Є. В. Бодянський, С. О. Костюк
    // Системні дослідження та інформаційні технології. – 2022. – № 1. – С. 87-96. – DOI: 10.20535/SRIT.2308-8893.2022.1.07.

   Запропоновано адаптивну гібридну функцію активації (AHAF), що поєднує особливості випрямних блоків (rectifier units) та стискальних (squashing) функцій. Запропонована функція може бути використана як пряма заміна активаційних функцій ReLU, SiL і Swish для глибоких нейронних мереж, а також набути форми однієї з цих функцій в процесі навчання. Ефективність функції досліджено на задачі класифікації зображень на наборах даних Fashion-MNIST і CIFAR-10. Результати дослідження показують, що нейронні мережі з активаційними функціями AHAF показують точність класифікації кращу, ніж їх базові реалізації на основі ReLU та SiL. Запропоновано двоетапний процес налаштування параметрів для навчання нейронних мереж з AHAF. Запропонований підхід достатньо простий в реалізації та забезпечує високу продуктивність у навчанні нейронної мережі.

  УДК 004.8:004.032.26


            


Є складовою частиною документа Системні дослідження та інформаційні технології [Текст] = System Research @ Information Technologies : міжнародний науково-технічний журнал / МОН України, НАН України, ін-т прикладного системного аналізу. – 2022. – № 1.



Теми документа






Український Фондовий Дім Інформаційно-пошукова система
'УФД/Бібліотека'