|
Литвин, М. О. Автоматизований підхід до датування англомовного тексту з використанням трансформерних нейронних мереж [Електронний ресурс] / М. О. Литвин, Л. М. Олещенко // Вісник Вінницького політехнічного інституту. – 2025. – № 3. – С. 133-139. – DOI: https://doi.org/10.31649/1997-9266-2025-180-3-133-139.
Запропоновано автоматизований підхід до датування англомовного тексту з використанням трансформерних нейронних мереж, який дозволяє визначати приблизне десятиліття написання фрагмента тексту з точністю до 30 років на рівні 85 % у проміжку XV—XX ст. Це перевищує результати аналогічних методів, що працюють з англомовними текстами. Основна ідея запропонованого підходу полягає у використанні принципів передавального навчання для додатково адаптованої до конкретного завдання та попередньо навченої трансформерної нейронної мережі, оптимізованої для класифікації текстових фрагментів за десятиліттями. Однією з ключових переваг запропонованого підходу є застосування трансформерної архітектури, що завдяки механізму уваги враховує складні зв'язки між частинами тексту. Іншою важливою перевагою є використання передавального навчання, що значно зменшує затрати часу та обчислювальних ресурсів у порівнянні з безпосереднім навчанням моделі. Реалізація запропонованого підходу виконувалася мовою Python з використанням бібліотек «transformers» для навчання та тестування нейронної мережі, «datasets» для роботи з набором даних та «numpy» для обчислень. |