|
Скуржанський, О. Г. Спеціалізоване попереднє навчання нейромережевих моделей на синтетичних даних для покращення генерації перефразування [Текст] / О. Г. Скуржанський, О. О. Марченко, А. В. Анісімов // Кібернетика та системний аналіз. – 2024. – Т.60, № 2. – С. 3-12.
Запропоновано простий та ефективний підхід до попереднього навчання спеціально для генерації перефразувань, який помітно підвищує якість генерації перефразувань та забезпечує суттєве покращення моделей загального призначення. Використано як наявні публічні дані, так і нові, згенеровані великими мовними моделями. Досліджено, як ця процедура попереднього навчання впливає на нейронні мережі різної архітектури, та доведено, що вона працює ефективно для всіх архітектур. |