| |
Кривошея, М. І. Дослідження феномену подвійного спуску та порівняння мінімаксної апроксимації з L2-регуляризацією [Електронний ресурс] / М. І. Кривошея // Оптико-електронні інформаційно-енергетичні технології. – 2025. – Т. 49, № 1. – С. 36-43. – DOI: https://doi.org/10.31649/1681-7893-2025-49-1-36-43.
Досліджено феномен подвійного спуску та запропоновано використання мінімаксної апроксимації як альтернативу L2-регуляризації для покращення якості апроксимації моделей. Подвійний спуск описує залежність похибки від складності моделі: похибка спершу зменшується, потім зростає через перенавчання, а далі знову знижується. Проте в експериментах із моделлю без регуляризації було виявлено переважно зростаючу тенденцію похибки із короткими періодами спаду, що свідчить про неповний прояв феномену. Це, ймовірно, пов'язано з аномальними точками в даних, які спричинили експоненційне зростання похибки на високих ступенях. Було розглянуто три підходи: класичну модель без регуляризації, модель із L2-регуляризацією та мінімаксну апроксимацію. L2-регуляризація додала штраф за велику норму коефіцієнтів, що дозволило стабілізувати похибку та запобігти перенавчанню, особливо на високих ступенях полінома (200+). |