|
Tytarenko, A. Багатокрокове прогнозування в лінеаризованих латентних просторах для навчання репрезинтацій [Текст] = Multi-step prediction in linearized latent state spaces for representation learning / A. Tytarenko // Системні дослідження та інформаційні технології. – 2022. – № 3. – С. 139-148. – DOI: 10.20535/SRIT.2308-8893.2022.3.09.
In this paper, we derive a novel method as a generalization over LCEs such as E2C. The method develops the idea of learning a locally linear state space by adding a multi-step prediction, thus allowing for more explicit control over the curvature. We show that the method outperforms E2C without drastic model chang-es which come with other works, such as PCC and P3C. We discuss the relation be-tween E2C and the presented method and derive update equations. We provide em-pirical evidence, which suggests that by considering the multi-step prediction, our method - ms-E2C - allows learning much better latent state spaces in terms of cur-vature and next state predictability. Finally, we also discuss certain stability chal-lenges we encounter with multi-step predictions and how to mitigate them.
Запропоновано новий метод, що узагальнює підходи LCE, такі як E2C. Метод розвиває ідею вивчення локально-лінійного простору станів шляхом розглядання багатокрокового прогнозування, що дає змогу чіткіше контролювати кривизну шуканого простору. Продемонстровано, що метод перевершує E2C без суттєвих змін загальної моделі, на відміну від інших робіт, таких як PCC і P3C. Розглянуто зв'язок між E2C і запропонованим методом та між їх відповідними рівняннями оновлень. Подано емпіричні докази, які свідчать, що ms-E2C дозволяє набагато краще вивчати простори прихованих станів з точки зору кривизни та прогнозованості наступних станів. Крім того, висвітлено певні проблеми стабільності, пов'язані з багатокроковими прогнозами, та способи їх вирішення. |