Abstrakt: | Prijateľné modely spracovania viet jazyka musia mať schopnosť syntaktickej systematickosti -- vedieť zovšeobecňovať z malej množiny trénovacích viet. Frank skúmal (Frank, 2006), do akej miery túto vlastnosť prejavujú neurónové siete s echo stavmi na úlohe predikcie nasledujúceho slova. Ukázal, že siete s echo stavmi sa správajú tzv. slabo systematicky a vyslovil domnienku, že s narastajúcou veľkosťou lexikónu sa bude ich správanie naďalej zlepšovať. Najprv overujeme jeho výsledky, potom na ne nadväzujeme simuláciami s použitím väčších lexikónov a dynamických rezervoárov. Ukazujeme, že zväčšovanie lexikónu môže, za podmienky použitia dostatočne veľkého dynamického rezervoáru, viesť k ďalšiemu zlepšeniu systematickosti sietí.
|
---|