Kompetentný reasoning a spoľahlivý výkon algoritmov – ku skutočne kompetentným LLM

Veľké jazykové modely (LLM) v súčasnosti stoja za veľkou časťou pokroku v oblasti umelej inteligencie, a to najmä vďaka schopnosti vykonávať širokú škálu úloh v zero-shot režime – teda na základe opisu úlohy v prirodzenom jazyku – a tiež vďaka veľkému množstvu poznatkov o svete, ktorými disponujú.

Napriek tomu má súčasná generácia LLM stále viacero slabín, ktoré obmedzujú ich kompetentnosť pri riešení širokého spektra náročných úloh; napr.:

• Obmedzená schopnosť korektne a robustne vykonávať algoritmy: Aj najpokročilejšie modely majú problémy so správnym vykonávaním algoritmov (najmä pri väčšom počte krokov).
• Obmedzená schopnosť bootstrap-ovať komplexné reasoningové zručnosti: Hoci sú už dnes modely explicitne trénované na realizáciu deliberatívneho reasoning-u, viaceré práce ukazujú, že súčasná generácia tréningových metód (ako GRPO, GSPO a pod.) nedokáže úspešne bootstrap-ovať nové a lepšie schopnosti reasoning-u, ale skôr len posilňujú už existujúce reasoningové trajektórie, ktoré sa model naučil pri predtrénovaní.

Ďalším príkladom je obmedzená schopnosť efektívne sa za behu učiť zo skúseností (čo je zložka toho, ako dosahujú skutočnú kompetenciu ľudia) a mnoho ďalších problémov. Hoci to v značnej miere platí pre všetky dnešné modely, tieto problémy sú typicky oveľa výraznejšie pri malých modeloch. To má, samozrejme, vážne dôsledky pre množstvo aplikácií, ktoré vyžadujú kompaktné modely, ktoré je možné prevádzkovať lokálne.

Cieľom tohto výskumu je:

• Diagnostikovať: Preskúmať v čom a prečo majú súčasné modely a tréningové prístupy problémy. V tejto fáze môže študent čerpať z existujúcich poznatkov (ako sú práce o over-squashingu a reprezentančnom kolapse v transformer architektúrach), formulovať vlastné hypotézy a overovať ich nástrojmi mechanistickej interpretovateľnosti, využívať analógie s prípadmi, kde podobné prístupy fungujú (napr. reinforcement learning metódy ako AlphaZero a MuZero – alebo dokonca analógie z kognitívnej vedy týkajúce sa rôznych typov ľudskej pamäte a podobne), atď.
• Riešiť: Využiť poznatky získané vo fáze diagnostiky na zmiernenie niektorých problémov – úpravou identifikovaných slabín, ako sú obmedzenia vyplývajúce z architektúry, tréningovej metodológie, tréningových dát a spôsobu ich predspracovania atď.

Súvisiace publikácie:

• Gurgurov, Daniil, Michal Gregor, Josef van Genabith, Simon Ostermann. "On Multilingual Encoder Language Model Compression for Low-Resource Languages". International Joint Conference on Natural Language Processing & Asia-Pacific Chapter of the Association for Computational Linguistics, 2025
• Vykopal, I., Pikuliak, M., Ostermann, S., Anikina, T., Gregor, M. and Šimko, M., 2025. Large Language Models for Multilingual Previously Fact-Checked Claim Detection. EMNLP 2025 (pp. 15741–15765).

Výskum bude doktorand vykonávať v rámci Kempelenovho inštitútu inteligentných technológií (KInIT, https://kinit.sk) v Bratislave v spolupráci s priemyselnými partnermi alebo výskumníkmi zo svetovo uznávaných výskumných skupín. Predpokladá sa kombinovaná (externá) forma štúdia a pracovný pomer na plný úväzok v KInIT.