Neurosymbolické metody pro bezpečné řízení agentů

Předmětem disertační práce bude vývoj teoretických základů a algoritmů pro bezpečné řízení agentů s využitím neurosymbolické AI, která kombinuje metody hlubokého zpětnovazebného učení a symbolických formálních metod. Důraz bude kladen na přístupy, které garantují bezpečné a vysvětlitelné řešení. Disertační práce se zaměří na syntézu rozhodovacích stromů a konečně stavových kontrolérů a rovněž na monitorovací metody a runtime verifikaci pro agentní systémy. V rámci disertační práce budou taktéž zkoumány metody strojové učení modelů a jejich abstrakce dovolující využití formálních metod. Práce se zaměří na využití těchto metod v oblasti řízení agentů v prostředí s pravděpodobnostní dynamikou a částečným pozorováním, a na důkladné vyhodnocení aplikovatelnosti těchto metod. Výsledky této práce přispějí k pokroku v oblasti autonomních systémů.

Výzkumu neurosymbolických metod řízení je v současnosti věnována značná pozornost v oblastech umělé inteligence a formálních metod, o čemž svědčí zaměření řady špičkových konferencí (např. AAAI, AAMAS, CAV, či TACAS).

Práce bude řešena ve spolupráci s týmem VeriFIT pod vedením doc. M. Češky. Dále se počítá s úzkou spoluprací se skupinou Prof. N. Jansena (řešitel ERC Starting grantu), Bochum Univeristy, Něměcko, Prof. D. Parkera, Oxford University, UK a prof. S. Jungese Radboud University Nijmegen, Nizozemí.

V případě zodpovědného přístupu a kvalitních výsledků je zde možnost zapojení do grantových projektů (např. české projekty GAČR či evropské projekty Horizone Europe)