Aktuality

Velké jazykové modely (LLM) patří v posledních letech mezi nejčastěji skloňované pojmy v oblasti umělé inteligence. Ruku v ruce s jejich masivním využíváním v praxi roste četnost a závažnost pokusů o manipulaci či zneužití a souběžně s tím i význam kyberbezpečnostní ochrany.

Právě na tomto poli se v loňském roce zrodilo zajímavé prolnutí doktorského výzkumu z FIT VUT a firemní praxe. Navíc hned u předního světového tvůrce open-source softwarových řešení pro podniky. Jakub Reš, doktorand pracující pod vedením doc. Kamila Malinky a člen výzkumné skupiny Security@FIT, zahájil výzkumnou stáž u společnosti Red Hat. Spolupráce se týká zajišťování integrity jazykových modelů a jejich zabezpečení. Jakub se konkrétně věnuje vývoji softwarových metod pro prevenci nebo detekci nepřiznané manipulace s AI modelem. Zásahy do fungování LLM mohou mít několik scénářů: „Uvedu příklad: chatbot na webu zahradnictví, který vrací doporučení na konkurenci anebo odkazuje na nevhodné zboží. Ovšem existují i zneužití vedoucí k možnému masivnímu politickému ovlivňování uživatelů nebo třeba ke generování nebezpečného kódu. A velmi závažným projevem skrytých úprav modelu mohou být i chybné rady týkající se našeho zdraví,“ konkretizuje Jakub Reš možná rizika.

Jak se zrodila Rešova cesta k velkému hráči softwarového vývoje? A k jakým výsledkům spolupráce již vedla? To si můžete přečíst ZDE.

Studenti ze Slovenska a České republiky se 25. dubna v Bratislavě utkali ve finále realistických simulacích kybernetických útoků a obrany. A byli to ti nejlepší. Do závěrečného klání CyberHeroes Academy postoupili vybraní studující z regionálních kol. Na FITu se zásluhou iniciativy výzkumné skupiny Security@FIT a jmenovitě doc. Kamila Malinky akce odehrála loni v listopadu, reportovali jsme o ní zde. Celkově se CyberHeroes Academy zúčastnilo více než 400 soutěžících.

Mezi nejlepší finálovou trojici patří hned dva studenti Fakulty informačních technologií: Jakub Kapitulčín a Radovan Psotný. „Cyber Heroes Academy mi otevřela dveře do světa SOC (Security Operations Center, pozn. redakce), který jsem předtím znal spíše jen teoreticky. Velmi mě bavilo pracovat se skutečnou infrastrukturou, vidět útoky přímo v lozích a na zařízeních a společně s týmem pod časovým tlakem řešit, co se děje a jak na to reagovat,“ vrací se ke své úspěšné finálové účasti Jakub Kapitulčín, který si místní kolo i završení v Bratislavě podle svých slov užil. Ve finále se nově ocitl v pozici týmového vedoucího. Kromě samotné analýzy podezřelých událostí třídil velké množství alertů, spojoval je do konkrétních incidentů, doplňoval k nim další zjištění, rozděloval úkoly mezi členy týmu a pomáhal jim, když se někde takříkajíc nezasekli. Obdobně i Radovan Psotný byl rád za novou příležitost, kterou mu soutěž dala: „Cyber Heroes Academy prověřila moje komunikační schopnosti v rámci týmu, znalosti ze světa kyberbezpečnosti a pomohla mi taky uvědomit si, jak skutečně důležité a perspektivní toto odvětví je.“

CyberHeroes Academy je jako akce mířící na (nejen) vysokoškolské studenty specifickou odpovědí na nedostatek odborníků v oblasti kybernetické bezpečnosti. Poptávka po nich roste ruku v ruce s rostoucím počtem útoků na firmy, veřejné instituce i kritickou infrastrukturu. Hlavním cílem projektu je nabídnout studentům reálnou zkušenost s kybernetickou obranou a útoky, a to v bezpečném, simulovaném prostředí. A jak se zdá i podle slov dvou úspěšných finalistů z FIT VUT, svůj účel akce splnila.

V Ostravě byl v úterý 12. května slavnostně zahájen projekt Czech AI Factory, českého uzlu evropské sítě AI Factories budované v rámci iniciativy EuroHPC JU. Projekt propojuje nový superpočítač KarolAIna a komplexní portfolio služeb pro vývoj a nasazování umělé inteligence v České republice. Výsledná infrastruktura má sloužit firmám, startupům, veřejné správě i výzkumným organizacím, jimž pomůže využívat AI bez nutnosti budovat vlastní rozsáhlé výpočetní zázemí. Uživatelům nabídne přístup k výpočetním kapacitám optimalizovaným pro AI, expertní podporu, datové služby, testování AI řešení i vzdělávací programy. Celkový rozpočet projektu dosahuje téměř 1 miliardy korun, přičemž polovinu financování zajišťuje evropské partnerství EuroHPC JU a polovinu Česká republika prostřednictvím Ministerstva školství, mládeže a tělovýchovy.

Do konsorcia vedeného VŠB – Technickou univerzitou Ostrava a centrem IT4Innovations je zapojeno šest špičkových českých institucí včetně Vysokého učení technického v Brně, jehož účast koordinuje prof. Jan Černocký z Fakulty informačních technologií. „Czech AI Factory představuje zásadní krok pro rozvoj umělé inteligence v České republice. Díky spojení špičkové výpočetní infrastruktury, excelentního výzkumu a úzké spolupráce s průmyslem vzniká prostředí, které umožní zrychlit přenos AI výzkumných výsledků z laboratoří do praxe. Pro VUT je účast v projektu příležitostí aktivně formovat budoucnost evropské AI, podporovat nové talenty a pomáhat firmám a start-upům, ale i veřejným institucím,“ komentuje Černocký význam zahájení projektu.

Černocký v úterý v Ostravě představil jedno z prvních konkrétních řešení, které pro Hasičský záchranný sbor České republiky společně vyvíjejí IT4Innovations a VUT. Jedná se o vývoj AI voicebota pro tísňovou linku 112. Právě FIT VUT patří k významným odborným pilířům projektu: podílí se na vývoji AI služeb (na poli řečových technologií či kyberbezpečnosti) a také vzdělávacích aktivitách i převodu laboratorních prototypů do praxe.

Projekt Czech AI Factory se zaměří mimo jiné na průmysl, zdravotnictví, energetiku, veřejnou správu, kyberbezpečnost a dopravu a má ambici posílit postavení České republiky v evropském ekosystému důvěryhodné a prakticky využitelné umělé inteligence. Více informací se dozvíte v oficiální tiskové zprávě.
O projektu CZ AI Factory jsme psali již na podzim loňského roku.