Černý scénář s umělou inteligencí: Přijde "náhlá ztráta". Najednou to nepůjde vypnout

Adam Růžička Adam Růžička
10. 2. 2025 17:00
V pondělí začal v Paříži mezinárodní summit o AI. Jde o třetí velký summit k problematice umělé inteligence a zároveň se hovoří o tom, že v porovnání s předchozími dvěma ten nynější přehlíží existenční riziko nové technologie. Podceňuje Francie bezpečnost? Hrozí, že ztratíme nad superinteligentními stroji kontrolu? Na to odpovídá odborník na bezpečnost AI z Univerzity v Oxfordu Ondřej Bajgar.
Spotlight News - Ondřej Bajgar | Video: Adam Růžička

Francie pořádá dvoudenní summit o umělé inteligenci. Zúčastnit se mají politické špičky z 80 zemí, mimo jiné americký viceprezident J. D. Vance či indický premiér Naréndra Módí. Vystoupí i český prezident Petr Pavel. Z řad technologických gigantů přijedou například šéfové společností OpenAI a Google.

Ondřej Bajgar

Vystudoval matematiku na Univerzitě ve Warwicku. Pracoval jako vědecký pracovník ve společnosti IBM Watson a působil také v Institutu pro budoucnost lidstva. V současnosti dělá výzkum na Univerzitě v Oxfordu v oblasti bayesovského strojového učení a bezpečnosti umělé inteligence.  

V lednu vyšel mezinárodní report o bezpečnosti AI, který mimo jiné zmiňuje, že "vývojáři dosud nerozumějí tomu, jak jejich modely umělé inteligenci fungují. To ztěžuje předvídání jejich chování a řešení problémů v momentě, kdy se objeví". Mělo by nás to znepokojovat? A podlehla Francie tlakům byznysu a opomíjí kvůli tomu nebezpečí nové technologie?

Podívejte se na video v úvodu článku.

 

Právě se děje

Další zprávy