Nedbalost, země by to neměly podepsat. Experti varují před deklarací summitu o AI

Adam Růžička Adam Růžička
11. 2. 2025 9:34
Na právě probíhajícím akčním summitu o umělé inteligenci (AI) v Paříži vyvolal kontroverzi návrh závěrečné deklarace. Podle britského deníku The Times dokument, který unikl do médií před oficiálním zveřejněním, vzedmul vlnu kritiky od odborníků na AI, a to kvůli odklonu od bezpečnostních závazků z minulosti. 
Summit o umělé inteligenci v Paříži
Summit o umělé inteligenci v Paříži | Foto: Reuters

Malý důraz na bezpečnost přitom vzbuzoval obavy již před summitem, jak napsaly The Times, a to především kvůli rozdílnému přístupu oproti předchozím summitům v britském Bletchley Park a jihokorejském Soulu. Na těch bylo zajištění bezpečnosti a kontroly pokročilých systémů umělé inteligence hlavním tématem.

Profesor Stuart Russell z Kalifornské univerzity v Berkeley označil pařížské prohlášení za výsledek "nepředstavitelné nedbalosti" a upozornil, že návrh opomíjí explicitní závazky týkající se rizik v oblastech kybernetické obrany, biotechnologií a dezinformací. Russella zvláště popudila část, kde se píše, že bezpečnost bude zajištěna skrze "otevřený, mnohostranný a inkluzivní přístup". Tuto formulaci označil za "bezvýznamnou".

Podobně ostrý tón zvolil i profesor Max Tegmark, prezident Institutu pro budoucnost života. Podle něj by přijetí prohlášení v této podobě představovalo "promarněnou příležitost" pro lídry. Tegmark se domnívá, že lídrům tak uteče šance vést mezinárodní debatu o kontrole pokročilých systémů umělé inteligence. "Toto prohlášení se o rizicích ani nezmiňuje a neuvádí žádné konkrétní návrhy, jak zajistit, aby mocné AI systémy zůstaly pod kontrolou a byly prospěšné. Toto alarmující opomenutí svědčí o zásadním nepochopení vědeckých poznatků a je receptem na katastrofu," varoval Tegmark v oficiálním prohlášení.

Na sociálních sítích byl ještě rezolutnější: "Návrh deklarace pařížského summitu o AI, který unikl na X, je zřejmě optimalizován tak, aby si znepřátelil jak vládu USA (svým zaměřením na diverzitu, gender a dezinformace), tak vládu Spojeného království (tím, že zcela ignoruje vědecký a politický konsenzus ohledně rizik systémů umělé inteligence, který byl dohodnut na summitu v Bletchley Park). Země by se neměly pod deklaraci podepsat, protože to zcela ignoruje vědecké poznatky," dodal Tegmark.

Tegmarkův postřeh zřejmě trefil do živého. Politico v pondělí informovalo, že "Spojené království nepodepíše diplomatickou deklaraci, která má v úterý zakončit pařížský summit o opatřeních v oblasti AI". "Deklarace, která se zavazuje pracovat na 'inkluzivní a udržitelné umělé inteligenci', nemá podporu USA a bez ní se také Britové zdráhají posvětit ji," dodal list k postoji Spojeného království.

Francouzský prezident Emmanuel Macron, který dvoudenní summit inicioval, ho nazval "akčním", neboť francouzské setkání má nastolit odlišný přístup k umělé inteligenci. V podobném stylu reagovala francouzská strana na odpor některých signatářů. Jeden nejmenovaný francouzský představitel význam podpisů mírnil a pro Politico uvedl, že "na velkých diplomatických deklaracích nezáleží". Zdůraznil, že Francie by raději "posunula perspektivu a konverzaci".

Francouzské přehlížení otázky bezpečnosti čelilo kritice již před začátkem summitu, jak upozornil komentář v časopise Time. Ke kritice se tehdy vyjádřila zvláštní zmocněnkyně francouzského prezidenta pro umělou inteligenci Anne Bouverotová. "Mám jeden citát od Marie Curie-Sklodowské, který se mi moc líbí," prohlásila. "V životě se není třeba ničeho bát, je třeba to jen pochopit." 

Autor komentáře Harry Booth reagoval na Bouverotovou a připomněl, že francouzskou chemičku Curie-Sklodowskou její práce nakonec stála život - zemřela poměrně brzy v 66 letech na vzácné onemocnění krve, které pravděpodobně způsobilo dlouhodobé vystavování se radiaci.

Video: Z Číny přišel šok. Expert na umělou inteligenci popisuje, jak svět změní DeepSeek (29. 1. 2025)

Video: Adam Růžička
 

Právě se děje

Další zprávy