Americká vláda zakázala Anthropicu poskytovat Fable 5 a Mythos 5 zahraničním uživatelům

Americká firma Anthropic přestala všem svým klientům poskytovat přístup k nejnovějším AI modelům Fable 5 a Mythos 5. Jde o reakci na nařízení americké vlády, že nesmí tyto modely zpřístupňovat jakýmkoli zahraničním uživatelům, včetně cizích státních příslušníků mezi svými zaměstnanci. Anthropic o tom informoval na svém blogu.

Model Fable 5, který firma veřejně uvedla před několika dny, tak je momentálně v aplikaci Claude i ve webovém rozhraní nedostupný úplně všem uživatelům, aby Anthropic dokázal zajistit, že vládnímu nařízení vyhoví. Další veřejně poskytovaných modelů se omezení netýká. Jak dlouho zákaz potrvá zatím není jasné.

Anthropic píše, že vládní nařízení zákaz vysvětluje možným rizikem pro národní bezpečnost USA, aniž by obavy úřadů blíže vysvětlovalo.

„Myslíme si, že vláda věří, že se dozvěděla o možnosti, jak Fable 5 ‚jailbreaknout‘ či prolomit,“ píše firma. Fable je – zjednodušeně řečeno – komerčně nabízená verze výkonnějšího modelu Mythos, která obsahuje ochranné prvky bránící používání modelu pro potenciálně nebezpečné účely.

Mythos totiž Anthropic zatím poskytuje jen vybraným firmám a institucím, protože model podle firmy dokáže nebývale dobře odhalovat zranitelnosti v softwaru a aplikacích, což by se dalo potenciálně zneužít k útokům. Ve Fable jsou možnosti používat model k hledání softwarových chyb omezeny.  

Přečtěte si také:

Propouštění kvůli AI je mnohdy clona, která cynicky maskuje bezhlavé utrácení, škrty a neschopnost vedení

Anthropic říká, že má od amerických úřadů zatím jen neoficiální informace o potenciálním prolomení této ochrany ve Fable. „Ta má v podstatě spočívat v tom, že modelu zadáte úkol přečíst konkrétní kód a opravit v něm všechny softwarové chyby,“ popisuje firma s tím, že někdo tento postup vládě nahlásil.

„Prozkoumali jsme tyto specifické techniky, které byly použity k odhalení několika dříve neznámých zranitelností. Všechny vypadají poměrně jednoduše a zjistili jsme, že je dokáží odhalit i jiné komerčně dostupné modely, aniž by vyžadovaly prolomení ochrany,“ říká Anthropic s tím, že podobně dokáže postupovat třeba i ChatGPT 5.5 od konkurenční firmy OpenAI.

„Nesouhlasíme s tím, že je poskytování komerčního modelu dostupného stovkám milionů lidí zakázáno na základě nalezení potenciálního menšího jailbreaku. Pokud by měl být stejný postup uplatňován napříč trhem, v podstatě by to podle nás znemožnilo uvádění nových modelů všech hlavních poskytovatelů,“ dodává firma.

Přečtěte si také:

Jak drahým zaměstnancem může být umělá inteligence? Podívali jsme se, kolik AI stojí technologické firmy v Česku