Kdy přesně se to stalo? Kdy se umělá inteligence přestala měnit z technologické zajímavosti v nástroj s geopolitickým významem? Publicista Pavel Šik tvrdí, že většina veřejnosti tento okamžik vůbec nezaznamenala. Zatímco lidé stále diskutují o tom, zda AI umí napsat báseň nebo nahradit některé profese, skutečný vývoj se podle něj odehrává úplně jinde.

Jako příklad uvádí příběh společnosti Anthropic, jedné z nejvýznamnějších laboratoří vyvíjejících umělou inteligenci. Ta měla letos dokončit svůj dosud nejsilnější model nazvaný Mythos. Podle Šika šlo o systém schopný analyzovat počítačový kód a vyhledávat bezpečnostní zranitelnosti rychleji a přesněji než lidští experti.

Právě zde podle něj začíná problém. Nástroj, který dokáže najít slabiny v kritické infrastruktuře, lze využít k její ochraně i k případnému útoku. Anthropic proto podle jeho popisu nepřistoupil k okamžitému veřejnému vydání modelu a místo toho spustil projekt Glasswing.

Do něj mělo být vybráno přibližně padesát organizací. Vedle technologických gigantů jako Amazon, Apple, Google nebo Microsoft také bezpečnostní firmy a americké vládní agentury. Cílem bylo prozkoumat vlastní systémy, odhalit slabá místa a opravit je dříve, než je objeví někdo jiný.


Začátkem června se projekt rozšířil. Přístup k systému získaly další organizace včetně NATO, jihokorejského Samsungu, spojenců Spojených států a také evropských institucí. Podle Šika se tak ke stolu konečně dostala i Evropa, která dosud sledovala vývoj spíše z povzdálí.

Další zlom přišel 9. června. Anthropic podle něj zpřístupnil veřejnosti model Fable 5, tedy upravenou verzi Mythosu určenou běžným uživatelům. Firma do něj zabudovala bezpečnostní pojistky a citlivé dotazy měla přesměrovávat na starší a méně výkonné systémy. Jenže nový model vydržel v provozu pouhé tři dny.

Šik popisuje telefonát, který měl všechno změnit. Andy Jassy, šéf Amazonu a zároveň jeden z největších investorů v Anthropicu, měl podle jeho popisu informovat amerického ministra financí Scotta Bessenta o tom, že výzkumníci Amazonu dokázali pomocí specifických dotazů obejít některá omezení modelu. Fable 5 měl poskytnout informace, které podle zabudovaných pojistek poskytovat neměl.

Následovala blesková reakce amerických úřadů. Podle Šika dostal Anthropic pouhých devadesát minut na to, aby přístup k modelu zastavil. Protože nebylo možné okamžitě rozlišit americké a zahraniční uživatele, byl model jednoduše vypnut pro všechny.

Anthropic se podle něj bránil tím, že šlo pouze o úzce vymezený problém a že obdobné možnosti nabízejí i jiné veřejně dostupné systémy. Pokud by se stejný metr použil plošně, tvrdila firma, nebylo by možné uvést na trh prakticky žádný nový špičkový model.

Právě zde podle Šika vzniká další spor. Odborníci z technologických a bezpečnostních firem měli v otevřeném dopise varovat, že podobný krok neoslabuje útočníky, ale především obránce. Čínské modely podle nich nikdo nezastaví a zákaz se tak může obrátit proti těm, kteří se snaží infrastrukturu chránit.


Veřejná debata se přitom podle něj nachází úplně jinde. Lidé se stále ptají, co umělá inteligence vlastně je a zda je bezpečná. Mezitím se z ní podle Šika stává nástroj geopolitiky, otázka národní bezpečnosti i klíč k ochraně infrastruktury, na níž stojí fungování moderních států.

Právě v tom vidí hlavní problém. Ve chvíli, kdy veřejnost diskutuje o AI jako o zajímavé technologické novince, rozhodující procesy se odehrávají v telefonátech mezi vývojáři, miliardáři, šéfy technologických firem a vládními představiteli.

„Obyčejný člověk dnes čte články o tom, že AI umí psát básničky, ale určitě vám neřekne datum, kdy přesně AI přestala být zajímavou hračkou a stala se geopolitickým nástrojem, předmětem exportních zákazů a klíčem k bezpečnosti infrastruktury, na níž závisíme každý den,“ píše Pavel Šik.

Závěr jeho komentáře je stejně ironický jako znepokojivý. Podle něj nezbývá než důvěřovat vývojářům, že staví bezpečně, politikům, že regulují správně, a miliardářům, že jednají ve prospěch společnosti. Šik přitom s nadsázkou poznamenává, že tyto řádky píše právě ze Šanghaje, tedy z města v zemi, která patří mezi hlavní hráče globálního soupeření o budoucnost umělé inteligence.