Společnost Anthropic, která patří k lídrům ve vývoji umělé inteligence, se nedávno dostala do titulků zpravodajství po celém světě. Oznámila totiž, že svůj nový model Mythos z rodiny Claude zatím neuvede na trh, protože je „ďábelsky“ schopný v programování. Odborná veřejnost na to reaguje směsicí fascinace, obav i skepse, zda nejde spíše o marketingový tah.
Podle dostupných informací má být Mythos mimořádným programátorem – a to nejen ve smyslu tvorby kvalitních aplikací. Jeho schopnosti mají sahat mnohem dál. Údajně dokáže automaticky procházet obrovské množství kódu, vyhledávat bezpečnostní slabiny a následně je využívat prostřednictvím sofistikovaných útoků.
Jinými slovy, to, co dříve zvládali jen špičkoví hackeři či experti na kyberbezpečnost a trvalo jim týdny, by nyní mohl software zvládnout během několika minut. Podle řady ohlasů je proto nutné tato varování brát velmi vážně, ať už Anthropic situaci přehání, nebo ne. Jiní však upozorňují, že společnost má historii poněkud dramatických prohlášení, která mohou zároveň dobře fungovat jako reklama.
Výkon modelu Mythos má být skutečně mimořádný. Údajně dokáže během krátké doby odhalit tisíce nových bezpečnostních chyb. Pro uživatele to znamená vyhlídky na výrazně lepší zabezpečení, ale zároveň i hrozbu mnohem účinnějších kyberútoků. Mohlo by to změnit rovnováhu sil v kyberprostoru, kde byli dosud obránci a útočníci relativně vyrovnaní.
Situaci lze přirovnat k šachové partii, ve které oba hráči současně získají k dispozici superpočítač. Hra přestane být pomalá a promyšlená a změní se v bleskový duel, kde se strategie rodí i zanikají během sekund. Potvrzuje to i Ales Stamos ze startupu Corridor, který sice považuje rozruch kolem Mythosu za poněkud přehnaný, ale souhlasí s tím, že kyberbezpečnost se může proměnit v kolbiště výkonných AI agentů.
Podle Stamose přichází doba, kdy budou AI agenti bránit počítačové sítě proti útokům hackerů, jimiž budou jiní AI agenti (tzv. agent-to-agent war). Lidští experti se tak stanou spíše trenéry „na lavičce“, kteří sledují výkon svých systémů a přemýšlejí, co by bylo možné dále zlepšit.
Zároveň je patrné, že model Mythos berou vážně i velcí hráči na trhu výpočetních technologií. Společnosti jako Amazon, Microsoft nebo Google už měly možnost jej v omezeném režimu testovat v rámci projektu Glasswing.
Zdá se, že jednou z největších obav expertů na kyberbezpečnost je dnes autonomní malware. Jak uvádí Adam Meyers ze společnosti CrowdStrike, znepokojuje ho představa, že AI modely podobné Mythosu budou automaticky skenovat běžné aplikace, programy a operační systémy, nacházet v nich bezpečnostní chyby a následně je ve velkém zneužívat.
Velké obavy vyvolává i scénář, v němž hackeři využívají malware obsahující malý, ale výkonný AI model. Takový malware by neměl pevně dané instrukce a mohl by se v reálném čase přizpůsobovat situaci. Hacker by pouze zadal cíl a samotný malware by už autonomně rozhodl, jak ho dosáhnout. Ocitáme se tak ve světě, kde software dokáže samostatně hledat slabiny v jiném softwaru a využívat je.