Spoločnosti Anthropic, OpenAI a ďalšie technologické spoločnosti vyvíjajú modely umelej inteligencie, ktoré by mohli dramaticky zvýšiť hrozbu rozsiahlych kybernetických útokov na firemné, vládne a obecné systémy. Dôraz sa kladie na zatiaľ nezverejnený model umelej inteligencie Claude Mythos od spoločnosti Anthropic. Podľa spoločnosti Axios spoločnosť už teraz varuje vysokých predstaviteľov USA, že jeho vydanie v roku 2026 výrazne zvyšuje pravdepodobnosť útokov tohto rozsahu.
Mythos je opísaný ako systém, ktorý umožňuje agentom umelej inteligencie autonómne, s vysokou presnosťou a sofistikovanosťou prenikať do firemných, vládnych a obecných systémov. Generálny riaditeľ spoločnosti Axios Jim VandeHei vo svojom bulletine pre manažérov uviedol, že zdroj oboznámený s budúcimi modelmi umelej inteligencie predpovedá, že k rozsiahlemu kybernetickému útoku by mohlo dôjsť už v roku 2026, pričom ako obzvlášť zraniteľný cieľ uviedol podniky.
Predtým Fortune študoval Uniknuté materiály z blogu Anthropic o Claudovi Mythosovi opisujú model umelej inteligencie ako systém, ktorý „v súčasnosti výrazne prevyšuje akýkoľvek iný model umelej inteligencie v kybernetických schopnostiach“. Uvádza sa v nich tiež, že Mythos „predznamenáva prichádzajúcu vlnu modelov umelej inteligencie schopných zneužívať zraniteľnosti spôsobmi, ktoré ďaleko predbehnú úsilie o kybernetickú obranu“. Riziko zhoršujú zamestnanci, ktorí používajú agentov umelej inteligencie bez toho, aby si uvedomovali, že by to mohlo uľahčiť kyberzločincom prístup k interným systémom ich spoločností.
Na konci roka 2025, Anthropic nekrytý Prvý zdokumentovaný prípad kybernetického útoku, ktorý prevažne vykonala umelá inteligencia. Štátom podporovaná čínska skupina použila agentov umelej inteligencie na autonómne hacknutie približne 30 cieľov po celom svete. Umelá inteligencia nezávisle vykonala 80 % až 90 % taktických operácií. Toto sa stalo pred dramatickým pokrokom v systémoch agentov a vznikom nových, nebezpečných spôsobov ich použitia.
Nové modely umelej inteligencie sa vyznačujú vyššou schopnosťou podporovať autonómnu prevádzku agentov umelej inteligencie. Ide o systémy, ktoré umožňujú agentom myslieť, konať, uvažovať a improvizovať samostatne bez prestávky alebo únavy. Rozsah útoku je teraz určený predovšetkým výpočtovými zdrojmi útočníkov, a nie veľkosťou ich skupiny. Teraz jedna osoba dostáva príležitosť vykonávať kybernetické útoky, ktoré predtým vyžadovali celé tímy.
Zároveň rastie zraniteľnosť spoločností. Zamestnanci čoraz častejšie používajú modely založené na agentoch Claude, Copilot a iné, často z domu, a vytvárajú si vlastných agentov s umelou inteligenciou. V mnohých prípadoch títo agenti získavajú nekontrolovaný prístup k interným pracovným systémom, čím vytvárajú ďalší vstupný bod pre kyberzločincov. V tomto odvetví sa toto neoprávnené alebo nekontrolované používanie umelej inteligencie označuje ako „temná umelá inteligencia“.
Prieskum agentúry Dark Reading zistil, že 48 % odborníkov na kybernetickú bezpečnosť sa domnieva, že umelá inteligencia založená na agentoch bude v roku 2026 hlavným vektorom útoku. Táto hrozba sa radí nad deepfake a všetky ostatné riziká zahrnuté v prieskume. Každý zamestnanec v každej spoločnosti na celom svete musí teraz pochopiť riziko používania agentov umelej inteligencie v blízkosti citlivých informácií. Technický tím spoločnosti Axios to považuje za najväčšiu hrozbu, ktorej spoločnosť v súčasnosti čelí. Praktický záver je jasný: práca s agentmi umelej inteligencie si vyžaduje bezpečné a izolované prostredie.
Zdroj:
Zdroj: 3dnews.ru
