Čínští hackeři použili při útoku na Tchaj-wan open-source AI

Autonomní kybernetický útok s umělou inteligencí, který běžel sám

Bezpečnostní výzkumníci identifikovali to, co popisují jako první plně autonomní kybernetický útok typu end-to-end s využitím umělé inteligence, a jeho cílem byla tchajwanská vláda. Podle zpráv o tomto incidentu údajní čínští hackeři sestavili osm samostatných modelů umělé inteligence do jediného automatizovaného hackerského nástroje, který údajně ohrozil přibližně 85 vládních účtů a exfiltroval data, a to vše bez úrovně přímého lidského řízení, která obvykle definuje kybernetickou operaci tohoto rozsahu.

To, co tento případ odlišuje od předchozích útoků s podporou umělé inteligence, je slovo „autonomní". Místo lidského operátora, který v různých fázích využívá umělou inteligenci jako výzkumného asistenta nebo pomocníka při psaní kódu, nástroj propojil více modelů umělé inteligence dohromady, aby mohly samy převážně plánovat, provádět a přizpůsobovat průnik – chovaly se méně jako malware a spíše jako koordinovaný tým operátorů pracující nepřetržitě.

Proč je open-source skutečným příběhem

Detail, který přitáhl největší pozornost výzkumníků, není jen to, že byla zapojena umělá inteligence. Jde o to, že modely použité k vytvoření tohoto nástroje byly volně dostupné, nikoli proprietární systémy uzamčené za firemním API s monitorováním použití a kontrolami zneužití. Open-source modely umělé inteligence si může stáhnout, upravit a kombinovat kdokoli s dostatečnými technickými dovednostmi, což odstraňuje vrstvu dohledu, která existuje, když se útočníci spoléhají na komerční platformy umělé inteligence, které mohou označovat nebo omezovat škodlivé výzvy.

To je důvod, proč incident na Tchaj-wanu působí spíše jako náhled než jako izolovaná událost. Pokud lze osm veřejně dostupných modelů umělé inteligence spojit do autonomního hackerského pipeline schopného prolomit vládní systémy, snižuje se tím výrazně práh vstupu pro sofistikované rozsáhlé kybernetické útoky. Skupiny, které dříve potřebovaly týmy zkušených operátorů k ručnímu zkoumání sítí, zvyšování oprávnění a přesunu dat bez odhalení, mohou stále více automatizovat velké části tohoto pracovního postupu.

Od vládních systémů ke každodennímu riziku soukromí

Je lákavé zařadit tento příběh do kategorie „vládní kybernetická bezpečnost" a jít dál, ale důsledky sahají daleko za státní aktéry. Stejná automatizace, která tomuto nástroji umožnila ohrozit desítky účtů a tiše stahovat data, funguje stejně dobře proti firemním databázím, cloudovému úložišti nebo jakémukoli systému s chybnou konfigurací nebo slabými přihlašovacími údaji, které čekají na objevení. Autonomní nástroje umělé inteligence jsou obzvláště dobré přesně v tom druhu neúnavného, opakovaného skenování a zkoumání, které tyto mezery nachází – a to je často to, jak k rozsáhlým únikům dat vůbec dochází. Naše dřívější pokrytí tématu proč nejvíce záznamů uniká z chybně nakonfigurovaných databází ukázalo, že většina velkých narušení nevyžaduje elitního hackera prolomujícího firewall; vyžadují někoho nebo něco, kdo metodicky kontroluje, zda nezůstaly odemčené dveře. Systém umělé inteligence, který může tento proces spouštět nepřetržitě a ve velkém měřítku, je přirozeným vývojem této hrozby, nikoli odklonem od ní.

Pro běžné uživatele to znamená, že fond účtů a osobních údajů ohrožených touto hrozbou se neomezuje pouze na vysoce hodnotné vládní cíle. Jakákoli organizace, která drží data zákazníků – od poskytovatelů zdravotní péče po maloobchodníky až po menší podniky bez vyhrazených bezpečnostních týmů – se stává atraktivnějším cílem, když náklady na spuštění automatizovaného pokusu o průnik klesají k nule.

Co to znamená pro vás

Nemusíte provozovat vládní síť, abyste byli touto změnou ovlivněni. Jak autonomní nástroje umělé inteligence snižují náklady a dovednosti potřebné ke spuštění průniků, objem pokusů o narušení běžných podniků a služeb pravděpodobně poroste, nikoli klesne. To znamená, že účty, které máte u maloobchodníků, poskytovatelů zdravotní péče, zaměstnavatelů a finančních služeb, jsou všechny součástí větší útočné plochy, kterou může umělá inteligence nyní prozkoumávat efektivněji než kdy dříve.

Praktická reakce není panika, ale disciplína. Znovu použité hesla, neaktualizovaný software a účty bez vícefaktorového ověřování jsou přesně tím druhem nenáročných slabin, které je autonomní nástroj navržen rychle najít. Uzavření těchto mezer na vaší straně nezastaví útok na úrovni státu na vládní síť, ale odstraní vás z mnohem většího fondu snadných cílů, které automatizované nástroje cestou posbírají.

Praktická doporučení

• Zapněte vícefaktorové ověřování na každém účtu, který ho nabízí, protože automatizované nástroje spoléhají na přístup založený na přihlašovacích údajích, nejen na technické zneužití.
• Používejte správce hesel ke generování jedinečných hesel pro každý účet, čímž eliminujete riziko znovu použitých přihlašovacích údajů, které autonomní skenovací nástroje zneužívají ve velkém.
• Udržujte software, aplikace a zařízení aktualizované, protože neopravené zranitelnosti zůstávají jedním z nejrychlejších vstupních bodů pro automatizované útočné řetězce.
• Sledujte účty pro neobvyklou aktivitu a nastavte si upozornění na narušení tam, kde jsou k dispozici, abyste mohli rychle jednat, pokud se vaše data objeví v ohroženém systému.

Incident na Tchaj-wanu je milník, který stojí za to brát vážně – ne proto, že by dokazoval, že kybernetické útoky poháněné umělou inteligencí jsou nezastavitelné, ale proto, že ukazuje, jak rychle klesá práh pro jejich spuštění. Držet krok s touto změnou začíná základy: silnými, jedinečnými přihlašovacími údaji, včasnými aktualizacemi a zdravou skepsí ohledně toho, kde vaše data žijí a kdo – nebo co – je může příště zkoumat.