Засновник стартапу прокинувся від несподіваних списань на $449 за OpenAI та Anthropic. Причиною, за даними Fox News, став набір викрадених API-ключів, використаних під час так званої кіберхвилі "Чорний жовтень". Сума невелика порівняно зі збитками, яких могла б зазнати велика компанія, але ця історія показує, як викрадені API-ключі "Чорного жовтня" можуть перетворитися на реальні рахунки ще до того, як хтось прокинеться й помітить.
У цій статті розглядається, що означає ця назва, як зазвичай зловживають викраденими ключами, чому атаки за допомогою ШІ залишають захисникам менше часу і що розробники можуть зробити вже сьогодні.
Що означає "Чорний жовтень" (і що ще не підтверджено)
"Чорний жовтень" — це назва, яку використовують для групи кібератак, пов'язаних із хмарними системами та інструментами розробників, де ШІ відіграє роль у швидкості перебігу атак. Репортаж Fox News зосереджений на одному конкретному наслідку: облікові дані, викрадені з хмарних середовищ і репозиторіїв коду, були використані для накопичення витрат на сервісах ШІ.
Варто бути обережними щодо того, що встановлено, а що ні. Стаття дає нам один задокументований приклад — $449 списань засновника на акаунтах OpenAI та Anthropic. У матеріалах, які ми переглянули, вона не надає повного технічного опису кожного інциденту під прапором "Чорного жовтня" і не встановлює єдиного зловмисника чи єдиного методу. Інші публікації, що з'являються в результатах пошуку, описують кілька платформ для розробників ШІ, які повідомили про злами в жовтні, та шкідливі програмні пакети, створені для викрадення секретів, але ці деталі різняться залежно від видання, і ми не перевіряли їх незалежно. Сприймайте цю назву як скорочення для певної схеми, а не як підтверджену єдину кампанію.
Як викрадені API-ключі використовують протягом кількох годин
API-ключ — це довгий рядок символів, який працює як пароль для програмного забезпечення. Той, хто ним володіє, може робити запити від вашого імені, а постачальник виставляє рахунок акаунту, якому належить ключ. Зазвичай у цей момент немає ні запиту імені користувача, ні другого фактора, саме тому витік ключа такий корисний для зловмисника.
Ключі опиняються у відкритому доступі кількома поширеними способами:
- Їх комітять у репозиторій коду, іноді у файл конфігурації або старий коміт.
- Вони зберігаються у змінних середовища або налаштуваннях у хмарному середовищі, яке зазнає зламу.
- Їх копіюють в інструменти, скрипти або на машини розробників, які згодом зламують.
Щойно зловмисник має робочий ключ, найпростіший крок — використати його для викликів моделей ШІ за рахунок жертви. Це збігається з досвідом засновника: списання з'явилися на акаунтах OpenAI та Anthropic, і власник дізнався про них лише після накопичення рахунку. Зловмиснику не потрібно торкатися застосунку чи даних жертви, щоб отримати вигоду. Сам ключ є продуктом.
Ось чому грошова сума може вводити в оману. $449 — це скромно, але це відображає, як мало часу й зусиль потребує зловживання. Без обмежень витрат той самий доступ міг би накопичити значно більший рахунок.
Чому атаки за допомогою ШІ скорочують час на реагування захисників
"ШІ" в атаках за допомогою ШІ важливий через швидкість. Пошук секретів у репозиторіях, перевірка дійсності ключа та визначення наступних кроків — це завдання, з якими добре справляється автоматизація. Коли ці кроки об'єднують у ланцюжок, проміжок між витоком і зловживанням може скоротитися з днів до годин.
Ми висвітлювали пов'язану подію у виявленні Sysdig того, що вони описують як повністю автономну атаку ШІ-вимагача, де агент ШІ здійснив вторгнення майже без людського керівництва. Це інший тип інциденту, ніж крадіжка API-ключів, але основний урок схожий: автоматизовані зловмисники не чекають робочих годин, і ручні процеси реагування можуть відставати.
Для невеликих команд проблема гостріша. Стартап рідко має центр безпеки, який цілодобово стежить за панелями оплати. Засновник у цій історії дізнався, перевіривши списання постфактум, — саме так багато людей виявляють такого роду зловживання.
Що це означає для вас
Якщо ви будуєте з API ШІ, навіть у побічному проєкті, ваші ключі — це цінні облікові дані, і з ними слід поводитися як із паролями до платіжного акаунту. Варто пам'ятати три моменти:
- Витік часто невидимий. Ви можете не знати, що ключ витік, доки не надійдуть списання.
- Постачальник виставляє рахунок вам. Викрадене використання зазвичай з'являється на вашому акаунті, тож запобігання та раннє виявлення — на вас.
- Невеликі рахунки — це попередження. Несподіване списання на $449 означає, що ключ спрацював для когось іншого. Сприймайте це як інцидент безпеки, а не просто бухгалтерську проблему.
Як захистити API-ключі: ротація, обмеження області дії, оповіщення, MFA та сканування секретів
Жоден із цих кроків не потребує команди безпеки. Більшість займає менше години.
- Ротуйте ключі зараз. Згенеруйте нові ключі та відкличте старі, особливо ті, що з'являлися в коді, чатах, тікетах або спільних документах. Ротуйте знову після будь-якого підозрюваного витоку.
- Обмежуйте область дії кожного ключа. Використовуйте окремі ключі для кожного проєкту чи середовища та надавайте кожному лише необхідні дозволи, якщо ваш постачальник це підтримує. Витік тестового ключа не повинен відкривати доступ до продакшену.
- Встановіть ліміти витрат і оповіщення. Налаштуйте обмеження бюджету та сповіщення про використання в налаштуваннях оплати кожного постачальника, щоб незвичайна активність викликала повідомлення, а не сюрприз.
- Увімкніть багатофакторну автентифікацію. Захистіть акаунти постачальників і хмарні консолі, де створюються та переглядаються ключі. MFA не завадить викраденому ключу працювати, але ускладнить викрадення ключів із самого акаунту.
- Скануйте на секрети. Запустіть сканер секретів у ваших репозиторіях, включно з історією комітів, і перевірте налаштування CI та спільні файли конфігурації. Видаліть будь-які відкриті ключі та ротуйте їх, оскільки видалення файлу не скасовує витік.
- Тримайте ключі поза кодом. Зберігайте їх у спеціальному менеджері секретів або захищених змінних середовища, а не у вихідних файлах.
Ключові висновки
Історія про викрадені API-ключі "Чорного жовтня" — це нагадування, що маленькі, непомітні облікові дані можуть швидко коштувати реальних грошей. Якщо ви будуєте з API ШІ, перевірте та ротуйте свої ключі вже сьогодні, встановіть ліміти витрат і оповіщення та проскануйте свої репозиторії на відкриті секрети. Для ширшого контексту про те, як автономні атаки ШІ прискорюють вторгнення, прочитайте наш звіт про висновки Sysdig щодо автономного ШІ-вимагача, а потім витратьте годину на зміцнення власного налаштування.
