GDPR і ШІ: Регламент, створений для іншої епохи

Коли GDPR набув чинності в Великій Британії та Європейському Союзі, штучний інтелект у тому вигляді, як ми його знаємо сьогодні, майже не існував у масових бізнес-інструментах. Регламент був написаний для регулювання того, як організації збирають, обробляють і зберігають персональні дані, з такими ключовими принципами, як обмеження мети, мінімізація даних і право на стирання. Ці принципи мали сенс у світі баз даних і визначених потоків даних.

ШІ, особливо генеративні системи та системи машинного навчання, працює не так. Моделі навчаються на величезних наборах даних, які можуть містити персональну інформацію, зібрану шляхом scraping, ліцензовану або отриману з незліченних джерел. Щойно ці дані вбудовуються у ваги моделі, стає надзвичайно важко ізолювати, виправити або видалити інформацію окремої людини — те, що право на стирання за GDPR передбачає як можливе. Ця невідповідність між тим, як був розроблений закон, і тим, як насправді функціонують системи ШІ, знаходиться в центрі поточного аналізу Security Think Tank від Computer Weekly, який досліджує, як стандарти захисту даних у Великій Британії та Європі насилу встигають за новою парадигмою, яку запровадив ШІ.

Де з'являються тріщини

Напруга не є лише теоретичною. Вона проявляється в практичних, повсякденних аспектах для організацій, які намагаються відповідально впроваджувати ШІ, залишаючись при цьому відповідними вимогам. Обмеження мети — ідея, що дані, зібрані з однієї причини, не повинні використовуватися повторно без згоди, — стає розмитим, коли постачальники ШІ повторно використовують навчальні дані в кількох продуктах або донавчають моделі на даних, початково зібраних для зовсім іншого.

Вимоги до прозорості також зазнають навантаження через складність ШІ. GDPR очікує, що організації пояснять, як обробляються персональні дані, і нададуть особам змістовну інформацію про автоматизоване прийняття рішень, яке їх стосується. Але багато систем ШІ, особливо великі мовні моделі, функціонують як чорні скриньки навіть для своїх власних розробників. Пояснити, чому саме модель видала конкретний результат або які конкретні точки даних на нього вплинули, часто не може повністю навіть сам постачальник. Як досліджується в пов'язаній статті Think Tank від Computer Weekly про те, як ШІ напружує основні правила GDPR, це не другорядна технічна примітка. Це зачіпає саму суть того, що GDPR був покликаний гарантувати: що люди мають реальну видимість і контроль над власними даними.

Ці прогалини важливі з точки зору безпеки так само, як і з точки зору відповідності. Захист даних і кібербезпека завжди були взаємопов'язані, і коли правова база, покликана забезпечувати належну гігієну даних, не відображається чітко на те, як системи ШІ насправді поводяться з інформацією, організації можуть опинитися зі сліпими зонами. Чутливі дані можуть потрапляти в інструменти ШІ без чіткого переліку того, куди вони йдуть, хто має до них доступ або як довго вони зберігаються, створюючи саме той тип некерованого розростання даних, який команди безпеки витрачають роки, намагаючись усунути.

Переосмислення відповідності в епоху ШІ

Аналіз Security Think Tank припускає, що латання GDPR частинами може бути недостатнім. Замість цього організації та регулятори повинні переосмислити, як виглядає відповідність, коли дані не знаходяться в статичній базі даних, а протікають через конвеєри навчання, оновлення моделей і сторонні платформи ШІ. Це означає посилене управління даними ще до того, як інформація потрапить до системи ШІ: знати, які персональні дані існують, класифікувати їхню чутливість і обмежувати те, що подається в інструменти ШІ насамперед.

Для регуляторів Великої Британії та Європи це також порушує питання про правозастосування. Принципи GDPR залишаються обґрунтованими за духом, але їх застосування до ШІ вимагає нових інтерпретаційних настанов і, можливо, нових правил для вирішення таких питань, як походження навчальних даних, перенавчання моделей після запитів на стирання та підзвітність, коли постачальники ШІ та їхні клієнти розділяють відповідальність за відповідність.

Що це означає для вас

Якщо ваша організація використовує інструменти ШІ — чи то чат-бот, внутрішня аналітична платформа або сторонній сервіс, побудований на великих мовних моделях, — відповідність GDPR і ШІ не є чимось, що можна вважати вирішеним за замовчуванням. Навіть менші підприємства, які використовують готові продукти ШІ, можуть бути піддані ризику, якщо персональні дані обробляються способами, які політика конфіденційності постачальника не пояснює чітко.

Для окремих осіб висновок є нагадуванням, що дані, передані сервісам на основі ШІ, можуть бути не такими легкими для отримання або видалення, як дані, що зберігаються у традиційному обліковому записі. Щойно інформація використовується для навчання або донавчання моделі, реалізація таких прав, як стирання, стає набагато складнішою на практиці, ніж передбачає закон.

Практичні висновки

Перш ніж впроваджувати або продовжувати використовувати інструменти ШІ, які торкаються персональних даних, розгляньте ці кроки:

  • Запитайте постачальників напряму, чи використовуються ваші дані для навчання моделей і чи можна їх повністю видалити згодом.
  • Складіть карту того, які персональні дані потрапляють до будь-якої системи ШІ, яку використовує ваша організація, включаючи сторонні інструменти.
  • Перегляньте політики конфіденційності продуктів ШІ з такою ж ретельністю, яку ви застосовували б до будь-якого іншого обробника даних.
  • Будьте в курсі настанов, що розвиваються, оскільки правила відповідності GDPR і ШІ, ймовірно, продовжуватимуть змінюватися, поки регулятори наздоганяють.

Розрив між GDPR і ШІ не зникне сам по собі. Поки регулювання не наздожене, обережність та поінформованість є найкращим захистом, який мають окремі особи та організації.