GDPR и ИИ: регламент, созданный для другой эпохи

Когда GDPR стал обязательным к исполнению в Великобритании и Европейском союзе, искусственный интеллект в том виде, в каком мы знаем его сейчас, практически не существовал в основных бизнес-инструментах. Регламент был написан для того, чтобы регулировать, как организации собирают, обрабатывают и хранят персональные данные, с такими базовыми принципами, как ограничение цели, минимизация данных и право на удаление. Эти принципы имели смысл в мире баз данных и четко определенных потоков данных.

ИИ, особенно генеративные системы и системы машинного обучения, работает не так. Модели обучаются на огромных наборах данных, которые могут включать персональную информацию, собранную путем скрейпинга, лицензированную или полученную из бесчисленных источников. Как только эти данные оказываются встроены в веса модели, становится чрезвычайно сложно изолировать, исправить или удалить информацию о конкретном человеке — то, что право GDPR на удаление предполагает возможным. Это несоответствие между тем, как был разработан закон, и тем, как на самом деле функционируют системы ИИ, находится в центре продолжающегося анализа аналитического центра по безопасности Computer Weekly, который изучает, как стандарты защиты данных в Великобритании и Европе с трудом успевают за новой парадигмой, введенной ИИ.

Где проявляются трещины

Напряжение не является чисто теоретическим. Оно проявляется в практических, повседневных аспектах для организаций, пытающихся ответственно внедрять ИИ, оставаясь при этом соответствующими требованиям. Ограничение цели — идея о том, что данные, собранные по одной причине, не должны использоваться повторно без согласия, — становится неясным, когда поставщики ИИ повторно используют обучающие данные в нескольких продуктах или дообучают модели на данных, изначально собранных совсем для другого.

Требования к прозрачности также испытывают нагрузку из-за сложности ИИ. GDPR ожидает, что организации объяснят, как обрабатываются персональные данные, и предоставят людям содержательную информацию об автоматизированном принятии решений, затрагивающем их. Но многие системы ИИ, особенно большие языковые модели, функционируют как черные ящики даже для своих собственных разработчиков. Объяснить, почему именно модель выдала определенный результат или какие конкретные точки данных на него повлияли, зачастую не может в полной мере даже сам поставщик. Как рассматривается в связанном материале аналитического центра Computer Weekly о том, как ИИ нагружает основные правила GDPR, это не второстепенная техническая сноска. Это затрагивает самую суть того, что GDPR был призван гарантировать: чтобы у людей была реальная видимость и контроль над их собственными данными.

Эти пробелы важны с точки зрения безопасности не меньше, чем с точки зрения соответствия требованиям. Защита данных и кибербезопасность всегда были переплетены, и когда правовая база, призванная обеспечивать надлежащую гигиену данных, не соответствует четко тому, как системы ИИ на самом деле обращаются с информацией, у организаций могут возникнуть слепые зоны. Конфиденциальные данные могут попадать в инструменты ИИ без четкого перечня того, куда они направляются, кто имеет к ним доступ и как долго они сохраняются, создавая именно тот вид неконтролируемого разрастания данных, с которым команды безопасности годами пытаются бороться.

Переосмысление соответствия требованиям в эпоху ИИ

Анализ аналитического центра по безопасности предполагает, что латание GDPR по частям может быть недостаточным. Вместо этого и организациям, и регуляторам необходимо переосмыслить, как выглядит соответствие требованиям, когда данные не находятся в статической базе данных, а проходят через конвейеры обучения, обновления моделей и сторонние платформы ИИ. Это означает более строгое управление данными еще до того, как информация попадет в систему ИИ: знание того, какие персональные данные существуют, классификацию их чувствительности и ограничение того, что вообще попадает в инструменты ИИ.

Для регуляторов Великобритании и Европы это также поднимает вопросы о правоприменении. Принципы GDPR остаются здравыми по духу, но их применение к ИИ требует новых интерпретационных руководств и, возможно, новых правил для решения таких вопросов, как происхождение обучающих данных, переобучение моделей после запросов на удаление и подотчетность, когда поставщики ИИ и их клиенты разделяют ответственность за соответствие требованиям.

Что это значит для вас

Если ваша организация использует инструменты ИИ — будь то чат-бот, внутренняя аналитическая платформа или сторонний сервис, построенный на больших языковых моделях, — соответствие GDPR и ИИ — это не то, что можно считать решенным по умолчанию. Даже малые предприятия, использующие готовые продукты ИИ, могут подвергнуться риску, если персональные данные обрабатываются способами, которые политика конфиденциальности поставщика не объясняет четко.

Для отдельных людей вывод служит напоминанием о том, что данные, переданные сервисам на основе ИИ, могут быть не так легко извлечены или удалены, как данные, хранящиеся в традиционной учетной записи. Как только информация используется для обучения или дообучения модели, реализация таких прав, как удаление, становится на практике гораздо сложнее, чем предполагает закон.

Практические выводы

Прежде чем внедрять или продолжать использовать инструменты ИИ, затрагивающие персональные данные, рассмотрите следующие шаги:

  • Спросите поставщиков напрямую, используются ли ваши данные для обучения моделей и можно ли их полностью удалить позже.
  • Составьте карту того, какие персональные данные поступают в любую систему ИИ, используемую вашей организацией, включая сторонние инструменты.
  • Изучайте политики конфиденциальности продуктов ИИ с той же тщательностью, которую вы применяли бы к любому другому обработчику данных.
  • Оставайтесь в курсе меняющихся руководств, поскольку правила соответствия GDPR и ИИ, вероятно, будут продолжать меняться по мере того, как регуляторы будут догонять.

Разрыв между GDPR и ИИ не исчезнет сам по себе. Пока регулирование не догонит, осторожность и информированность — лучшая защита, доступная отдельным людям и организациям.