Шаги Канады в сторону ограничения доступа к социальным сетям для пользователей младше 16 лет подтолкнули Google и Meta к внедрению ИИ-инструментов подтверждения возраста на своих платформах. На первый взгляд, это звучит как простое решение для защиты детей. Однако в глубине возникает более сложный вопрос для каждого пользователя, и не только для подростков: сколько персональных данных эти системы собирают и выводят, чтобы всего лишь предположить, сколько вам лет?

Как мы рассказывали в нашем предыдущем отчёте об ИИ-проверках возраста Google и Meta в Канаде, федеральное правительство представило законодательство о цифровой безопасности, направленное на то, чтобы не допускать детей младше 16 лет к платформам социальных сетей. Чтобы соответствовать требованиям, компании обращаются к автоматизированной оценке возраста вместо того, чтобы полагаться исключительно на то, что пользователи сами указывают свою дату рождения. Именно здесь и возникают опасения по поводу конфиденциальности при ИИ-проверке возраста.

Как на самом деле работает ИИ оценки возраста Google и Meta

Вместо того чтобы просить пользователей загрузить государственное удостоверение личности, обе компании опираются на модели машинного обучения, которые анализируют поведенческие сигналы и сигналы аккаунта, чтобы оценить возраст. Это может включать то, как используется аккаунт, с каким контентом он взаимодействует, и закономерности, которые различаются между поведением взрослых и более молодых пользователей. Цель — помечать аккаунты, которые, по-видимому, принадлежат кому-то младше 16 лет, чтобы ограничения платформы могли применяться автоматически, без необходимости каждому пользователю вручную подтверждать свой возраст.

Такой подход привлекателен как для регуляторов, так и для компаний, поскольку он позволяет избежать неудобств, связанных с обязательной загрузкой документов для всей базы пользователей. Но это также означает, что точность системы полностью зависит от того, сколько данных доступно ИИ для работы и насколько хорошо он может интерпретировать эти данные.

Какие данные эти системы собирают помимо вашей даты рождения

Основное противоречие в дебатах о конфиденциальности при ИИ-проверке возраста заключается в том, что оценка возраста на основе поведения часто требует больше данных, чем простая проверка поля с датой рождения. Вместо одной точки данных эти системы могут опираться на более широкую активность аккаунта и модели использования для формирования вывода. Это означает, что сам процесс оценки возраста может стать новым каналом сбора данных, который работает непрерывно в фоновом режиме, а не как однократная проверка.

Для пользователей, заботящихся о конфиденциальности, это та часть истории, которая заслуживает большего внимания, чем ей обычно уделяется. Дата рождения статична и ограничена. Поведенческое профилирование непрерывно и может раскрыть о человеке гораздо больше, чем только его возраст. Когда платформы создают системы, предназначенные для вывода такой чувствительной информации, как возрастная категория пользователя, лежащий в их основе конвейер данных часто способен выводить и другие вещи.

Точность, предвзятость и риски ложноположительных срабатываний в алгоритмах угадывания возраста

Любая ИИ-система, созданная для оценки личного атрибута по косвенным сигналам, несёт риск ошибки. Оценка возраста не является исключением. Пользователи могут быть неправильно классифицированы как младше или старше, чем они есть на самом деле, что приводит к применению неверных ограничений к аккаунтам взрослых или, наоборот, к тому, что несовершеннолетние пользователи проскакивают незамеченными. Поскольку эти модели обучаются на закономерностях, а не на проверенных фактах, ошибки не просто возможны — они являются структурной особенностью того, как работает эта технология.

Это создаёт реальный компромисс. Ужесточение алгоритма для выявления большего числа несовершеннолетних пользователей увеличивает риск ошибочной пометки взрослых. Ослабление для снижения ложноположительных срабатываний увеличивает риск пропуска несовершеннолетних пользователей, для выявления которых система и была создана. По мере продвижения канадских ограничений на социальные сети этот баланс, вероятно, останется постоянной проблемой, а не решённым вопросом.

Как пользователи, заботящиеся о конфиденциальности, могут ограничить воздействие проверок возраста на их данные

Хотя отдельные пользователи не могут изменить то, как Google или Meta строят свои системы оценки возраста, есть шаги, которые могут уменьшить ненужное раскрытие данных. Регулярный пересмотр настроек конфиденциальности аккаунта — хорошая отправная точка, особенно настроек, связанных с отслеживанием активности, персонализацией рекламы и обменом данными между сервисами. Ограничение объёма поведенческих данных, которые платформа может собирать в первую очередь, сокращает сырьё, с которым могут работать эти ИИ-системы.

Пользователям, особенно обеспокоенным профилированием, также следует подумать о том, как их более широкая онлайн-активность, включая привычки просмотра, связанные с теми же аккаунтами или устройствами, может попадать в эти системы. VPN не изменит работу внутренней модели оценки возраста платформы, но может помочь ограничить объём данных на сетевом уровне, таких как сигналы о местоположении и на основе IP-адреса, которые привязываются к более широкому цифровому следу пользователя в различных сервисах.

Что это значит для вас

Если вы пользуетесь продуктами Google или Meta в Канаде, вы, возможно, уже подвержены автоматизированной оценке возраста без конкретного запроса на подтверждение вашего возраста. Это отход от традиционной модели самостоятельно указываемой даты рождения, и он передаёт больше контроля над проверкой личности непрозрачным алгоритмам. Даже если вы не несовершеннолетний и вам не о чем беспокоиться в отношении ограничений платформы, стоит понимать, что системы, принимающие эти решения, опираются на сбор поведенческих данных, который выходит далеко за рамки простого поля с возрастом.

Ключевые выводы

Конфиденциальность при ИИ-проверке возраста становится всё более серьёзной проблемой, поскольку правительства подталкивают платформы к автоматизированному соблюдению требований вместо ручных проверок. Развёртывание Google и Meta в Канаде — это предвестник того, что может стать более широкой глобальной тенденцией. Прочитайте наш полный разбор ИИ-проверок возраста Google и Meta в Канаде для получения информации о нормативной базе, потратьте несколько минут на проверку настроек конфиденциальности и персонализации рекламы на основных платформах и помните, что инструменты оценки возраста часто зависят от тех же поведенческих данных, которые обеспечивают таргетированную рекламу. Быть в курсе того, как работают эти системы, — лучший способ сохранить контроль над тем, чем вы делитесь, независимо от того, сколько лет, по мнению алгоритма, вам исполнилось.