Решението на Канада да ограничи достъпа до социални мрежи за потребители под 16 години принуди Google и Meta да внедрят AI инструменти за гарантиране на възрастта в своите платформи. На пръв поглед това звучи като straightforward мярка за защита на децата. Под повърхността обаче то повдига по-труден въпрос за всеки потребител, не само за тийнейджърите: колко лични данни събират и извеждат тези системи само за да отгатнат на колко години сте?

Както разгледахме в по-ранния си доклад за AI проверките на възрастта на Google и Meta в Канада, федералното правителство въведе законодателство за цифрова безопасност, насочено към ограничаване на децата под 16 години от платформите за социални мрежи. За да се съобразят, компаниите се обръщат към автоматизирана оценка на възрастта, вместо да разчитат единствено на самоотчитане на датата на раждане от потребителите. Именно този преход поставя на дневен ред опасенията за поверителността при AI проверка на възрастта.

Как всъщност работи AI за оценка на възрастта на Google и Meta

Вместо да искат от потребителите да качат държавна идентификация, двете компании разчитат на модели за машинно обучение, които анализират поведенчески и акаунтни сигнали, за да оценят възрастта. Това може да включва как се използва даден акаунт, с какъв вид съдържание взаимодейства и модели, които се различават между поведението на възрастни и по-млади потребители. Целта е да се маркират акаунти, които изглежда принадлежат на някого под 16 години, така че ограниченията на платформата да бъдат приложени автоматично, без да се изисква от всеки потребител ръчно да доказва възрастта си.

Този подход е привлекателен както за регулаторите, така и за компаниите, защото избягва неудобството на задължителното качване на документи за цялата потребителска база. Но това също означава, че точността на системата зависи изцяло от това колко данни има AI, с които да работи, и колко добре може да интерпретира тези данни.

Какви данни събират тези системи отвъд датата ви на раждане

Основното напрежение в дебатите за поверителността при AI проверка на възрастта е, че оценяването на възрастта от поведение често изисква повече данни, отколкото просто проверка на поле за дата на раждане. Вместо една единствена точка от данни, тези системи могат да черпят от по-широка активност на акаунта и модели на използване, за да направят извод. Това означава, че самият процес на оценка на възрастта може да се превърне в нов канал за събиране на данни, който работи непрекъснато на заден план, а не като еднократна проверка.

За потребителите, загрижени за поверителността, това е частта от историята, която заслужава повече внимание, отколкото обикновено получава. Датата на раждане е статична и ограничена. Поведенческото профилиране е непрекъснато и може да разкрие много повече за даден човек от възрастта му. Когато платформите изграждат системи, предназначени да извеждат нещо толкова чувствително като възрастовата група на потребителя, лежащият в основата pipeline за данни често има капацитет да извежда и други неща.

Точност, пристрастия и рискове от фалшиви положителни резултати при алгоритмите за отгатване на възраст

Всяка AI система, изградена да оценява личен атрибут от косвени сигнали, носи риск от грешка. Оценката на възрастта не е изключение. Потребителите могат да бъдат погрешно класифицирани като по-млади или по-възрастни, отколкото са в действителност, което води до прилагане на неправилни ограничения към акаунти на възрастни или, обратно, до неоткрито преминаване на непълнолетни потребители. Тъй като тези модели се обучават на модели, а не на проверени факти, грешките не са просто възможни — те са структурна характеристика на начина, по който работи технологията.

Това създава реален компромис. Затягането на алгоритъма, за да се уловят повече непълнолетни потребители, увеличава риска от фалшиво маркиране на възрастни. Разхлабването му, за да се намалят фалшивите положителни резултати, увеличава риска от пропускане на непълнолетните потребители, които системата е била създадена да идентифицира на първо място. С напредването на ограниченията за социални мрежи в Канада, този баланс вероятно ще остане постоянен проблем, а не решен въпрос.

Как потребителите, загрижени за поверителността, могат да ограничат излагането на данни от проверките на възрастта

Въпреки че отделните потребители не могат да пренапишат начина, по който Google или Meta изграждат своите системи за оценка на възрастта, има стъпки, които могат да намалят ненужното излагане на данни. Редовният преглед на настройките за поверителност на акаунта е добра отправна точка, особено настройките, свързани с проследяване на активността, персонализация на рекламите и споделяне на данни между услугите. Ограничаването на обема поведенчески данни, които дадена платформа може да събира на първо място, намалява суровината, с която тези AI системи трябва да работят.

Потребителите, които са особено загрижени за профилирането, също трябва да обмислят как по-широката им онлайн активност, включително навиците за сърфиране, свързани със същите акаунти или устройства, може да се влее в тези системи. VPN няма да промени начина, по който работи вътрешният модел за оценка на възрастта на дадена платформа, но може да помогне за ограничаване на обема данни на мрежово ниво, като сигнали, базирани на местоположение и IP, които се свързват с по-широкия цифров отпечатък на потребителя в различни услуги.

Какво означава това за вас

Ако използвате продукти на Google или Meta в Канада, може вече да сте обект на автоматизирана оценка на възрастта без специална подкана, която да ви помоли да потвърдите възрастта си. Това е отклонение от традиционния модел на самоотчитане на датата на раждане и прехвърля повече контрол върху проверката на самоличността към непрозрачни алгоритми. Дори ако не сте непълнолетни и нямате за какво да се притеснявате по отношение на ограниченията на платформата, си струва да разберете, че системите, вземащи тези решения, разчитат на събиране на поведенчески данни, което се простира далеч отвъд просто поле за възраст.

Основни изводи

Поверителността при AI проверка на възрастта се превръща в по-голям проблем, тъй като правителствата тласкат платформите към автоматизирано съответствие вместо ръчни проверки. Внедряването на Google и Meta в Канада е предварителен преглед на това, което може да се превърне в по-широка глобална тенденция. Прочетете пълния ни анализ на AI проверките на възрастта на Google и Meta в Канада за регулаторния контекст, отделете няколко минути, за да прегледате настройките си за поверителност и персонализация на рекламите в основните платформи, и имайте предвид, че инструментите за оценка на възрастта често зависят от същите поведенчески данни, които захранват таргетираната реклама. Информираността за това как работят тези системи е най-добрият начин да запазите контрол върху това, което споделяте, независимо на колко години смята алгоритъмът, че сте.