Une loi fondée sur de bonnes intentions, avec un noyau problématique

Le Kids Online Safety Act (KOSA) est présenté depuis des années comme une solution de bon sens aux préjudices bien réels auxquels les adolescents sont confrontés en ligne : harcèlement, exposition à des contenus graphiques et dépendance aux algorithmes sur les plateformes sociales. Presque personne ne conteste que ces problèmes sont légitimes. Mais selon une analyse récente, le mécanisme central du projet de loi, une disposition dite de « devoir de vigilance », est moins une mesure de sécurité qu’un outil de censure déguisé, et il soulève de sérieuses objections constitutionnelles que le Sénat ne devrait pas ignorer.

La norme de devoir de vigilance obligerait les plateformes à prendre des « mesures raisonnables » pour prévenir et atténuer les dommages causés aux mineurs par des contenus liés à des sujets comme l’anxiété, la dépression, les troubles alimentaires et la toxicomanie. Sur le papier, cela semble protecteur. Dans la pratique, soutiennent les critiques, cela donne au gouvernement un pouvoir discrétionnaire énorme pour décider ce qui constitue un discours nuisible, et pousse les plateformes à sur-censurer plutôt que de risquer d’engager leur responsabilité. C’est le cœur du problème : une norme juridique vague qui transforme la modération des contenus en un exercice de conformité dicté par la crainte de poursuites et de sanctions réglementaires, et non par ce qui est réellement bon pour les enfants.

Pourquoi le devoir de vigilance ressemble beaucoup à de la censure

Le problème que pose KOSA au Premier amendement n’est pas hypothétique. Lorsqu’une loi exige des entreprises qu’elles empêchent des catégories de « préjudices » définies de manière très large sans délimiter précisément ce que cela signifie, les plateformes ont tendance à réagir en supprimant tout ce qui pourrait entraîner une mise en cause, y compris des discours légitimes, du contenu éducatif et des ressources qui aident réellement les adolescents à aborder des sujets difficiles. C’est l’effet dissuasif classique : lorsque le coût d’une erreur est élevé et que la définition d’une « erreur » est floue, les entreprises préfèrent retirer plus de contenus que nécessaire.

C’est précisément la raison pour laquelle l’article source qualifie la disposition sur le devoir de vigilance de KOSA comme « plus proche de la censure que de la réglementation ». Une réglementation fixe généralement des règles claires que les entreprises peuvent suivre. Un régime de censure, en revanche, crée des obligations ouvertes qui sont appliquées de manière inégale et s’étendent souvent bien au-delà de leur intention initiale. Une fois que la norme de devoir de vigilance est inscrite dans la loi fédérale, rien ne l’empêche d’être appliquée plus largement que les législateurs ne l’avaient promis à l’origine, un schéma que les défenseurs de la vie privée et des libertés civiles ont signalé dans d’autres contextes, y compris des autorités de surveillance étendues comme l’article 702 de la FISA, où un langage juridique large a régulièrement dépassé sa justification étroite d’origine.

Le coût en matière de vie privée de l’application de KOSA

C’est ici que les implications pour la vie privée deviennent incontournables. Pour se conformer à une norme de devoir de vigilance, les plateformes ont besoin d’un moyen fiable de savoir quels utilisateurs sont mineurs. Cela signifie presque toujours une vérification accrue de l’âge, ce qui implique de collecter davantage de données d’identification pour chaque utilisateur, pas seulement les adolescents. Les contrôles de pièces d’identité gouvernementales, l’estimation biométrique de l’âge ou les services de vérification tiers exigent tous de transmettre des données personnelles sensibles à des entreprises (ou à leurs sous-traitants) qui n’ont peut-être pas un bilan solide en matière de protection de ces données.

Cette dynamique n’est pas propre à KOSA. Elle reflète ce que l’on a déjà observé avec les lois sur le contenu au niveau des États qui associent des obligations de vérification de l’âge à des restrictions sur les outils de contournement. Le SB 73 de l’Utah, par exemple, a suscité des critiques similaires pour avoir combiné des restrictions de contenu avec des règles rendant plus difficile pour les utilisateurs de protéger leur vie privée à l’aide d’outils comme les VPN. Lorsque les législateurs associent des obligations de contenu vagues à des exigences de vérification, le résultat pratique est souvent moins de vie privée pour tout le monde sur la plateforme, pas seulement pour les mineurs que la loi vise à protéger.

Parallèlement, les États expérimentent également leurs propres cadres de protection de la vie privée qui adoptent une approche totalement différente. Le projet de loi 71 du Sénat du Vermont, par exemple, vise à donner aux résidents le contrôle sur la manière dont leurs données sont collectées et utilisées, plutôt que d’imposer une vérification d’identité liée à la modération des contenus. Ce contraste mérite d’être souligné : il est possible de légiférer en matière de protection de la vie privée sans mettre en place de nouvelles infrastructures de censure et de surveillance.

Ce que cela signifie pour vous

Si KOSA devient une loi dans sa forme actuelle, attendez-vous à voir davantage de plateformes demander une vérification de l’âge, davantage de décisions de modération de contenu prises par prudence juridique plutôt que selon des directives claires, et potentiellement moins d’accès à des informations sensibles mais légitimes pour les adolescents qui se renseignent sur la santé mentale, la sexualité ou les ressources en matière de toxicomanie. Pour les adultes, cela pourrait signifier que les contrôles d’identité deviennent une routine dans l’utilisation des plateformes grand public, augmentant la quantité de données personnelles que les entreprises détiennent sur chacun d’entre nous.

Le débat sur KOSA ne porte pas vraiment sur la question de savoir si les enfants méritent une protection en ligne. Il s’agit de savoir si une norme juridique vague et rédigée de manière large est le bon outil pour assurer cette protection, ou si elle ouvre la porte à la censure et à l’érosion de la vie privée qui survivent à leur objectif initial.

Points à retenir pour agir

  • Suivez la façon dont vos sénateurs votent sur KOSA et d’autres projets de loi de type devoir de vigilance ; ces votes façonnent la régulation d’Internet pour des années.
  • Si les plateformes introduisent de nouvelles étapes de vérification de l’âge, examinez quelles données on vous demande de partager et si elles sont vraiment nécessaires.
  • Soutenez les modèles législatifs qui privilégient la vie privée, comme les lois sur le contrôle des données, plutôt que les mandats basés sur le contenu qui exigent une vérification d’identité.
  • Restez sceptique face à toute loi associant un langage de « sécurité des enfants » à des pouvoirs d’application larges et non définis ; demandez quels préjudices spécifiques elle cible et à quel point elle est rédigée de manière étroite.

Le Kids Online Safety Act est peut-être bien intentionné, mais les bonnes intentions ne l’emportent pas sur les préoccupations constitutionnelles et de vie privée. Le Sénat a l’occasion d’exiger un projet de loi plus étroit et plus clair, et les lecteurs qui se soucient à la fois de la sécurité des enfants et de la vie privée numérique devraient suivre cela de près.