La prévision de l'âge de ChatGPT rouvre le débat sur la vie privée et la protection de l'enfance

OpenAI a commencé à déployer dans ChatGPT une fonction qui tente d'estimer si l'utilisateur est plus âgé ou plus jeune avec l'objectif déclaré d'empêcher les jeunes d'accéder à des contenus adultes ou dangereux. Au lieu de se fier uniquement à la date de naissance que l'utilisateur a introduite lors de l'enregistrement, le système utilise un modèle de prédiction d'âge qui observe des signes tels que les sujets que vous commencez dans les conversations et les modèles d'utilisation, par exemple les créneaux horaires dans lesquels vous utilisez le service.

L'idée qui sous-tend cette couche de sécurité supplémentaire est simple : réduire le risque que des mineurs lisent des instructions nocives, des défis ou des contenus viraux dangereux qui favorisent des régimes alimentaires extrêmes et des stéréotypes physiques nuisibles. OpenAI explique que ces prédictions sont utilisées pour décider d'appliquer une expérience avec des restrictions conçues pour les utilisateurs de moins de 18 ans, et que ces filtres limitent l'accès au contenu à haut risque.

OpenAI reconnaît toutefois que le système n'est pas infaillible. L'avis public de cette fonction lui-même indique que le modèle peut être erroné et peut classer un adulte comme mineur si son comportement ressemble à celui d'un adolescent. Si cela arrive et que vous êtes âgé, vous pouvez passer par un processus de vérification pour restaurer l'expérience sans restrictions. L'entreprise a publié des détails sur l'exploitation et les limites de la prédiction d'âge à son propre centre d'aide: explication officielle de OpenAI.

Pour vérifier l'âge de la majorité OpenAI utilise un fournisseur externe, Personne, qui effectue la vérification en comparant un selfie en temps réel avec un document officiel (carte d'identité, passeport, permis de conduire, selon le pays). OpenAI veille à ce que ces données (self et image du document) soient supprimées par la personne dans les sept jours suivant la vérification. Si vous voulez commencer la vérification lorsque vous êtes connecté, l'entreprise indique que l'accès à la vérification est disponible à l'adresse suivante : https: / / chatgpt.com / vérifier _ âge et dans votre fournisseur vous pouvez consulter plus d'informations à le site Web personnel.

Au-delà de l'intention de protéger les mineurs, de telles mesures soulèvent des questions pertinentes sur la vie privée, la précision et les préjugés. L'utilisation de signaux indirects (questions de conversation, heures) pour déduire l'âge ouvre la porte à des erreurs systématiques : des personnes de cultures différentes, des travailleurs postés ou des utilisateurs ayant des intérêts non conventionnels pourraient être mal classées. En outre, tout système qui utilise des caractéristiques biométriques pour vérifier l'âge est placé sur un terrain sensible; des organisations telles que la Fondation Frontière Électronique ont mis en garde contre les risques liés à l'utilisation de données biométriques et à leur risque d'abus, ainsi que la nécessité de limiter clairement leur collecte et leur stockage ( en savoir plus sur la biométrie et la vie privée).

D'un point de vue réglementaire, la mesure interagit également avec les lois existantes sur la protection de l'enfance et les données à caractère personnel. Aux États-Unis, par exemple, la loi sur la protection de la vie privée des enfants en ligne (COPPA) impose des garanties spécifiques pour les données concernant les enfants de moins de 13 ans et, dans l'Union européenne, le règlement général sur la protection des données (RGPD) exige des bases juridiques et de la transparence lorsqu'il s'agit de données sensibles ou de décisions automatisées touchant les personnes. Si vous êtes intéressé par le cadre juridique de base concernant la protection de l'enfance et la protection de la vie privée du réseau, vous pouvez consulter des ressources telles que l'explication COPPA sur le site Web de la Commission fédérale du commerce: COPPA (FTC) et un guide pratique du RGPD: PIB.

Un autre point à considérer est la confiance dans les tiers qui gèrent la vérification. Bien qu'OpenAI indique que la personne élimine les images en peu de temps, ces promesses exigent une vérification et une transparence vraiment crédibles. Une communication claire sur ce qui est partagé, combien de temps il est tenu et qui peut accéder à ces données est essentielle pour que les utilisateurs puissent évaluer les risques avant de vérifier leur identité avec une photo et un document.

Pour les utilisateurs, il y a des implications pratiques immédiates. Si vous êtes mineur, vous remarquerez des limites sur certaines questions qui étaient auparavant disponibles; si vous êtes adulte et que le système vous classe comme mineur par erreur, vous devrez passer par la vérification de l'âge pour récupérer le plein accès. Dans les deux cas, toute décision automatisée devrait être accompagnée d'informations claires sur la raison pour laquelle une restriction a été appliquée et sur la façon de demander un réexamen.

Sur le plan social et éthique, le déploiement de modèles qui engendrent des caractéristiques sensibles soulève des questions de proportionnalité: dans quelle mesure est-il raisonnable pour une entreprise d'étudier les modes d'utilisation pour déduire l'âge? Quelle marge d'erreur est acceptable lorsque l'objectif est de protéger les mineurs sans créer d'obstacles indûment envahissants pour les adultes? Un débat public et un suivi indépendant sont nécessaires pour concilier la protection des jeunes avec le droit à la vie privée et le risque de discrimination.

Bref, la nouvelle fonction de prédiction de l'âge de ChatGPT vise à réduire les dommages en limitant l'accès des mineurs aux contenus dangereux et offre des moyens de vérification pour corriger les erreurs. Mais leur efficacité et leur légitimité dépendront de la qualité des prévisions, de la protection des données biométriques et de la transparence à l'égard des utilisateurs et des régulateurs. Si vous êtes préoccupé par la façon dont cela affectera votre utilisation de ChatGPT, vérifiez l'explication officielle d'OpenAI, évaluez les risques avant de vérifier avec des documents et gardez un oeil sur les développements réglementaires indépendants et l'analyse qui évaluent l'impact réel de ces mesures.