Meta se tourne vers l'IA pour protéger les mineurs des " sextorsions " sur Instagram

Meta a annoncé jeudi qu'elle développait de nouveaux outils pour protéger les utilisateurs adolescents contre les escroqueries de "sextorsion" sur sa plateforme Instagram, accusée par des politiciens américains de nuire à la santé mentale des jeunes.

Les gangs pratiquent des escroqueries de sextorsion en persuadant les gens de fournir des images explicites d'eux-mêmes, puis en menaçant de les rendre publiques à moins qu'ils ne reçoivent de l'argent.

Meta a déclaré qu'elle testait un outil de " protection de la nudité " basé sur l'IA qui trouverait et brouillerait les images contenant de la nudité envoyées aux mineurs sur le système de messagerie de l'application.

"De cette façon, le destinataire n'est pas exposé à un contenu intime non désiré et a le choix de voir ou non l'image", a expliqué Capucine Tuffier, chargée de la protection de l'enfance chez Meta France.

La société américaine a déclaré qu'elle offrirait également des conseils et des astuces de sécurité à toute personne envoyant ou recevant de tels messages.

Quelque 3 000 jeunes ont été victimes d'escroqueries à l'exploitation sexuelle en 2022 aux États-Unis, selon les autorités du pays.

Par ailleurs, plus de 40 États américains ont commencé à poursuivre Meta en octobre dans une affaire accusant l'entreprise d'avoir " profité de la douleur des enfants ".

Le dossier juridique alléguait que Meta avait exploité les jeunes utilisateurs en créant un modèle commercial conçu pour maximiser le temps qu'ils passent sur la plate-forme malgré les dommages causés à leur santé.

Meta a annoncé en janvier qu'elle déploierait des mesures pour protéger les moins de 18 ans, notamment en renforçant les restrictions de contenu et en renforçant les outils de surveillance parentale.

La société a déclaré jeudi que les derniers outils s'appuient sur " notre travail de longue date pour aider à protéger les jeunes contre les contacts indésirables ou potentiellement dangereux ".

"Nous testons de nouvelles fonctionnalités pour aider à protéger les jeunes contre la sextorsion et l'abus d'image intime, et pour rendre plus difficile aux fraudeurs et criminels potentiels de trouver et d'interagir avec des adolescents", a déclaré la société.

Il a ajouté que l'outil de " protection de la nudité " utilisait " l'apprentissage automatique sur l'appareil ", une sorte d'intelligence artificielle, pour analyser les images.

L'entreprise, qui est également constamment accusée de violer la confidentialité des données de ses utilisateurs, a souligné qu'elle n'aurait accès aux images que si les utilisateurs les signalaient.

Meta a déclaré qu'il utiliserait également des outils d'IA pour identifier les comptes envoyant du matériel incriminé et restreindrait considérablement leur capacité à interagir avec les jeunes utilisateurs sur la plate-forme.

La lanceuse d'alerte Frances Haugen, ancienne ingénieure de Facebook, a rendu public en 2021 une étude menée en interne par Meta - alors connue sous le nom de Facebook - qui montrait que l'entreprise était depuis longtemps consciente des dangers que ses plateformes représentaient pour la santé mentale des jeunes.