Si l’intelligence artificielle fait souvent craindre un scénario dramatique digne de Terminator, elle peut aussi sauver des vies. C’est du moins l’avis de Facebook qui expérimente depuis plusieurs mois aux États-Unis un logiciel pour détecter les tendances suicidaires de ses utilisateurs. Selon l’Organisation mondiale de la Santé (OMS), le suicide est à l’origine de plus de 800 000 décès par an dans le monde, soit un mort toutes les 40 secondes. L’organisme estime également que le suicide est la deuxième cause de mortalité à l’échelle mondiale pour les 15-29 ans.
L’outil de Facebook repose sur une technologie d’intelligence artificielle pour repérer automatiquement les messages laissant craindre des pulsions suicidaires. Pour cela, cette technologie s’est nourrie de l’analyse de messages existants signalés comme suicidaires par les humains. Sur le réseau social, le logiciel cherche ainsi des questions, comme «Est-ce que tu vas bien ?» ou «As-tu besoin d’aide ?». Si un message est considéré comme suicidaire, le logiciel émet une alerte auprès d’employés de Facebook qui sont affectés au traitement de ces signalements.
Un déploiement mondial… sauf dans l’Union européenne
Pour éviter que l’utilisateur concerné ne passe à l’acte, Facebook lui met à disposition des ressources, comme un numéro d’assistance téléphonique ainsi que des conseils pour travers une période difficile, et lui propose d’appeler un ami de confiance. Le réseau social propose également aux amis de l’utilisateur concerné de lui venir en aide en appelant un service d’assistance pour les personnes en détresse ou en en parlant avec d’autres amis pour trouver une solution. Facebook peut même choisir de contacter directement les secours si une urgence est identifiée.
Ce dispositif est testé depuis mars dernier aux États-Unis et doit être prochainement déployé dans le monde entier, sauf dans l’Union européenne où la législation sur les données personnelles et leur traitement automatisé est plus stricte. Facebook précise que ses employés sont entrés en contact avec des utilisateurs à plus de 100 reprises au cours du mois écoulé après la détection de tendances suicidaires via le logiciel. La firme américaine rappelle également qu’elle travaille sur des outils de prévention du suicide depuis plus de dix ans et qu’elle collabore avec 80 partenaires locaux à travers le monde pour lutter contre les suicides.
3 000 personnes recrutées pour éviter la diffusion de contenus violents sur Facebook
Ces derniers mois, Facebook a régulièrement été sous le feu des critiques en raison de la diffusion de suicides ou de meurtres en direct via Facebook Live, qui permet à ses utilisateurs de diffuser des vidéos en direct sur le réseau social. Pour remédier à cette problématique, la firme américaine avait annoncé en mai son intention de recruter 3 000 personnes supplémentaires pour filtrer les contenus postés sur Facebook et ainsi éviter la diffusion de contenus violents, comme les suicides.
Cependant, la capacité de Facebook à détecter les intentions suicidaires soulève des inquiétudes quant au respect de la vie privée de ses utilisateurs. Il y a quelques mois, le journal The Australian a notamment révélé que Facebook avait réalisé une enquête pour démontrer sa capacité à détecter les sentiments des adolescents. Selon le média australien, Facebook se vante d’être capable de repérer les sentiments des adolescents, et ce dès 14 ans, pour savoir s’ils se sentent «nerveux», «bouleversés», «stupides», «inutiles» ou encore «vulnérables». Pour cela, le réseau social analyse leurs commentaires, leurs photos, leurs publications et les interactions avec leurs amis. En procédant de cette manière, Facebook serait également capable de détecter les moments où les adolescents souhaitent faire du sport ou pensent à se sentir beau.
- Du Next 40 au CAC 40 : la France doit désormais convaincre ses licornes d’entrer en Bourse - 25/11/2021
- Quelle est l’approche de Joko pour devenir une «super-app» du shopping? - 24/11/2021
- [SEED] Après le fret routier avec Everoad, Maxime Legardez s’attaque au recrutement en créant Maki - 23/11/2021
