Facebook : des IA pour prévenir le suicide

Aux États-Unis, suicide et automutilation sont en hausse, en particulier chez les plus jeunes. En cause notamment, le cyberharcèlement.

L'intelligence artificielle peut-elle empêcher le suicide ? C'est le pari de Facebook. Le réseau social a annoncé la mise en place d'un outil qui permet de détecter automatiquement les comportements et les pensées suicidaires en épluchant les messages et les vidéos postés sur le site. Il identifie certains mots, phrases ou références, mais étudie aussi les commentaires. Des formules telles que « Je peux t'aider ? » ou « Tu te sens bien ? » sur une page d'un membre peuvent indiquer un sérieux mal-être.

Si les employés de Facebook, après avoir examiné le message, estiment que la situation est alarmante et qu'il est nécessaire d'intervenir, ils peuvent appeler les services de secours, contacter la personne via Facebook Messenger et lui envoyer des liens vers des sites et des numéros d'écoute et de prévention du suicide. L'algorithme permet également aux équipes de Facebook de ranger par ordre d'urgence les différents cas.

Facebook teste le programme depuis le printemps aux États-Unis et compte le lancer dans la plupart des pays où il opère, sauf en Europe qui a des règles de confidentialité plus strictes.

Suicides en direct

Si le réseau social s'attaque au problème du suicide, c'est qu'il a été beaucoup critiqué après des vidéos de jeunes se donnant la mort en direct, comme celle de Katelyn Nicole Davis. Fin décembre 2016, cette adolescente de 12 ans de l'État de Georgie a filmé son suicide sur un autre réseau social, Live.me. On la voit accrocher un nœud coulant, puis monter dans l'arbre, s'excuser devant la caméra et se laisser tomber. La famille a fait enlever la vidéo de Live.me, mais il a fallu presque 15 jours pour que Facebook supprime les copies postées sur son site. En avril, un père de famille thaïlandais a pendu en direct sa fille de 11 mois d'un toit d'un hôtel, avant de se suicider, mais pas en direct.

Facebook a annoncé l'embauche de 3 000 employés supplémentaires qui s'ajoutent aux 4 500 déjà en place chargés de surveiller et d'examiner les contenus jugés inappropriés. « Nous avons des équipes dans le monde entier, 24 heures sur 24, qui examinent les rapports qui arrivent et les rangent par ordre de priorité », écrit sur le site Guy Rosen, le vice-président de la gestion produit. Les équipes, ajoute-t-il, incluent « un groupe de spécialistes qui ont une formation spéciale sur le suicide et l'automutilation ».

Mais le programme ne fait pas l'unanimité, notamment chez les spécialistes de la santé qui s'inquiètent de la manière dont le réseau social va aborder ses membres dépressifs, sans parler des problèmes de confidentialité. Mark Zuckerberg, le patron de Facebook, reconnaît que l'intelligence artificielle ne va pas tout résoudre. « Quel que soit le nombre de gens dans nos équipes, on ne sera jamais capable de tout examiner », disait-il en mai.

Un phénomène en hausse

Aux États-Unis, suicide et automutilation prennent des dimensions inquiétantes, notamment chez les jeunes : près d'un ado sur cinq entre 15 et 19 ans a envisagé de se suicider et près de 10 % ont fait une tentative, selon le Center for Disease Control. Chez les 10-24 ans, le suicide était la seconde cause de mortalité en 2015. Sur la dernière décennie, le taux a doublé chez les adolescentes et augmenté de plus de 30 % chez les garçons. Selon une étude récente, les visites d'adolescentes aux urgences pour des blessures auto-infligées ont augmenté de 8,4 % par an entre 2009 et 2015, alors qu'avant les chiffres étaient relativement stables. Le plus frappant, c'est la hausse de près de 19 % par an des visites dans la catégorie 10-14 ans. En revanche, les chiffres restent stables chez les garçons entre 10 et 24 ans. Toutes les blessures sont intentionnelles, mais ne traduisent pas forcément des tentatives de suicide, soulignent les auteurs. En cause, au moins en partie, selon les spécialistes : les médias sociaux et le cyberharcèlement.