Facebook a annoncé mercredi 1er mars le l’ouverture d’un test visant à détecter les messages suicidaires sur le réseau social, à l’aide d’un programme d’intelligence artificielle. En se basant sur de précédents messages signalés par des utilisateurs comme suicidaires, ce programme informatiqué a été « entraîné » à repérer ce type de publication. Une équipe de Facebook vérifiera alors le message et, si besoin, « fournira des ressources à la personne qui a publié le contenu », explique l’entreprise dans un communiqué. Facebook souligne que ce test, « limité », a seulement été lancé aux Etats-Unis.
Ce n’est pas la première fois que le réseau social se penche sur la question du suicide. Des outils existent déjà, permettant aux utilisateurs de signaler ce type de messages à Facebook. « Nous avons des équipes partout dans le monde, 24 h sur 24, 7 jours sur 7, qui analysent ces signalements », assure le réseau social. Si une personne est effectivement considérée comme à risque, Facebook lui propose par exemple de contacter un proche, d’être mis en relation avec une ligne d’écoute ou de lire des conseils, élaborés avec des associations spécialisées.
Facebook a étendu mercredi ce service à ses vidéos en direct (Facebook Live) : si un utilisateur qui se filme inquiète les personnes qui la regardent, ces dernières peuvent signaler la vidéo à Facebook, qui peut lui proposer de l’aide. Cette annonce intervient après plusieurs suicides diffusés en direct sur Facebook Live, qui avaient provoqué une vive émotion