Facebook a annoncé le déploiement d'un système d'intelligence artificielle visant à identifier plus rapidement les membres du réseau social en proie aux idées suicidaires pour les aider.
Cette technologie cherchera automatiquement des indices dans les messages ainsi que les vidéos mises en ligne en direct sur Facebook Live, afin d'avertir plus rapidement le personnel de Facebook et les organisations d'aide spécialisée.
« Cette approche utilise une technologie de reconnaissance de types de comportement pour aider à identifier les messages et les vidéos en direct qui expriment potentiellement des pensées suicidaires », a écrit dans une note de blog le vice-président de gestion des produits de Facebook, Guy Rosen.
Le système d'intelligence artificielle passera au crible les messages de membres mais aussi les réponses de leurs amis qui pourraient par exemple leur demander si tout va bien ou « qu'est-ce que je peux faire pour t'aider? », explique Guy Rosen.
Facebook a déjà mis en place des outils permettant à ses utilisateurs de signaler si un ami semble vouloir mettre fin à ses jours, mais l'intelligence artificielle permet de signaler plus rapidement ces informations et même de détecter des signaux que les membres pourraient ne pas déceler.
Après l'avoir testé aux Etats-Unis, Facebook va déployer ce système d'intelligence artificielle hors des Etats-Unis. « Il finira par être disponible partout dans le monde, sauf dans l'UE », souligne Guy Rosen sans plus de précisions. Les données personnelles sont protégées dans l'Union européenne par une réglementation plus stricte qu'aux Etats-Unis.
Facebook collabore depuis une décennie avec des organisations spécialisées dans la santé mentale afin de lutter contre les suicides et d'aider ses membres en détresse à trouver le soutien nécessaire, explique Guy Rosen.