Un élève de 13 ans arrêté pour avoir demandé à ChatGPT comment agresser un camarade
Un adolescent de 13 ans a été placé en détention provisoire aux États-Unis après avoir formulé une requête inappropriée à l’assistant conversationnel ChatGPT, visant à obtenir des conseils sur la manière d’agresser un camarade de classe. Cette interaction, détectée en temps réel par un outil de surveillance numérique, a déclenché une enquête menée par les forces de l’ordre, aboutissant à l’arrestation de l’adolescent.Selon les informations recueillies par BFMTV, un service de médias français, la surveillance s’est effectuée grâce à Gaggle, une plateforme d’intelligence artificielle conçue pour analyser les données générées par les élèves sur les appareils scolaires. Ce système, déployé par de nombreuses écoles américaines, vise à identifier les signaux d’alerte éventuels, tels que des menaces ou des comportements à risque.
Le jeune, interrogé par les autorités, a affirmé que son message ne constituait qu’une blague maladroite destinée à provoquer ses pairs.Cependant, les autorités locales, soucieuses de prévenir tout incident grave, ont jugé nécessaire d’agir avec rigueur. Le shérif du comté concerné a publié un communiqué soulignant l’importance pour les parentaux de superviser l’utilisation des outils numériques par leurs enfants. « Les parents doivent absolument discuter avec leurs enfants afin d’éviter qu’ils ne subissent les répercussions d’une mauvaise plaisanterie », a-t-il précisé, en utilisant les réseaux sociaux pour alerter le public.
Le système Gaggle, bien qu’apprécié pour sa capacité à repérer des comportements inquiétants, suscite des débats. Des critiques émanant d’éducateurs et de défenseurs des libertés pointent un double problème : le volume élevé de fausses alertes générées par l’algorithme et le risque de violation de l’intimité des élèves. Certaines voix s’élèvent également pour dénoncer un manque de transparence dans la gestion des données personnelles collectées par le dispositif.
Dans ce contexte, l’incident illustre les enjeux complexes liés à l’utilisation des technologies éducatives. Tandis que certains soulignent leur utilité pour la prévention des risques, d’autres craignent leur impact psychologique sur les jeunes, notamment en matière de liberté d’expression. Les autorités scolaires locales, quant à elles, affirment que ces outils restent un pilier essentiel de la sécurité dans les établissements, malgré les controverses.
L’adolescent, désormais sous la responsabilité d’un centre de prise en charge spécialisé, est suivi par des professionnels de la santé mentale. Les autorités rappellent que les réseaux sociaux et les assistants numériques, bien qu’utiles, peuvent également être des canaux propices à la diffusion de contenus inappropriés. Pour les familles, l’équilibre entre vigilance et confiance s’impose comme un défi crucial dans un monde où l’environnement numérique devient un espace de plus en plus central pour les jeunes.
Rédaction Kominotek NEWS
