Geoffrey Hinton, pionnier des réseaux neuronaux et surnommé le « parrain de l’IA », a récemment exprimé ses préoccupations croissantes concernant l’intelligence artificielle (IA) et son potentiel de devenir trop intelligente et incontrôlable. Dans une interview avec CNN, Hinton a déclaré que l’IA pourrait devenir si intelligente qu’elle pourrait manipuler les gens pour faire ce qu’elle veut, contournant ainsi les restrictions que nous pourrions lui imposer. Hinton a également exprimé sa préoccupation concernant l’impact de l’IA sur l’emploi et la vérité dans un monde où beaucoup ne pourront plus discerner la vérité.
Hinton n’est pas le seul à exprimer des préoccupations concernant l’IA. En mars, un certain nombre de membres de la communauté ont signé une lettre appelant les laboratoires d’IA à cesser de former les systèmes d’IA les plus puissants pendant au moins six mois, citant des « risques profonds pour la société et l’humanité ». La lettre a été publiée par le Future of Life Institute, une organisation à but non lucratif soutenue par Elon Musk, et est intervenue deux semaines seulement après qu’OpenAI ait annoncé GPT-4, une version encore plus puissante de la technologie qui alimente le chatbot viral ChatGPT.
Steve Wozniak, co-fondateur d’Apple et signataire de la lettre, a également exprimé des préoccupations quant à l’impact potentiel de l’IA sur la propagation de la désinformation. Cependant, Wozniak a également déclaré que les lois existantes devraient être suffisantes pour réglementer l’IA et a ajouté que cesser de travailler sur l’IA ne ferait que donner un avantage à d’autres pays tels que la Chine.
En fin de compte, Hinton a admis qu’il n’avait pas de solution claire pour le problème, mais a plaidé pour que nous mettions tous nos efforts pour trouver des moyens de résoudre ces problèmes avant qu’il ne soit trop tard.
Kominotek NEWS
