Pendant un demi-siècle, Geoffrey Hinton a perfectionné la technologie sur laquelle reposent les chatbots comme ChatGPT. Maintenant, il craint qu’elle ne puisse causer des dommages sérieux.
En 2012, lui et deux de ses étudiants à l’Université de Toronto ont développé une technologie qui constitue la base intellectuelle des plus grands systèmes d’IA actuels. Mais lundi, il a officiellement rejoint un chœur croissant de critiques qui affirment que ces entreprises, avec leur campagne agressive de développement de produits basés sur l’intelligence artificielle générative – la technologie qui alimente des chatbots populaires comme ChatGPT – se dirigent vers un danger.
Le Dr. Hinton a déclaré avoir démissionné de son poste chez Google, où il a travaillé pendant plus d’une décennie et est devenu l’une des voix les plus respectées dans ce domaine, afin de pouvoir s’exprimer librement sur les risques de l’IA. Une partie de lui, a-t-il dit, regrette désormais son œuvre de toute une vie. “Il est difficile de voir comment empêcher les acteurs malveillants de l’utiliser pour des choses mauvaises”, a-t-il déclaré.
Les leaders du secteur pensent que les nouveaux systèmes d’IA pourraient être aussi importants que l’introduction du navigateur Web au début des années 1990 et mener à des percées dans des domaines comme la recherche pharmaceutique et l’éducation. Cependant, de nombreux initiés craignent qu’ils ne libèrent quelque chose de dangereux dans la nature. L’IA générative peut déjà être un outil de désinformation. Bientôt, elle pourrait représenter un danger pour les emplois. Un jour, affirment les plus fervents partisans, elle pourrait même constituer une menace pour l’humanité.
