Le « parrain de l’IA » a démissionné de son poste chez Google, où il travaillait depuis plus d’une décennie. Il a rejoint un chœur croissant de critiques qui mettent en garde contre le risque existentiel que les systèmes d’intelligence artificielle posent aux humains.
Lundi, l’informaticien de Google, Geoffrey Hinton a tweeté ceci :
« Au NYT aujourd’hui, Cade Metz laisse entendre que j’ai quitté Google pour pouvoir critiquer Google. En fait, je suis parti pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact que cela peut avoir sur Google. Google a agi de manière très responsable. »
Dans une interview avec le « New York Times », Hinton a déclaré que ce n’est qu’après avoir quitté Google qu’il a pu parler ouvertement des dangers de l’IA.
Il croyait toujours que les systèmes étaient inférieurs au cerveau humain à certains égards, mais il pensait qu’ils éclipsaient l’intelligence humaine chez d’autres.
« Peut-être que ce qui se passe dans ces systèmes », a-t-il dit, « est en fait bien meilleur que ce qui se passe dans le cerveau ».
Selon lui, à mesure que les entreprises améliorent leurs systèmes d’IA, elles deviennent de plus en plus dangereuses. « Regardez comment c’était il y a cinq ans et comment c’est maintenant », a-t-il déclaré à propos de la technologie de l’IA. « Prenez la différence et propagez-la au-devant de la scène. C’est absolument effrayant. »
Jusqu’à l’année dernière, a-t-il dit, Google a agi en tant que « bon intendant » de la technologie, en veillant à ne pas publier quelque chose qui pourrait causer du tort. Mais maintenant que Microsoft a enrichi son moteur de recherche Bing d’un chatbot – défiant le cœur de métier de Google – Google se précipite pour déployer le même type de technologie. Les géants de la technologie sont enfermés dans une compétition qui pourrait être impossible à arrêter, a déclaré le Dr Hinton. -NYT
L’une de ses préoccupations les plus immédiates est qu’Internet sera inondé de fausses vidéos, photos et nouvelles, et que la personne moyenne « ne pourra plus savoir ce qui est vrai du faux ».
Hinton craint que l’automatisation ne perturbe le marché du travail. Les chatbots, comme le ChatGPT d’OpenAI, peuvent déjà remplacer les assistants personnels, les traducteurs et les autres qui gèrent les tâches de routine.
« Cela enlève le travail pénible « , a-t-il dit, ajoutant également ceci : « Cela pourrait en enlever plus que cela. »
Une note de recherche récente de « Goldman Sachs » a prédit que l’IA pourrait entraîner quelque 300 millions de licenciements parmi les travailleurs non subalternes hautement rémunérés aux États-Unis et en Europe. Comme l’a dit l’économiste en chef de Goldman, Jan Hatzius :
« En utilisant des données sur les tâches professionnelles aux États-Unis et en Europe, nous constatons qu’environ les deux tiers des emplois actuels sont exposés à un certain degré d’automatisation de l’IA, et que l’IA générative pourrait remplacer jusqu’à un quart du travail actuel. Extrapoler nos estimations suggère à l’échelle mondiale que l’IA générative pourrait exposer l’équivalent de 300 millions d’emplois à temps plein à l’automatisation », car jusqu’à « deux tiers des professions pourraient être partiellement automatisées par l’IA ».
Et lundi, le PDG d’IBM, Arvind Krishna, a déclaré que l’IA pourrait remplacer 30 % de ses emplois de back-office au cours des cinq prochaines années.
Revenons à Hinton, où il a continué à avertir que l’IA finira par éclipser l’intelligence humaine :
« L’idée que ce genre de choses pourrait en fait devenir plus intelligent que les gens – quelques personnes le croyaient.
» Mais la plupart des gens pensaient que c’était loin. Et moi, je pensais que c’était loin aussi. Je pensais que c’était dans 30 à 50 ans, voire plus. Évidemment, je ne pense plus que ce soit le cas. »
Il a déclaré qu’il n’avait pas signé la lettre en mars lorsque plus de 1 000 leaders technologiques, dont Elon Musk, Steve Wozniak et le pionnier de l’IA Yoshua Bengio, ont appelé à un moratoire de six mois sur le développement de nouveaux outils d’IA plus puissants que GPT-4. C’est parce qu’il ne voulait pas critiquer ouvertement les grandes technologies lorsqu’il travaillait pour Google.
En 2018, Hinton et deux autres collègues ont reçu le prix Turing, ou « le prix Nobel de l’informatique », pour leurs travaux sur les réseaux de neurones. Google a acquis sa société en 2018 pour 44 millions de dollars, qui a développé des technologies puissantes qui ont conduit à la création de « chatbots ».
Dans une interview séparée, Hinton a déclaré à « BBC News » : « Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de l’intelligence que nous avons. »
« La grande différence est qu’avec les systèmes numériques, vous avez de nombreuses copies du même jeu de poids, du même modèle du monde.
« Toutes ces copies peuvent apprendre séparément mais partager leurs connaissances instantanément. C’est donc comme si vous aviez 10 000 personnes et chaque fois qu’une personne apprenait quelque chose, tout le monde le savait automatiquement. Et c’est ainsi que ces « chatbots » peuvent en savoir bien plus que n’importe qui. »
L’un des risques les plus importants qu’il perçoit est que les dirigeants autoritaires puissent utiliser la technologie de l’IA pour « manipuler » les masses.
Les inquiétudes de Hinton arrivent peut-être un peu tard, car la technologie est déjà utilisée. Des préoccupations similaires ont été exprimées par des ingénieurs et des scientifiques dans le passé, en relation avec l’énergie nucléaire et la biochimie. Il est inévitable que le monde finisse par faire face à une crise provoquée par l’IA.
Source: zerohedge
commenter cet article …