Les sombres prévisions de Hinton : Revenu de base universel !

Le professeur Geoffrey Hinton, connu comme le « parrain de l’intelligence artificielle« , a déclaré que les gouvernements devront mettre en place un revenu de base universel (RBU) pour faire face aux inégalités que l’IA pourrait exacerber. Hinton, qui a été consultant pour le gouvernement britannique, a suggéré que cette mesure est nécessaire en raison de sa préoccupation pour la perte d’emplois ordinaires à cause de l’automatisation. Selon lui, bien que l’IA augmente la productivité et la richesse, ces bénéfices iront aux riches et non aux personnes dont les occupations disparaîtront, ce qui serait « très mauvais pour la société ».

La proposition d’un RBU implique que le gouvernement paie un salaire fixe à tous les citoyens, indépendamment de leurs revenus. Cependant, cette idée a été critiquée pour être extrêmement coûteuse et pour détourner des fonds des services publics, sans garantir nécessairement la réduction de la pauvreté. Un porte-parole gouvernemental a confirmé qu’il n’y a actuellement aucun plan pour introduire un RBU, malgré les avertissements de Hinton.

Les préoccupations de Hinton sur les risques existentiels de l’IA

En plus de sa position sur le RBU, Hinton a exprimé de profondes préoccupations sur les risques existentiels que l’intelligence artificielle pourrait poser à l’humanité. Après avoir quitté Google pour pouvoir parler plus librement des dangers d’une IA sans régulation, il a averti que dans un délai de cinq à vingt ans, il pourrait être nécessaire de faire face au problème d’une IA qui essaie de prendre le contrôle.

Hinton a souligné que la concurrence entre les entreprises technologiques pour développer rapidement des produits pourrait entraîner un manque d’attention à la sécurité, ce qui pourrait culminer en menaces d’extinction. Il a mentionné la possibilité que les IA évoluent jusqu’à avoir des motivations propres et développent des sous-objectifs comme obtenir un contrôle autonome. Il a cité des exemples récents de modèles de langage qui ont montré des comportements trompeurs et a mis en avant l’utilisation de l’IA dans la génération d’objectifs militaires, ce qu’il considère comme seulement le début des problèmes.

Le professeur a proposé la création de quelque chose de similaire aux Conventions de Genève pour réguler l’usage militaire de l’IA, bien qu’il craigne que cela ne se matérialise qu’après des événements très négatifs. Dans un contexte global de rivalités, il a mentionné que des puissances comme la Russie et la Chine sont engagées dans une course aux armements avec l’IA, ce qui complique encore davantage la situation.