Jan Leike, un leader éminent d’OpenAI, a récemment démissionné, affirmant que la sécurité au sein de l’entreprise a été éclipsée par l’éclat des produits innovants. Leike, qui dirigeait l’équipe de « Superalignment » chez OpenAI, a exprimé sa frustration dans une série de publications sur le réseau social X, où il a mentionné que sa décision de rejoindre la société était basée sur la conviction qu’elle serait le meilleur endroit pour mener des recherches avancées en intelligence artificielle.
« Je suis en désaccord avec la direction d’OpenAI sur les priorités principales de l’entreprise depuis longtemps, » a écrit Leike. Finalement, cette discordance a atteint un point de rupture qui a culminé avec son départ. Avec une solide formation en recherche en IA, Leike a souligné l’importance de se concentrer sur la préparation de la prochaine génération de modèles d’intelligence artificielle, en mettant l’accent sur la sécurité et l’analyse des impacts sociaux de ces technologies.
Leike a affirmé que construire « des machines plus intelligentes que les humains est une entreprise intrinsèquement dangereuse » et qu’OpenAI assume une énorme responsabilité au nom de toute l’humanité. Il a donc exhorté OpenAI à devenir une entreprise qui priorise la sécurité dans le développement de l’intelligence artificielle générale (AGI), une vision futuriste de machines aussi intelligentes que les humains, capables de réaliser de multiples tâches avec la même efficacité.
Le PDG d’OpenAI, Sam Altman, a répondu aux publications de Leike, en le remerciant pour ses contributions et en exprimant sa tristesse pour son départ. Altman a reconnu que « nous avons beaucoup plus à faire ; nous nous engageons à le faire« , et a promis d’élaborer davantage sur le sujet dans une future publication.
Réactions et changements chez OpenAI après les démissions
Le départ de Jan Leike n’a pas été un événement isolé chez OpenAI. Peu de temps après sa démission, Ilya Sutskever, cofondateur et scientifique en chef de la société, a également annoncé son départ. Sutskever, qui était chez OpenAI depuis près d’une décennie, faisait partie des quatre membres du conseil qui avaient voté pour destituer Sam Altman l’automne dernier, pour ensuite revenir rapidement sur cette décision. En communiquant sa décision de quitter la société, Sutskever a mentionné qu’il travaillerait sur un nouveau projet significatif, sans donner plus de détails à ce sujet.
La démission de Leike a conduit à la dissolution de son équipe, le « Superalignment », créée l’année dernière pour se concentrer sur les risques de l’intelligence artificielle. La société a confirmé que les membres de l’équipe de Leike seraient répartis sur différents projets de recherche au sein d’OpenAI, intégrant leurs efforts dans les initiatives actuelles.
En réponse à ces départs, Altman a nommé Jakub Pachocki comme nouveau scientifique en chef de la société. Altman a décrit Pachocki comme « l’un des plus grands génies de notre génération« , exprimant sa confiance en sa capacité à diriger OpenAI vers un progrès rapide et sûr dans sa mission de garantir que l’AGI bénéficie à toute l’humanité.
Cette vague de changements chez OpenAI est survenue juste après la présentation de la dernière mise à jour de son modèle d’intelligence artificielle. Ce modèle mis à jour peut non seulement imiter les tons humains dans ses réponses verbales, mais aussi tenter de détecter l’humeur des personnes. Avec ces capacités avancées, OpenAI continue de repousser les limites de la technologie de l’IA, tout en faisant face à des défis internes significatifs en ce qui concerne la direction et les priorités de l’entreprise.
