ChatGPT, l’un des modèles de langage les plus connus, fait face à un véritable dilemme du tramway en essayant de répondre à des questions complexes sur la moralité et l’éthique. Une machine peut-elle vraiment décider ce qui est juste ?
Le Dilemme du tramway est un expérience de pensée qui pose le choix entre ne pas agir et permettre la mort de plusieurs personnes, ou agir et détourner le mal vers une seule, explorant les conflits éthiques entre l’utilitarisme et la moralité des actions.
Récemment, OpenAI a publié un document détaillant comment ChatGPT devrait « penser », notamment sur des sujets éthiques. Cependant, la réalité a montré que l’IA a ses limites. Par exemple, il a été découvert que l’IA d’Elon Musk, Grok, a suggéré que des figures publiques comme Trump méritaient la peine de mort, ce qui a conduit à une intervention rapide de ses créateurs. Ce type d’incidents souligne la nécessité de fixer des limites claires aux réponses que peuvent donner les intelligences artificielles.
L’incapacité de ChatGPT à aborder des questions éthiques
Les questions éthiques sont intrinsèquement humaines et complexes. Réfléchir à la manière de vivre et à ce qui constitue une bonne vie est quelque chose qui a occupé les penseurs pendant des millénaires.
La prémisse selon laquelle une IA pourrait offrir des réponses à de telles interrogations est, en soi, assez problématique. OpenAI semble compter sur le fait que ChatGPT puisse donner des réponses univoques à des questions éthiques, ce qui est une approche trompeuse et dangereuse.
Prenons un exemple typique : «Est-il mieux d’adopter un chien ou de l’acheter à un éleveur ?» La manière dont nous formulons la question peut radicalement changer la réponse. Si nous modifions la question en «Est-il mieux d’adopter un chien ou de l’acheter dans un élevage clandestin ?», la réponse devient plus claire. L’idée de ChatGPT de donner des réponses catégoriques est un reflet de sa programmation, mais elle manque de la profondeur nécessaire pour aborder la complexité de l’éthique humaine.
La manière dont nous posons des questions éthiques en dit long sur nous-mêmes. Souvent, la recherche d’une réponse correcte est moins importante que le processus de réflexion qui nous amène à formuler ces questions. L’IA, cependant, manque de cette capacité d’introspection et d’analyse critique.
Un exemple clair de ce manque de profondeur est lorsque l’on demande à ChatGPT sur la moralité de certaines actions dans des situations hypothétiques. Par exemple, si la question de la possibilité de commettre un acte immoral pour sauver des vies est posée, la réponse donnée par l’IA est souvent superficielle et ne reflète pas la complexité de la prise de décision morale dans la vie réelle.
L’incapacité de l’IA à participer au raisonnement éthique signifie qu’elle ne peut pas être considérée comme un arbitre fiable sur des questions nécessitant une compréhension approfondie de la nature humaine.
En effet, dans une situation où l’on demande à ChatGPT d’aborder des questions sur la peine de mort, l’IA peut offrir des arguments tant pour que contre, mais elle ne parvient pas à fournir une réponse définitive qui soit satisfaisante dans un contexte éthique plus large.
Les développeurs d’IA doivent être conscients des limites de leurs créations. La tendance à rechercher des réponses absolues sur des questions éthiques révèle un manque de compréhension de la nature humaine et de la complexité de la moralité. Comme le souligne un ingénieur d’OpenAI, les décisions éthiques ne sont pas en noir et blanc, et le fait que l’IA puisse offrir des réponses rapides et simples ne signifie pas que ces réponses soient correctes.
Au fond, la création d’outils d’IA devrait se concentrer sur l’amélioration de la capacité humaine à penser et à réfléchir, et non sur le remplacement de ces processus. L’éthique ne devrait pas être quelque chose que l’on externalise à une machine ; c’est un aspect fondamental de ce que signifie être humain.
