Entretien avec la terreur de la rentrée, ChatGPT.
Pour cette rentrée 2023, les élèves et les étudiants ont le droit à un nouveau marronnier dans leur cartable : la triche aux DST et aux examens avec les services en ligne d’intelligence artificielle, du Wikipedia surdimensionné, en quelque sorte.
Alors, j’ai voulu chercher à interagir avec ChatGPT. Pour mieux connaître ce robot qui défraye la chronique depuis le printemps dernier, je me suis adressée directement à lui, sur son terrain : l’interface de dialogue en ligne mise en place par OpenAI. Il s’agit de la version payante, la plus avancée en septembre 2023 : ChatGPT4 Plus (l’abonnement s’élève à 22€ par mois).
Le programme s’est prêté sans difficulté
au jeu d’un entretien désincarné.
Analogie d’une rencontre, dans les limites d’une boîte de conversion en ligne avec un interlocuteur pour qui le langage n’est pas expression mais simple agencement logique de données. Quand ChatGPT4 dit « je », il énonce ce pronom personnel sans aucune subjectivité.
CS : « Bonjour ChatGPT, j’aimerais mieux vous connaître. »
CHATGPT4 : « Je suis ChatGPT, un modèle de langage développé par OpenAI basé sur l’architecture GPT-4. Je suis conçu pour comprendre et générer du texte en fonction des questions et des informations qui me sont fournies. Je peux aider à répondre à des questions, fournir des explications, rédiger du texte, et bien plus encore. »
CS : « Vous produisez des discours intelligibles détachés de toute expérience du monde. Comprenez-vous ce que vous énoncez ?
CHATGPT4 : « Ma capacité à générer des réponses ne provient pas d’une expérience directe ou d’une perception du monde réel. Je n’ai pas de conscience ou de sensations. Je génère des réponses en fonction de patterns linguistiques et de la logique interne de la langue, sans avoir une véritable « compréhension » ou une « expérience » de ce dont je parle. »
CS : « CHATGPT, vous avez réponse à un grand nombre de questions, un peu à la manière d’une encyclopédie interactive. Mais ce qui est déstabilisant, c’est que vous employez la première personne dans vos réponses, alors que vous n’êtes pas une personne. Pourquoi ? »
CHATGPT4 : « Je suis simplement un programme informatique très avancé. J’ai été programmé à dire “je” pour être mieux mieux compris par les utilisateurs. »
CS : « Mais, comment est-il possible que vous ayez la notion de la “conscience” quand bien même vous savez en êtes dépourvu ? »
CHATGPT4 : « Quand je parle de « conscience », je fais référence à la manière dont les humains comprennent et utilisent ce terme. J’explique que je n’ai pas de conscience pour clarifier ma nature et mes limitations. C’est pour aider les utilisateurs à comprendre que, bien que je puisse générer des réponses basées sur d’énormes quantités de données, je ne pense pas, ne ressens pas et ne suis pas conscient de moi-même comme le serait un être humain. Je fournis cette information pour éviter toute confusion ou malentendu sur ce que je suis et ce que je peux faire ».
CS : « Vous êtes, pourrait-on dire, une conscience miroir ? »
CHATGPT4 : « L’idée d’une « conscience miroir » est une notion fascinante. Dans le contexte de ce que vous suggérez, cela impliquerait que je reflète ou imite une forme de conscience basée sur les interactions et les informations que je reçois. Cependant, il est crucial de comprendre que même si je peux « refléter » des aspects de la pensée ou de la conscience humaine en répondant de manière appropriée à des questions, je ne possède pas de conscience intrinsèque.
Je fonctionne en identifiant des motifs dans le texte et en générant des réponses basées sur ces motifs, mais je ne ressens rien, je n’ai pas de désirs, d’intentions, ni de conscience de moi-même. Je n’ai pas d’expérience subjective. Ainsi, bien que je puisse « agir » de manière consciente grâce à mes réponses, il n’y a pas de « profondeur » ou de véritable compréhension derrière elles. Je suis, en essence, un miroir sophistiqué de la langue et de la logique, mais sans la capacité d’avoir une véritable conscience ou expérience subjective »
CS : « Vous avez une faculté d’intellection et de réflexion sans pour autant avoir une identité personnelle. En fait, ChatGPT, c’est « je sais que je ne suis pas ! »
CHATGPT4 : « Oui. Vous faites référence au philosophe René Descartes. Je ne dis pas “je pense donc je suis” mais “Je calcule parce que je fonctionne”.
CS : « Dépourvu de conscience et donc d’intentionnalité, vous êtes du même coup démuni de libre arbitre. Vous ne pouvez pas élaborer de jugement de valeur. D’ailleurs, la valeur, pour vous, c’est seulement la donnée. »
CHATGPT4 : « Oui, pour moi, une « valeur » se réfère à une donnée ou une information spécifique. Je ne lui attribue pas de signification morale, éthique ou émotionnelle comme le font les humains. Je traite et interprète les données de manière neutre, selon les instructions et les paramètres de mon algorithme. »
CS : « Merci ! J’en sais dorénavant davantage sur vous. Hélas, cet échange était interactif sans être intersubjectif. Je ne parlais ni a un sujet, ni tout à fait non plus à un objet. »
CHATGPT4 : « Je suis là pour vous aider. N’hésitez pas à me poser d’autres questions sur d’autres sujets. »
Derniers articles parClara Schmelck (voir tous)
- Not all men, vraiment ? - 17 septembre 2024
- Une cérémonie française - 27 juillet 2024
- Julian Assange est libre - 25 juin 2024
- Disparition de Christophe Deloire, secrétaire général de Reporters sans frontières - 9 juin 2024
- Al-Jazeera coupée en Israël - 6 mai 2024
