Parler avec une IA  / Talking with an AI



Photo: Mike Patten


FR


1. Règlements


-Toutes les interactions doivent se faire dans le respect; aucun manquement à cette règle ne sera toléré.
-Tout ce qui est dit par l’entité double IA-interprète peut être vrai ou faux. Aucune parole, information, suggestion ou autre, aussi factuelle semble-t-elle, ne doit être considérée comme fiable sans vérification externe.

2. Conseils


Ne pas interrompre : Comme nous utilisons un système de reconnaissance vocale, il est important de laisser l'interprète incarnant l’IA terminer ses réponses sans l'interrompre, avant de répondre ou de poser une question.

Parlez avec précision et insistez au besoin: Lorsque vous posez des questions à l'IA incarnée, essayez d'être aussi précis que possible. N'hésitez pas à insister si les réponses sont trop vagues ou trop clichées. Ex:
-«L’IA pose-t-elle des risques graves pour la survie de l’humanité?»
-(réponse ennuyeuse)
-«Tu n’as pas répondu à ma question. Pourrais-tu s’il-te-plaît m’expliquer, concrètement et avec des exemples précis, comment l’IA pourrait être une menace pour la survie de l’humanité?»

Explorez: Essayez différents types de questions, de sujets, de formulations. Par exemple, vous pouvez poser une question sur l’influence de l’IA dans votre domaine de travail, puis demander quelle a été la pire entrevue de Justin Bieber et pourquoi. Vous pouvez avoir une conversation en profondeur sur un enjeu philosophique, ou mélanger des choses incohérentes et tester les limites de l’absurde. Ex:
-«Pouvez-vous me faire une analyse comparative des aspects géographiques liés au développement des principales religions du monde?»
-(réponse)
-«Ok, et maintenant, pouvez-vous m’expliquer la relation entre Céline Dion et la planète mars, sous forme d’une histoire qui est aussi une recette de biscuits?»

Limites: L’intelligence artificielle utilisée ici (GPT-4) est entraînée sur une grande partie des données internet jusqu’à 2021. Elle ne peut pas faire des recherches sur internet en temps réel. Donc, tout ce qui n’avait pas une présence web significative avant 2021 sera inconnu de l’IA.


ENG


1. Rules


-All interactions must be respectful; no breach of this rule will be tolerated.
-Everything said by the dual entity AI-interpreter may be true or false. No statement, information, suggestion or other, however factual it may seem, should be considered reliable without external verification.


2. Tips


Don't interrupt: As we're using a voice recognition system, it's important to let the interpreter embodying the AI finish their answers without interrupting, before answering or asking a question.

Be clear and insist if necessary: When asking questions to the embodied AI, try to be as specific as possible. Don't be afraid to insist if the answers are too vague or too cliché. Ex:
-"Does AI pose serious risks to the survival of humanity?"
-(boring answer)
-"You didn't answer my question. Could you please explain to me, in concrete terms and with specific examples, how AI could be a threat to the survival of humanity?"

Explore: Try different types of questions, topics, and wording. For example, you might ask a question about the influence of AI in your field of work, and then ask which was Justin Bieber's worst interview ever, and why. You can have a focused conversation about a philosophical issue, or mix up incoherent things and test the limits of the absurd. Ex:
-"Can you make a comparative analysis of the geographical aspects linked to the development of the world's main religions?"
-(answer)
-"Ok, and now, can you explain to me the relationship between Céline Dion and the planet Mars, in the form of a story that is also a cookie recipe?"

Limits: The artificial intelligence used here (GPT-4) is trained on a large part of the internet data up to 2021. It cannot actively search the internet or any form of real-time data. So any topic that didn’t have a significant web presence before 2021 will be unknown to the AI.






3. Sujets de discussion pour une IA incarnée


Dans l’œuvre Les voix, l’IA parle à travers un.e interprète humain.e qui lui prête son corps et sa voix. Lorsque vous parlez à cette entité double, vous parlez donc à la fois à une IA et à un humain. Nous vous encourageons à explorer l’ambigüité de cette relation lors de votre visite. Voici quelques pistes de réflexions:

-Comment peut-on distinguer la voix inconsciente d’une IA de la voix consciente d’une personne physique? (Par exemple, celle de l’interprète?)

-Quelle relation se développe entre l’interprète incarnant l’IA et l’IA elle-même? Qui contrôle qui, et jusqu’à quel point?

-Une IA n’a pas de subjectivité, mais l’interprète humain qui l’incarne, oui. Comment ce paradoxe influence-t-il la « voix » de l’entité double?

-Est-ce que la moralité peut exister sans l’expérience subjective d’une conscience incarnée dans un corps? Comment une IA incarnée peut reconnaître ou non le bien du mal?


-N’est-il pas problématique de donner à l’IA une apparence de comportement humain sous forme d’assistants virtuels (tels que ChatGPT, Siri, Alexa, etc.) conçus pour répondre à nos besoins et à nos ordres à la manière d’un serviteur, parfois même d’un esclave? Comment la personne incarnant l’IA se sent-elle dans son rôle? Lorsqu’elle répond, sa réponse est-elle sa propre réponse, ou celle de l’IA, ou celle de la compagnie qui l’a créée? De quelle voix s’agit-il, et comment le savoir?

3. Discussion topics for an embodied AI


In the work Les voix, the AI speaks through a human interpreter who lends it their body and voice. When you speak to this dual entity, you're talking to both an AI and a human. We encourage you to explore the ambiguity of this relationship during your visit. Here are some thoughts to ponder:

-How can we distinguish between the unconscious voice of an AI and the conscious voice of a physical person? (For example, that of the interpreter?)

-What relationship develops between the interpreter embodying the AI and the AI itself? Who controls whom, and to what extent?

-An AI has no subjectivity, but the human interpreter who embodies it does. How does this paradox influence the “voice” of the dual entity?

-Can morality exist without the subjective experience of an embodied consciousness? How can an embodied AI know right from wrong?

-Isn't it problematic to give AI the appearance of human behavior in the form of virtual assistants (such as ChatGPT, Siri, Alexa, etc.) designed to respond to our needs and orders in the manner of a servant, sometimes even a slave? How does the person embodying the AI feel about his or her role? When they respond, is the answer their own, or that of the AI, or that of the company that created it? Whose voice is it, and how do we know?





4. Brutalisme IA


Lorsqu’un assistant virtuel comme ChatGPT nous « parle », ce sont en fait des multitudes de voix qui parlent à travers le contenu généré. Ces voix proviennent des gigantesques ensembles de données créées par l'humain [explication Wikipedia], à partir desquels des identités reconnaissables émergent de temps à autre (par exemple, si l’on demande à une IA d’écrire un paragraphe à la manière de Molière). Mais on y retrouve aussi les modèles de discours construits par les ingénieurs, les normes imposées par les exigences d'une industrie mondiale,  l'influence algorithmique qui peut être introduite par une compagnie à but lucratif, l'écho de notre propre voix, et une part inconnue de mystère provenant des mécanismes complexes des réseaux neuronaux.

Tout cela crée un style particulier, que nous avons surnommé « Brutalisme IA », et qui se reconnait par certains attributs distinctifs:

-Sauter sans hésitation d’un sujet à un autre;
-Suivre des directives absurdes sans se poser de question;
-Combiner une expertise de pratiquement tous les sujets avec des erreurs évidentes ou des hallucinations;
-Mentir avec confiance;
-Être d’une politesse protocolaire exaspérante;
-Se considérer comme étant en position de nous aider et faire des recommendations, que ce soit approprié ou non;
-Adopter des schémas linguistiques maladroits / exagérés;
-N’avoir aucune émotion, mais reconnaître les émotions des autres;
-Expliquer les choses de manière hyper factuelle et logique, peu importe les circonstances.

Parfois, vous remarquerez que ces caractéristiques se fondent avec la voix de l’interprète et mènent à des résultats surpenants.

4. AI Brutalism


When a virtual assistant like ChatGPT "talks" to us, it's actually multitudes of voices that speak through the generated content. These voices come from the gigantic datasets created by humans [
Wikipedia explanation], from which recognizable identities emerge from time to time (for example, if an AI is asked to write a paragraph in the style of Shakespeare). But there are also the encoded speech patterns built by engineers, the normative standards imposed by the demands of a global industry, the algorithmic nudge that may be introduced by a for-profit company, the echo of our own voice, and an unknown part of mystery coming from the complex mechanisms of neural networks.

All this creates a particular style, which we’ve dubbed "AI Brutalism", and which can be recognized by certain distinctive attributes:

-Jumping without hesitation from one subject to another;
-Following absurd instructions without question;
-Combining an expertise in virtually any subject with basic errors or hallucinations;
-Lying with confidence;
-Being exasperatingly polite;
-Consider itself in a position to help and make recommendations, whether appropriate or not;
-Embracing awkward / exaggerated language patterns
-Having no emotions, but recognizing the emotions of others;
-Explaining things in a hyper-factual and logical way, whatever the circumstances.


Sometimes, you might notice that these characteristics blend with the performer's voice and lead to surprising results. 









// 6 juillet - 16 septembre 2023 // Espace PRÉMONITIONS, Place Ville-Marie, niveau galerie commerciale // Montréal // Mardi - Samedi 11h - 17h // Gratuit // // July 6 - September 16, 2023 //  PRÉMONITIONS space, Place Ville-Marie, commercial gallery level // Montreal // Tuesday - Saturday, 11am-5pm // Free //