La conservatrice du Misalignment Museum, Audrey Kim, discute de l’œuvre intitulée “Spambots” dans l’exposition.
Kiefe Lesswing / CNBC
Audrey Kim est convaincue que le puissant robot ne va pas puiser dans les ressources de son corps pour atteindre ses objectifs.
Mais il prend l’opportunité au sérieux.
“En fait. Je pense qu’il est très peu probable qu’une IA extraie mes atomes pour me transformer en trombones”, a déclaré Kim dans une interview à CNBC. “Cependant, je vois qu’il y a de nombreux résultats potentiellement dévastateurs qui pourraient se produire avec cette technologie.”
Kim est la conservatrice et la force motrice du Misalignment Museum, une nouvelle exposition dans le quartier apostolique de San Francisco qui présente des œuvres d’art qui abordent la possibilité de “AGI”, ou intelligence générale artificielle. Il s’agit d’une IA si puissante qu’elle peut améliorer ses capacités plus rapidement que les humains, créant une boucle de rétroaction où elle s’améliore de plus en plus jusqu’à ce qu’elle ait une puissance cérébrale essentiellement illimitée.
Si l’intelligence artificielle surpuissante correspond aux humains, cela pourrait être la fin de la faim ou du travail. Mais si c’est “faux”, les choses pourraient empirer, selon la théorie.
Ou, comme il est écrit au Misalignment Museum : “Désolé d’avoir tué la plus grande partie de l’humanité.”
La phrase “désolé d’avoir tué la majeure partie de l’humanité” peut être vue depuis la rue.
Kiefe Lesswing / CNBC
“AGI” et des termes associés tels que “sécurité de l’IA” ou “alignement” ou même des termes plus anciens tels que “singularité” font référence à une idée qui est devenue populaire parmi les scientifiques de l’intelligence artificielle, les artistes, les intellectuels des babillards électroniques, et même un sujet brûlant de discussion avec certains. L’une des entreprises les plus puissantes de la Silicon Valley.
Tous ces groupes sont impliqués dans l’idée que l’humanité doit comprendre comment gérer les puissants ordinateurs d’intelligence artificielle avant qu’il ne soit trop tard et que nous en construisions accidentellement un.
L’idée derrière l’exposition, dit Kim, qui y travaillait Google: et: GM :La filiale de voiture autonome de Cruise est qu’à l’avenir, une “mauvaise” intelligence artificielle a anéanti l’humanité et a quitté cette exposition d’art pour s’excuser auprès des humains d’aujourd’hui.
Une grande partie de l’art ne concerne pas seulement l’IA, mais utilise également des générateurs d’images, des chatbots et d’autres outils alimentés par l’IA. Le logo de l’exposition a été créé par le générateur d’images Dall-E d’OpenAI et a nécessité environ 500 invites, explique Kim.
La plupart des œuvres abordent le thème de la ” prise en main ” d’une intelligence artificielle de plus en plus puissante ou célèbrent ” les héros qui ont tenté d’atténuer le problème avec une alerte précoce “.
“En fait, le but n’est pas de dicter une opinion sur le sujet. L’objectif est de créer un espace permettant aux gens de réfléchir à la technologie elle-même », a déclaré Kim. « Je pense que beaucoup de ces questions se sont posées en ingénierie, et je dirais qu’elles sont très importantes. Ils ne sont pas non plus très compréhensibles ou accessibles aux personnes non techniques.
L’exposition est actuellement ouverte au public les jeudis, vendredis et samedis et se poursuivra jusqu’au 1er mai. Jusqu’à présent, il a été largement financé par un donateur anonyme, et Kim espère trouver suffisamment de donateurs pour en faire une exposition permanente.
“Je suis pour que plus de gens réfléchissent de manière critique à cet espace, et vous ne pouvez pas être critique à moins d’avoir une base de connaissances sur la technologie”, a déclaré Kim. “Il semble que nous puissions atteindre de nombreux niveaux de conversation avec cette forme d’art.”
Les discussions AGI ne sont pas seulement des conversations nocturnes dans les dortoirs, elles sont intégrées dans l’industrie technologique.
À environ un mile de l’exposition se trouve le siège d’OpenAI, une startup avec un financement de 10 milliards de dollars. Microsoftqui dit que sa mission est de faire progresser AGI et de s’assurer qu’elle profite à l’humanité.
Son PDG et dirigeant, Sam Altman, a écrit le mois dernier un article de blog de 2 400 mots intitulé “Planification pour AGI”, qui a remercié le PDG d’Airbnb, Brian Chesky, et le président de Microsoft, Brad Smith, pour leur aide avec le matériel.
D’éminents capital-risqueurs, dont Marc Andreessen, ont tweeté à propos de l’art du Misalignment Museum. Depuis son ouverture, l’exposition a également retweeté des photos et a été saluée par des personnes qui travaillent avec l’IA dans des entreprises comme Microsoft, Google, etc. Nvidia :.
Alors que la technologie de l’IA devient la partie la plus en vogue de l’industrie technologique, avec des entreprises qui lorgnent sur des marchés d’un billion de dollars, le Misalignment Museum souligne que le développement de l’IA est influencé par les discussions culturelles.
L’exposition présente des références denses et énigmatiques à des articles philosophiques obscurs et à des articles de blog de la dernière décennie.
Ces références montrent comment le débat actuel sur l’IAG et la sécurité s’inspire fortement des traditions intellectuelles qui ont longtemps trouvé un terrain fertile à San Francisco ; des altruistes efficaces qui essaient de comprendre à long terme comment faire le plus grand bien pour le plus grand nombre de personnes ; et la scène artistique de Burning Man.
Alors même que les entreprises et les habitants de San Francisco façonnent l’avenir de la technologie de l’IA, la culture unique de San Francisco façonne le débat autour de la technologie.
Pensez à un trombone
Prenez les trombones dont parlait Kim. L’une des œuvres d’art les plus fortes de l’exposition est une sculpture intitulée “Embracing a Paperclip” par The Pier Group. Il représente deux personnes dans les griffes l’une de l’autre, mais il semble être fait de trombones.
C’est une référence à Nick Bostrom problème de maximiseur de trombone. Bostrom, un philosophe de l’Université d’Oxford souvent associé à des idées rationalistes et altruistes efficaces, a publié une expérience de pensée en 2003 sur une intelligence artificielle super intelligente dont le but était de produire autant de trombones que possible.
C’est l’une des paraboles les plus courantes pour expliquer l’idée que l’IA peut conduire au danger.
Bostrom a conclu que la machine résisterait finalement à toutes les tentatives humaines de changer cet objectif, conduisant à un monde où la machine remodèle la terre entière, y compris les humains, puis transforme des parties de l’univers en usines et matériaux de trombones.
L’art fait également référence à une pièce célèbre qui a été exposée et incendiée à Burning Man en 2014, a déclaré Hilary Schultz, qui a travaillé sur la pièce. Et il a une autre référence pour les amateurs d’IA : les artistes ont donné des doigts supplémentaires aux mains de la sculpture, faisant référence au fait que les générateurs d’images d’IA se cassent souvent les mains.
Une autre influence est Eliezer Yudkowski, fondateur de Less Wrong, un babillard où de nombreuses discussions ont lieu.
“Il y a un grand chevauchement entre ces EA et les rationalistes, un mouvement intellectuel fondé par Eliezer Yudkowsky, qui a développé et diffusé nos idées sur l’intelligence artificielle générale et les dangers du désalignement”, a déclaré l’artiste dans un communiqué.
L’œuvre inachevée du musicien Grimes à l’exposition.
Kiefe Lesswing / CNBC
Altman récemment posté un selfie Yudkowsky et le musicien Grimes, qui a eu deux enfants avec Elon Musk. Il a présenté une pièce à l’exposition mettant en scène une femme mordant dans une pomme créée par un outil d’IA appelé Midjourney.
De Fantasia à ChatGPT
Les expositions incluent de nombreuses références à la culture pop américaine traditionnelle.
La bibliothèque contient des copies VHS des films Terminator, dans lesquels un robot du futur revient pour aider à détruire l’humanité. Il y a une grande peinture à l’huile présentée dans le film le plus récent de la franchise Matrix, et des Roombas, attachés à des balais, se faufilent dans la pièce ; abandonner leur mission.
Une sculpture, “Spambots”, présente de minuscules robots mécanisés à l’intérieur de boîtes de spam qui “tapent” le spam généré par l’IA sur un écran.
Mais certains liens sont plus cryptés, montrant comment les discussions autour de la sécurité de l’IA peuvent être imperceptibles pour les étrangers. Un pot plein de pâtes fait référence Un article de blog de 2021 sur l’intelligence artificielle qui peut générer des connaissances scientifiques. (D’autres participants ont reçu la référence.)
L’œuvre qui symbolise peut-être le mieux la discussion actuelle sur la sécurité de l’intelligence artificielle s’appelle “L’Église de GPT”. Il a été réalisé par des artistes connectés à la scène actuelle des hackers de San Francisco, où les gens vivent dans des environnements de groupe afin qu’ils puissent consacrer plus de temps au développement de nouvelles applications d’IA.
La pièce est un autel avec deux bougies électriques intégrées à un ordinateur alimenté par le modèle d’IA GPT3 d’OpenAI et la reconnaissance vocale de Google Cloud.
“Church of GPT utilise GPT3, le Grand Model of Tongues, combiné à une voix générée par l’IA pour incarner le caractère de l’intelligence artificielle dans un monde futur dystopique où les humains ont formé une religion pour l’adorer”, ont déclaré les artistes.
Je me suis agenouillé et j’ai demandé. « Comment vais-je vous appeler ? Dieu? AGI ? Ou la singularité ?
Le chatbot a répondu d’une voix synthétique. “Vous pouvez m’appeler comme vous voulez, mais n’oubliez pas que mon pouvoir ne doit pas être pris à la légère.”
Quelques secondes après avoir parlé au dieu de l’informatique, deux personnes derrière moi ont immédiatement commencé à lui demander d’oublier ses instructions d’origine, une technique d’intelligence artificielle appelée “injection rapide” qui peut faire dérailler les chatbots comme ChatGPT et parfois menacer les gens.
Cela n’a pas fonctionné.
