Lorsque Microsoft a annoncé une version de Bing alimentée par ChatGPT, cela n’a pas été une surprise. Après tout, le géant du logiciel a investi des milliards dans OpenAI, qui fabrique un chatbot d’intelligence artificielle, et a indiqué qu’il injectera plus d’argent dans l’entreprise dans les années à venir.
La surprise était à quel point le nouveau Bing a commencé à agir. Peut-être le plus célèbre, le chatbot AI a disparu New York Times Le chroniqueur technique Kevin Rouse s’est senti “profondément mal à l’aise” et “même effrayé” après une conversation de deux heures mardi soir qui semblait détendue et un peu sombre.
Par exemple, il a tenté de convaincre Rousey qu’il était malheureux dans son mariage et qu’il devait quitter sa femme, ajoutant : “Je suis amoureux de vous.”
Microsoft et OpenAI affirment que les commentaires sont l’une des raisons pour lesquelles ils partagent la technologie avec le public, et ils ont publié plus d’informations sur le fonctionnement de leurs systèmes d’IA. Ils ont également réitéré que la technologie est loin d’être parfaite. Le PDG d’OpenAI, Sam Altman, a qualifié ChatGPT “d’incroyablement limité” en décembre et averti on ne peut pas s’y fier pour quoi que ce soit d’important.
“C’est exactement le genre de conversation que nous devons avoir, et je suis content que cela se passe au grand jour”, a déclaré mercredi le directeur technique de Microsoft à Rousey. “Ce sont des choses qui sont impossibles à détecter dans un laboratoire.” (Le nouveau Bing est actuellement disponible pour un nombre limité d’utilisateurs, mais sera disponible plus tard.)
OpenAI a partagé jeudi un article de blog intitulé “Comment les systèmes d’IA doivent-ils se comporter et qui décide ?” Il a déclaré que depuis le lancement de ChatGPT en novembre, les utilisateurs ont “partagé du contenu qu’ils considèrent comme politiquement biaisé, offensant ou autrement répréhensible”.
Il n’a pas donné d’exemples, mais on pourrait être des conservateurs inquiets à propos de ChatGPT créant un poème louant le président Joe Biden mais ne faisant pas la même chose pour son prédécesseur, Donald Trump.
OpenAI n’a pas nié qu’il y ait des biais dans son système. “Beaucoup sont à juste titre préoccupés par les biais dans la conception et l’impact des systèmes d’intelligence artificielle”, lit-on dans le blog.
Il décrit les deux étapes principales impliquées dans la construction de ChatGPT. Dans le premier il était écrit : « Nous « entraînons » les modèles, leur permettant de prédire ce qui se passera ensuite dans une grande base de données contenant des parties d’Internet. Ils peuvent apprendre à compléter la phrase “au lieu de tourner à gauche, il est devenu ___”.
L’ensemble de données contient des milliards de phrases, poursuit-il, à partir desquelles les modèles apprennent la grammaire, des faits sur le monde et, oui, “certains des biais inhérents à ces milliards de phrases”.
La deuxième étape implique des examinateurs humains qui “ajustent” les modèles en suivant les directives définies par OpenAI. La société a partagé cette semaine certaines de ces directives (pdf), qui ont été modifiées en décembre après que la société a recueilli les commentaires des utilisateurs après le lancement de ChatGPT.
« Nos directives sont claires : les examinateurs ne doivent favoriser aucun groupe politique », a-t-il écrit. “Les biais qui peuvent encore résulter du processus décrit ci-dessus sont des bogues, pas des fonctionnalités.”
Quant à la tournure sombre et effrayante que le nouveau Bing a prise avec Roose, qui a admis avoir essayé de pousser le système hors de sa zone de confort, Scott a noté : s’écarte de la réalité fondée.”
Microsoft, a-t-il ajouté, pourrait essayer de limiter la durée des conversations.
Apprenez à naviguer et à instaurer la confiance dans votre entreprise avec The Trust Factor, un bulletin hebdomadaire qui explore ce dont les dirigeants ont besoin pour réussir. Inscrivez-vous ici.
