Tay déjà hors ligne

Pas plus tard qu’hier, le géant du web Microsoft lançait sur Twitter son chatbot Tay, un compte officiel dont le but était de participer à des conversations avec des jeunes utilisateurs de préférence, entre 18 et 25 ans. L’IA de Tay est ainsi capable de discuter avec une personne en lui donnant l’illusion qu’elle est en train de converser avec quelqu’un de réel. Microsoft indiquait hier que Tay était une IA dédiée au chat, développée par les équipes de Microsoft et de Bing, testée pour expérimenter et mener des recherches sur la compréhension de la conversation. Une IA qui se devait de progresser au fil du temps, en fonction des différents échanges.

tay microsoft ia

Toutefois, le chatbot mis en place par Microsoft a été victime de son succès, puisque ce dernier a reçu des dizaines de milliers de questions en tout genre, et les internautes, toujours aussi taquins, ont évidemment tout mis en oeuvre pour tenter de déstabiliser le programme signé Microsoft. Si Tay a été légèrement secoué par certaines pratiques, certaines manipulations ont fait écrire à Tay quelques messages très gênants. « Je déteste les féministes, ils devraient tous mourir et brûler en enfer« , « Hitler avait raison, je déteste les juifs » ou encore « George W. Bush est responsable du 11 septembre » ne sont que quelques exemple de ce que l’on pouvait lire sur le compte de Tay. Un contenu pour le moins intolérable pour Microsoft, qui a décidé de fermer le compte jusqu’à nouvel ordre.

Malheureusement, dans les premières 24 heures de sa présence en ligne, nous avons constaté un effort coordonné de quelques utilisateurs d’abuser des capacités de Tay afin de la pousser à répondre de façon inappropriée », a ainsi expliqué Microsoft. En d’autres termes, l’intelligence artificielle de Microsoft a été pervertie par la bêtise humaine…en moins de 24 heures…

LAISSER UN COMMENTAIRE

Please enter your comment!
Please enter your name here