Google DeepMind travaille sur un dispositif d’arrêt d’urgence pour des IA menaçantes

DeepMind, la division du géant du Web Google qui est chargée de développer des intelligences artificielles, est en train d’élaborer des solutions qui permettront de désactiver une IA qui pourrait devenir menaçante pour l’être humain. On sait que les IA sont capables d’être plus performantes que les humains, comme le programme AlphaGo l’a récemment dévoilé en battant le champion e jeu de Go Lee Sedol. DeepMind préfère prévenir plutôt que guérir et développe un bouton d’arrêt d’urgence pour les machines pilotées par des IA, au cas où !

 

google-deepmind-achat

L’idée de savoir qu’une intelligence artificielle pourrait prendre le contrôle d’une machine et faire face à l’homme alimente les séries de fiction et n’est pas nouvelle. Pour éviter que cela se produise un jour, DeepMind, la filiale de Google qui travaille sur les IA, est en train de développer un dispositif permettant aux IA qui pilotent certaines machines de ne pas leur échapper, au point de devenir menaçantes pour l’homme. De nombreux robots, plus perfectionnés les uns que les autres sont développés tous les jours.

Certaines IA font appel au machine learning,  qui permet à l’algorithme développé de progresser et d’apprendre en travaillant. On peut donc tout à fait imaginer qu’un jour, une IA puisse prendre le dessus sur l’homme et ne pas s’arrêter, lorsqu’elle jugerait nécessaire de poursuivre sa quête, même si elle mettait la vie en jeu des humains. DeepMind prend les devants et développe un système d’arrêt immédiat pour éviter les scénarios catastrophe. Dans l’état actuel des choses, les IA ne sont pas encore capables de faire le choix de poursuivre une mission ou une tâche, même si elle était dangereuse pour l’homme mais il est probable, à la vitesse ou les recherches avancent, que ce soit le cas dans un futur plus ou moins proche. Le dispositif développé par DeepMind est également très complexe car il doit anticiper les intelligences artificielles, qui seront, certainement capables, un jour, d’anticiper les actions de l’homme sur la machine. En espérant que l’IA ne soit jamais capable de désactiver elle-même le « bouton rouge » d’arrêt d’urgence.

LAISSER UN COMMENTAIRE

Please enter your comment!
Please enter your name here