science post a écrit:
Google Brain, le programme de recherche en intelligence artificielle du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer entre eux dans une langue qu’ils avaient eux-mêmes créée, une langue indéchiffrable par l’homme.
Dans le cadre de la recherche sur le Deep Learning, à savoir la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap. En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.
Alors qu’ils n’avaient mis aucun algorithme spécifique en place, les chercheurs ont constaté que ces deux ordinateurs ont sécurisé leurs communications par le biais d’un chiffrement qu’ils avaient eux-mêmes développé. Si la troisième IA est parvenue à intercepter certaines communications, la majorité d’entre elles sont restées indéchiffrables. Ce n’est là qu’un début, mais cela donne une idée du futur des intelligences artificielles qui pourront ainsi être capables de communiquer dans un langage unique que nous ou d’autres ordinateurs ne pourrons peut-être pas déchiffrer.
Une avancée qui a également de quoi effrayer. De grands noms comme Bill Gates, Stephen Hawking qui décrit l’intelligence artificielle comme « soit la meilleure soit la pire chose jamais arrivée à l’humanité » ou encore Elon Musk ont déjà mis en garde contre les éventuels dangers de l’évolution des IA à l’avenir. Certains ont d’ailleurs créé un groupement destiné à mettre en commun leurs avancées et réfléchir aux risques potentiels de leurs découvertes. Il s’agit de Partnership on AI qui regroupe cinq acteurs majeurs du web puisqu’il s’agit de représentants des compagnies Amazon, Google, Facebook, IBM et Microsoft.
source : science post