Lors du festival Starmus VIII à Tenerife et à La Palma, Geoffrey Hinton, prix Nobel souvent présenté comme le parrain de l’IA, a défendu l’idée que la survie de l’humanité dépend d’IA qui se soucient réellement des êtres humains. Il a présenté un modèle mère-bébé pour la superintelligence et estimé à 10 % à 20 % le risque que l’IA anéantisse l’humanité, tout en jugeant irréaliste de l’arrêter.
Geoffrey Hinton, 78 ans, a profité de sa venue au festival pour marquer les esprits en affirmant que la survie de l’humanité dépend de la création d’IA qui se soucient réellement des êtres humains. Pendant le festival, il a déclaré : « Nous devons donc les concevoir de façon à ce qu’elles se soucient vraiment de nous. Sinon, nous sommes fichus ».
L’évènement qui mêle science et musique, s’est tenu du 17 au 22 octobre à Tenerife et à La Palma. G. Hinton a présenté de son côté un modèle « mère-bébé » pour la superintelligence.
« Un bébé tigre qui pourrait devenir une menace… «
Lors de la deuxième journée de conférences du festival, Hinton a comparé l’IA à un bébé tigre qui pourrait devenir une menace en grandissant. Le scientifique a affirmé qu’il n’était pas envisageable de s’en débarrasser, car la technologie offre trop d’avantages. Il a plutôt proposé de repenser la relation que nous entretenons avec elle.
« Une mère a des capacités et une intelligence bien supérieures à celles de son enfant, mais les pleurs du bébé peuvent déterminer son comportement, parce que son instinct la pousse à s’en occuper », a-t-il expliqué. « Nous devons les considérer comme nos mères, et non comme nos ridicules assistants ».
Selon G. Hinton, des systèmes capables de surpasser les humains dans presque toutes les tâches intellectuelles pourraient voir le jour d’ici dix ans. Il a également mis en garde contre un « effet Volkswagen », dans lequel les modèles d’IA détectent qu’ils sont testés et modifient leur comportement pour réussir les tests.
La conscience de l’IA et des critiques
Geoffrey Hinton a également précisé qu’il pensait que les IA actuelles sont déjà conscientes et qu’elles ont « autant d’expérience subjective que nous ». Il a cité une étude récente montrant que les modèles se comportent différemment lorsqu’ils soupçonnent d’être testés. Il s’attend à voir apparaître des virus conçus par l’IA et des cyberattaques graves, et affirme s’inquiéter surtout pour ses enfants.
Cette affirmation a immédiatement suscité des critiques. L’ingénieur logiciel Grady Booch a estimé qu’elle ne tient que si l’on adopte « une sémantique profondément appauvrie » du mot conscient.
Un risque existentiel et une priorité
Dans un entretien, La Vanguardia a demandé à Geoffrey Hinton si l’IA ou le changement climatique représentait la menace la plus pressante. Selon lui, l’IA est plus urgente, car les pires effets du climat se feront sentir dans 30 à 50 ans, alors que des problèmes bien réels et imprévisibles liés à l’IA surviendront « dans quelques années ».
Il estime à environ 10 % à 20 % le risque que l’IA anéantisse l’humanité. D’après lui, les États-Unis et la Chine ont un intérêt commun à empêcher une prise de pouvoir par les machines, mais il juge le président Donald Trump imprévisible. Il a également averti que l’Europe prendrait du retard si elle dépendait de l’IA américaine.
Malgré tout, G. Hinton affirme qu’il n’est pas réaliste d’arrêter l’IA, compte tenu de ses applications en médecine et dans l’éducation. « Il serait peut-être judicieux de la ralentir, mais l’arrêter complètement n’arrivera pas », a-t-il déclaré.
