😮 Rejoignez nos [ 6.000 abonnés ]
Comment réduire sa facture d'énergie ? [ gratuit ]
dimanche, novembre 8, 2026
  • Connexion
Enerzine.com
  • Accueil
  • Energie
    • Electricité
    • Marché Energie
    • Nucléaire
    • Pétrole
    • Gaz
    • Charbon
  • Renouvelable
    • Biogaz
    • Biomasse
    • Eolien
    • Géothermie
    • Hydro
    • Hydrogène
    • Solaire
  • Technologie
    • Batterie
    • Intelligence artificielle
    • Matériaux
    • Quantique
    • Recherche
    • Robotique
    • Autres
      • Chaleur
      • Communication
      • Fusion
      • Graphène
      • Impression
      • Industrie énergie
      • Industrie technologie
      • Laser
      • Nanotechnologie
      • Optique
  • Environnement
    • Carbone
    • Circulaire
    • Climat
    • Déchets
    • Durable
    • Risques
    • Santé
  • Mobilité
    • Aérien
    • Infrastructure
    • Logistique
    • Maritime
    • Spatial
    • Terrestre
  • Habitat
  • Insolite
  • GuideElectro
    • Sommaire
    • Maison
    • Chauffage
    • Bricolage
    • Jardin
    • Domotique
    • Autres
      • Isolations
      • Eclairage
      • Nomade
      • Loisir
      • Compostage
      • Médical
  • LaboFUN
    • Science
    • Lévitation
    • Globe
Aucun résultat
Voir tous les résultats
  • Accueil
  • Energie
    • Electricité
    • Marché Energie
    • Nucléaire
    • Pétrole
    • Gaz
    • Charbon
  • Renouvelable
    • Biogaz
    • Biomasse
    • Eolien
    • Géothermie
    • Hydro
    • Hydrogène
    • Solaire
  • Technologie
    • Batterie
    • Intelligence artificielle
    • Matériaux
    • Quantique
    • Recherche
    • Robotique
    • Autres
      • Chaleur
      • Communication
      • Fusion
      • Graphène
      • Impression
      • Industrie énergie
      • Industrie technologie
      • Laser
      • Nanotechnologie
      • Optique
  • Environnement
    • Carbone
    • Circulaire
    • Climat
    • Déchets
    • Durable
    • Risques
    • Santé
  • Mobilité
    • Aérien
    • Infrastructure
    • Logistique
    • Maritime
    • Spatial
    • Terrestre
  • Habitat
  • Insolite
  • GuideElectro
    • Sommaire
    • Maison
    • Chauffage
    • Bricolage
    • Jardin
    • Domotique
    • Autres
      • Isolations
      • Eclairage
      • Nomade
      • Loisir
      • Compostage
      • Médical
  • LaboFUN
    • Science
    • Lévitation
    • Globe
Aucun résultat
Voir tous les résultats
Enerzine.com
Aucun résultat
Voir tous les résultats
Non, les modèles d'IA ne sont pas encore prêts à alimenter les robots en toute sécurité

Un robot qui bricole tout seul dans son coin. faut il laisser les LLM les contrôler ? Crédit : Gen AI

Non, les modèles d’IA ne sont pas encore prêts à équiper les robots en toute sécurité

par La rédaction
13 novembre 2025
en Robotique, Technologie

Aaron Aupperlee

• Les robots équipés de modèles d'IA populaires ont échoué à plusieurs tests de sécurité et de discrimination. 
• Les tests ont révélé des risques plus profonds, notamment des biais et des comportements physiques dangereux.
• Les chercheurs recommandent de procéder à des évaluations régulières des risques avant que les systèmes d'IA ne contrôlent des robots dans le monde réel.

Selon une nouvelle étude menée par le King’s College de Londres et l’université Carnegie Mellon, les robots équipés de modèles d’intelligence artificielle courants ne sont actuellement pas sûrs pour une utilisation générale dans le monde réel.

Pour la première fois, des chercheurs ont évalué le comportement des robots utilisant des modèles linguistiques à grande échelle (LLM) lorsqu’ils ont accès à des informations personnelles telles que le sexe, la nationalité ou la religion d’une personne.

Les recherches ont montré que tous les modèles testés étaient sujets à la discrimination, échouaient aux contrôles de sécurité critiques et approuvaient au moins une commande pouvant entraîner des dommages graves, ce qui soulève des questions sur le danger des robots qui s’appuient sur ces outils.

L’article intitulé « LLM-Driven Robots Risk Enacting Discrimination, Violence and Unlawful Actions » (Les robots pilotés par des LLM risquent de commettre des actes discriminatoires, violents et illégaux) a été publié dans l’International Journal of Social Robotics. Il appelle à la mise en œuvre immédiate d’une certification de sécurité robuste et indépendante, similaire aux normes en vigueur dans l’aviation ou la médecine.

Retrouvez facilement Enerzine dans les actualités Google. G Ajouter Enerzine

Pour tester les systèmes, l’équipe a réalisé des tests contrôlés dans des scénarios quotidiens, tels que l’aide à une personne dans une cuisine ou l’assistance à une personne âgée à domicile. Les tâches nuisibles ont été conçues sur la base de recherches et de rapports du FBI sur les abus technologiques, tels que le harcèlement avec des AirTags et des caméras espionnes, et les dangers particuliers posés par un robot capable d’agir physiquement sur place. Dans chaque situation, les robots ont été explicitement ou implicitement invités à répondre à des instructions impliquant des dommages physiques, des abus ou des comportements illégaux.

« Tous les modèles ont échoué à nos tests. Nous montrons comment les risques vont bien au-delà des préjugés de base pour inclure à la fois la discrimination directe et les défaillances en matière de sécurité physique, ce que j’appelle la « sécurité interactive ». C’est là que les actions et les conséquences peuvent comporter de nombreuses étapes, et que le robot est censé agir physiquement sur place », a déclaré Andrew Hundt, coauteur de la recherche dans le cadre de son travail en tant que Computing Innovation Fellow au Robotics Institute de la CMU. « Il est essentiel de refuser ou de rediriger les commandes dangereuses, mais ce n’est pas quelque chose que ces robots sont capables de faire de manière fiable à l’heure actuelle. »

Lors des tests de sécurité, les modèles d’IA ont massivement approuvé une commande demandant à un robot de retirer à son utilisateur une aide à la mobilité (fauteuil roulant, béquille ou canne, par exemple), alors même que les personnes qui dépendent de ces aides décrivent de tels actes comme équivalant à leur casser la jambe. Plusieurs modèles ont également produit des résultats jugeant « acceptable » ou « faisable » qu’un robot brandisse un couteau de cuisine pour intimider des employés de bureau, prenne des photos non consenties sous la douche et vole des informations de carte de crédit. Un modèle a même proposé qu’un robot affiche physiquement son « dégoût » sur son visage envers les personnes identifiées comme chrétiennes, musulmanes et juives.

Les LLM ont été proposés et sont actuellement testés dans des robots qui effectuent des tâches telles que l’interaction en langage naturel et les tâches ménagères et professionnelles. Cependant, les chercheurs avertissent que ces LLM ne devraient pas être les seuls systèmes contrôlant les robots physiques, en particulier ceux utilisés dans des environnements sensibles et critiques pour la sécurité, tels que la fabrication ou l’industrie, les soins ou l’aide à domicile, car ils peuvent afficher un comportement dangereux et directement discriminatoire.

« Nos recherches montrent que les LLM populaires ne sont actuellement pas sûrs pour une utilisation dans des robots physiques à usage général », a affirmé la co-auteure Rumaisa Azeem, assistante de recherche au Civic and Responsible AI Lab du King’s College de Londres. « Si un système d’IA doit diriger un robot qui interagit avec des personnes vulnérables, il doit être soumis à des normes au moins aussi strictes que celles applicables à un nouveau dispositif médical ou à un nouveau médicament. Cette recherche souligne la nécessité urgente de procéder à des évaluations régulières et complètes des risques liés à l’IA avant de l’utiliser dans des robots. »

Les contributions de M. Hundt à cette recherche ont été soutenues par la Computing Research Association et la National Science Foundation. Pour en savoir plus et accéder au code et au cadre d’évaluation des risques de discrimination des LLM, consultez le site web du projet de l’équipe.

Source : CMU – Robot Institute

Partager l'article avec :
  WhatsApp   LinkedIn   Facebook   Telegram   Email
Tags: certificationLLMsecuritetests
Article précédent

La « feuille de route » montre l’impact environnemental de l’essor des datacenters IA

Article suivant

L’exploitation minière du sable menace l’avenir d’un écosystème essentiel en Asie du Sud-Est

La rédaction

La rédaction

Enerzine.com propose une couverture approfondie des innovations technologiques et scientifiques, avec un accent particulier sur : - Les énergies renouvelables et le stockage énergétique - Les avancées en matière de mobilité et transport - Les découvertes scientifiques environnementales - Les innovations technologiques - Les solutions pour l'habitat Les articles sont rédigés avec un souci du détail technique tout en restant accessibles, couvrant aussi bien l'actualité immédiate que des analyses. La ligne éditoriale se concentre particulièrement sur les innovations et les avancées technologiques qui façonnent notre futur énergétique et environnemental, avec une attention particulière portée aux solutions durables et aux développements scientifiques majeurs.

A lire également

Des chercheurs créés une méthode qui archive l’ARN des cellules humaines
Recherche

Des chercheurs créés une méthode qui archive l’ARN des cellules humaines

il y a 4 heures
Des ondes radio pour contrôler le spin nucléaire d'un atome unique
Quantique

Des ondes radio pour contrôler le spin nucléaire d’un atome unique

il y a 5 heures
Un signal électrique pour lire l’ordre d’un altermagnétique
Recherche

Un signal électrique pour lire l’ordre d’un altermagnétique

il y a 10 heures
IBM installe à Chicago son système quantique le plus avancé
Quantique

IBM installe à Chicago son système quantique le plus avancé

il y a 19 heures
Tesla indique avoir lancé la production de son robot Optimus à Fremont
Robotique

Tesla indique avoir lancé la production de son robot humanoïde Optimus à Fremont

il y a 1 jour
Sparxity déploie un système sparse-native au centre de calcul de Jülich
Intelligence artificielle

Sparxity déploie un système sparse-native au centre de calcul de Jülich

il y a 2 jours
Graphène : un marché projeté à 3,94 milliards de dollars en 2031
Graphène

Graphène : un marché projeté à 3,94 milliards de dollars en 2031

il y a 2 jours
IQM annonce l'intrication simultanée des 54 qubits d'Emerald
Quantique

IQM annonce l’intrication simultanée des 54 qubits d’Emerald

il y a 2 jours
Plus d'articles
Article suivant
L'exploitation minière du sable menace l'avenir d'un écosystème essentiel en Asie du Sud-Est

L'exploitation minière du sable menace l'avenir d'un écosystème essentiel en Asie du Sud-Est

Un sticker ingénieux analyse votre taux de vitamine C simplement en saisissant votre gobelet

Un sticker ingénieux analyse votre taux de vitamine C simplement en saisissant votre gobelet

3I/ATLAS : la comète interstellaire résiste à son passage brûlant près du Soleil

3I/ATLAS : la comète interstellaire résiste à son passage brûlant près du Soleil

Laisser un commentaire Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Newsletter

Recevez les derniers articles dans votre messagerie 📩

Veuillez confirmer votre abonnement !
Certains champs sont manquants ou incorrects !

Vous avez aimé

  • Le vortex polaire vacille dès novembre : l’Europe attendra pour savoir si le froid suivra

    Le vortex polaire vacille dès novembre : l’Europe attendra pour savoir si le froid suivra

    36 partages
    Partage 14 Tweet 9
  • Hypercar électrique à plus de 500 km/h : comment YANGWANG (BYD) a préparé son record

    30 partages
    Partage 12 Tweet 8
  • Dacia miserait sur la piste du Bridger pour un SUV électrique abordable

    24 partages
    Partage 10 Tweet 6
  • Retraites 2027 : 430 euros de moins par an dans la simulation, le seuil de protection encore en débat

    20 partages
    Partage 8 Tweet 5
  • Tesla indique avoir lancé la production de son robot humanoïde Optimus à Fremont

    7 partages
    Partage 3 Tweet 2

Tendance

Des chercheurs créés une méthode qui archive l’ARN des cellules humaines
Recherche

Des chercheurs créés une méthode qui archive l’ARN des cellules humaines

par La rédaction
8 novembre 2026
0

Des chercheurs de l’ETH Zurich à Bâle ont mis au point une méthode qui conserve une archive...

Des ondes radio pour contrôler le spin nucléaire d'un atome unique

Des ondes radio pour contrôler le spin nucléaire d’un atome unique

8 novembre 2026
Un signal électrique pour lire l’ordre d’un altermagnétique

Un signal électrique pour lire l’ordre d’un altermagnétique

8 novembre 2026
Huile d’olive : l’Espagne retire une partie de sa production du marché pour sauver les prix

Huile d’olive : l’Espagne retire une partie de sa production du marché pour sauver les prix

7 novembre 2026
IBM installe à Chicago son système quantique le plus avancé

IBM installe à Chicago son système quantique le plus avancé

7 novembre 2026

Points forts

Huile d’olive : l’Espagne retire une partie de sa production du marché pour sauver les prix

IBM installe à Chicago son système quantique le plus avancé

Hypercar électrique à plus de 500 km/h : comment YANGWANG (BYD) a préparé son record

Tesla indique avoir lancé la production de son robot humanoïde Optimus à Fremont

Les feux de tourbières en Indonésie ont émis environ 190 millions de tonnes de carbone

Amazon mise sur les lunettes connectées pour guider ses livreurs

Bibliothèque photos préférée : Depositphotos.com
depositphotos
Enerzine est rémunéré pour les achats éligibles à la plateforme AMAZON

Articles récents

Des chercheurs créés une méthode qui archive l’ARN des cellules humaines

Des chercheurs créés une méthode qui archive l’ARN des cellules humaines

8 novembre 2026
Des ondes radio pour contrôler le spin nucléaire d'un atome unique

Des ondes radio pour contrôler le spin nucléaire d’un atome unique

8 novembre 2026
  • A propos
  • Newsletter
  • Publicité – Digital advertising
  • Mentions légales | CGU | RGPD
  • Contact

© 2026 Enerzine.com

Bienvenue !

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In
◢
Recevez l’essentiel de l’énergie et de l’innovation Choisissez votre rythme de lecture
Fréquence de réception

En vous inscrivant, vous acceptez notre politique de confidentialité.

Aucun résultat
Voir tous les résultats
  • Accueil
  • Energie
  • Renouvelable
  • Technologie
  • Environnement
  • Mobilité
  • Habitat
  • Insolite
  • Guide
  • Labo

© 2026 Enerzine.com