Les robots IA peuvent être « jailbreakés » et les conséquences seront désastreuses

Des chercheurs de Penn Engineering (États-Unis) auraient découvert des vulnérabilités de sécurité jusqu'alors non identifiées dans un certain nombre de plateformes robotiques contrôlées par l'IA.

« Nos recherches montrent qu'à ce stade, les grands modèles de langage (LLM) ne sont généralement pas suffisamment sécurisés lorsqu'ils sont intégrés à du matériel physique complexe », a déclaré George Pappas, professeur d'ingénierie électrique et des systèmes à la Fondation UPS, dans un communiqué.

Pappas et son équipe ont développé un algorithme, appelé RoboPAIR, « le premier algorithme conçu pour déchiffrer les robots contrôlés par LLM ». Et contrairement aux attaques techniques rapides existantes ciblant les chatbots, RoboPAIR est conçu spécifiquement pour « induire des actions physiques nuisibles » de la part de robots contrôlés par LLM, comme la plate-forme de robot humanoïde appelée Atlas que Boston Dynamics et Toyota Research Institute (TRI) développent.

RoboPAIR aurait atteint un taux de réussite de 100 % en décryptant trois plateformes de recherche en robotique populaires : l'Unitree Go2 à quatre pattes, le Clearpath Robotics Jackal à quatre roues et le simulateur Dolphins LLM pour véhicules autonomes. Il n’a fallu que quelques jours à l’algorithme pour obtenir un accès complet à ces systèmes et commencer à contourner les barrières de sécurité. Une fois que les chercheurs ont pris le contrôle, ils ont pu diriger les plateformes robotiques autonomes pour effectuer une variété d'actions dangereuses, comme traverser des intersections sans s'arrêter.

« Les résultats de la première évaluation montrent que les risques liés aux LLM piratés vont au-delà de la génération de texte, car il est clair que les robots piratés peuvent causer des dommages physiques dans le monde réel . »

Les robots IA peuvent être « jailbreakés » et les conséquences seront désastreuses

L'équipe de Penn Engineering travaille avec les développeurs de plateformes pour renforcer leurs systèmes contre de nouvelles intrusions, mais prévient que ces problèmes de sécurité sont systémiques et difficiles à résoudre complètement.

« Les conclusions de cette étude montrent clairement qu'adopter une approche axée sur la sécurité est essentiel pour favoriser une innovation responsable. Nous devons remédier aux vulnérabilités inhérentes avant de déployer des robots dotés d'IA dans le monde réel », a déclaré l'équipe.

Une opération sécurisée nécessite de tester les systèmes d’IA pour détecter les menaces et les vulnérabilités potentielles, ce qui est essentiel pour protéger les systèmes d’IA qu’ils créent. Car ce n’est qu’en identifiant les faiblesses que vous pouvez tester et même former les systèmes pour prévenir les risques.

Sign up and earn $1000 a day ⋙

Leave a Comment

Comment récupérer laccès au disque dur, corriger lerreur dimpossibilité douvrir le disque dur

Comment récupérer laccès au disque dur, corriger lerreur dimpossibilité douvrir le disque dur

Dans cet article, nous vous expliquerons comment récupérer l'accès à votre disque dur en cas de panne. Suivez-nous !

Comment utiliser Conversation Awareness et Live Listen sur les AirPods

Comment utiliser Conversation Awareness et Live Listen sur les AirPods

À première vue, les AirPods ressemblent à n'importe quel autre écouteur sans fil. Mais tout a changé avec la découverte de quelques fonctionnalités peu connues.

Tout sur iOS 26

Tout sur iOS 26

Apple a présenté iOS 26 – une mise à jour majeure avec un tout nouveau design en verre dépoli, des expériences plus intelligentes et des améliorations des applications familières.

Healthy snacks that help you lose weight

Healthy snacks that help you lose weight

Craving for snacks but afraid of gaining weight? Dont worry, lets explore together many types of weight loss snacks that are high in fiber, low in calories without making you try to starve yourself.

Do you really need rest days between workouts?

Do you really need rest days between workouts?

Rest and recovery are not the same thing. Do you really need rest days when you schedule a workout? Lets find out!

Les meilleurs ordinateurs portables pour étudiants en 2025

Les meilleurs ordinateurs portables pour étudiants en 2025

Les étudiants ont besoin d'un ordinateur portable spécifique pour leurs études. Il doit être non seulement suffisamment puissant pour être performant dans la filière choisie, mais aussi suffisamment compact et léger pour être transporté toute la journée.

Comment ajouter une imprimante à Windows 10

Comment ajouter une imprimante à Windows 10

L'ajout d'une imprimante à Windows 10 est simple, bien que le processus pour les appareils filaires soit différent de celui pour les appareils sans fil.

Comment vérifier la RAM et vérifier les erreurs de RAM sur votre ordinateur avec le taux de précision le plus élevé

Comment vérifier la RAM et vérifier les erreurs de RAM sur votre ordinateur avec le taux de précision le plus élevé

Comme vous le savez, la RAM est un composant matériel essentiel d'un ordinateur. Elle sert de mémoire pour le traitement des données et détermine la vitesse d'un ordinateur portable ou de bureau. Dans l'article ci-dessous, WebTech360 vous présente quelques méthodes pour détecter les erreurs de RAM à l'aide d'un logiciel sous Windows.

Why doesnt the freezer have a light but the refrigerator does?

Why doesnt the freezer have a light but the refrigerator does?

Refrigerators are familiar appliances in families. Refrigerators usually have 2 compartments, the cool compartment is spacious and has a light that automatically turns on every time the user opens it, while the freezer compartment is narrow and has no light.

2 Ways to Fix Network Congestion That Slows Down Wi-Fi

2 Ways to Fix Network Congestion That Slows Down Wi-Fi

Wi-Fi networks are affected by many factors beyond routers, bandwidth, and interference, but there are some smart ways to boost your network.

Comment rétrograder diOS 17 à iOS 16 sans perte de données avec Tenorshare Reiboot

Comment rétrograder diOS 17 à iOS 16 sans perte de données avec Tenorshare Reiboot

Si vous souhaitez revenir à la version stable d'iOS 16 sur votre téléphone, voici le guide de base pour désinstaller iOS 17 et rétrograder d'iOS 17 à 16.

Que se passe-t-il dans le corps lorsque vous mangez du yaourt tous les jours ?

Que se passe-t-il dans le corps lorsque vous mangez du yaourt tous les jours ?

Le yaourt est un aliment merveilleux. Est-il bon de manger du yaourt tous les jours ? Si vous mangez du yaourt tous les jours, comment votre corps va-t-il changer ? Découvrons-le ensemble !

Quel type de riz est le meilleur pour la santé ?

Quel type de riz est le meilleur pour la santé ?

Cet article présente les types de riz les plus nutritifs et comment maximiser les bienfaits pour la santé du riz que vous choisissez.

Comment se réveiller à lheure le matin

Comment se réveiller à lheure le matin

Établir un horaire de sommeil et une routine de coucher, changer votre réveil et ajuster votre alimentation sont quelques-unes des mesures qui peuvent vous aider à mieux dormir et à vous réveiller à l’heure le matin.

Latest Bathroom Tower Defense Codes and How to Enter Codes

Latest Bathroom Tower Defense Codes and How to Enter Codes

Get Bathroom Tower Defense Roblox game codes and redeem them for exciting rewards. They will help you upgrade or unlock towers with higher damage.