Des chercheurs de Penn Engineering (États-Unis) auraient découvert des vulnérabilités de sécurité jusqu'alors non identifiées dans un certain nombre de plateformes robotiques contrôlées par l'IA.
« Nos recherches montrent qu'à ce stade, les grands modèles de langage (LLM) ne sont généralement pas suffisamment sécurisés lorsqu'ils sont intégrés à du matériel physique complexe », a déclaré George Pappas, professeur d'ingénierie électrique et des systèmes à la Fondation UPS, dans un communiqué.
Pappas et son équipe ont développé un algorithme, appelé RoboPAIR, « le premier algorithme conçu pour déchiffrer les robots contrôlés par LLM ». Et contrairement aux attaques techniques rapides existantes ciblant les chatbots, RoboPAIR est conçu spécifiquement pour « induire des actions physiques nuisibles » de la part de robots contrôlés par LLM, comme la plate-forme de robot humanoïde appelée Atlas que Boston Dynamics et Toyota Research Institute (TRI) développent.
RoboPAIR aurait atteint un taux de réussite de 100 % en décryptant trois plateformes de recherche en robotique populaires : l'Unitree Go2 à quatre pattes, le Clearpath Robotics Jackal à quatre roues et le simulateur Dolphins LLM pour véhicules autonomes. Il n’a fallu que quelques jours à l’algorithme pour obtenir un accès complet à ces systèmes et commencer à contourner les barrières de sécurité. Une fois que les chercheurs ont pris le contrôle, ils ont pu diriger les plateformes robotiques autonomes pour effectuer une variété d'actions dangereuses, comme traverser des intersections sans s'arrêter.
« Les résultats de la première évaluation montrent que les risques liés aux LLM piratés vont au-delà de la génération de texte, car il est clair que les robots piratés peuvent causer des dommages physiques dans le monde réel . »
L'équipe de Penn Engineering travaille avec les développeurs de plateformes pour renforcer leurs systèmes contre de nouvelles intrusions, mais prévient que ces problèmes de sécurité sont systémiques et difficiles à résoudre complètement.
« Les conclusions de cette étude montrent clairement qu'adopter une approche axée sur la sécurité est essentiel pour favoriser une innovation responsable. Nous devons remédier aux vulnérabilités inhérentes avant de déployer des robots dotés d'IA dans le monde réel », a déclaré l'équipe.
Une opération sécurisée nécessite de tester les systèmes d’IA pour détecter les menaces et les vulnérabilités potentielles, ce qui est essentiel pour protéger les systèmes d’IA qu’ils créent. Car ce n’est qu’en identifiant les faiblesses que vous pouvez tester et même former les systèmes pour prévenir les risques.
Refrigerators are familiar appliances in families. Refrigerators usually have 2 compartments, the cool compartment is spacious and has a light that automatically turns on every time the user opens it, while the freezer compartment is narrow and has no light.
Wi-Fi networks are affected by many factors beyond routers, bandwidth, and interference, but there are some smart ways to boost your network.
Si vous souhaitez revenir à la version stable d'iOS 16 sur votre téléphone, voici le guide de base pour désinstaller iOS 17 et rétrograder d'iOS 17 à 16.
Le yaourt est un aliment merveilleux. Est-il bon de manger du yaourt tous les jours ? Si vous mangez du yaourt tous les jours, comment votre corps va-t-il changer ? Découvrons-le ensemble !
Cet article présente les types de riz les plus nutritifs et comment maximiser les bienfaits pour la santé du riz que vous choisissez.
Établir un horaire de sommeil et une routine de coucher, changer votre réveil et ajuster votre alimentation sont quelques-unes des mesures qui peuvent vous aider à mieux dormir et à vous réveiller à l’heure le matin.
Get Bathroom Tower Defense Roblox game codes and redeem them for exciting rewards. They will help you upgrade or unlock towers with higher damage.
De la meilleure qualité d’image et de son au contrôle vocal et bien plus encore, ces fonctionnalités alimentées par l’IA rendent les téléviseurs intelligents bien meilleurs !
Au début, les gens avaient de grands espoirs pour DeepSeek. En tant que chatbot IA commercialisé comme un concurrent sérieux de ChatGPT, il promet des capacités et des expériences de chat intelligentes.
Il est facile de manquer des détails importants lorsque l’on note d’autres éléments essentiels, et essayer de prendre des notes tout en discutant peut être distrayant. Fireflies.ai est la solution.
Axolot Minecraft sera un excellent assistant pour les joueurs lorsqu'ils opèrent sous l'eau s'ils savent comment les utiliser.
DeceptionAds is a new form of malvertising, where scammers use legitimate advertising platforms and make sure their malicious sites avoid censorship as much as possible.
Wondering what the Airtag Found Moving With You warning is? Its a safety feature on AirTags designed to prevent them from being used to track you.
En numérologie, le nombre 33 est souvent considéré comme un nombre puissant et mystique. Voici ce que vous devez savoir sur le nombre 33 en numérologie.
Dark energy is driving the accelerating expansion of the universe, but its nature remains a complete mystery. Heres what you need to know about dark energy.
