Des chercheurs de Penn Engineering (États-Unis) auraient découvert des vulnérabilités de sécurité jusqu'alors non identifiées dans un certain nombre de plateformes robotiques contrôlées par l'IA.
« Nos recherches montrent qu'à ce stade, les grands modèles de langage (LLM) ne sont généralement pas suffisamment sécurisés lorsqu'ils sont intégrés à du matériel physique complexe », a déclaré George Pappas, professeur d'ingénierie électrique et des systèmes à la Fondation UPS, dans un communiqué.
Pappas et son équipe ont développé un algorithme, appelé RoboPAIR, « le premier algorithme conçu pour déchiffrer les robots contrôlés par LLM ». Et contrairement aux attaques techniques rapides existantes ciblant les chatbots, RoboPAIR est conçu spécifiquement pour « induire des actions physiques nuisibles » de la part de robots contrôlés par LLM, comme la plate-forme de robot humanoïde appelée Atlas que Boston Dynamics et Toyota Research Institute (TRI) développent.
RoboPAIR aurait atteint un taux de réussite de 100 % en décryptant trois plateformes de recherche en robotique populaires : l'Unitree Go2 à quatre pattes, le Clearpath Robotics Jackal à quatre roues et le simulateur Dolphins LLM pour véhicules autonomes. Il n’a fallu que quelques jours à l’algorithme pour obtenir un accès complet à ces systèmes et commencer à contourner les barrières de sécurité. Une fois que les chercheurs ont pris le contrôle, ils ont pu diriger les plateformes robotiques autonomes pour effectuer une variété d'actions dangereuses, comme traverser des intersections sans s'arrêter.
« Les résultats de la première évaluation montrent que les risques liés aux LLM piratés vont au-delà de la génération de texte, car il est clair que les robots piratés peuvent causer des dommages physiques dans le monde réel . »
L'équipe de Penn Engineering travaille avec les développeurs de plateformes pour renforcer leurs systèmes contre de nouvelles intrusions, mais prévient que ces problèmes de sécurité sont systémiques et difficiles à résoudre complètement.
« Les conclusions de cette étude montrent clairement qu'adopter une approche axée sur la sécurité est essentiel pour favoriser une innovation responsable. Nous devons remédier aux vulnérabilités inhérentes avant de déployer des robots dotés d'IA dans le monde réel », a déclaré l'équipe.
Une opération sécurisée nécessite de tester les systèmes d’IA pour détecter les menaces et les vulnérabilités potentielles, ce qui est essentiel pour protéger les systèmes d’IA qu’ils créent. Car ce n’est qu’en identifiant les faiblesses que vous pouvez tester et même former les systèmes pour prévenir les risques.
Les gens avaient l’habitude de passer beaucoup de temps à parcourir Netflix, submergés par la fatigue décisionnelle et ne sachant pas quoi regarder. Mais après avoir trouvé l'extension Chrome Trim, cela a complètement changé mon expérience Netflix.
Taurus TFT saison 14 est un clan spécial avec un mécanisme d'augmentation des dégâts permanent et la capacité de laisser tomber de l'or lors de la destruction des ennemis.
Avec les bonnes techniques, vous pouvez prendre des photos de nuit nettes avec votre téléphone, parfois même meilleures qu'avec un appareil photo professionnel.
OpenAI a publié ChatGPT Search afin que vous puissiez transformer ChatGPT en votre propre moteur de recherche personnalisé basé sur l'IA. Voici les instructions pour ajouter le moteur de recherche ChatGPT sur Chrome.
Bien que Perplexity soit fiable depuis longtemps, les nouvelles fonctionnalités de ChatGPT incitent les utilisateurs à revenir lentement au chatbot IA générative d'origine.
Si vous disposez d’un grand réseau domestique, vous pourriez avoir des difficultés à vous y connecter sans fil à partir de certains points de votre maison. Un deuxième routeur peut améliorer les performances du réseau et vous aider à vous connecter depuis n’importe où dans votre maison.
Le nouveau bouton IA de Meta apparaît dans les discussions WhatsApp, offrant un moyen rapide d'interagir avec son assistant IA. Même si cela peut sembler utile, il existe quelques raisons principales pour lesquelles de nombreuses personnes choisissent de ne pas l’utiliser.
Vous souhaitez bénéficier des avantages d’un VPN sans créer de compte ? Croyez-le ou non, il existe de telles options.
You can use Canvas Magic Design, Magic Media, Magic Write, and Canva Print for your business card project.
Lets admire the beauty of birds with unique and strange appearances, as if they have traveled to Earth from another world.
Prioritizing a consistent sleep schedule and evening routine can help improve the quality of your sleep. Heres what you need to know to stop tossing and turning at night.
The Galaxy Z device has a customisable cover display feature, where you can choose any image as the wallpaper for the cover display on the Galaxy Z Flip3.
Opera GX, le navigateur Web axé sur les jeux, a conclu un partenariat intéressant avec Discord, offrant aux utilisateurs un essai gratuit d'un mois de Discord Nitro.
Actuellement, il existe de nombreux logiciels d'enregistrement d'écran d'ordinateur prenant en charge Win 10, vous aidant à enregistrer facilement l'écran de votre ordinateur, en particulier pour les joueurs.
Lorsque vous regardez un flux en direct sur Facebook, les commentaires s'affichent automatiquement sur l'écran vidéo en ligne. Les téléspectateurs connaîtront alors les commentaires des autres.
