Problèmes de confidentialité de lIA dApple

Apple a dévoilé une multitude de fonctionnalités d'IA lors de la WWDC24 , promettant d'apporter des outils puissants à l'iPhone, l'iPad et le Mac. Mais Apple peut-elle réellement garantir la confidentialité dans le monde de l’IA ? Les solutions cloud privées et sur appareil d'Apple sont impressionnantes, mais l'intégration de ChatGPT crée une vulnérabilité potentielle.

Comment Apple prévoit de transformer son IA en outil de confidentialité

Apple a dévoilé une multitude de fonctionnalités d'IA lors de la WWDC24, et elles seront disponibles sur tous les Mac, iPhones et iPads pris en charge d'ici la fin de 2024. Mais l'IA et la confidentialité ne vont pas souvent de pair. Apple a néanmoins pris des engagements audacieux mais raisonnables en matière de confidentialité.

Traitement sur l'appareil

En règle générale, les opérations d’IA nécessitent une puissance de traitement importante, une ressource dont la plupart des téléphones et ordinateurs portables standard manquent. Cependant, avec l'avènement du silicium Apple, tous les Mac, iPhone et iPad équipés de puces de la série M ou A17 Pro (et plus récentes) seront capables d'exécuter localement la plupart des modèles d'IA générative , y compris le modèle de langage d'Apple.

Apple développe depuis un certain temps déjà son propre moteur neuronal Apple Neural Engine (ANE) pour gérer l'apprentissage automatique et l'IA. Au fil des années, il est devenu plus efficace de traiter les demandes d’IA sans avoir à les confier entièrement au CPU ou au GPU. La plupart des modèles d’IA d’Apple fonctionneront hors ligne et garantiront la confidentialité.

Cloud Compute privé (PCC)

Cependant, il se peut que votre appareil Apple ne soit pas en mesure de gérer certaines requêtes d’IA localement. Bien qu'Apple ait déclaré cela lors de la WWDC24, ils n'ont pas précisé ni donné d'exemples de demandes qui seraient trop importantes pour un processeur local hors ligne. Les exemples sont spéculatifs, mais Apple affirme que les « demandes complexes » pourraient endommager votre appareil.

La solution d'Apple est le Private Cloud Computing (PCC), un processeur d'IA basé sur le cloud construit avec le silicium personnalisé d'Apple. Il met l'accent sur la confidentialité et la transparence et est livré avec sa propre enclave sécurisée, tout comme la solution de protection des appareils d'Apple. Lors de l'utilisation du PCC, les demandes d'IA sont supprimées immédiatement après le traitement et personne, y compris Apple, ne peut accéder aux données via une porte dérobée. Pour renforcer davantage la confiance, Apple offre une transparence vérifiable, permettant aux chercheurs en sécurité tiers d’auditer les logiciels exécutés sur les nœuds PCC.

ChatGPT présente des risques majeurs pour la confidentialité

Le traitement sur l'appareil et le PCC sont tous deux d'excellentes mesures de confidentialité, mais il y a encore un aspect d'Apple Intelligence qui est discutable : ChatGPT . Pour ceux qui ne le savent pas, Apple prévoit d'intégrer ChatGPT dans ses expériences d'IA, y compris Siri. Ces applications d’IA exploiteront la base de connaissances plus large de ChatGPT et emprunteront ses capacités de traitement d’images.

Pour être juste, Apple a pris certaines mesures pour garantir la confidentialité des utilisateurs lors de l’utilisation de ChatGPT. Par exemple, lorsque vous envoyez une demande à OpenAI, l’appareil masquera votre adresse IP et aucun enregistrement de vos informations ne sera créé. De plus, toutes les demandes ChatGPT nécessitent votre autorisation préalable et vous devez accorder l'autorisation à chaque fois.

Remarque : Malgré les affirmations d’Elon Musk, OpenAI ne peut pas accéder à toutes les données présentes sur l’appareil d’un utilisateur ; ChatGPT ne peut traiter que les informations présentées dans son invite.

Cependant, les fonctionnalités les plus puissantes de ChatGPT nécessitent un abonnement et vous devrez vous connecter à votre compte premium pour en profiter. Cependant, cela vous soumettra à la politique de confidentialité d'OpenAI. La politique de confidentialité d'OpenAI lui permet de collecter des informations personnelles, d'enregistrer l'utilisation, de former des modèles sur des informations personnelles, de partager vos données avec des tiers et de nombreux autres impacts connexes.

Bien qu'il existe des moyens de se soustraire à certaines violations de la vie privée de ChatGPT, la plupart des solutions sont détournées et OpenAI pourrait facilement les éviter. Il semble qu’éviter ChatGPT sur Apple Intelligence (en particulier sur macOS) sera difficile, voire impossible. Selon la façon dont vous utilisez Siri ou Compose, vous pourriez vous retrouver à dépendre fortement de ChatGPT, laissant une grande partie de vos données personnelles entre les mains d'OpenAI.