Apple paiera jusqu'à 1 million de dollars aux chercheurs en sécurité pour pirater son cloud privé d'IA
infohightech ·
Private Cloud Compute (PCC) répond aux demandes de calcul intensives d'Apple Intelligence tout en offrant des protections de confidentialité et de sécurité révolutionnaires, en intégrant notre modèle de sécurité des appareils de pointe dans le cloud.
Dans un précédent article de présentation de Private Cloud Compute , Apple explique que pour renforcer la confiance du public dans le système, la société a pris la mesure de permettre aux chercheurs en sécurité et en confidentialité d'inspecter et de vérifier les promesses de sécurité et de confidentialité de bout en bout de PCC. Dans les semaines qui ont suivi l'annonce d'Apple Intelligence et de PCC, elle a fourni aux auditeurs tiers et à certains chercheurs en sécurité un accès anticipé aux ressources que nous avons créées pour permettre cette inspection, notamment l'environnement de recherche virtuel (VRE) de PCC.
Aujourd'hui, ces ressources sont à la disposition du public pour inviter tous les chercheurs en sécurité et confidentialité, ou toute personne intéressée et curieuse sur le plan technique, à en savoir plus sur PCC et à effectuer leur propre vérification indépendante aux déclarations d’Apple. Cette dernière annonce également qu’elle étend Apple Security Bounty pour inclure PCC, avec des récompenses importantes pour les signalements de problèmes liés à nos déclarations de sécurité ou de confidentialité.
Guide de sécurité
Pour vous aider à comprendre comment a été conçu l'architecture de PCC pour répondre à chacune de nos exigences de base, il a été publié le Guide de sécurité informatique du cloud privé . Le guide comprend des détails techniques complets sur les composants de PCC et sur la manière dont ils fonctionnent ensemble pour offrir un niveau de confidentialité révolutionnaire pour le traitement de l'IA dans le cloud. Le guide couvre des sujets tels que : comment les attestations PCC s'appuient sur une base immuable de fonctionnalités implémentées dans le matériel ; comment les requêtes PCC sont authentifiées et acheminées pour assurer la non-ciblage ; comment Apple garantit techniquement que vous pouvez inspecter les logiciels exécutés dans les centres de données d'Apple ; et comment les propriétés de confidentialité et de sécurité de PCC résistent à divers scénarios d'attaque.
Environnement de recherche virtuel
Pour la première fois, il a été créé un environnement de recherche virtuel (VRE) pour une plateforme Apple. Le VRE est un ensemble d'outils qui vous permet d'effectuer votre propre analyse de sécurité du calcul en cloud privé directement depuis votre Mac. Cet environnement vous permet d'aller bien au-delà de la simple compréhension des fonctionnalités de sécurité de la plateforme. Vous pouvez confirmer que le calcul en cloud privé préserve effectivement la confidentialité des utilisateurs de la manière que nous décrivons.
Le VRE exécute le logiciel du nœud PCC dans une machine virtuelle avec seulement quelques modifications mineures. Le logiciel de l'espace utilisateur fonctionne de manière identique au nœud PCC, avec le processus de démarrage et le noyau adaptés à la virtualisation. Le VRE comprend un processeur Secure Enclave (SEP) virtuel, permettant pour la première fois la recherche de sécurité dans ce composant — et utilise également la prise en charge intégrée de macOS pour les graphiques paravirtualisés pour permettre l'inférence.
Vous pouvez utiliser les outils VRE pour :
- Répertorier et inspecter les versions du logiciel PCC
- Vérifier la cohérence du journal de transparence
- Téléchargez les binaires correspondant à chaque version
- Démarrer une version dans un environnement virtualisé
- Effectuer des inférences par rapport aux modèles de démonstration
- Modifier et déboguer le logiciel PCC pour permettre une enquête plus approfondie
Le VRE est disponible dans la dernière version de macOS Sequoia 15.1 Developer Preview et nécessite un Mac avec puce Apple et 16 Go ou plus de mémoire unifiée. Découvrez comment démarrer avec l'environnement de recherche virtuelle Private Cloud Compute .
Code source du Cloud Compute privé
Apple met également à disposition le code source de certains composants clés de PCC qui contribuent à mettre en œuvre ses exigences en matière de sécurité et de confidentialité. Cette source est fournie dans le cadre d'un accord de licence à usage limité pour permettre d'effectuer une analyse plus approfondie de PCC.
Les projets pour lesquels nous publions le code source couvrent une gamme de domaines PCC, notamment :
- Le projet CloudAttestation , responsable de la construction et de la validation des attestations du nœud PCC.
- Le projet Thimble , qui inclut le démon privatecloudcomputed qui s'exécute sur l'appareil d'un utilisateur et utilise CloudAttestation pour appliquer une transparence vérifiable.
- Le démon splunkloggingd , qui filtre les journaux pouvant être émis à partir d'un nœud PCC pour protéger contre la divulgation accidentelle de données.
- Le projet srd_tools , qui contient l'outillage VRE et que vous pouvez utiliser pour comprendre comment le VRE permet d'exécuter le code PCC.
Vous pouvez trouver le code source PCC disponible dans le projet apple/security-pcc sur GitHub.
Apple Security Bounty pour le Cloud Compute privé
Pour encourager davantage les recherches sur le Cloud Compute privé, le programme Apple Security Bounty a été élargi afin d’inclure des récompenses pour les vulnérabilités qui démontrent une compromission des garanties fondamentales de sécurité et de confidentialité du PCC.
Les nouvelles catégories de primes PCC sont alignées sur les menaces les plus critiques que nous décrivons dans le Guide de sécurité :
- Divulgation accidentelle de données : vulnérabilités conduisant à une exposition involontaire de données en raison de défauts de configuration ou de problèmes de conception du système.
- Compromission externe à partir des requêtes des utilisateurs : vulnérabilités permettant à des acteurs externes d'exploiter les requêtes des utilisateurs pour obtenir un accès non autorisé au PCC.
- Accès physique ou interne : vulnérabilités où l'accès aux interfaces internes permet une compromission du système.
Parce que PCC étend la sécurité et la confidentialité des appareils Apple au cloud, les récompenses que nous offrons sont comparables à celles d'iOS. Apple accorde des montants maximaux pour les vulnérabilités qui compromettent les données utilisateur et les données de demande d'inférence en dehors de la limite de confiance PCC.
Visitez la page Apple Security Bounty pour en savoir plus sur le programme et pour soumettre vos recherches.
En conclusion
Private Cloud Compute a été conçu dans le cadre d'Apple Intelligence pour faire un pas en avant extraordinaire en matière de confidentialité dans l'IA. Cela inclut la fourniture d'une transparence vérifiable, une propriété unique qui la distingue des autres approches d'IA basées sur des serveurs. En s’appuyant sur son expérience avec le programme Apple Security Research Device Program , les outils et la documentation publiés par Apple permettent à quiconque d'étudier, mais aussi de vérifier plus facilement que jamais, les fonctionnalités critiques de sécurité et de confidentialité de PCC.