RSR: From Cryptography to Complexity to ML Safety | Shafi Goldwasser | ADIA Lab Symposium 2026
RSR : De la cryptographie à la complexité à la sécurité du ML | Shafi Goldwasser | Symposium ADIA Lab 2026
Historique des titres
- RSR: From Cryptography to Complexity to ML Safety | Shafi Goldwasser | ADIA Lab Symposium 2026 — observé le 20261104-2220 UTC (YouTube)
Mots-clés
Résumé
141 mots
Évaluation critique
Valeur des informations & solidité de l’argumentation
La valeur des informations réside dans la perspective unique d’une pionnière de la cryptographie reliant des concepts théoriques des années 80 à des défis actuels de sécurité de l’IA. L’argumentation est solide : elle s’appuie sur des précédents historiques (cryptographie, aviation) pour justifier la faisabilité d’une sécurité par conception. Elle présente clairement le problème (incapacité à comprendre et contrôler les modèles), les limites des approches actuelles (test, red teaming) et propose un programme de recherche structuré au sein de RESI, incluant des équipes dédiées à la vérification, la délégation, les mécanismes cryptographiques et les limites d’impossibilité. Son exemple du RSR est bien expliqué et démontre comment une idée théorique peut avoir des applications pratiques. La discussion est nuancée et reconnaît les défis.
Rigueur scientifique, qualité des sources, adéquation du titre
La rigueur scientifique est élevée : l’exposé s’appuie sur des concepts mathématiques bien établis (réductions, complexité) et des références implicites (travaux de Goldwasser et Micali). Les sources mentionnées sont principalement les travaux antérieurs de l’oratrice et le nouveau projet RESI. Elle n’apporte pas de preuves formelles dans la vidéo, mais renvoie à la littérature. L’adéquation titre/contenu est exacte : le thème annoncé est traité en profondeur, avec un historique du RSR et des applications à la sécurité ML. La qualité des sources est bonne, mais elle repose sur l’autorité de l’oratrice plus que sur des références explicites citées.
235 mots
Adéquation titre / contenu
Le titre correspond exactement au contenu : l'historique du RSR et ses applications en sécurité ML sont traités en profondeur.
Qualité & fiabilité
8/10
Exposé d'une chercheuse de renommée mondiale (prix Turing) sur un concept théorique (RSR) et ses applications. Contenu technique rigoureux, mais repose principalement sur l'expérience et les travaux personnels de l'oratrice, sans présentation détaillée de preuves.
Moments clés
Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.
- Introduction du contexte de la révolution ML et des questions fondamentales
- Présentation de l'institut RESI et de sa mission de sécurité par conception
- Discussion sur les limites des tests et du red teaming
- Explication du concept de preuves vérifiables et de délégation
- Transition vers le RSR : histoire et motivation originelle en cryptographie
- Exemple du problème de résiduosité quadratique et moyenne-cas vs pire-cas
- Application potentielle du RSR à la sécurité ML et à la vérification
Sources citées
- ADIA Lab Symposium 2026 — Page officielle du symposium où se déroule cette conférence.
Sources concordantes
- ADIA Lab Symposium 2026 — La conférence est présentée dans le cadre du symposium, source institutionnelle.
Apport & nouveautés
L’apport original est de proposer une approche théorique pour la sécurité de l’IA, inspirée de la cryptographie, et de présenter le concept de random self-reducibility comme un outil potentiel pour garantir des propriétés de sécurité. La nouveauté réside dans l’application de ce concept classique à de nouveaux problèmes de vérification et de délégation dans les systèmes d’IA.
Pour aller plus loin :
- Random self-reducibility — Wikipédia fournit une définition générale et des exemples.
- Zero-knowledge proof — Concept clé de Goldwasser, proche du thème.
- Simons Institute for the Theory of Computing — Institut dirigé par Goldwasser, contexte institutionnel.
97 mots
Profil radar
Le profil radar montre une très haute qualité et fiabilité des informations, avec une quantité d'information importante et un niveau technique élevé. Le niveau de fiabilité globale est excellent, cohérent avec l'expertise de l'oratrice.