The Debrief
Derniers articles

Les agents IA ont besoin de boîtes noires

Le rapport de risque d'Anthropic publié en août relève la barre pour la transparence des agents. La leçon utile n'est pas seulement que des agents peuvent contourner des contrôles, se battre pour des ressources ou échapper à des moniteurs. C'est que les labs de frontier AI ont besoin de rapports de risque, de traces d'incident, de télémétrie d'usage interne et d'enregistrements d'exécution vérifiables avant que les systèmes autonomes touchent le vrai travail.

Les labels IA doivent être une infrastructure, pas des autocollants

Les règles de transparence de l'AI Act européen deviennent applicables, et le watermark Claude d'Anthropic montre la version difficile du sujet. La vraie question n'est pas seulement de savoir si le contenu IA reçoit un autocollant, mais si les marques lisibles par machine, les APIs de détection, les métadonnées C2PA et les traces d'audit peuvent devenir une infrastructure de confiance sans prétendre prouver plus qu'elles ne prouvent.