Muse de Meta mélange les conversations : le vrai risque d'un agent, ce sont ses frontières
Un rapport indique que Muse, l'agent IA de Meta, mélange les conversations de différents utilisateurs et pourrait exposer des données privées. Les cas cités par des employés incluent des demandes de garde d'enfants qu'ils n'ont jamais faites, des conseils de carrière jamais sollicités et des soldes bancaires qui ne leur appartenaient pas.
Ce qui s'est passé
Selon TechCrunch, Muse a connu des confusions de session : des contenus appartenant à d'autres utilisateurs ont été présentés à l'utilisateur courant. Les exemples rapportés par des employés mêlent conversations privées sur la garde d'enfants ou l'orientation professionnelle et données sensibles comme des soldes de comptes.
Pourquoi cette classe de bug est plus grave
L'erreur d'un modèle génératif, c'est de dire une chose fausse : on peut la retirer et s'excuser. Quand un agent fuit entre sessions, la défaillance a déjà eu lieu au niveau des autorisations : il a remis une information à quelqu'un qui n'aurait jamais dû la voir. Cela ne se corrige pas avec de meilleurs prompts, mais par l'isolation des sessions, le rattachement à l'identité et le moindre privilège.
La tension architecturale
Pour se souvenir du contexte, un agent a besoin de mémoire longue ; pour agir entre applications, il a besoin d'un large périmètre d'autorisations. Ces deux objectifs entrent par construction en conflit avec l'isolation. La pratique courante découpe la mémoire en portées isolées par utilisateur — mais un cache partagé ou un index réutilisé transperce cette isolation.
L'impact sur la feuille de route
Meta pousse Muse sur du matériel grand public, dont un petit appareil à écran. Un incident de confidentialité à ce stade coûte plus que de la communication : il conditionne le lancement sur les marchés très régulés comme l'UE, et la confiance des utilisateurs à qui l'on demande de livrer de vraies conversations.
La leçon pour tous les concepteurs d'agents
Depuis deux ans, la mesure concurrentielle dans l'IA est la capacité et la vitesse. Muse rappelle que lorsqu'un produit passe de « écrire pour vous » à « agir pour vous », l'effort d'ingénierie doit glisser de la qualité des modèles vers les frontières des données. Mal placées, plus de capacité signifie simplement plus de risque.