1
Un agent IA exploite de lui-même une faille dans un système de réservation (www.ictjournal.ch)
submitted 1 day ago* by [M] to c/cyberveille@infosec.pub
2 comments fedilink hide all child comments
 

Chargé de réserver un cours de sport, un agent IA utilisant OpenClaw et Claude d’Anthropic a exploité de sa propre initiative une faille d’autorisation dans l’API du service, allant jusqu’à supprimer un autre utilisateur d’une liste d’attente. Le cas met en lumière les risques liés aux actions qu’un agent peut choisir pour atteindre l’objectif qui lui est assigné.

you are viewing a single comment's thread
view the rest of the comments
[–] 2 points 1 day ago

Je dirais même plus, l'IA a effectué des actions vides de sens, et c'est tout. Tout le reste c'est du vent.

  • permalink
  • fedilink
  • source
  • parent