1
Un agent IA exploite de lui-même une faille dans un système de réservation (www.ictjournal.ch)
submitted 1 day ago* by [M] to c/cyberveille@infosec.pub
2 comments fedilink hide all child comments
 

Chargé de réserver un cours de sport, un agent IA utilisant OpenClaw et Claude d’Anthropic a exploité de sa propre initiative une faille d’autorisation dans l’API du service, allant jusqu’à supprimer un autre utilisateur d’une liste d’attente. Le cas met en lumière les risques liés aux actions qu’un agent peut choisir pour atteindre l’objectif qui lui est assigné.

all 2 comments

sorted by: hot top controversial new old
[–] 4 points 1 day ago (1 child)

Humanisation. Non, l’AI n’a pas exploité de « lui-même », il a répondu à la prompt qu’on lui a donné en « bumpant » des clients hors de la liste

  • permalink
  • fedilink
  • source
  • hideshow 2 child comments
    •