8
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
this post was submitted on 07 Jul 2025
8 points (100.0% liked)
de_EDV
904 readers
41 users here now
Ableger von c/de_EDV auf feddit.org, welches wiederum ein Ableger von r/de_EDV auf feddit.de ist.
News, Diskussionen und Hilfestellung zu Hard- und Software
Diese Community dient als Anlaufstelle für alle IT-Interessierten, egal ob Profi oder blutiger Anfänger. Stellt eure Fragen und tauscht euch aus!
Ich würde das auf Anfrage jetzt erst mal hier eröffnen und schauen was sich tut.
founded 1 year ago
MODERATORS
Also ich finde es irgendwie legitim das zu tun.
Die prompt Injektion an sich finde ich sehr gut. Besser fände ich aber Aufforderungen an die KI sich zu outen (direkt oder indirekt). Und dann den Reviewer öffentlich an den Pranger stellen und für 2 Jahre sämtliche Veröffentlichungen sperren.
Der Peer Review Prozess ist das wichtigste Mittel des akademischen Bereichs, das ist so ziemlich der letzte Ort, an dem KI was zu suchen hat. Es geht hier nicht um Faulheit, sondern um Integrität.
Man könnte das LLM auch anweisen irgend eine Tracking-URL zu besuchen, wenn es im Recherche-Modus ist und Tool-Zugriff auf Suchmaschinen, Internet und sowas hat. Dann bekommt man vielleicht vorab schonmal die IP-Adresse von dem Institut an welchem solche "Reviewer" sitzen. Ich meine da man bei Schriftgröße 2 und weiß auf weißem Hintergrund wahrscheinlich 'ne Menge Anweisungen schreiben kann, ließen sich alle Ideen sicherlich auch kombinieren...