submitted 5 days ago by [email protected] to c/[email protected]

14 comments fedilink hide all child comments

Wie wir alle Wissen, können Bots heutzutage und in Zukunft den Turing-Test bestehen. Das bedeutet, dass man an einem Kommentar nicht sehen kann, ob dieser von einem Mensch oder einem Bot geschrieben wurde.

Das erzeugt ein großes Problem: Internet-plätze wie Feddit und andere Treffpunkte leben davon, dass Menschen sich im Internet begegnen können. Ich denke, dass diese Treffpunkte wertvoll sind und aufrecht erhalten sollten.

Doch wenn diese Treffpunkte von Bots überschwemmt werden, die Content generieren, z.B. um subtile Werbung/Propaganda zu erzeugen, dann zerrüttet das das Netzwerk, weil es die Menschlichkeit des Treffpunkts infrage stellt und Zweifel an der "Echtheit" der Inhalte aufkommen lässt.

Ich schlage daher vor, auf dem 39. Chaos Communication Congress viele kleine Chipkarten auszugeben (eine pro Person), die eine kryptographische Identität (d.h. ein public/private-key-pair) enthalten, damit man im Internet beweisen kann, dass man am CCC war. Dadurch kann man beweisen, dass ein Mensch hinter dem Account steht und nicht nur eine KI.

Gerne kann man statt dem CCC auch andere, dafür geeignete Veranstaltungen vorschlagen.

you are viewing a single comment's thread
view the rest of the comments

[-] [email protected] 8 points 5 days ago* (last edited 4 days ago)

Das löst aber nicht das Problem, dass Menschen dann diese kryptografische Identität nutzen können um damit AI Slop im Fediverse zu verbreiten. Und schlimmer noch, die Leser:innen könnten sich in falscher Sicherheit wiegen und denken es wäre irgenwie sichergestellt es wäre Text von einem Menschen, weil irgendein grüner Haken etwas verspricht, was er vielleicht nicht halten kann.

Und wenn, dann muss man auch darauf achten, dass diese technischen Maßnahmen so designed sind, dass nicht die Anonymität und Egalität im Fediverse abgeschafft wird. (Und es zentralisiert eine Menge Macht, sollte eine Person oder Organisation Zutrittskarten zum Fediverse ausstellen.)

Ich halte das für eine diskussionswürdige Idee, aber schwer bis unmöglich umzusetzen.

(Und ich würde mal bestehende Ansätze in die Diskussion einwerfen: PGP Keysigning Parties und cacert.org)

[-] [email protected] 2 points 5 days ago

Treff mich persönlich und du kannst dir sicher sein, dass ich das bin, weil ich den Schund nicht nutze.

[-] [email protected] 3 points 5 days ago* (last edited 4 days ago)

Ich denke dafür brauchen wir kein persönliches Treffen. Solange das kein arglistiger Versuch ist, so wie die Forscher, die KI-betriebene Manipulation auf Reddit ausprobiert haben, kann ich den Leuten das oft auf die Nase zusagen. Irgendwie gibt es hier eine Menge Leugner und Fanboys und die sind meist recht gut zu durchschauen. Und KI Kommentare hab ich hier auch schon gesehen, aber ich denke nicht, dass es aktuell eine große Bot-Welle gibt. Zumindest nicht in der Art. Simple Spam-Bots sieht man ja regelmäßig, aber dagegen sind wohl andere Werkzeuge angesagt. Und das hat auch in erster Linie (noch) nichts mit KI zu tun.

this post was submitted on 10 Jun 2025

7 points (81.8% liked)

Netzkultur / Netzpolitik

1072 readers

28 users here now

Alles rund um das Internet. Gerne auch die politische Seite zum Thema

Als Nachfolger für [email protected]

Wir sehen uns als einen selbstbestimmten Raum, außerhalb der Kontrolle kommerzieller Tech-Unternehmen.

Netiquette wird vorausgesetzt. Gepflegt wird ein respektvoller Umgang - ohne Hass, Hetze, Diskriminierung.

Die Regeln von feddit.org gelten.

Das Bild im Banner und Icon: Public Domain generated with Midjourney gefunden auf netzpolitik.org

founded 11 months ago

MODERATORS

[email protected]