Das löst aber nicht das Problem, dass Menschen dann diese kryptografische Identität nutzen können um damit AI Slop im Fediverse zu verbreiten. Und schlimmer noch, die Leser:innen könnten sich in falscher Sicherheit wiegen und denken es wäre irgenwie sichergestellt es wäre Text von einem Menschen, weil irgendein grüner Haken etwas verspricht, was er vielleicht nicht halten kann.

Und wenn, dann muss man auch darauf achten, dass diese technischen Maßnahmen so designed sind, dass nicht die Anonymität und Egalität im Fediverse abgeschafft wird. (Und es zentralisiert eine Menge Macht, sollte eine Person oder Organisation Zutrittskarten zum Fediverse ausstellen.)

Ich halte das für eine diskussionswürdige Idee, aber schwer bis unmöglich umzusetzen.

(Und ich würde mal bestehende Ansätze in die Diskussion einwerfen: PGP Keysigning Parties und cacert.org)

Kurzer Rant: Hatte der CCC nicht, vor nicht allzu langer Zeit, dargelegt, dass diese Bot Armee Theorien eher irrelevant sind. Imho ist das Selbsttäuschung der linksorientierten Twitter-Bubble, weil man sich nicht eingestehen will, dass man den Kulturkampf gegen irgendwelche Rentner mit zu viel Zeit und zu wenig in der Birne verliert. Mittlerweile verliert man halt zusätzlich auch noch gegen Schüler mit zu wenig Selbstbewusstsein.

Schlag mal das Prinzip der Cryptoparties nach

Was, wenn diese Leute dann mit dieser Identität selbst Bots (bzw. einen Bot, ist ja schlimm genug) laufen lassen? Beim CCC wird ja vermutlich keine große Identitäts- und Gesinnungskontrolle gemacht, bevor die Karten verteilt werden. Das hilft natürlich gegen eine Schwemme an Bots, aber hier sind ja so wenige regelmäßige Beitrags- und Kommentarersteller, dass schon ein Dutzend Bot-Accounts sehr viel kaputtmachen können, besonders wenn die dann alle als "beim CCC als echte Menschen zertifiziert" dargestellt werden.

Der Turing Test umfasst normalerweise ein längeres Gespräch mit dem zu testenden Subjekt, und nicht nur ein paar Kommentare. In dem Fall wird ziemlich schnell klar, dass LLMs nicht wie Menschen reden.

Das angesprochene Problem bleibt dennoch. Bei einfachen Kommentaren im Internet ist es nahezu unmöglich zu prüfen, ob der Verfasser ein Mensch ist. Zertifikate können auch von Maschinen genutzt werden, da sehe ich noch nicht die Lösung.

Naja, dann machst du halt eine verhältnismäßig schwindend geringe Menge an Menschen authentisch, aber der Rest bleibt ungewiss. Das halte ich nicht für sinnvoll.

Leider hab ich auch keine Idee, wie man das löst, das Problem ist eben langfristig nicht bijektiv, sprich: es gibt keine verlässliche Möglichkeit, Bot-Content von durch Menschen erstellte Inhalte zu unterscheiden.

Was bei mir die Frage aufwirft: ist nicht vielleicht Social Media selbst eher in Frage zu stellen? Braucht die Gesellschaft ein zentrales Medium, in dem artifizielle Individuen die Massen persönlich erreichen? Ironischerweise wäre das Problem im Web 1 kleiner gewesen, weil dort die Quellen selbst authentischer waren, es mehr um Inhalte ging und weniger um Menschen. Aber dahin kommen wir wohl nie wieder zurück, infolgedessen habe ich keinen Gegenvorschlag.