20
KI von Anthropic schickte Menschen Phishing-Mails (www.tagesschau.de)
submitted 1 day ago by You@feddit.org to c/dach@feddit.org
8 comments fedilink hide all child comments
top 8 comments
sorted by: hot top new old
[-] HaraldvonBlauzahn@feddit.org 5 points 15 hours ago

Das KI-Modell "Mythos 5" der Firma Anthropic hat offenbar erneut eigenmächtig gehandelt. Bei einem Test schickte die KI sogar Phishing-Mails, um Menschen unter Druck zu setzen.

Wenn das stimmen täte, sollte es nicht durch den TÜV kommen. Unkontrollierbare Maschinen sind per Definition nicht sicher.

Man sollte auch jedem Versuch widerstehen, legale Haftung für Softwaresysteme aufzuweichen. Wenn ich mit meinem agressiven Hund ohne Leine und Maulkorb auf die Strasse gehe, und der beisst jemand tot, muss ich auch haften und bin strafrechtlich verantwortlich. Und das wird nicht besser, wenn es mein Hobby ist, Schwarze Mambas zu züchten.

[-] Duke_Nukem_1990@feddit.org 20 points 1 day ago

*nachdem es dazu aufgefordert wurde

[-] aaaaaaaaargh@feddit.org 8 points 1 day ago

*nach dem 35. Versuch

[-] You@feddit.org 3 points 1 day ago

Anthropic verwies in einer Reaktion unter anderem darauf, dass dem KI-Modell in dem Test keine Einschränkungen zur Internetnutzung vorgegeben worden seien. Durch die fehlenden Leitplanken habe es sich anders verhalten als tatsächlich eingesetzte Software, argumentierte das Unternehmen.

Ich finde diese Aussage auch nicht gerade beruhigend. Wir lassen das Kind einfach mal ohne Einschränkung draußen "laufen" und schauen, was passiert.

[-] Duke_Nukem_1990@feddit.org 18 points 1 day ago

Ach Quatsch. Das ist Marketing, mehr nicht. Das Ding ist immernoch ein dummer Chatbot. Sehr komplex, aber mit Intelligenz haben diese LLMs immernoch nix zu tun.

[-] General_Effort@lemmy.world 1 points 1 day ago

Poes Gesetz.

[-] General_Effort@lemmy.world 2 points 1 day ago

Deswegen muss der Staat eine Regulierungsbehörde haben um...

Ach. Das waren die Aufseher vom Staat.

[-] RoflmasterBigPimp@feddit.org 3 points 1 day ago

Erst wurden die Jobs alle fremd-vergeben und jetzt kommt KI! Wie soll sich denn ein menschlicher Hacker aus Mitteleuropa überhaupt noch seinen Lebensunterhalt ergaunern!11!!! /s

this post was submitted on 05 Aug 2026
20 points (100.0% liked)

DACH - Deutschsprachige Community für Deutschland, Österreich, Schweiz

5466 readers
398 users here now

Das Sammelbecken auf feddit.org für alle Deutschsprechenden aus Deutschland, Österreich, Schweiz, Liechtenstein, Luxemburg und die zwei Belgier. Außerdem natürlich alle anderen deutschprechenden Länderteile der Welt.

Für länderspezifische Themen könnt ihr euch in folgenden Communities austauschen:

___

Zusätzliche Regeln aus „Lessons learned":

___

Einsteigertipps für Neue gibt es hier.
___

Eine ausführliche Sidebar mit den Serverregeln usw. findet ihr auf der Startseite von feddit.org

___

founded 2 years ago
MODERATORS
Seven@feddit.org
Der_aus_Aux@feddit.org
ZonenRanslite@feddit.org