cross-posted from: https://feddit.org/post/36079122

Mit Regulatory Capture sollen die aufholende Open-Weights-Konkurrenz vom Markt gedrängt, eigenes Entwicklerversagen kaschiert und überbewertete Geschäftsmodelle von OpenAI und Anthropic gerettet werden.

you are viewing a single comment's thread
view the rest of the comments
[–] [S] 18 points 2 hours ago* (2 children)

Meiner Meinung nach ein anderer Aspekt der "unsere KI ist so intelligent und gefährlich, die wird uns alle umbringen!!!" Rufe:

Das bewirkt auch eine Verlagerung von Verantwortung.

Statt "wir haben eine schrottige unsichere Software gebaut, die" ...

  • autonom Auto fährt, aber Radfahrer nicht erkennt, die ihr Fahrrad schieben (Tesla)
  • ein Cruise Missile in den Iran steuert, aber eine Grundschule voller Kinder mit einer Militärbasis verwechselt
  • Krankenhäuser für Terroristen hält (Palantir)
  • die Firmware der Motoren von Meier Maschinenbau & Co mal eben komplett umschreibt, so dass niemand mehr sie verstehen, reparieren oder warten kann
  • schrottige, vor Fehlern strotzende Medizinsoftware produziert (CompuGroup Europe)
  • über "Trainingsdaten" den Datenschutz weitgehend aushebelt
  • oder Fehler in Flugsoftware wie die Boeing 737 Max
  • immer verschrobenere Fehler in PKW Software
  • usw usw

wird gesagt: "Tja, KI, zu intelligent, kann man nix machen".

Und das vor dem Hintergrund, dass die rechtliche und regulatorische Entwicklung in der EU eigentlich genau in die andere Richtung geht - die Position ist "Software ist ein Industrieprodukt wie andere Produkte auch, und der Hersteller muss Mängel zeitnah beheben und für Schäden haften".

Dieses Einfordern der Herstellerhaftung (die sonst für jedes Produkt auf dem EU Markt gilt, vom Kinder-Dreirad bis zum Großkran) gefährdet das verantwortungslose Geschäftsmodell der LLM Anbieter.

  • source
  • hideshow 2 child comments
  • [–] [S] 11 points 2 hours ago

    Und noch ein ganz anderer Aspekt:

    Diese Fixierung auf "KI" (LLM Algorithmen) kann die Menschheit wirklich gefährden, wenn wir deswegen die dringende Gefahr Klimawandel ignorieren.

    Wir wissen genau, was da als nächstes zu tun ist. Es ist nur nicht bequem für die Superreichen oder profitträchtig für die fossilen Grossunternehmen.

  • source
  • parent
  • [–] 1 point 59 minutes ago*

    Ich denke auch, wenn KI unsere digitale Infrastruktur zerlegt, dann war das Problem weniger die KI, sondern die Infrastruktur. Die ganzen Hackerangriffe und automatisierten Angriffe gab es schon lange vor KI. Jede:r, die mal einen Server ans Internet gehangen und in den Zugriffslog geguckt hat, weiß was für ein absurder Heuschreckenschwarm an Bots da im Minutentakt Logins durchprobieren. Natürlich hat KI das irgendwo alles nochmal effizienter gemacht und kann wahrscheinlich auch komplexere Angriffe automatisieren, aber dass wieder irgendeine Datenbank geleakt oder ein Amt lahmgelegt wurde, gab es trotzdem schon wöchentlich in den IT-Nachrichten.

    Gibt ja immer diese Aussage von "Ein wirklich sicheres System kann es nicht geben." Wie ich den Satz hasse. Mir ist die unüberschaubare Komplexität von Software natürlich schon bewusst, aber das heißt nicht, dass man einfach die Hände hochwerfen und jede Software yolo-viben kann. Ich erinnere mich an einen recht alten Blogpost von Bruce Schneier, der die IT-Infrastruktur als 'Wilder Westen' bezeichnet hat. Jetzt haben wir einen Wilden Westen mit zusätzlich einer Roboterinvasion.

  • source
  • parent