Meiner Meinung nach ein anderer Aspekt der "unsere KI ist so intelligent und gefährlich, die wird uns alle umbringen!!!" Rufe:
Das bewirkt auch eine Verlagerung von Verantwortung.
Statt "wir haben eine schrottige unsichere Software gebaut, die" ...
- autonom Auto fährt, aber Radfahrer nicht erkennt, die ihr Fahrrad schieben (Tesla)
- ein Cruise Missile in den Iran steuert, aber eine Grundschule voller Kinder mit einer Militärbasis verwechselt
- Krankenhäuser für Terroristen hält (Palantir)
- die Firmware der Motoren von Meier Maschinenbau & Co mal eben komplett umschreibt, so dass niemand mehr sie verstehen, reparieren oder warten kann
- schrottige, vor Fehlern strotzende Medizinsoftware produziert (CompuGroup Europe)
- über "Trainingsdaten" den Datenschutz weitgehend aushebelt
- oder Fehler in Flugsoftware wie die Boeing 737 Max
- immer verschrobenere Fehler in PKW Software
- usw usw
wird gesagt: "Tja, KI, zu intelligent, kann man nix machen".
Und das vor dem Hintergrund, dass die rechtliche und regulatorische Entwicklung in der EU eigentlich genau in die andere Richtung geht - die Position ist "Software ist ein Industrieprodukt wie andere Produkte auch, und der Hersteller muss Mängel zeitnah beheben und für Schäden haften".
Dieses Einfordern der Herstellerhaftung (die sonst für jedes Produkt auf dem EU Markt gilt, vom Kinder-Dreirad bis zum Großkran) gefährdet das verantwortungslose Geschäftsmodell der LLM Anbieter.
all 3 comments