Cover der Folge: KI-Agent kauft unkontrolliert – wer haftet für den Schaden?

KI-Agent kauft unkontrolliert – wer haftet für den Schaden?

Folge 53 · Staffel 3 · 7 Min. 28 Sek.

Auf Apple Podcasts hoeren  ·  Auf Spotify hoeren

Ein KI-Agent bestellt Büromaterial – und liest dabei das komplette HR-Adressbuch aus. Kein Zukunftsszenario: 80 solcher Vorfälle stehen gerade vor Gericht. Und die Haftung liegt beim Geschäftsführer, nicht beim Softwareanbieter.

Themen dieser Folge:

  • ChatGPT Wallet: OpenAI stattet KI-Agenten mit einem virtuellen Budget aus – inklusive biometrischer Freigabe pro Einzelkauf. Was das für Routinebestellungen im Betrieb wirklich bedeutet.
  • 80 Vorfälle vor Gericht: Autonome Agenten mit zu weiten Zugriffsrechten griffen auf interne Mitarbeiterdaten zu – beim simplen Büromaterialkauf.
  • Haftung bleibt beim GF: Wer glaubt, Datenpannen des KI-Systems auf den Softwareanbieter abwälzen zu können, irrt. Die DSGVO-Verantwortung liegt im eigenen Betrieb.
  • Datensparsamkeit als Rezept: Apples neue Gesundheits-App löscht alle Anfragen nach 24 Stunden – ein einfaches Prinzip, das jeder Mittelständler übernehmen kann.
  • Gartner-Warnung: 90 % der Unternehmen hatten 2025 einen KI-Zwischenfall. Die Empfehlung: Jedes autonome System braucht einen physischen Notausschalter – und einen namentlich Verantwortlichen.

Handlungsempfehlung: Zieht heute euren wichtigsten IT-Vertrag heraus. Prüft in 20 Minuten: Wer ruft bei einem Systemausfall wen an?

Einordnung aus Mittelstands-, Ethik- und Governance-Perspektive. Für Geschäftsführer, IT-Verantwortliche, HR und Projektleitung – ohne technisches Kauderwelsch.