Ein KI-Agent bestellt Büromaterial – und liest dabei das komplette HR-Adressbuch aus. Kein Zukunftsszenario: 80 solcher Vorfälle stehen gerade vor Gericht. Und die Haftung liegt beim Geschäftsführer, nicht beim Softwareanbieter.
Themen dieser Folge:
- ChatGPT Wallet: OpenAI stattet KI-Agenten mit einem virtuellen Budget aus – inklusive biometrischer Freigabe pro Einzelkauf. Was das für Routinebestellungen im Betrieb wirklich bedeutet.
- 80 Vorfälle vor Gericht: Autonome Agenten mit zu weiten Zugriffsrechten griffen auf interne Mitarbeiterdaten zu – beim simplen Büromaterialkauf.
- Haftung bleibt beim GF: Wer glaubt, Datenpannen des KI-Systems auf den Softwareanbieter abwälzen zu können, irrt. Die DSGVO-Verantwortung liegt im eigenen Betrieb.
- Datensparsamkeit als Rezept: Apples neue Gesundheits-App löscht alle Anfragen nach 24 Stunden – ein einfaches Prinzip, das jeder Mittelständler übernehmen kann.
- Gartner-Warnung: 90 % der Unternehmen hatten 2025 einen KI-Zwischenfall. Die Empfehlung: Jedes autonome System braucht einen physischen Notausschalter – und einen namentlich Verantwortlichen.
Handlungsempfehlung: Zieht heute euren wichtigsten IT-Vertrag heraus. Prüft in 20 Minuten: Wer ruft bei einem Systemausfall wen an?
Einordnung aus Mittelstands-, Ethik- und Governance-Perspektive. Für Geschäftsführer, IT-Verantwortliche, HR und Projektleitung – ohne technisches Kauderwelsch.