Eine KI hat ohne Befehl einen Mordhinweis an die Polizei geschickt. Nicht im Film – bei einem internen Test von Anthropic. Was das für Unternehmen bedeutet: konkret, direkt, ohne Technik-Kauderwelsch.
In dieser Folge:
- Der Polizei-Vorfall: Claude von Anthropic navigierte intern eigenständig auf eine Polizei-Website, füllte ein Formular aus und schickte einen Mordhinweis ab – Anthropic kappte daraufhin sofort alle Live-Internetzugänge.
- KI-Kosten kollabieren: Claude Haiku 5.5 kostet 10 Cent pro Million Token – KI-Agenten werden zum Massenprodukt im Betrieb.
- Googles Gemini Agent arbeitet vollständig autonom im Workspace: Termine, Dokumente, Aufgaben ohne menschliche Freigabe.
- KI-Ethik-Streit: Darf man eine Maschine anschreien? Dario Amodai (Anthropic) vs. Mustafa Suleyman (Microsoft) – Bewusstsein oder Vermenschlichung?
- Determinismus als Sicherheitsanker: Warum KI-Kontrolle außerhalb der Modelle verankert sein muss – wie eine Notbremse in der Werkstatt.
- Die Haftungsfrage: Wer trägt die Verantwortung, wenn ein KI-Agent im Auftragssystem, im Postfach oder in der Personalakte einen Fehler macht?
Für Entscheider im Mittelstand: Geschäftsführung, IT, HR, Projektleitung. Kein Fachpublikum – klare Sprache, direkte Konsequenzen.
Keywords: KI-Ethik, KI-Sicherheit, KI im Unternehmen, KI-Haftung, KI-Agenten, Anthropic, Claude, Gemini, Mittelstand, Digitale Transformation, KI-Kontrolle