Der Hype kam zuerst. Dann die Architektur. Dann die Misserfolge. Als nächstes sind EU-Unternehmen an der Reihe, und die meisten von ihnen wissen es noch nicht.
Das ist keine Spekulation. Der Zusammenbruch von Knight Capital ist öffentlich bekannt. Der Verzicht auf NHS NPfIT wurde jahrelang in parlamentarischen Anhörungen thematisiert. Medibank. TSB. Hershey. Jeder von ihnen hat studiert. Nichts davon hält die nächste Firma davon ab, in denselben Raum zu gehen und denselben Anruf zu tätigen.
Das Problem ist nicht Unwissenheit. Es ist Gewissheit. Jede Organisation glaubt, dass ihre Situation anders ist.
An drei Stellen bricht ein System zusammen
Wenn ein KI-Projekt scheitert, erfahren Sie von den Symptomen. Die Daten waren chaotisch. Das Modell zeigte eine Underperformance. Der Rollout erfolgte überstürzt. Das sind nicht die Fehler. So sah der Misserfolg auf dem Weg nach draußen aus.
Der Fehler war struktureller Natur. Es wurde eingebaut, bevor die erste Codezeile ausgeführt wurde.
Es gibt drei Orte, an denen es passiert.
Die erste ist die Daten- und Wissensschicht. Das ist es, was ein System tatsächlich weiß; nicht das, was ihm gesagt wurde, es wusste. EntsprechendGartnerVon 2018 bis 2022 werden 85 % der KI-Projekte aufgrund von Verzerrungen bei Daten, Algorithmen oder den für ihre Verwaltung verantwortlichen Teams fehlerhafte Ergebnisse liefern. Bei dieser Zahl geht es nicht um fahrlässige Unternehmen. Es geht um Ingenieure, denen Daten ausgehändigt wurden, von denen man sagte, sie seien produktionsreif. Das war es nicht. Niemand hat nachgesehen. Der Hype-Zyklus hatte den Raum bereits vorangebracht. Das Modell lief. Es wurden Ergebnisse erzielt. Die Ausgaben waren falsch. Und eine Zeit lang bemerkte es niemand.
Die zweite ist die Verarbeitungsschicht, in der große Sprachmodelle und Inferenzalgorithmen Daten in Entscheidungen umwandeln. Diese Systeme versagen nicht lautstark. Ein System, das halluziniert, hört nicht auf. Es geht weiter. Es liefert Antworten, die vernünftig erscheinen. Im Jahr 2012Knight Capital Groupverlor 440 Millionen Dollar in 45 Minuten. Nicht weil ein System abgestürzt ist. Weil ein System perfekt lief und Live-Trades mit einer Konfiguration verarbeitete, die hätte ausgeschaltet werden sollen. Es war zuversichtlich. Es war schnell. Es war falsch. Niemand im Raum wusste davon, bis das Geld weg war.
Die dritte Ebene ist die Bereitstellungsebene, auf der die Entscheidungen eines Systems tatsächliche Menschen erreichen. Echte Arbeitsabläufe. Echte Patienten. Echte Konsequenzen.
DerNationales NHS-ProgrammFür die IT wurden im Laufe eines Jahrzehnts etwa 9,8 Milliarden Pfund ausgegeben. Die Technik hat größtenteils funktioniert. Was nicht funktionierte, war die Annahme, dass klinische Arbeitsabläufe in Dutzenden von NHS-Trusts, von denen jeder seine eigene betriebliche Realität, sein eigenes Personal und seine eigenen Patienten hat, in ein einziges standardisiertes System gezwungen werden könnten, ohne dass diese Leute sagen könnten: Das passt nicht zu unserer Arbeitsweise. Es gab keine Feedbackschleife. Das System konnte nicht erkennen, dass es die Menschen, für die es gebaut wurde, im Stich ließ, weil niemand einen Weg für die Übertragung dieses Signals gebaut hatte. Die Krankenschwestern haben daran gearbeitet. Ärzte dokumentierten zweimal. Patienten fielen in die Lücken. Schließlich wurde das Programm aufgegeben. Die 9,8 Milliarden Pfund waren weg.
Organisationen des öffentlichen Sektors in der EU, die heute Programme zur Digitalisierung des Gesundheitswesens durchführen, gehen von derselben Annahme aus. Nicht das gleiche System. Die gleiche Annahme.
EntsprechendMcKinsey70 % der groß angelegten Transformationen scheitern. Die Gründe, die sie nennen – unklare Ziele, schwaches Engagement, keine Investition in Fähigkeiten –, beschreiben allesamt, was passiert, wenn Organisationen sich für den Start entscheiden, bevor sie zum Aufbau bereit sind. Das ist ein Hype-Problem. Kein technisches Problem.
Die EU-Version kostet mehr
Ein US-Unternehmen, das auf einen Fehler auf der Lieferebene stößt, beginnt mit der Behebung. Ein europäisches Unternehmen, das denselben Fehler gemäß DSGVO, DORA oder dem EU-KI-Gesetz erleidet, leitet gleichzeitig eine Abhilfemaßnahme und eine behördliche Untersuchung ein.
Das Durchsetzungsumfeld ist hier anders. Die meisten Fallstudien, die die Leute lesen, wurden von Organisationen verfasst, die nie im Rahmen dieser Fallstudien tätig waren.
Das ist wichtig, weil es die Kosten des zweiten Fehlers verändert, nicht nur des ersten. Ein Fehler in der Datenschicht im ersten Jahr ist wiederherstellbar. Herauszufinden, dass die Bereitstellungsschicht seit achtzehn Monaten nicht konforme Ausgaben protokolliert, während die Regulierungsbehörde Fragen stellt, ist eine völlig andere Situation.
Calsoft baut auf allen drei Ebenen als Designanforderungen auf, nicht nachträglich. Die Daten- und Wissensschicht wird auf Qualität, Abstammung und kontextbezogene Genauigkeit überprüft, bevor irgendetwas anderes ausgeführt wird. Die Verarbeitungsebene wird auf das Halluzinationsrisiko und die Ausgabeverantwortung und nicht nur auf die Geschwindigkeit ausgerichtet. Die Bereitstellungsschicht ist so konzipiert, dass die Überprüfbarkeit ein strukturelles Merkmal ist. Für EU-Unternehmen, die echte Durchsetzungsfristen einhalten, ist das kein Unterscheidungsmerkmal. Es handelt sich um die minimal lebensfähige Architektur.
Eine Frage vor der nächsten Verabschiedung
Das Nützlichste, was ein CTO mit einem dokumentierten Fehler tun kann, ist, ihn nicht an das Team weiterzuleiten. Stellen Sie bei der nächsten Architekturüberprüfung eine Frage: Welche anders getroffene Entscheidung hätte das Ergebnis verändert?
Dann prüfen Sie, ob diese Entscheidung gerade auf dem Tisch liegt.
Normalerweise ist es so. Der Unterschied besteht darin, ob jemand genug Autorität und genug Geduld hat, um die Dinge lange genug zu verlangsamen, um es zu schaffen.
FAQs
Welche globalen technischen Misserfolge sind für die Untersuchung von EU-Unternehmen am relevantesten?
Am aufschlussreichsten sind Fehler bei der Bereitstellung von KI-Modellen, großen Datenplattformen und der Einführung von Unternehmenssystemen. Dabei handelt es sich um die gleiche Infrastruktur, die EU-Unternehmen derzeit aufbauen. Sie scheitern an den gleichen Mustern – Lücken in der Datenverwaltung, Abweichungen bei der Verarbeitung, Annahmen zur Bereitstellung, die nie anhand realer Betriebsbedingungen getestet wurden – unabhängig von Branche, Region oder Budgetgröße.
Wie verändert die EU-Verordnung, was Unternehmen aus globalen Insolvenzfällen mitnehmen sollten?
Die meisten dokumentierten Ausfälle ereigneten sich in Märkten, in denen ein Datenverarbeitungsfehler eine technische Behebung erforderte. Gemäß DSGVO, DORA und dem EU-KI-Gesetz kann derselbe Fehler eine behördliche Maßnahme ohne sichtbare Ausfälle bedeuten. Die technische Lektion aus einer globalen Fallstudie lässt sich in der Regel übertragen. Die Konsequenz, gegen die gleiche Wand zu stoßen, ist oft nicht der Fall.
Reicht eine interne Post-Mortem-Kultur?
Nein. Obduktionen dokumentieren die Misserfolge, die Ihr Unternehmen erlitten hat. Sie können keine Risiken in Systemen aufdecken, die Sie noch nicht erstellt haben. Und sie schließen Fehler aus, die schwerwiegend genug sind, um Organisationen zu ruinieren – weil diese Organisationen Ihre Retrospektiven nicht schreiben. Die externe Fehleranalyse deckt die Risikokategorie ab, die durch internes Lernen nicht erreicht werden kann.
