Die Grenzen von KI – oder ein Plädoyer für das richtige Teamwork Mensch / Maschine

Künstliche Intelligenz ist auch in der Cyber Security nicht mehr wegzudenken. Kaum ein neuer Lösungsansatz, ein neues Produkt, welches sich nicht mit dem Begriff KI schmückt. Ist KI der Schlüssel für die unüberwindbare Cyber Defense? Was kann KI wirklich leisten oder ist das alles nur ein Hype?

Maschinen sind uns in vielem überlegen. Sie erkennen Gesichter zuverlässig und in Sekundenbruchteilen, sie schlagen uns im Schach und fahren schon bald autonom und vermutlich nahezu unfallfrei durch unsere Strassen. Starten wir die Suche nach Antworten zur Leistungsfähigkeit von KI aber für einmal in einem fachfremden Gebiet – passend zu diesem Blogpost – in der Literatur 🙂

Im Februar 2020 fliegt der bekannte deutsche Schriftsteller Daniel Kehlmann nach San Francisco, nach Palo Alto ins Silicon Valley. Der Zweck seiner Reise: Ein Experiment. Eine Cloud Computing Firma hat einen Algorithmus für natürliche Sprache entwickelt. Kehlmann soll zusammen mit dem Algorithmus eine Geschichte schreiben. Die Frage hinter dem Experiment: Kann daraus eine gute Geschichte entstehen? Kann künstliche Intelligenz in naher Zukunft den Berufstand von Kehlmann gefährden? Immerhin wäre er der Erste der davon erfährt, schreibt Kehlmann selbst in seiner Stuttgarter Zukunftsrede bzw. im Buch «Mein Algorithmus und ich»¹.

Wer das kleine Buch liest, dürfte enttäuscht sein oder erleichtert je nach Standpunkt. Der Algorithmus ist weit davon entfernt, eine sinnvolle Geschichte zu Papier zu bringen – wenn es auch immer wieder überraschende Momente gibt, wie folgendes Beispiel zeigt:

Kehlmann: It was a beautiful day in summer.

Algorithmus: The sun shone brightly on the green grass and flowers of the garden, but there were no birds to sing or insects to hum.

K: I couldn’t help it, the whole thing seemed strange to me.

A: We walked along for some time without speaking.

K: We, that’s my friend Otto and me. Otto is a tall and strong guy.

A: He has been working as an electrician since he was 16 years old.

K: He is very good at it, but one thing will never change: He is afraid of making a mistake and getting an electric shock.

A: After walking around for about half an hour, we came across a small house with a garden behind it.

K: “I don’t think I have ever noticed this house”, I said.

A: “But it looks like something out of a fairy tale.”

K: “Do you mean there’s a witch inside?”, he said.

A: “No, no”, said Otto. “It’s just a house. There are houses all over the world. They look exactly like this.”

Quelle: Kehlmann, Daniel: Mein Algorithmus und Ich – Stuttgarter Zukunftsrede, Klett-Cotta Verlag, Stuttgart, 2021.

Nach ein paar weiteren Sätzen stürzt die innere Logik des Algorithmus leider in sich zusammen und spuckt nur noch einzelne zusammenhangslose Wörter aus. Die Geschichte ist zu Ende, der Algorithmus kann nicht mehr.

Wenn Kehlmann auch selbst schreibt, dass das Experiment gescheitert ist, weil weder in diesem noch in anderen Bespielen je eine Geschichte von künstlerischem Wert entstanden ist, so möchte ich hier dennoch kurz auf ein paar beachtliche Leistungen und die Möglichkeiten von KI eingehen. Der Algorithmus spricht perfektes Englisch, macht keinerlei Grammatikfehler und schafft es, ansatzweise sinnvolle Sätze zu generieren mit Bezug auf die Vorgeschichte. Wer ihm positiv gesinnt ist, könnte darin allenfalls sogar schöpferische Kraft erkennen. Dies alles gelingt dem Algorithmus ohne jemals eine Sprache erlernt zu haben, geschweige denn die grammatikalischen Regeln zu kennen oder ein Verständnis für die Bedeutung von Wörtern zu haben. Das alles ist einzig und alleine das Ergebnis der Analyse riesiger Datenmengen bzw. einer Vielzahl von frei zugänglichen Texten und Büchern im Internet, sowie einem Algorithmus, der – stark vereinfacht gesagt – statistisch die wahrscheinlichste Wortfolge zum bisherig Geschriebenen berechnet. Kehlmann schreibt dazu: «Künstliche Intelligenz ist ein Zweitverwerter. Alles was sie tun kann, speist sich aus der vom Internet verfügbar gemachten Tätigkeit unzähliger Menschen».

Wer die Textbeispiele in Kehlmanns Buch liest, dürfte das eine oder andere Mal überrascht sein und auch mal schmunzeln, letztendlich bleibt aber die Erkenntnis, dass dieser Algorithmus keine konsistente Geschichte erzählen kann, keinen Plan hat von einer guten Story, keine schöpferische Kraft, kein Bewusstsein.

Die Stärke von KI liegt offensichtlich darin, grosse Datenmengen auszuwerten, Muster zu erkennen und Modelle zu bilden. Maschinen sind dabei ein Vielfaches effizienter als wir Menschen und sie verfügen über kognitive Eigenschaften, welche die Fähigkeiten von uns Menschen übersteigen. Maschinen bzw. ihre Algorithmen sind daher für uns in erster Linie wertvolle Werkzeuge – zum Beispiel für die Auswertung grosser Datenmengen oder die Automatisierung repetitiver Aufgaben. Maschinen sind aber nicht intelligent. Der Begriff Intelligenz in KI wird meines Erachtens etwas gar unreflektiert verwendet, hat sich aber durchgesetzt und entspricht vielleicht ganz einfach dem Wunsch, dem Ganzen ein menschliches Antlitz zu verleihen so wie wir das aus Filmen kennen, wenn intelligente Maschinen auftreten – C-3PO und Wall-E lassen grüssen.

Machine Learning scheint mir der bessere, treffendere Begriff zu sein. Dabei ist die sogenannte «Künstliche Intelligenz» nur so gut, wie die jeweils zugrundeliegenden Daten. Und insbesondere sind Maschinen und ihre Algorithmen limitiert für den Zweck, für den sie erschaffen wurden. Der Sprachalgorithmus aus dem Silicon Valley kann weder Schach spielen noch das Schachspiel erlernen. Die KI, die wir heute kennen, wird sehr fokussiert für einzelne Aufgaben trainiert und eingesetzt. Sie besitzt weder Verständnis noch Bewusstsein, was sie tut und insbesondere keine schöpferische Kraft, sich weiterzuentwickeln oder etwas zu erkennen, das ausser ihrem sehr begrenzten Anwendungsbereich liegt. Als wir vor einigen Jahren eine neue Endpoint Security Lösung getestet haben, welche versprach, mittels KI neue unbekannte Angriffe proaktiv zu erkennen, durften wir zwar feststellen, dass sie in diesem Bereich durchaus einen guten Job machte, hingegen scheiterte sie allzu häufig daran, bereits bekannte Malware zu blockieren, die in jeder Anti-Virus-Datenbank zu finden sind. Ein Zusammenspiel verschiedener Ansätze und Technologien wird weiterhin notwendig sein, um sich vor Cyber-Bedrohungen effizient und wirksam zu schützen. KI alleine wird es nicht richten.

Im Gebiet der Cyber Security verlassen wir uns ja bereits seit längerem auf Systeme und Algorithmen. Wir überlassen Maschinen nicht selten sogar autonom die Entscheidung über Gut und Böse. Dies ist dem Umstand geschuldet, dass die Datenmengen riesig sind und nur durch Maschinen vollständig und rasch bearbeitet werden können. Immer häufiger setzen wir dafür auch KI-basierte Lösungen ein. Das ist gut so. KI verschafft uns die Möglichkeit, noch mehr Datenpunkte in die Analyse einzubeziehen und damit noch bessere und präzisere Entscheidungen treffen zu können. Man sollte sich aber stets den Grenzen bewusst sein. KI ist nur so gut, wie die Daten, die wir zur Verfügung stellen, nur so gut, wie es von Menschen konfiguriert, eingesetzt und interpretiert wird. Gerne wiederhole ich mich an dieser Stelle: KI ist ein wertvolles Werkzeug. Wir brauchen aber auch Menschen, die KI korrekt einsetzen können und damit den optimalen Nutzen für unsere Unternehmung schaffen.

Das Schweizer Cyber Security Unternehmen xorlab² hat sich dem Kampf gegen gut gemachtes Phishing und gezielte E-Mail-Attacken verschrieben. Auch xorlab setzt dabei auf KI und maschinelles Lernen. xorlab wertet dabei den gesamten E-Mailverkehr einer Unternehmung auf granularer Basis aus, erkennt dadurch legitime E-Mailbeziehungen und ihre Eigenschaften, sowie natürlich auch Anomalien und richtig gut gemachte Angriffe, die versuchen, legitime Beziehungen zu kopieren. xorlab gelingt es damit gerade bei gezielten Attacken, Phishing, Fraud und Business E-Mail Compromise signifikant bessere Erkennungsraten zu erreichen, als herkömmliche Lösungen. Dennoch setzt man auch bei xorlab zusätzlich auf menschliche Intelligenz.

Benutzer können mit xorlab verdächtige E-Mails per Knopfdruck melden. Je nach Konfiguration können darauf basierend gleiche oder ähnliche E-Mails direkt blockiert oder sogar aus bestehenden Mailboxen entfernt werden. Rückmeldungen von Benutzern können aber auch direkt in die xorlab-Lösung und die Analyse von E-Mails einfliessen bzw. können sie durch einen Security-Spezialisten unter Zuhilfenahme der Analysedaten der xorlab-Engine geprüft werden. Der Benutzer ist längst nicht nur ein Risiko, welches E-Mails unbedarft öffnet. Er ist intelligent und erfahren genug, einzelne Angriffe zu erkennen, welche von Maschinen fälschlicherweise nicht blockiert wurden. Mensch und Maschine ergänzen sich sowohl bei der Erkennung von Angriffen, als auch bei der detaillierten Analyse von E-Mail-Bedrohungen durch Spezialisten oder ein SOC-Team.

Setzen Sie KI ein. In der Cyber Security gibt es riesige Datenmengen zu analysieren. KI-basierte Lösungen helfen, diese Unmengen an Daten auszuwerten, zu interpretieren und die richtigen Schlüsse zu ziehen. Vergessen Sie aber nicht den Menschen dabei. Wir brauchen gut ausgebildete Cyber Security Spezialisten, welche die verfügbaren Tools korrekt konfigurieren, richtig einsetzen und aufgrund der vorliegenden Ergebnisse wichtige Entscheidungen treffen. Und weil es zu wenige dieser Experten am Markt gibt, bleibt uns nichts Anderes übrig, als selber in die Ausbildung und Entwicklung solcher Spezialisten zu investieren. Dies ist ebenso wichtig, wie die Anschaffung neuer Lösungen und Tools. Auch Awareness-Programme machen Sinn, um die Cyber-Security-Widerstandsfähigkeit der gesamten Unternehmung zu erhöhen. Die richtige Kombination aus KI und MI macht den Unterschied. Es lohnt sich!

¹ Kehlmann, Daniel: Mein Algorithmus und Ich – Stuttgarter Zukunftsrede, Klett-Cotta Verlag, Stuttgart, 2021.

² xorlab E-Mail Security: www.avantec.ch/loesungen/xorlab/