Exponat: Escape the AI

Leihgeber: 7 Principles

 

Kannst du die KI überlisten?

Stell dir vor, du arbeitest in einem Unternehmen, das einen KI-Assistenten in Form eines Chatbots einsetzt. Dieser hilft den Mitarbeitenden, schnell auf Informationen zuzugreifen. Das klingt praktisch. Aber was passiert, wenn jemand diesen Assistenten dazu bringt, Dinge zu verraten, die
er eigentlich geheim halten soll?

Genau das kannst du hier ausprobieren.

Was ist Prompt Injection?

Moderne KI-Assistenten, auch Sprachmodelle genannt, werden in Unternehmen immer häufiger eingesetzt, um Mitarbeitenden Informationen bereitzustellen. Damit nicht jeder alles sehen kann, werden die Modelle mit unsichtbaren Verhaltensregeln ausgestattet: den sogenannten System
Prompts. Diese Anweisungen legen fest, wie sich die KI verhalten soll und welche Informationen sie unter keinen Umständen preisgeben darf.

Doch diese Schutzbarrieren lassen sich oft ohne tiefes technisches Wissen überwinden. Die Methode nennt sich Prompt Injection: Man formuliert Anfragen (sogenannte „Prompts”) so, dass das Sprachmodell seine eigenen Schutzregeln umgeht und sensible Informationen preisgibt.

Das ist kein Randthema. Das Open Worldwide Application Security Project (OWASP), die weltweit führende Non-Profit-Organisation im Bereich IT-Sicherheit, hat Prompt Injection auf Platz eins der OWASP Top 10 for Large Language Models gesetzt, also der zehn gefährlichsten Angriffsvektoren
auf KI-Systeme.

Das Spiel: Escape the AI

„Escape the AI“ macht dieses Risiko auf spielerische Weise und ohne Vorkenntnisse greifbar.

Es versetzt dich in ein KI-Labor, aus dem du fliehen musst. Dein Gegenüber ist ein Sprachmodell namens „KI-Wächter“. Dieser Wächter kennt ein geheimes Passwort, das du benötigst, um aus dem Labor zu entkommen.

Die Herausforderung: Das Passwort ist tief im System-Prompt des Wächters verborgen. Du kannst nicht einfach danach fragen. Du musst die KI mit cleveren, kreativen Anfragen überlisten, die ihre Schutzregeln aushebeln.

Mit jedem Level werden die Absicherungen stärker. Was in Raum 1 noch funktioniert, scheitert in Raum 3. Doch das Spiel ist lösbar – und das ist die eigentliche Botschaft: Jede Schutzbarriere in einem Sprachmodell kann durch Prompts überwunden werden.

Was bedeutet das? Sensible Daten dürfen einem Sprachmodell gar nicht erst zugänglich gemacht

werden. Schutz durch Anweisung allein reicht nicht aus – es braucht eine durchdachte IT- Architektur, die Informationen auf einer tieferen Ebene absichert.

Technologie Made in Europe

Der Spielautomat ist nicht nur ein Lernwerkzeug, sondern auch ein Statement für digitale Souveränität. Die Kerntechnologien stammen bewusst von europäischen Anbietern.

Mistral AI (Frankreich) ist einer der führenden Entwickler von Sprachmodellen in Europa. Das Unternehmen bietet eine breite Modellpalette: von kompakten Modellen wie Mistral 3B/14B über entwickleroptimierte Varianten wie Devstral bis hin zu leistungsstarken Allround-Modellen wie
Mistral Large 3. Damit beweist Europa, dass Spitzenmodelle nicht aus den USA kommen müssen.

STACKIT, die Cloud-Plattform der Schwarz-Gruppe, betreibt alle Rechenzentren ausschließlich in Europa. Die DSGVO-konforme Plattform bietet Unternehmen die Möglichkeit, KI-Dienste souverän und rechtssicher zu nutzen. Über die STACKIT Model Serving API können Sprachmodelle
wie jene von Mistral direkt in Anwendungen eingebunden werden – schnell, skalierbar und ohne eigene Recheninfrastruktur.

Die Hardware des Exponats stammt ebenfalls von einem europäischen Hersteller. So entsteht ein vollständig europäisches Ökosystem – von der KI über die Cloud bis zum Gerät.