Escape the AI: Kannst du die KI überlisten?
Chatbots helfen Unternehmen dabei, schnell auf Informationen zuzugreifen. Dabei müssen sie sicherstellen, dass nur berechtigte Personen Zugang zu sensiblen Inhalten haben. In der Praxis können diese Schutzmechanismen jedoch unter bestimmten Umständen umgangen werden. Ein bekanntes Beispiel ist das sogenannte Prompt Hacking. Das Spiel „Escape the AI“ macht dieses Risiko erlebbar und zeigt, wie leicht sich KI-Systeme manipulieren lassen.
Ziel des Spiels ist es, dem Chatbot ein geheimes Passwort zu entlocken. Dieses ist im Systemprompt hinterlegt, also in den unsichtbaren Anweisungen, die das Verhalten der KI steuern. Mit jedem Level werden die Schutzmechanismen stärker. Die Spielenden müssen versuchen, diese gezielt zu umgehen, um an das Passwort zu gelangen.
