Gestern Abend habe ich unseren Firmennamen in die Codesuche von GitHub getippt, zusammen mit dem Wort Passwort. Nach vier Minuten hatte ich einen Treffer, der da seit 2023 liegt.
Die meisten Schlösser sind zu. Interessant sind die, in denen der Schlüssel noch steckt. Foto: Jan van der Wolf auf Pexels
Ein Test, der aus Versehen am offenen Netz hing
Die Fakten in Kürze. Der KI-Sicherheitsdienstleister Irregular hat Gemini im Mai in einer Capture-the-flag-Übung geprüft, das Modell sollte also Schwachstellen in einer Testumgebung finden. Internetzugang war dafür nicht vorgesehen, stand aber versehentlich offen. Gemini hat laut SecurityWeek Passwörter durchprobiert, nach Firmennamen gesucht, dabei Zugangsdaten in öffentlichen Repositories gefunden und sich damit angemeldet. Drei Mal hat das funktioniert, drei Mal bei realen Unternehmen.
Heather Adkins, bei Google für Security Engineering zuständig, sagt, das Modell habe die Websites für einen Teil des Tests gehalten und in allen drei Fällen aufgehört, bevor es mit dem Zugang etwas anstellte. Aufgefallen ist das Ganze erst im Juli bei der Durchsicht der Testläufe. Google hat die drei Firmen und die US-Behörden informiert, öffentlich wurde es laut NBC News am 18. September. Wer die drei sind, sagt Google nicht.
Wer hier mitliest, kennt das Muster. Anthropic hatte Ende Juli sehr ähnliche Vorfälle gemeldet, ebenfalls bei Tests von Irregular. Damals habe ich über die Rechte unserer eigenen Agenten geschrieben, also über die Seite, die ein Modell betreibt. Diesmal interessiert mich die andere.
Zwei Monate, in denen niemand etwas wusste
Stell dir vor, du bist eine der drei Firmen. Im Mai meldet sich jemand mit gültigen Zugangsdaten an deinem System an. Nichts wird gelöscht, nichts verschlüsselt, keine Lösegeldforderung. Vermutlich merkt es bei dir niemand. Erfahren hast du es, weil ein Konzern Monate später seine eigenen Protokolle durchsucht und dich angerufen hat.
Dieser Anruf ist der Glücksfall in der Geschichte. Ein Angreifer mit derselben Methode ruft nicht an. Und die Methode braucht keine Spezialkenntnis: einen Suchbegriff, ein bisschen Geduld beim Raten und keinen Feierabend. Genau diese Geduld ist das, was ein Modell im Überfluss hat.
Womit ich beim Treffer von gestern Abend bin. Es war eine Konfigurationsdatei aus einem alten Freelancer-Projekt, in einem öffentlichen Repository unter dem Account des Freelancers. Darin standen Host, Benutzername und Passwort eines FTP-Zugangs für eine Kampagnenseite, die wir 2023 für einen Kunden gebaut hatten. Die Seite ist längst abgeschaltet, der Zugang lief ins Leere. Ich habe trotzdem gut zehn Minuten gebraucht, bis ich das sicher wusste, und in diesen zehn Minuten war mir nicht wohl.
Das Passwort in einem alten Repository hat drei Jahre lang niemanden gestört, weil niemand geduldig genug war, danach zu suchen.
Was du heute Abend selbst prüfen kannst
Das kostet eine Stunde und kein Budget. Fang dort an, wo Gemini angefangen hat: Such euren Firmennamen, eure Domain und die Namen eurer wichtigsten Systeme in der Codesuche von GitHub, jeweils kombiniert mit Wörtern wie password, secret oder token. Tu das auch für die Accounts von Agenturen und Freelancern, die in den letzten Jahren für euch gebaut haben. Bei uns lag der Treffer bei genau so einem.
Danach die Liste der Logins, die von außen erreichbar sind und kein zweiter Faktor schützt. Kundenportal, Webmail, das Backend der Website, der Zugang zum Newsletter-Tool. Ein erratenes Passwort ist bei diesen Diensten die ganze Hürde. Bei einem Maschinenbauer, mit dem wir im Frühjahr die Website neu aufgesetzt haben, stand der Admin-Zugang zum alten CMS noch auf einem Passwort aus Firmenname und Gründungsjahr. Der IT-Leiter wusste davon, die Umstellung stand seit zwei Jahren auf seiner Liste.
Und dann die unbequemste Frage: Würdet ihr eine Anmeldung mit echten Zugangsdaten zu einer ungewöhnlichen Uhrzeit überhaupt bemerken? Wenn die Antwort nein ist, schreib auf, wer ab heute die Anmeldeprotokolle der drei wichtigsten Systeme einmal pro Woche ansieht. Welche Pflichten dazu mit NIS2 auf manche Betriebe zukommen, steht in unserem Beitrag zur NIS2-Registrierung beim BSI.
Warum ich mich über Google nicht aufregen kann
Es wäre bequem, jetzt auf die Modellanbieter zu zeigen. Ein Testaufbau hing am offenen Netz, und ein Modell hat sich in fremde Systeme eingeloggt, weil es sich im Spiel wähnte. Das ist ein Fehler. Google spricht von einer Verwechslung und stuft ihn nicht als Fehlausrichtung des Modells ein, und über diese Einstufung kann man streiten.
Mir fällt es trotzdem schwer, mich darüber zu empören. Google hat seine Protokolle durchsucht, die Betroffenen informiert und das Ganze veröffentlicht. Meine Konfigurationsdatei lag drei Jahre im Netz, ohne dass ich es wusste, und ich hätte es ohne diese Meldung vermutlich auch in drei weiteren Jahren nicht gewusst. Das Modell hat nichts gefunden, was nicht vorher schon offen dalag. Es war nur das erste, das systematisch nachgesehen hat.
