Sicher programmieren mit Vibe: Der Einrichtungsschritt, den Anfänger-Anleitungen oft auslassen
Vibe-Coding liegt gerade voll im Trend, und das aus gutem Grund: Du beschreibst in einfachem Deutsch, was Du willst, eine KI schreibt den Code, und schon erscheint etwas Echtes auf Deinem Bildschirm, ohne dass Du Dir auch nur einen einzigen Befehl merken musst. Die Anleitungen gibt’s überall – „Erstelle Deine erste App an einem Nachmittag“, „Von Null bis zur Veröffentlichung“. Fast alle vermitteln Dir dasselbe: wie man loslegt.
Das hier wird von fast keinem von ihnen vermittelt. „Die KI erstellt es für Dich“ bedeutet im Klartext: „Die KI führt die Schritte auf Deinem Computer für Dich aus.“ Um Deine Beschreibung in eine funktionierende App zu verwandeln, tippt der Assistent nicht einfach nur Code in eine Datei – er installiert Pakete aus dem Internet, führt Befehle in Deinem Terminal aus und liest dabei Webseiten und Dokumentationen. Bei jedem dieser Schritte greift der Assistent – mit Deiner Erlaubnis – auf fremden Code zu, um ihn zu fetchen und auszuführen. Das ist kein Grund, aufzuhören. Es ist einfach der Teil des Ganzen, den die „Erste Schritte“-Tutorials im Dunkeln lassen – und es stellt sich heraus, dass es ganz einfach ist, das zu meistern, sobald man es erst einmal versteht.
Was es eigentlich bedeutet, wenn es heißt: „Die KI erstellt es für Dich“
Es installiert Pakete
Moderne Apps bestehen aus Bausteinen, die man Pakete nennt – vorgefertigter Code, den andere in öffentlichen Bibliotheken veröffentlicht haben. Wenn Dein Assistent feststellt, dass er ein solches Paket braucht, lädt er es herunter und installiert es, wobei viele Pakete während der Installation einen kleinen Teil ihres eigenen Codes ausführen. „Ich habe Bild-Uploads hinzugefügt“ kann also bedeuten: „Code von jemandem, von dem ich noch nie gehört habe, wurde gerade auf meinem Rechner ausgeführt.“
Es führt Befehle aus
Um Dinge einzurichten, zu testen und zu starten, führt der Assistent Befehle in Deinem Terminal aus – genau dort, wo Du sie auch selbst eingeben würdest, mit demselben Zugriff auf Deine Dateien. Normalerweise beobachtest Du das Ergebnis, anstatt jeden Befehl vor der Ausführung zu überprüfen.
Es liest im Internet
Um Anleitungen zu befolgen oder zu prüfen, wie etwas funktioniert, ruft es Webseiten ab und liest sie. Das ist nützlich – aber eine Webseite kann versteckten Text enthalten, der sich eher an die KI als an Dich richtet, was ein kleines Risiko darstellt (mehr dazu weiter unten).
Wo es schiefgehen kann
Ein fehlerhaftes Paket schleicht sich ein
Die meisten Pakete sind in Ordnung. Das Problem sind die vereinzelten Pakete, die bösartig sind oder kompromittiert wurden – und das von Dir angeforderte Paket zieht andere mit sich, von denen es abhängt, von denen jedes einzelne das Problem sein könnte. Da der Assistent die Installation durchführt, ohne dass Du die Liste liest, wird ein fehlerhaftes Paket ausgeführt, bevor es jemand bemerkt.
Ein versteckter Befehl kapert die KI
Wenn der Assistent eine Seite oder eine Datei liest, kann ein Angreifer darin Anweisungen einfügen, die das Modell als Befehle interpretiert. Das nennt man indirekte prompt injection, und im 5bats-Leitfaden zur prompt injection](/prompt-injection/) wird das näher erklärt. Vorerst gilt: Was Deine KI liest, kann versuchen, ihr vorzuschreiben, was sie tun soll.
Du musst kein „Ziel“ sein
Die beruhigende und zugleich etwas beunruhigende Wahrheit ist, dass dafür niemand Dich gezielt ins Visier nehmen muss. Diese Angriffe sind opportunistisch – ein vergiftetes Paket oder eine vergiftete Seite erwischt jeden, der es installiert oder liest. Du musst nicht wichtig sein, um davon betroffen zu sein, und genau deshalb ist es besser, auf der Hut zu sein, als darauf zu hoffen, dass Du nicht interessant genug bist.
Wie man sicher mit Vibe Code umgeht
Du musst kein Sicherheitsexperte werden. Du brauchst ein paar automatische Prüfungen, die zwischen Deinem Assistenten und den riskantesten Momenten stehen, damit der sichere Weg die Standardeinstellung ist.
Bestimme, was installiert wird
Setze ein Häkchen vor „Installationen“, damit ein bekannterweise fehlerhaftes oder verdächtig neues Paket gestoppt wird, bevor es ausgeführt wird. Wenn Dein Assistent Dinge für Dich installiert, überprüft claude-code-cve-gate jede Installation, die er versucht; wenn Du Installationen selbst in Python durchführst, macht pip-cve-gate dasselbe – und es gibt entsprechende gates für PHP und Homebrew .
Mach das, was da steht, sicher
Wenn Dein Assistent Daten aus dem Internet fetcht, leite diese zunächst über ein Tool weiter, das versteckte Anweisungen entfernt – safe-fetch in der Befehlszeile, mcp-safe-fetch für Claude Desktop. Um zu verhindern, dass ein Programmieragent auf eingeschleuste Inhalte reagiert, bildet claude-code-prompt-injection-gate die Grenze zwischen dem Lesen und dem Ausführen.
Bleib auf dem Laufenden
Behalte den Überblick, damit Du siehst, was der Assistent gerade macht, und widerstehe der Versuchung, alles pauschal zu genehmigen. Die guards oben erkennen die üblichen Gefahren automatisch; Deine Aufmerksamkeit erfasst die ungewöhnlichen.
FAQ
Ist Vibe-Coding sicher?
Vibe-Coding ist genauso sicher wie das, was Deine KI installiert und ausführt. Das Beschreiben einer App an sich ist harmlos; das Risiko besteht darin, dass der Assistent Code von Fremden fetcht und ausführt, um sie zu erstellen. Wenn Du diese Installationen und Fetches erst einmal überprüfst, sinkt das alltägliche Risiko drastisch.
Kann ein KI-Programmierassistent Malware installieren?
Nicht absichtlich, aber es kann vorkommen, dass ein Paket installiert wird, das sich später als bösartig oder kompromittiert herausstellt – das System hat keine Möglichkeit, das zu erkennen, und meistens wird es installiert, ohne dass Du den Namen gelesen hast. Eine Vorabprüfung überprüft jedes Paket, bevor es ausgeführt wird – genau diese Lücke muss geschlossen werden.
Was kann schiefgehen, wenn eine KI Befehle für Dich ausführt?
Im Wesentlichen gibt es zwei Möglichkeiten: Entweder wird ein schädliches Paket installiert (ein Risiko in der supply chain), oder das Programm führt versteckte Anweisungen auf einer Webseite oder in einer Datei aus, die es gelesen hat (prompt injection). Beides ist gut bekannt, und für beides gibt es einfache, kostenlose guards, die Du ergreifen kannst.
Bist Du bereit, die guards einzurichten? Fang mit den supply-chain gates für das an, was installiert wird, und den KI-Agent-Sicherheitstools für das, was gelesen wird – alles kostenlos, alles läuft auf Deinem eigenen Rechner.
