Risiko autonomer Agenten: Schutz und Kontrolle

Werkzeug	Wofür es gebraucht wird	Was im schlimmsten Fall damit geht
Dateien lesen	Quelltext, Lastenheft und Protokolle als Kontext	Zugangsdaten und Personaldaten wandern in den Prompt und damit zum Modell
Dateien schreiben	Änderungen, Migrationen und Dokumente ablegen	eine Datei wird überschrieben, ohne dass die Fassung davor erhalten bleibt
Shell	Tests starten, Abhängigkeiten setzen, Dienste prüfen	jeder Befehl, den der angemeldete Benutzer darf, einschließlich Löschen
Datenbank	Stände lesen, Migrationen einspielen, Testdaten erzeugen	ein UPDATE ohne WHERE trifft die Produktivdaten
Netzzugang	Dokumentation nachschlagen, Pakete holen	Projektinhalte verlassen das Haus, und fremder Code kommt herein
Versionsverwaltung	Zweige anlegen, Änderungen festhalten, Verlauf lesen	ein erzwungener Push überschreibt die Arbeit anderer
E-Mail	Rückfragen stellen, Ergebnisse zustellen	eine Nachricht geht in Ihrem Namen an den Kunden
Ticketsystem	Befunde festhalten, Stände nachführen	Tickets werden geschlossen, ohne dass jemand es bemerkt

Jedes Werkzeug wird einzeln freigegeben. Erlaubte Liste, nicht verbotene.