Risiko autonomer Agenten: Schutz und Kontrolle
»Vom Modellvorschlag zum erlaubten Zugriff
Beispiel: eine Datei im Testprojekt ändern
KI-Modell
Schlägt den neuen Dateiinhalt vor.
Steuerung und Prüfungen
Prüft Freigabe, Pfad und bisherigen Dateiinhalt, bevor geschrieben wird.
- Informationen fürs Modell
- Erlaubte Werkzeuge
- Aktionen ausführen
- Erneut prüfen oder stoppen
- Bisherige Schritte
- Gespeichertes Wissen
- Zugriffe prüfen
- Abgeschotteter Testbereich
- Ergebnis prüfen
- Fehler behandeln
- Ablauf protokollieren
Werkzeuge und Daten
Das Dateiwerkzeug schreibt den erlaubten Inhalt und liefert das Ergebnis zurück.
- Datei
- Datenbankzeile
- Code im Projekt
- Dienst
- Regel im Regelwerk
- Projekt
- Zertifikat
Prüfschritte für „Datei ändern“ · Die Folien beschreiben den Ablauf; sie ändern keine Dateien.