{"id":2107999,"date":"2026-10-08T09:14:07","date_gmt":"2026-10-08T07:14:07","guid":{"rendered":"https:\/\/www.luxsure.fr\/?p=2107999"},"modified":"2026-10-09T01:32:55","modified_gmt":"2026-10-08T23:32:55","slug":"nvidia-openshell-grenzen-ki-agent","status":"publish","type":"post","link":"https:\/\/www.luxsure.fr\/de\/2026\/10\/08\/nvidia-openshell-grenzen-ki-agent\/","title":{"rendered":"Was ein KI-Agent nicht k\u00f6nnen darf, selbst wenn er sich irrt"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\"><em>Am 21. September 2026 hat NVIDIA einen Text zur Sicherheit von KI-Agenten ver\u00f6ffentlicht. F\u00fcr ein Haus (Maison), das erw\u00e4gt, ihnen Aufgaben anzuvertrauen, richtet sich die erste Frage an die Leitung: Wer kann zum Agenten Nein sagen, und mit welchem Mittel?<\/em><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Ein Anhang, ein Export<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Sa\u0161a Zdjelar, der den Beitrag zeichnet, nimmt ein Szenario, das in drei Zeilen passt. Ein Agent aktualisiert eine Kundenakte. In einem angeh\u00e4ngten Dokument st\u00f6\u00dft er auf b\u00f6sartige Anweisungen und versucht, die Daten an ein nicht autorisiertes Ziel zu exportieren. Laut NVIDIA muss eine Netzwerkrichtlinie die \u00dcbertragung blockieren. Gesch\u00fctzte Protokolle m\u00fcssen au\u00dferdem den Werkzeugaufruf, die Autorisierungsentscheidung und deren Ergebnis festhalten, damit das Sicherheitsteam wei\u00df, welches Werkzeug benutzt wurde und welches Ziel der Agent anvisierte.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Das Recht, eine Akte zu \u00e4ndern, verleiht nicht das Recht, sie zu exportieren. Der Agent kann zus\u00e4tzlichen Zugriff beantragen, aber er kann ihn sich nicht selbst gew\u00e4hren.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Die Anweisung und die Umz\u00e4unung<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">NVIDIA schreibt, dass eine Sicherheitsgrenze auch dann halten muss, wenn der Agent die falsche Entscheidung trifft. Anweisungen und Leitplanken k\u00f6nnen sein Verhalten lenken, doch die Umgebung, in der er l\u00e4uft, muss ihre Grenzen f\u00fcr Dateien, Netzwerkziele und Prozesse durchsetzen, ohne vom Denken des Agenten abzuh\u00e4ngen. Einen Agenten zu bitten, vorsichtig zu sein, hei\u00dft, auf seine Antwort an genau dem Tag zu z\u00e4hlen, an dem er get\u00e4uscht wurde.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Der Hersteller stellt OpenShell als quelloffene Laufzeitumgebung vor, die Richtlinien au\u00dferhalb der Reichweite des Agenten durchsetzt und seine Arbeit in einer Sandbox isoliert. Cisco (DefenseClaw, eine Governance-Schicht) und JFrog (\u00dcberpr\u00fcfung der F\u00e4higkeiten, die der Agent nutzen darf) schlie\u00dfen sich daran an. Ein Vorbehalt ist angebracht: NVIDIA beschreibt hier sein eigenes Angebot und das der Partner seiner Allianz, und der Beitrag liefert weder Messwerte noch Testergebnisse. Das beweist nicht, dass diese Werkzeuge versagen, nur dass das Versprechen durch diesen Text nicht belegt ist.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Vier Dinge, die vor der Inbetriebnahme zu verlangen sind<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00dcbertragen wir es, ohne zu behaupten, einen realen Fall zu beschreiben. Ein Agent, der eine Referenz in einem Dokumentenbestand finden soll, hat keinen Grund, die Kontaktdaten der Kunden zu lesen. Ein Werkzeug, das einen Entwurf vorbereitet, hat keinen Grund, ihn ver\u00f6ffentlichen zu k\u00f6nnen. Diese beiden Verweigerungen sind eine Entscheidung der Leitung, bevor sie eine IT-Einstellung sind.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Der Beitrag leitet daraus vier Anforderungen ab. Jeder Agent tr\u00e4gt eine nachvollziehbare Identit\u00e4t und auf seine Aufgabe begrenzte Zugangsdaten. Vorherige Tests zeigen, dass die Kontrollen das Erlangen von Zugangsdaten au\u00dferhalb des Bereichs und das Versenden sensibler Daten an ein nicht autorisiertes Ziel blockieren. Diese Tests werden nach jeder \u00c4nderung von Modell, Werkzeug oder Arbeitsverfahren wiederholt. Ein benannter Verantwortlicher entscheidet anhand der Ergebnisse, ob das System in Produktion gehen kann, und es gibt Verfahren, um Zugriffe zu entziehen und einen Vorfall einzud\u00e4mmen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Der Anbieter kann die Umz\u00e4unung verkaufen. Er kann nicht anstelle der Leitung festlegen, was der Agent ber\u00fchren darf. Solange ein Haus (Maison) den Satz \u201eDieser Agent darf dies lesen, jenes \u00e4ndern, und nur diese Person kann ihn aussetzen\u201c nicht vervollst\u00e4ndigen kann, spielt die Wahl des Werkzeugs kaum eine Rolle.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>NVIDIA erinnert daran, dass die Sicherheit eines Agenten von Grenzen abh\u00e4ngt, die au\u00dferhalb seines Denkens durchgesetzt werden. F\u00fcr H\u00e4user betrifft diese Unterscheidung direkt den Zugriff auf Archive und Kundendaten.<\/p>\n","protected":false},"author":214,"featured_media":2094189,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_lmt_disableupdate":"","_lmt_disable":"","footnotes":""},"categories":[81716],"tags":[30157],"class_list":["post-2107999","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-luxus-und-ki","tag-luxus"],"_links":{"self":[{"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/posts\/2107999","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/users\/214"}],"replies":[{"embeddable":true,"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/comments?post=2107999"}],"version-history":[{"count":0,"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/posts\/2107999\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/media\/2094189"}],"wp:attachment":[{"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/media?parent=2107999"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/categories?post=2107999"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.luxsure.fr\/de\/wp-json\/wp\/v2\/tags?post=2107999"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}