Strukturierte Autoritätsinjektion: Persistente menschliche Kontrolle für LLM-Agenten durch Typisierte MCP-Overrides

Agenten, die auf großen Sprachmodellen (LLM) basieren, werden zunehmend als autonome Koordinatoren in verteilten, mehragentigen Systemen eingesetzt. Ein entscheidendes Problem bleibt jedoch bestehen: Es fehlt ein protokollbasiertes Verfahren, mit dem menschliche Betreiber verbindliche Anweisungen einbringen können, die über mehrere Planungszyklen hinweg Bestand haben. Freitextüberschreibungen sind anfällig für Mehrdeutigkeiten, weil sie keine strukturierte Validierung besitzen, und verlieren an Gewicht, je mehr Kontext aufgebaut wird, wodurch die Autorität des Betreibers geschwächt wird.

Um diese Einschränkungen zu überwinden, stellen die Autoren Structured Authority Injection (SAI) vor, ein Protokoll, das die Korrekturen des Betreibers über typisierte Aufrufe kanalisiert, die von einem Model Context Protocol (MCP) validiert werden. SAI integriert einen hierarchischen Autoritätskontext, der jede Anfrage an das LLM vorwegnimmt, und definiert drei Überschreibungsarten – Restriktion, Priorität und Strategie. Jede Klasse hat eigene Persistenzregeln und eine explizite Präzedenzordnung, die über einen Autoritätskanal verwaltet wird, der dem Planungsprozess nicht zugänglich ist.

In Tests mit neun Modellen und acht Szenarien, die typische Agentenfehler abdeckten, zeigte SAI eine Reduktion der Anweisungsmehrdeutigkeit und begrenzte die Autoritätserosion bei wiederholten Iterationen. Zusätzlich konnte die Promptgröße in den fortschrittlichsten Modellen um bis zu 38 % verringert werden.

Die Arbeit ist relevant, weil sie einen strukturierten und effektiven Weg bietet, die menschliche Kontrolle in autonomen KI-Systemen zu erhalten – ein entscheidender Faktor für Sicherheit, Verantwortlichkeit und die Ausrichtung der Agenten an operativen Zielen.

Originalartikel lesen auf arXiv cs.AI

Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.