Anthropic präsentiert Gesetz zur KI-Sicherheit, das ein Modell blockieren könnte, wenn mehr als 50 Menschen sterben könnten

Eine von Anthropic vorgelegte Gesetzesinitiative sieht ein Sicherheitsgesetz für künstliche Intelligenz vor, das die Inbetriebnahme eines Modells verhindern würde, wenn Anzeichen dafür vorliegen, dass dessen Einsatz mehr als fünfzig Todesfälle verursachen könnte. Der Vorschlag schreibt vor, dass die Bundesbehörden zur Blockierung der Veröffentlichung oder des Einsatzes eines Modells eine gerichtliche Genehmigung einholen müssen, wodurch die Möglichkeit der Regulierungsbehörden, präventiv zu handeln, eingeschränkt wird. Befürworter betonen, dass die Maßnahme eine rechtliche Barriere schaffen soll, die eine Bewertung extremer Risiken vor der Freigabe einer Technologie erfordert. Kritiker warnen hingegen, dass die Notwendigkeit einer gerichtlichen Anordnung Verzögerungen oder sogar das Scheitern dringender Eingriffe in Hochrisikosituationen bedeuten könnte. Das Gesetz sieht zudem vor, die Behörden zu benachrichtigen, sobald potenzielle Gefahren erkannt werden, ohne jedoch unabhängige Aufsichtsmethoden festzulegen. Die Initiative ist von Bedeutung, weil sie die wachsende Besorgnis über mögliche Massenverluste durch unkontrollierte KI-Systeme anspricht und die Debatte über das Gleichgewicht zwischen öffentlicher Sicherheit und regulatorischer Flexibilität in einer sich rasch entwickelnden technologischen Landschaft anregt.

Originalartikel lesen auf TechCrunch AI

Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.