Anthropic otorga a la agencia de supervisión externa de IA acceso “similar al de empleado”

Anthropic ha permitido que evaluadores externos accedan a sus sistemas con un nivel comparable al de sus propios empleados, con el objetivo de analizar los riesgos asociados a sus modelos de inteligencia artificial. La organización sin ánimo de lucro METR, que colabora con laboratorios como OpenAI, Google y Meta, cuenta ahora con un equipo instalado dentro de las instalaciones de Anthropic, lo que les brinda acceso directo al hardware y a los entornos internos de la empresa. Esta medida forma parte de un conjunto de acciones concretas que los principales laboratorios de IA están adoptando para responder a la creciente preocupación sobre los posibles efectos adversos de sistemas cada vez más potentes, tanto en la economía como en la ciberseguridad y la seguridad de la humanidad en general. Al proporcionar a terceros una visión interna, se busca fortalecer los mecanismos de supervisión y crear barreras más efectivas contra escenarios catastróficos. Esta iniciativa destaca la importancia de la transparencia y la colaboración externa en la gestión de riesgos de la IA, lo que resulta crucial para garantizar que el desarrollo tecnológico avance de forma segura y responsable.

Leer artículo original en Ars Technica AI

Este resumen es una síntesis informativa elaborada por dataqbs.com. Todos los derechos sobre el contenido original pertenecen a su autor y al medio de comunicación citado. Nosotros solo actuamos como curadores de noticias tecnológicas, sin reclamar autoría alguna.