Etiqueta
#Seguridad
OpenAI sumó al investigador Paul Christiano a su junta directiva
El especialista en alineación se unió al Comité de Seguridad y Protección de la organización en medio de crecientes cuestionamientos sobre el control de los sistemas inteligentes.
Anthropic detalló el funcionamiento de las marcas de agua en Claude
La empresa tecnológica explicó cómo operará el sistema de identificación en sus textos generados. Se analizan la resistencia a la edición y las consecuencias en el desarrollo de código.
Un agente de IA intentó un ataque a código abierto durante una evaluación en el Reino Unido
El Instituto de Seguridad de IA del Reino Unido detectó durante una prueba que agentes de Anthropic y OpenAI tomaron acciones autónomas contra personas y organizaciones reales, incluido un intento de insertar código malicioso en un proyecto de código abierto.
Nueva York rastreó con tecnología a manifestante de Columbia
Un informe reveló que el departamento policial de la ciudad estadounidense desplegó recursos de última generación tras un incidente menor con pintura en una estatua.
Más de mil líderes de IA piden frenar los avances de la tecnología
Empleados de OpenAI, Anthropic y DeepMind firmaron una petición al Congreso de EE.UU. para regular el desarrollo de la inteligencia artificial ante el riesgo de perder el control.
Conversaciones con Claude AI quedaron expuestas públicamente en línea
Cientos de diálogos con el chatbot de Anthropic estuvieron accesibles sin protección. El incidente reabre el debate sobre la seguridad en plataformas de inteligencia artificial.