Las advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a aniquilar a la humanidad, han reavivado el debate sobre el desarrollo de sistemas “superinteligentes” y sobre la capacidad de los gobiernos para regularlos.- ¿Cuál es el peor escenario? -En 2023, cientos de expertos en IA y […]
OpenAI confirmó el viernes que un programa autónomo construido con sus modelos de inteligencia artificial apuntó contra otro sitio web durante unas pruebas, un par de meses antes del ciberataque autónomo a la plataforma Hugging Face. Este nuevo reporte se suma a las preocupaciones de que los modelos avanzados de IA puedan escapar del control […]
Veinticinco ganadores de la Medalla Fields, equivalente al premio Nobel de matemáticas, advirtieron en una carta el viernes sobre un posible “efecto destructivo” de la inteligencia artificial (IA) en las investigaciones en esta disciplina. La alerta llega días después de que OpenAI anunció que uno de sus modelos de IA había resuelto, en menos de cuatro […]
Anthropic entregó un informe en el cual describe cómo actores maliciosos utilizaron su sistema de inteligencia artificial (IA) Claude para actividades de vigilancia patrocinadas por el Estado, operaciones de propaganda y otros fines. A continuación, se presentan algunos de estos casos, que han contribuido a la creciente preocupación por los riesgos que plantea la rápida evolución […]
La empresa estadounidense de inteligencia artificial (IA) Anthropic descubrió una operación vinculada con Emiratos Árabes Unidos que tuvo entre sus objetivos a expertos de la ONU críticos del supuesto papel de Abu Dabi en el conflicto, según un documento publicado el jueves por la noche. En un informe en el que explica cómo detuvo operaciones […]
Los proveedores de servicios de inteligencia artificial deben “poner orden” en sus modelos y asegurarse de que estos permanezcan bajo su control, advirtió este viernes la Comisión Europea tras una serie de incidentes preocupantes. La semana pasada investigadores revelaron un nuevo incidente en el que estuvieron involucrados miles de agentes de inteligencia artificial de OpenAI, […]
Una célula yemení ha utilizado a Claude, la inteligencia artificial (IA) de Anthropic, para intentar desarrollar armas teledirigidas, anunció el jueves la empresa estadounidense, en un momento en que los rebeldes hutíes llevan a cabo una ofensiva de gran envergadura en Yemen. Anthropic no revela la identidad de la célula pero es probable que se […]
Anthropic anunció el jueves que cerró varias operaciones de vigilancia patrocinadas por Estados que utilizaban sus modelos de inteligencia artificial (IA), y advirtió que gobiernos y actores alineados con ellos recurren cada vez más a la IA para espiar a minorías y disidentes. Los incidentes se originaron en China, Irán y el occidente de África, […]
El Consejo de Supervisión de Meta pidió al grupo tecnológico que no reemplace con “notas de la comunidad” su programa de verificación de información realizado por periodistas, tal como plantea la empresa californiana en 16 países hispanohablantes de América Latina. En un comunicado consultado por AFP este sábado, el Consejo de Supervisión argumenta que la […]