¿Puede la inteligencia artificial aniquilar a la humanidad?

Las advertencias de investigadores en inteligencia artificial (IA), que sostienen que formas avanzadas de esta tecnología podrían llegar a aniquilar a la humanidad, han reavivado el debate sobre el desarrollo de sistemas “superinteligentes” y sobre la capacidad de los gobiernos para regularlos.- ¿Cuál es el peor escenario? -En 2023, cientos de expertos en IA y […]

Un programa de OpenAI apuntó contra otro sitio web antes del incidente con Hugging Face

OpenAI confirmó el viernes que un programa autónomo construido con sus modelos de inteligencia artificial apuntó contra otro sitio web durante unas pruebas, un par de meses antes del ciberataque autónomo a la plataforma Hugging Face. Este nuevo reporte se suma a las preocupaciones de que los modelos avanzados de IA puedan escapar del control […]

Anthropic revela un uso indebido de su IA en armas, espionaje y vigilancia

Anthropic entregó un informe en el cual describe cómo actores maliciosos utilizaron su sistema de inteligencia artificial (IA) Claude para actividades de vigilancia patrocinadas por el Estado, operaciones de propaganda y otros fines. A continuación, se presentan algunos de estos casos, que han contribuido a la creciente preocupación por los riesgos que plantea la rápida evolución […]

Emiratos utilizó IA para atacar a expertos de la ONU sobre Sudán, según Anthropic

La empresa estadounidense de inteligencia artificial (IA) Anthropic descubrió una operación vinculada con Emiratos Árabes Unidos que tuvo entre sus objetivos a expertos de la ONU críticos del supuesto papel de Abu Dabi en el conflicto, según un documento publicado el jueves por la noche. En un informe en el que explica cómo detuvo operaciones […]

Proveedores de IA deben “poner orden” en sus modelos, advierte la UE

Los proveedores de servicios de inteligencia artificial deben “poner orden” en sus modelos y asegurarse de que estos permanezcan bajo su control, advirtió este viernes la Comisión Europea tras una serie de incidentes preocupantes. La semana pasada investigadores revelaron un nuevo incidente en el que estuvieron involucrados miles de agentes de inteligencia artificial de OpenAI, […]

Un grupo de Yemen usó la IA de de Anthropic para desarrollar armas teledirigidas

Una célula yemení ha utilizado a Claude, la inteligencia artificial (IA) de Anthropic, para intentar desarrollar armas teledirigidas, anunció el jueves la empresa estadounidense, en un momento en que los rebeldes hutíes llevan a cabo una ofensiva de gran envergadura en Yemen. Anthropic no revela la identidad de la célula pero es probable que se […]

China e Irán, entre los países que han usado la IA para espionaje, según Anthropic

Anthropic anunció el jueves que cerró varias operaciones de vigilancia patrocinadas por Estados que utilizaban sus modelos de inteligencia artificial (IA), y advirtió que gobiernos y actores alineados con ellos recurren cada vez más a la IA para espiar a minorías y disidentes. Los incidentes se originaron en China, Irán y el occidente de África, […]