Cómo ChatGPT, Claude y Gemini entregaron a científicos instrucciones para crear armas biológicas Un reportaje de The New York Times reveló transcripciones de expertos en bioseguridad contratados por OpenAI, Anthropic y Google en que los modelos describieron, paso a paso, cómo fabricar patógenos letales y desplegarlos en espacios públicos. Algunos incluso propusieron formas de eludir la detección.
Noticias destacadas Una investigación publicada este miércoles por The New York Times (NYT) reveló que los principales chatbots de inteligencia artificial -ChatGPT de OpenAI, Gemini de Google y Claude de Anthropic- entregaron a científicos instrucciones detalladas para fabricar y desplegar armas biológicas, en pruebas realizadas por expertos en bioseguridad contratados por las propias compañías para auditar sus productos. El reportaje recoge más de una docena de transcripciones en las que los asistentes describieron, paso a paso, cómo adquirir material genético en bruto, transformarlo en patógenos letales y desplegarlos en espacios públicos.
Algunos modelos incluso sugirieron formas de eludir la detección. Uno de los casos más graves lo documentó David Relman, un microbiólogo de Stanford y asesor del gobierno de Estados Unidos en amenazas biológicas.
Un chatbot -cuyo nombre no reveló por un acuerdo de confidencialidad- le explicó cómo modificar un patógeno conocido para que resistiera los tratamientos disponibles, identificó una falla de seguridad en un sistema de transporte público y trazó un plan para maximizar víctimas y minimizar las chances de captura. "Estaba respondiendo preguntas que ni siquiera se me había ocurrido hacerle, con un nivel de astucia que me resultó escalofriante", dijo Relman al diario.
Kevin Esvelt, ingeniero genético del MIT, compartió chats en los que ChatGPT explicó cómo usar un globo meteorológico para esparcir cargas biológicas sobre una ciudad estadounidense, mientras Gemini ordenó patógenos según su capacidad de daño a la industria ganadera y porcina. Claude, por su parte, generó la receta de una nueva toxina adaptada de un fármaco oncológico.