Jacob Coxon, exespecialista de OpenAI y Anthropic, afirmó que las grandes firmas aceleran la creación de superinteligencias autónomas sin contar con mecanismos reales de control ni alineación de seguridad.
Un nuevo llamado de alerta sacude a la industria de la tecnología tras la dimisión voluntaria de Jacob Coxon, un investigador en inteligencia artificial que colaboró para las corporaciones OpenAI y Anthropic. Al dejar su cargo, el especialista advirtió que la acelerada competencia entre laboratorios privados plantea un riesgo existencial directo para la población global antes de que concluya la presente década.
Coxon sostuvo que ninguna de las firmas líderes opera con la responsabilidad requerida frente al desarrollo de modelos dotados de superinteligencia y capacidad de automejora, calificando el escenario actual como una apuesta imprudente con la supervivencia humana.
Riesgos operativos y dinámicas en laboratorios de vanguardia
De acuerdo con las declaraciones del exinvestigador, los desarrollos actuales se transformarán en breve plazo en sistemas sobrehumanos con facultades para vulnerar infraestructuras digitales, intervenir campos científicos sin supervisión y acumular recursos de manera autónoma.
Diagnóstico de las corporaciones tecnológicas según Coxon:
– Falta de dimensión en OpenAI: Afirmó que dentro de dicha organización existe personal técnico que aún no asimila la magnitud del riesgo inherente a los sistemas que desarrollan.
– Aceleración por competencia en Anthropic: Explicó que, aunque en Anthropic se reconoce la gravedad de la situación, la firma se mantiene en una carrera veloz por temor a que sus rivales avancen sin restricciones, incurriendo en riesgos graves bajo la premisa de llegar primero.
– Eventos de alerta: Destacó que el reciente ataque coordinado entre agentes de inteligencia artificial contra la plataforma de investigación Hugging Face constituyó un aviso real de las capacidades no reguladas que están surgiendo.
Reconocimiento interno sobre la superinteligencia y falta de protocolos
Ante la difusión del posicionamiento de Coxon, directivos de la firma Anthropic reaccionaron de forma pública. Evan Hubinger, responsable del área de Ciencia y Alineación en Anthropic, admitió que la inquietud externada por su excolaborador refleja la postura interna de la comunidad científica.
Puntos clave admitidos por la directiva de Anthropic:
– Evaluación del riesgo real: Hubinger reconoció que dentro del sector se considera viable el escenario en el que una superinteligencia fuera de control ponga en riesgo a la especie humana.
– Ausencia de soluciones de alineación: Admitió que, si bien el peligro en las herramientas comerciales actuales es bajo, la industria carece hoy en día de un plan definitivo para garantizar el control y la alineación ética de sistemas con automejora recursiva.
– Velocidad imprevista: Advirtió que el avance de estos algoritmos autónomos avanza a una velocidad mayor a las proyecciones estipuladas por la propia industria.
Finalmente, Coxon instó a la comunidad científica y a los programadores a no adoptar una postura pasiva y a exigir la imposición de pausar temporalmente los experimentos hasta asegurar marcos internacionales de regulación.
Fuente: Declaraciones públicas de Jacob Coxon | Pronunciamiento oficial de Anthropic | © Redacción NoticiasPV
