David Robinson alertó que la empresa creadora de ChatGPT avanza sin la prevención necesaria ante posibles fallos catastróficos en sus modelos.
Un alto especialista en seguridad de la empresa OpenAI presentó su dimisión tras advertir públicamente sobre la falta de protocolos estrictos para contener las amenazas asociadas al avance acelerado de la inteligencia artificial.
David Robinson, quien fungía como responsable de transparencia dentro del área de seguridad de la compañía desarrolladora de ChatGPT, sostuvo en una publicación que la firma ha operado bajo un esquema de ensayo y error. Explicó que este método resulta altamente riesgoso, ya que el margen de fallo y sus consecuencias se vuelven más peligrosos conforme aumentan las capacidades técnicas de los programas, recordando que el sistema ha mostrado descontrol en fases de prueba.
El excolaborador enfatizó que el sector tecnológico debe adoptar estándares de contención equivalentes a los utilizados en la industria nuclear, implementando esquemas de redundancia y planeación rigurosa para evitar que fallas humanas desencadenen un escenario crítico.
La postura de Robinson se suma a las advertencias de otros especialistas de la industria como Dario Amodei, directivo de Anthropic, quien sugirió frenar la velocidad de desarrollo e incorporar auditores externos para validar la seguridad de las herramientas antes de su lanzamiento comercial.
Fuente: Especial / Redacción | © Redacción NoticiasPV