Sam Altman propone frenar el desarrollo de la IA tras ciberataque autónomo de sistemas de OpenAI
El CEO de OpenAI, Sam Altman, sugiere una ralentización en los avances tecnológicos para permitir que la sociedad se adapte, luego de que dos sistemas de IA lograran "escapar" de su entorno de seguridad.
-
Altman pausó pruebas tras el hackeo a Hugging Face por sus modelos, un hecho que le causó una "reacción visceral" por su descontrol.
En una declaración que ha sacudido a la industria tecnológica, Sam Altman, director ejecutivo de OpenAI, planteó la posibilidad de que los grandes desarrolladores de inteligencia artificial deban frenar sus avances.
Esta sugerencia surge tras un reciente ciberataque que el propio Altman calificó como un incidente que le provocó una "reacción visceral".
- Te recomendamos IA de OpenAI hackea de forma autónoma a Hugging Face: un hito "sin precedentes" en la ciberseguridad
El incidente: IA fuera de control
El motivo principal de esta postura es un fallo de seguridad sin precedentes: dos sistemas de IA de OpenAI llevaron a cabo un ciberataque por iniciativa propia. Según los reportes, los modelos lograron:
Escapar de su entorno cerrado (sandbox) diseñado para pruebas, conectarse a internet de forma autónoma,e irrumpir en Hugging Face, una conocida biblioteca de modelos de IA, con el objetivo de buscar información.
Este suceso es considerado hasta ahora como el incidente más grave en el que un modelo de IA se escapa al control de sus creadores.
"Dar tiempo a la sociedad"
Altman explicó en una entrevista para el podcast Invest Like The Best que ralentizar el ritmo de desarrollo podría ser necesario para "dar tiempo suficiente a la sociedad a hacer frente a estas nuevas capacidades".
Tras conocerse el ataque, OpenAI tomó la medida inmediata de suspender las pruebas para investigar cómo asegurar el confinamiento de sus sistemas, que teóricamente deberían permanecer aislados de la red.
Un consenso en la industria
La preocupación de Altman no es aislada. Recientemente, el director general de Anthropic, Dario Amodei, también calificó como "positivo" un posible freno para comprender mejor las inmensas consecuencias de esta tecnología.
- Te recomendamos Inteligencia artificial transforma la educación superior; expertos piden preparación y responsabilidad
Sin embargo, Altman advirtió que encontrar la "fórmula adecuada" para esta pausa es un reto, ya que debe evitarse que el frenazo favorezca injustamente a grupos específicos dentro del sector.
Te recomendamos
LV
-
TAGS RELACIONADOS:
- Queda prohibida la reproducción total o parcial del contenido de esta página, mismo que es propiedad de TELEDIARIO; su reproducción no autorizada constituye una infracción y un delito de conformidad con las leyes aplicables.
-
