Freno Global a la IA: Anthropic propone un mecanismo de pausa ante el riesgo de pérdida de control humano
La empresa detrás del chatbot Claude advierte que la velocidad de avance de la inteligencia artificial podría superar la capacidad de la sociedad para regularla, planteando la necesidad de una "desaceleración coordinada".
-
Anthropic propone una pausa global en la IA ante riesgos de automejora . La firma busca una valoración de casi 1 billón de dólares
En un movimiento sin precedentes dentro de la industria tecnológica, la empresa Anthropic ha propuesto formalmente la creación de un mecanismo global coordinado que permita pausar o ralentizar el desarrollo de sistemas de inteligencia artificial (IA) avanzada.
Según la compañía, esta medida es necesaria debido a que la tecnología mejora a un ritmo tan acelerado que existe un riesgo real de que los seres humanos pierdan el control sobre estos sistemas.
- Te recomendamos Florida demanda a OpenAI y Sam Altman: Alegan que ChatGPT es un "producto peligroso" para los ciudadanos Internacional
El desafío de la "automejora recursiva"
La preocupación central de Anthropic radica en la velocidad con la que los modelos actuales ejecutan tareas complejas, como la programación de software.
Con la potencia de cómputo adecuada, la empresa advierte que un sistema de IA pronto podría ser capaz de diseñar y desarrollar a su propio sucesor, un fenómeno técnico conocido como "automejora recursiva".
Si bien este hito podría traer beneficios extraordinarios en campos como la medicina y la ciencia, también dispara las alarmas sobre la seguridad.
El objetivo de la pausa propuesta sería permitir que las estructuras sociales y la "investigación de alineación" —el proceso de asegurar que la IA actúe bajo los valores e intenciones humanas— alcancen el ritmo de los avances tecnológicos.
Evitar las ventajas de "actores malintencionados"
Uno de los mayores obstáculos para detener el desarrollo de la IA es la competencia feroz entre empresas y naciones. Anthropic enfatiza que cualquier pausa debe ser coordinada y verificable.
Sin un mecanismo global, una desaceleración voluntaria por parte de las empresas más responsables podría ser aprovechada por actores "menos cautelosos" o malintencionados para adelantarse en secreto y ganar ventaja competitiva.
La propuesta busca establecer un marco donde los laboratorios puedan verificar que sus rivales también han detenido su trabajo.
Riesgos emergentes y contexto de mercado
La urgencia de esta propuesta se ve respaldada por investigaciones recientes, como la de la Universidad de Toronto, que demostró la posibilidad de crear "gusanos" de IA capaces de adaptar sus estrategias de hackeo de forma autónoma mientras se propagan por redes informáticas.
Este llamado a la precaución ocurre en un momento clave para Anthropic. La empresa se encuentra actualmente compitiendo con OpenAI y se prepara para una oferta pública inicial (IPO) que podría alcanzar una valoración cercana al billón de dólares.
- Te recomendamos Google lanza su nueva herramienta para creación de videos Gemini Omni: estos son los detalles y cómo usarla Tecnología
A través de su instituto de investigación interno, Anthropic planea colaborar con otros actores de la industria para definir cómo implementar estos sistemas de pausa de manera creíble y efectiva.
Te recomendamos
LV
-
TAGS RELACIONADOS:
- Queda prohibida la reproducción total o parcial del contenido de esta página, mismo que es propiedad de TELEDIARIO; su reproducción no autorizada constituye una infracción y un delito de conformidad con las leyes aplicables.
-
