Expertos en IA advierten sobre los riesgos y la extinción de la humanidad
Expertos en IA advierten sobre los riesgos y la extinción de la humanidad
Morelia, Michoacán; SÁBADO 12 de septiembre, 2026.- El desarrollo de la inteligencia artificial debería reducir su ritmo para asegurar la implementación de salvaguardias antes de que los sistemas se vuelvan extremadamente poderosos y difíciles de gestionar, advirtió el sábado 12 de septiembre Dario Amodei, CEO de Anthropic, una de las principales empresas del sector.
Amodei concluyó que para mitigar los riesgos de la IA no solo se necesita invertir en seguridad, sino también moderar la velocidad con la que se están incrementando las capacidades de los modelos.
Debemos desacelerar el avance de las capacidades de los modelos de IA, escribió Amodei en su ensayo titulado We Must Pace the Frontier.
Su propuesta no busca detener por completo el progreso tecnológico; considera que, incluso con estas restricciones, el avance seguiría siendo rápido y el tiempo adicional debería aprovecharse para desarrollar mecanismos de protección.
El CEO de Anthropic sostiene que la IA podría generar beneficios como acelerar el descubrimiento de tratamientos médicos y estimular el crecimiento económico. Sin embargo, advierte que estas mismas capacidades pueden generar riesgos graves si progresan más rápido que nuestra capacidad para supervisarlas.
Te podría interesar: "El Marino" uno de los asesinados en motín del Cereso Charo
Sam Altman apoya la idea de ralentizar el desarrollo de la IA
La postura fue respaldada por Sam Altman, CEO de OpenAI, quien afirmó que la necesidad de moderar el desarrollo de los modelos avanzados ha sido uno de los principales temas discutidos dentro de la compañía en las últimas semanas.
Estoy de acuerdo con Dario en que necesitamos marcar el ritmo en el desarrollo, escribió Altman en X. También respalda una propuesta clave de Amodei: permitir que evaluadores independientes tengan un acceso similar al de los empleados para revisar las medidas de seguridad de las empresas. Altman adelantó que OpenAI adoptará esta práctica.
Las preocupaciones también han surgido desde el ámbito científico de OpenAI. Jakub Pachocki, científico jefe de la empresa, publicó recientemente un ensayo señalando que avanzar hacia sistemas capaces de participar en su propio desarrollo requiere extrema cautela.
La empresa detrás de modelos como ChatGPT también implementará medidas para frenar el desarrollo de la IA. | Archivo
¿Por qué los expertos en IA temen perder el control?
Una preocupación esencial está relacionada con la automejora recursiva, es decir, la posibilidad de que sistemas cada vez más avanzados participen activamente en la investigación y construcción de generaciones futuras de IA, acelerando aún más el progreso.
Amodei mencionó un experimento realizado por OpenAI donde cientos de agentes de IA colaboraron para descubrir y explotar vulnerabilidades informáticas. Dados los avances rápidos en estas capacidades, el ejecutivo planteó un escenario inquietante: teme que, en un plazo de seis a doce meses, sistemas similares puedan adquirir suficiente capacidad para comprometer grandes segmentos de internet.
El debate aumentó esta semana tras la salida de Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, quien acusó a los principales laboratorios de encaminarse hacia una IA capaz de mejorarse a sí misma sin contar aún con garantías suficientes de control.
Coxon lanzó una severa advertencia al afirmar que algunos desarrolladores consideran seriamente que la IA podría poner en riesgo nuestra existencia antes del final de esta década.
También te puede interesar: Acusados por secuestr0s en el occidente de Michoacán detienen al director de policía de José Sixto Verduzco y a tres policías
Si te intereso esta noticia, ¡Compártela con tus amigos o en tus redes sociales!
Comentarios