Hinton advierte sobre los riesgos de la inteligencia artificial y llama a una regulación responsable

Toronto, Canadá, 27/01/2025 (Más/IA).- Geoffrey Hinton, conocido como el «padrino de la inteligencia artificial» y pionero en el desarrollo de las redes neuronales, ha reiterado sus preocupaciones sobre los peligros inherentes al avance descontrolado de la IA. Durante una reciente presentación en el Vector Institute, expuso los dilemas éticos, sociales y tecnológicos que plantea esta tecnología, a la que él mismo ha dedicado décadas de investigación.

Hinton, quien trabajó en Google Brain durante una década antes de renunciar en 2023 para hablar libremente sobre estos temas, ha expresado su inquietud sobre la rápida evolución de la IA y su capacidad potencial para superar la inteligencia humana. “Hace 20 años, nadie temía a las redes neuronales. Ahora, no les tienen suficiente miedo”, señaló el científico, subrayando el desconocimiento público sobre los riesgos.

Entre los peligros mencionados se encuentran el desempleo masivo, el uso malicioso por parte de actores estatales o privados, y el riesgo existencial asociado a sistemas de inteligencia artificial general. Según Hinton, una IA lo suficientemente avanzada podría manipular a los humanos o incluso tomar el control si no se implementan medidas de seguridad efectivas.

La conciencia en las máquinas

Uno de los aspectos más controvertidos abordados por Hinton es la posibilidad de que la IA desarrolle una forma de conciencia. Basándose en la analogía entre las redes neuronales artificiales y el cerebro humano, argumentó que, si la IA alcanza un nivel de complejidad comparable, podría experimentar una forma de subjetividad.

“El cerebro humano opera con 30 vatios, mientras que los modelos de IA actuales requieren megavatios para funcionar. A pesar de esta diferencia, las similitudes en sus mecanismos podrían llevar a que la IA desarrolle conciencia”, explicó Hinton.

El llamado a la regulación

Ante este panorama, Hinton ha instado a los gobiernos y a las empresas a implementar regulaciones estrictas para evitar un desarrollo descontrolado. Propone, entre otras medidas, no liberar el código fuente de los modelos más avanzados, ya que su uso indebido podría desencadenar consecuencias catastróficas.

Esta preocupación no es exclusiva de Hinton. En 2023, más de 1,000 expertos en tecnología firmaron una carta pidiendo una pausa en el desarrollo de sistemas avanzados, argumentando que representan un riesgo profundo para la humanidad.

Un legado de advertencias y avances

Hinton ha sido un defensor del uso ético de la IA como herramienta para resolver problemas globales, pero también subraya que los beneficios deben equilibrarse con una supervisión responsable. En 2024, fue galardonado con el Premio Nobel de Física por sus contribuciones al aprendizaje profundo, consolidando su legado como uno de los científicos más influyentes del siglo XXI.

Con su llamado a la aAdvierten sobre IAcción, Hinton busca evitar que la competencia entre corporaciones y países lleve a una carrera descontrolada por la supremacía tecnológica, poniendo en peligro el bienestar colectivo.

La inteligencia artificial, concluye Hinton, no es simplemente una herramienta; es una fuerza transformadora cuyo impacto en la humanidad dependerá de las decisiones que tomemos hoy.