El acelerado desarrollo de la inteligencia artificial (IA) podría traer riesgos significativos para la humanidad debido a la dificultad creciente para controlarla, según Yoshua Bengio, un destacado experto en informática.

Bengio, profesor de la Universidad de Montreal y director del Instituto de Algoritmos de Aprendizaje de Montreal, afirma que las máquinas pronto podrían alcanzar capacidades cognitivas comparables a las de los humanos.

El científico se refirió a la inteligencia artificial general (IAG), una forma avanzada de IA diseñada para igualar o incluso superar el intelecto humano. “La inteligencia conlleva poder. Entonces, ¿quién controlará ese poder?”, es una pregunta inquietante, ¿no les parece?.

Si creamos entidades más inteligentes que nosotros, que además tienen sus propios objetivos, ¿qué implicaciones tiene esto para la humanidad?, ¿podríamos estar en peligro?.

Bengio también expresó su preocupación por la posibilidad de que los sistemas de IA actuales evolucionen hasta volverse contra los humanos. Advirtió que solo un pequeño número de organizaciones y gobiernos tienen los recursos para desarrollar estas tecnologías avanzadas, lo que podría concentrar el poder político, económico y militar, poniendo en riesgo la estabilidad global. Además existen quienes podrían abusar de ese poder e incluso personas que estarían dispuestas a que las máquinas reemplacen a la humanidad.

Bengio, galardonado con el Premio Turing en 2018 por sus contribuciones al aprendizaje profundo junto a Geoffrey Hinton y Yann LeCun, también ha recibido el Premio Killam y se considera uno de los científicos informáticos más influyentes del mundo.

Figuras clave de la tecnología, como Hinton, Elon Musk y Steve Wozniak, han manifestado preocupaciones similares. Bengio respaldó iniciativas como la carta abierta firmada por líderes de OpenAI y otros, donde se destacan los “graves riesgos” que plantea el desarrollo no regulado de esta tecnología.

Hinton, otro pionero de la IA, ha advertido sobre posibles catástrofes antes de que las armas impulsadas por IA estén adecuadamente reguladas. Este debate refuerza la necesidad de abordar los retos éticos y prácticos que plantea la inteligencia artificial.

¿Qué opinan?