Advierten que será imposible controlar una IA superinteligente

El tema de la inteligencia artificial (AI) cada vez toma más vida en la actualidad, aunque se ha hablado de esto desde hace décadas. Sin embargo, con el desmesurado avance de las nuevas tecnologías, los expertos consideran que será imposible controlar una AI que obtenga superinteligencia.

El problema, según advierten expertos en el área, es que controlar una superinteligencia va mucho más allá de la comprensión humana “requeriría una simulación de esa superinteligencia que podemos analizar (y controlar), pero si no somos capaces de comprenderlo, es imposible crear tal simulación”. Asimismo, señalan que reglas como “no causar daño a los humanos” no se pueden establecer si la ciencia no puede entender el tipo de escenarios que se le ocurrirán a una IA con una inteligencia desarrollada.

“Una vez que un sistema informático está funcionando a un nivel por encima del alcance de nuestros programadores, ya no podemos establecer límites”, dijeron. En sus preocupaciones, los expertos también destacaron que una superinteligencia tiene múltiples facetas y, por lo tanto, es “potencialmente capaz de movilizar una diversidad de recursos para lograr objetivos que son potencialmente incomprensibles para los humanos, y mucho menos controlables”.