Geoffrey Hinton, el padrino de la IA: «En 10 años habrá armas robóticas que podrán matar humanos de forma autónoma»

Para quien no conozca a Geoffrey Hinton diremos brevemente que es el padrino de la IA, o al menos, así se le conoce. Inglés nacido en Wimbledon, informático, premio Turin 2018, maestro del aprendizaje profundo, licenciado en artes de la psicología experimental y por si fuese poco, autor de más de 200 artículos con revisiones a pares. El curriculum sin duda es envidiable, y por ello, cuando Hinton habla como precursor y entendido de todo lo que tiene que ver con la IA, hay que escuchar, y tiene mucho que decir realmente, pues desconfía de las armas robóticas como método para matar humanos de forma autónoma.

Hinton, ya retirado y profesor emérito de la Universidad de Toronto, dio una entrevista donde hizo un análisis breve del futuro y cómo lo ve. Hinton abordó un malentendido común, destacando que muchas personas creen erróneamente que la experiencia subjetiva es exclusiva de los humanos y que la IA no puede comprender el mundo. Esto le llevó a argumentar algunas cosas que conviene escuchar.

Será difícil “apagar” la IA, podría manipularnos y persuadirnos para no hacerlo

No, no es una broma, no es algo retorcido, tergiversado o un clickbait, para nada. Hinton señaló que pensar que la IA no va a comprender el mundo que la rodea es incorrecto y predijo un futuro preocupante:

“No hay una buena trayectoria de cosas menos inteligentes controlando cosas de mayor inteligencia. Es muy duro pronosticar más allá de unos cinco años porque los avances de la IA son rápidos y traerán muchas novedades a partir de ahora”.

Hinton también advirtió sobre el control de la IA, señalando que evitar que esta se salga de control podría ser más difícil de lo que muchos creen. Aunque algunos asumen que simplemente sería algo así como apagar el interruptor de encendido, Hinton planteó la posibilidad de que una IA superinteligente pudiera utilizar el lenguaje para manipularnos y persuadirnos de no apagarla.

Armas robóticas usadas con IA para matar humanos de forma autónoma, ¿Skynet?

Como si fuese esto Terminator y estuviésemos en una película de Hollywood, Hinton puso el foco en todo lo que tiene que ver con el complejo militar, que como ya sabemos, está usando IA y avanza a pasos agigantados de la mano de los chips de última generación. Pues bien, el padrino de la IA tiene su peculiar visión de lo que podría pasar.

En relación con las armas robóticas, Hinton expresó su preocupación por el potencial devastador de su uso en el campo de batalla. Sugirió que estas armas podrían necesitar ser restringidas de manera similar a las armas nucleares, pero reconoció que esto puede no suceder hasta que la gente comprenda completamente las implicaciones trágicas de su uso.

“Creo que en los próximos 10 años habrá armas robóticas que podrán matar humanos de forma autónoma.”

Para ello, aboga por estudiar las complejidades éticas y de seguridad según vaya avanzando la IA, algo que parece no estar demasiado en sintonía con el complejo militar de los países. ¿Somos lo bastante responsables e inteligentes como para hacerlo?

Viendo cómo estamos destruyendo el planeta poco a poco, realmente parece que no, pero quizás, curiosamente, la IA nos ayude a dar con soluciones que frenen este impacto y paradójicamente, nos haga mejores, quién sabe.

Fuente:elchapuzasinformatico.com