¿Podría la inteligencia artificial rebelarse contra la humanidad?

Comienzan a aparecer estudios científicos que se hacen seriamente esta pregunta y procuran contestarla. Lo que antaño era un dilema exclusivo de historias de ciencia-ficción, ahora es abordado como una encrucijada real a la que la humanidad puede tener que enfrentarse en un futuro mucho más cercano de lo que creemos.

El más reciente de estos estudios lo ha realizado un equipo integrado, entre otros, por Iryna Gurevych y Sheng Lu, de la Universidad Técnica de Darmstadt en Alemania, así como Harish Tayyar Madabushi, de la Universidad de Bath en el Reino Unido.

Las inteligencias artificiales como ChatGPT, que parecen saberlo todo y se expresan como seres racionales, son las que más están en el punto de mira a la hora de identificar inteligencias artificiales que podrían llegar a rebelarse contra la humanidad.

Sin embargo, la conclusión a la que han llegado Gurevych y sus colegas es que ChatGPT y otras inteligencias artificiales como ella no son lo bastante inteligentes como para poder actuar al margen de los seres humanos y rebelarse con éxito contra nosotros. Los autores del estudio argumentan que esas inteligencias artificiales no pueden aprender cosas nuevas sin ayuda humana, ni tampoco adquirir nuevas habilidades por su cuenta. En consecuencia, no representan de por sí una amenaza para la humanidad.

ChatGPT y otras como ella solo poseen una habilidad superficial para seguir instrucciones y expresarse verbalmente como seres racionales. No pueden aprender nuevas habilidades sin instrucciones explícitas. Esto significa que siguen siendo intrínsecamente controlables, predecibles e inofensivas.

A medida que esas inteligencias artificiales progresen, alimentadas con más y más datos, es previsible que adquieran habilidades más sofisticadas de conversación y de comprensión, y que mejoren su capacidad de seguir instrucciones detalladas, pero es altamente improbable que adquieran habilidades complejas de razonamiento.

¿Podría la inteligencia artificial rebelarse contra la humanidad? Recreación artística del concepto de rebelión de sistemas informáticos a escala mundial, con la mancha roja correspondiendo a la zona en la cual los sistemas informáticos se han vuelto definitivamente hostiles para el ser humano. (Ilustración: Jorge Munnshe para NCYT de Amazings)

El equipo de investigación opina que podemos seguir desplegando inteligencias artificiales de este tipo en la sociedad humana sin problemas de seguridad, aunque persiste el peligro de que esa clase de tecnología sea utilizada indebidamente. En otras palabras, estas inteligencias artificiales no se rebelarán contra la humanidad por su cuenta, pero obviamente puede haber gente que las use para perpetrar delitos, aunque en este caso la raíz del problema estará en los delincuentes humanos, no en las inteligencias artificiales.

Los resultados del nuevo estudio se han dado a conocer públicamente en un congreso de la ACL (Association for Computational Linguistics), celebrado recientemente. El estudio se titula “Are Emergent Abilities in Large Language Models just In-Context Learning?”. (Fuente: NCYT de Amazings)