El mundo de la ficción está repleto de ejemplos de la recreación de un futuro, cada vez menos ficticio, en el que las maquinas toman el control del mundo y lo que ha creado el ser humano es la causa del fin de la humanidad. Con la llegada de la Inteligencia Artificial (IA) está ciencia parece que deja de ser ficción. Según un estudio liderado por Peter S. Parque, del Instituto Tecnológico de Massachusetts, “los sistemas de IA ya son capaces de engañar a los seres humanos”. El estudio analiza cómo partiendo de un entrenamiento los sistemas de IA desarrollan la capacidad de engañar en pruebas de seguridad.

Los investigadores han analizado sistemas de IA creados para un uso concreto como el CICERO de Meta y otros generales como los grandes modelos de lenguaje, los cuales muestran el peligro de engaño en forma de “fraude, manipulación electoral y pérdida de control de la IA”.

Hand human finger touch cyborg robot white 3d rendering.

El propio Geoffrey Hinton, pionero de la IA, admitió en una entrevista para la CNN sobre la IA que “Si llega a ser mucho más inteligente que nosotros, será muy bueno manipulando, porque habrá aprendido eso de nosotros. Y hay muy pocos ejemplos de un ser más inteligente controlado por un ser menos inteligente”.

La investigación se centra en el “engaño aprendido”. La IA no tiene una motivación emocional para el engaño como los seres humanos, pero como demuestran los ejemplos del artículo pueden ser entrenados para ello y producir creencias falsas en los usuarios.

“Todo gran poder, conlleva una gran responsabilidad”. Como muchos de los avances tecnológicos y científicos de la humanidad su uso malintencionado puede suponer un gran peligro como Hinton advierte, ya que dejó la compañía Google para poder hablar libremente sobre los peligros de su propia criatura. Si el mundo ha cambiado radicalmente en las últimas décadas, a día de hoy son impredecibles los cambios que conllevará el desarrollo masivo de la IA en nuestras vidas.