Descubrir hasta qué punto los sistemas de inteligencia artificial pueden ser malignos para las personas es el objetivo de la organización OpenIA, que ahora ha decidido enfrentar a dos de ellas para comprobarlo.
El debate sobre las intenciones de la inteligencia artificial (IA) está más candente que nunca. ¿Buena? ¿Mala? ¿Con ansias de acabar con los humanos? Son muchas las cuestiones que se plantean sobre su futuro y, por ello, un grupo de expertos de OpenAI ha querido trazar una posible solución para juzgar las intenciones de los sistemas de inteligencia artificial a través del lenguaje natural.
Una organización para evitar la revolución de la IA
OpenAI es una organización sin ánimo de lucro fundada por figuras de renombre de Silicon Valley (EE.UU.), entre las que se encuentran, entre otros, el presidente de LinkedIn, Reid Hoffman; o el jefe de Tesla y SpaceX, Elon Musk.
Nacida para tratar de impedir que la IA se rebele contra la humanidad, OpenIA plantea un enfrentamiento entre dos inteligencias artificiales supervisado por un tercero, una persona capaz de juzgar el modo de proceder de ambos sistemas para llegar a un objetivo concreto. Al final, una forma de controlar y conocer los límites que las máquinas no deben pasar en detrimento de los intereses humanos.
Dos inteligencias frente a frente
La complejidad de los sistemas de inteligencia artificial desde su proceso de entrenamiento hasta su manera de razonar es lo que ha llevado a los investigadores de OpenIA a enfrentar a dos inteligencias. Y es que, la posibilidad de que los sistemas desarrollen hábitos inesperados e indeseados hace que para los ojos de una persona sea complejo supervisar y detectar ciertos cambios.
Es por ello que dos inteligencias serán las protagonistas de un debate donde el lenguaje natural será una condición imprescindible para que el tercero en discordia, la persona, pueda seguir la conversación sin ningún problema.
Tan solo un par de ejemplos sencillos han sido los desarrollados por los investigadores hasta la fecha, dado que para que la discusión entre ambas inteligencias artificiales pueda llevarse a importantes escenarios de estudio todavía hace falta desarrollar una tecnología más avanzada a la que existe en la actualidad.
¿Un planteamiento con garantías?
Aunque son muchas las películas de ciencia ficción que describen inteligencias artificiales súper potentes que se imponen a los humanos, lo cierto es que, para que eso suceda, todavía queda mucho recorrido.
Pero para evitar posibles engaños de las máquinas en el futuro y hacer un uso más responsable de estas inteligencias, son muchos los defensores de este debate como forma de garantizar el no desarrollo de comportamientos involuntarios por parte de la tecnología. Aunque también hay quien mira con recelo las garantías de este debate y se plantea la capacidad de los investigadores de desarrollar el lenguaje natural en inteligencias enfrentadas.
En un futuro donde las cargas de complejidad y dificultad de la IA crecerán de manera exponencial, ¿cómo podrá la mente humana entender sus formas de proceder? ¿Se hará necesario incluir valores humanos en las máquinas para asegurar comportamientos adecuados? Y en tal caso, ¿cómo se conseguirá trasladar esos valores?
Toda una serie de cuestiones sobre las que solo el tiempo y la mente humana, por el momento, determinarán su devenir.
Fuente: https://blogthinkbig.com/inteligencia-artificial-openai
