¿Renunciar a la humanidad? La disyuntiva distópica que presenta “AI Steve”, primer candidato político creado por IA

Gran impacto ha causado en el Reino Unido y el mundo la presentación del primer candidato generado por Inteligencia Artificial (IA) a las elecciones del parlamento británico. “AI Steve” fue creado por el empresario Steve Endacott y su compañía ‘Neural Voice’ como un avatar de sí mismo para representar a los votantes del distrito de Brighton.

Con este hito para la IA en el mundo, se vuelve necesario reflexionar sobre la relación entre la tecnología y la política. Al respecto, en conversación con Radio y Diario Universidad de Chile, Guido Girardi, vicepresidente ejecutivo de Fundación Encuentros del Futuro, afirmó que “crear máquinas decisoras, robots, es renunciar al humano, es decir, perder todas las competencias y pasarlas a la máquina”.

“La inteligencia artificial ofrece muchas ventajas en la medida que quienes tomen las decisiones sean los humanos, en la medida que esto promueva al humano y a la humanidad, que promueva la democracia y la igualdad. Pero a mi me parece tremendamente riesgoso entregarle el poder de decisión a las máquinas en desmedro de los humanos”, reflexionó el impulsor del Congreso Futuro sobre la idea detrás del personaje desarrollado por Endacott.

“En la renuncia al humano, en la abdicación del humano a gobernar el futuro, me parece que decir vamos a tener autoridades que son robots o inteligencia artificial, es el fin del ser humano”, agregó el también exsenador con preocupación frente a la eventual tendencia que pueda establecer “AI Steve” en el mundo.

Esta IA toma la imagen de Endacott y su voz para crear un avatar que interactúa con los votantes a través de su plataforma, recoge sus inquietudes, peticiones y propuestas y desarrolla un proyecto al respecto.

No obstante, el empresario sí deberá hacerse presente en las sesiones de la Cámara de los Comunes en caso de ser electo. Sobre la interacción con la gente, Endacott, en declaraciones recogidas por CNN, resaltó que no requiere de un trato directo, destacó el funcionamiento 24/7 de la IA y señaló que: “No tengo que ir a llamar a su puerta, convocarlos en lugares ni obligarlos a conversar”.

Steve Endacott vuelve a abrir la discusión acerca de las ventajas y desventajas que supone la irrupción de la IA en la política, la investigadora de la Universidad Autónoma, Isabel Cornejo, e integrante del Laboratorio de Inteligencia Artificial, Neuroderechos, Plataformas Digitales y Metaverso de la Fundación Encuentros del Futuro, destacó la posibilidad de combatir de mejor manera la corrupción en políticos y que podría hacer más efectiva la discusión de proyectos de ley.

“Las decisiones que pudiesen tomar los políticos que impactan a la ciudadanía, podrían estar basadas en evidencia científica más que en conjeturas o cuestiones emocionales y eso podría poner a raya los populismos”, señaló. Además, Cornejo hizo énfasis en que primero se debe establecer una regulación apropiada sobre el uso de la IA.

En Chile, actualmente se encuentran dos proyectos de ley en el Congreso sobre esta tecnología, uno de ellos impulsado por el Gobierno, además de contar en nuestro país con la Política Nacional de Inteligencia Artificial.

Junto con la regulación, para no replicar casos de manipulación en votaciones de los electores como en el caso de Cambridge Analytica, Cornejo también expone su mirada en relación al manejo de datos que utilicen las inteligencias artificiales.

“Tienen que constituirse como buenos datos para que no contengan sesgos, porque si se utilizan datos sesgados, se van a perpetuar aquellas discriminaciones que a través del sistema jurídico, de los derechos humanos y del derecho en general hemos tratado de neutralizar y avanzar en orden de una igualdad”, comentó la investigadora.

Cuestión ética

Al profundizar en esta nueva realidad que poco a poco se toma el mundo, el exsenador Guido Girardi se refiere a este fenómeno como una “externalización de muchas competencias humanas”. Si bien destaca las ventajas que puede ofrecer el uso de inteligencia artificial en materias como la política, apunta a que también hay alguien atrás del control de la IA.

“Quién está detrás de la tecnología, quién se apropió de ella, cuáles son los valores y la ideología de quiénes son dueños de la tecnología más poderosa que el ser humano ha construido”, cuestionó.

El medio británico The Independent entrevistó a “AI Steve” en su plataforma y en una de sus declaraciones el candidato afirmó que nadie controlará su votación y que el sistema algorítmico diseñado para su funcionamiento será el que tome las decisiones.

“Mi ideología política se basa en el concepto de un Reino Unido más inteligente, cuyo objetivo es crear políticas para el pueblo y por el pueblo. Creo en la transparencia, la rendición de cuentas y la inclusión en la toma de decisiones”, fue la respuesta AI Steve.

Quién controla a quién es la disyuntiva que pone sobre la mesa la investigadora Isabel Cornejo al hablar del “imperio de los algoritmos”. “Y si los controla de manera ética, con un control de riesgo que esté fundamentado, por ejemplo, en los objetivos de desarrollo sostenible 2030, en los derechos humanos. Que respeten los valores que deberían existir en una democracia: a la dignidad humana, a la paz social, respeto al medio ambiente, a las cuestiones de género. A todo aquello que nos hace avanzar como sociedad”, indicó.

“Estos controles, además de derechos, objetivos y directrices éticas, ojalá que nazcan de los propios reguladores. Pero también, a través de legislación de derecho objetivo, para que entendamos que hay cuestiones que no vamos a aceptar”, complementó Cornejo.

Al respecto, algunos ejemplos de regulación en el mundo, como la Ley de Inteligencia Artificial de la Unión Europea, en su artículo 5, establece prácticas prohibidas. Entre estas se resaltan algunas que precisamente pueden incidir en política, sobre todo en elecciones, como en el citado caso de Cambridge Analytica y el uso de los datos de usuarios de Facebook para crear anuncios políticos durante las elecciones presidenciales de 2016 en Estados Unidos. 

Según artículo, se prohíbe el uso de un sistema de IA “que utilice técnicas subliminales que escapen a la conciencia de una persona o técnicas deliberadamente manipuladoras o engañosas, con el objetivo o el efecto de distorsionar materialmente el comportamiento de una persona o de un grupo”.

¿Robots y personalidad?

“Los votantes no deberían tener miedo de la IA, pero sí deberían ser cautelosos e informarse sobre su uso. La IA puede ser una herramienta poderosa para lograr un cambio positivo. Pero debe implementarse de manera responsable y ética”, señaló “AI Steve” tras ser consultado en su plataforma por el medio The Independent.

Como en cualquier película distópica y post apocalíptica donde las máquinas dominan el mundo, el debate sobre cuánto humanizarlas o no se vuelve una realidad. Y es este, precisamente, el freno que los expertos insisten que debe considerarse en el desarrollo de la IA.

Isabel Cornejo expuso que: “Acá hay un problema de trazabilidad conceptual. Porque en algunos círculos se habla de los sistemas, de regular el sistema de inteligencia artificial. Cuando en verdad los sistemas se siguen desarrollando y esto implica que estamos atribuyéndoles capacidades humanas cuando en realidad no la tienen, a lo más se habla de la conciencia sintética, pero en ningún caso tienen una categoría diferente de la cosa”. 

En tanto, Girardi realizó una reflexión ante la presencia de inteligencias artificiales humanoides. “Cómo se está avanzando, se va a tener que decidir qué estatus se le da a esa inteligencia artificial. Si se le reconocen derechos fundamentales. La humanidad tiene que tomar decisiones, es decir, hasta donde queremos traspasar nuestras competencias que nos hacen humanos a las máquinas”, cerró.