El Vaticano publica un texto sobre Inteligencia Artificial y advierte de que está en manos de pocas y poderosas empresas
El Vaticano ha publicado o este martes un documento titulado "Antiqua et Nova", en el que reflexiona sobre el impacto de la Inteligencia Artificial (IA) desde una perspectiva ética y social. Este informe, elaborado por los ministerios vaticanos para la Doctrina de la Fe, la Cultura y la Educación, incluye reflexiones del Papa Francisco y busca llamar la atención de padres, educadores, pastores y obispos sobre esta cuestión. Aunque la IA es considerada "una oportunidad", el documento advierte sobre los riesgos asociados a su desarrollo. Entre ellos, destaca la concentración del control en pocas y poderosas empresas, el uso equivocado que le pueden dar los estudiantes, y el potencial para aumentar la difusión de noticias falsas.
El texto analiza los desafíos y oportunidades del desarrollo de la Inteligencia Artificial en los campos de la educación, la economía, el trabajo, la salud, las relaciones internacionales y las relaciones interpersonales o en las guerras. Por ejemplo, se explica que, "la facilidad con la que las armas autónomas hacen más viable la guerra contradice el principio de la guerra como último recurso en casos de legítima defensa". Estas tecnologías, que pueden identificar y atacar objetivos sin intervención humana, representan un gran desafío moral, ya que carecen de la capacidad humana de juicio ético. En este sentido, el documento concluye tajantemente: "ninguna máquina debería elegir jamás poner fin a la vida de un ser humano".
En el documento se suscita además la preocupación del hecho de que "la mayor parte del poder sobre las principales aplicaciones de la IA se concentra en manos de unas pocas empresas poderosas", lo que hace que "esta tecnología acaba siendo manipulada con fines personales o corporativos o para orientar la opinión pública hacia los intereses de un sector". Recuerda el grave riesgo de que la IA "genere contenidos manipulados e información falsa" y aún más preocupante "es cuando dicho contenido ficticio se utiliza intencionalmente con fines manipuladores. Por ejemplo, cuando se difunden intencionalmente imágenes, vídeos y audio deepfake (representaciones modificadas o generadas algorítmicamente) para engañar o dañar”.
En cuanto a las relaciones humanas, el documento observa que la IA puede, sí, "fomentar las conexiones" pero, al mismo tiempo, conducir a un "aislamiento perjudicial" y alerta de que ” también plantea problemas particulares para el crecimiento de los niños". Cita como ejemplo cuando se representa a la IA como una persona, "lo que es una grave violación ética", o "utilizar la IA para engañar en otros contextos –como la educación o las relaciones humanas, incluida la esfera de la sexualidad– es profundamente inmoral y requiere una cuidadosa vigilancia”. Asimismo, aunque "puede mejorar el acceso a la educación", el documento vaticano lamenta que muchos programas "se limitan a dar respuestas en lugar de animar a los estudiantes a encontrarlas por sí mismos, o a escribir ellos mismos los textos y esto conduce "a una pérdida de formación para acumular información o desarrollar el pensamiento crítico" o divulgar "informaciones distorsionadas o artificiales" o "contenidos inexactos".
El documento insta a que “no debemos intentar sustituir cada vez más el trabajo humano por el progreso tecnológico" pues al hacerlo "la humanidad se perjudicaría a sí misma”. El Vaticano también afirma que "la presunción de sustituir a Dios por una obra de las propias manos es idolatría" y que "la IA puede ser más seductora que los ídolos tradicionales". Y una de las conclusiones es que “la IA sólo debe utilizarse como una herramienta complementaria a la inteligencia humana y no para reemplazar su riqueza”.