Imagina despertar mañana y descubrir que los jueces, quienes habían sido siempre humanos, han sido reemplazados por máquinas de Inteligencia Artificial (IA). En España, donde los juzgados llevan saturados muchos años, es posible plantearse este escenario para agilizar y hacer más eficaz el sistema. Sin embargo, cabe preguntarse cuáles serían las implicaciones de la introducción de la IA, no solo en el sistema de justicia, sino en muchos ámbitos de nuestra vida. La película Justicia Artificial, ya en cines, explora esta inquietante posibilidad, que podría parecerse a la nuestra. En la película, el gobierno español propone un referéndum para decidir si debemos automatizar los tribunales con IA, reemplazando a los jueces y juezas y dejando en manos de una IA privada todo nuestro sistema de justicia.
La IA, que ha irrumpido nuestras vidas a un ritmo frenético y que cada vez se torna más exponencial, ha empujado la necesidad de reflexionar acerca de cómo adaptar nuestras sociedades a un nuevo fenómeno sin precedentes.
Nuestro mundo, tal y como lo conocíamos, está transformándose debido a la Inteligencia Artificial. Esta ha permitido abrir nuevas áreas de investigación, permitir la optimización de las redes de energía, e, incluso, poder mejorar la salud pública, la agricultura y contribuir al alcance de los Objetivos de Desarrollo Sostenible. Tal y como declaró Amina Mohammed, Vicesecretaria General de las Naciones Unidas, “Las nuevas tecnologías pueden beneficiar las vidas de muchas personas alrededor del mundo. Por ejemplo, pueden mejorar la seguridad alimentaria, reducir los desperdicios y ayudar a las economías locales a crecer a través del acceso a nuevos mercados y formas de financiación”.
No obstante, y debido al enorme potencial que esta nueva herramienta nos ofrece, se hace necesario plantear una gobernanza de la IA que permita que los beneficios no solo se limiten a unos estados, ciertas empresas o particulares; que no se utilice para trasgredir los derechos humanos; o que no fomente la creación y difusión de desinformación.
Todo ello y teniendo en cuenta que la IA se ha convertido en un componente integral de la infraestructura económica, social y política, las Naciones Unidas han detectado la necesidad evidente de una gobernanza efectiva para paliar los posibles desafíos éticos, legales y sociales que plantea la introducción de la Inteligencia Artificial en nuestra cotidianeidad. Así fue como en octubre de 2023 las Naciones Unidas constituyeron el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial para la realización de análisis y formulación de recomendaciones en relación con la gobernanza internacional de la inteligencia artificial.
Este grupo de expertos, el pasado septiembre, emitió el nuevo informe “Gobernanza de la IA en beneficio de la humanidad” donde afirman contundentemente que es necesario regular mundialmente el campo de la Inteligencia Artificial y añaden que “no puede dejarse únicamente al capricho de los mercados”.
Asimismo, el informe pone el foco en la preocupación por la utilización de la Inteligencia Artificial para violar los derechos humanos. La obtención de las materias primas necesarias, ya escasas en el planeta, para la creación y mantenimiento de las tecnologías IA puede conducir a un conflicto por el poder y la riqueza de estos materiales. Además, el desarrollo de armas autónomas está propiciando una carrera armamentística impulsada por los avances de esta tecnología que podría poner en peligro millones de vidas humanas.
Por otra parte, comienza a abrirse una brecha digital y tecnológica entre diferentes partes del mundo, ya que algunas han quedado fuera de las conversaciones internacionales sobre la IA, lo que puede suponer un aumento de la desigualdad y la pobreza.
Esta tecnología avanzada, que continúa evolucionando y afectando a nuestras vidas diarias, debe ser utilizada de manera que beneficie a todo el mundo y no se deje a nadie atrás. Tal y como afirmó el Jefe de Derechos Humanos de las Naciones Unidas Volker Türk “Ciertos avances sin precedentes en tecnología digital, incluyendo la Inteligencia Artificial generativa, nos ofrecen oportunidades imposibles de imaginar en el pasado para seguir progresando en el disfrute de los derechos humanos y contribuir así a rescatar la Agenda 2030”. Por lo tanto, la IA es un desafío global que requiere la colaboración entre gobiernos, empresas, académicos y la sociedad civil para lograr un marco de gobernanza que promueva la transparencia, la responsabilidad, la inclusión y la sostenibilidad. Solo así podremos asegurar que la IA sea una fuerza positiva en la sociedad.
La búsqueda de una gobernanza de la IA supone ya un imperativo ético que está definiendo el presente y el futuro de nuestras sociedades y democracias.
Carmen Coleto Martínez, responsable de proyectos en FIBGAR.
4 de octubre de 2024.
