El boom de la inteligencia artificial (IA) no ha pasado desapercibido para los legisladores del mundo. La Unión Europea (UE), al igual que otras organizaciones internacionales y países, está evaluando un nuevo marco legal para reforzar las regulaciones sobre el desarrollo y uso de esta herramienta. La legislación propuesta, conocida como ley de inteligencia artificial, se enfoca principalmente en fortalecer las reglas sobre la calidad de los datos, la transparencia, la supervisión humana y la responsabilidad sobre esta tecnología. Asimismo, aborda cuestiones éticas y desafíos de implementación en varios sectores, que van desde la atención médica y la educación, hasta las finanzas y la energía. Pero ¿cuáles son los riesgos de una IA desregulada y cuál es la verdadera necesidad de crear estas normas?
La tendencia hacia la legislación es innegable. El reporte del Índice de la inteligencia artificial 2023, elaborado por la Universidad de Stanford y publicado el 3 de abril, muestra que Occidente y algunos países asiáticos están creando cada vez más normas. El documento revela que, según los registros legislativos de 127 países analizados, 31 Estados ya han aprobado por lo menos una ley relacionada con esta tecnología. En total, se han decretado más de 125 normas a nivel global, y 37 de estas se aprobaron tan solo en 2022. Estados Unidos encabeza la lista del reporte, con 22 leyes aprobadas, seguido de Portugal y España, con 13 y 10 leyes, respectivamente. Empatan en el cuarto puesto Italia y Rusia, con 9 leyes cada una, y les sigue Bélgica, con 7, y Reino Unido, con 6 (ver gráfico).
Cabe destacar que el grado de regulación no es necesariamente proporcional a los avances en este campo en cada región. De hecho, Estados Unidos lidera ampliamente en términos de cantidad total de inversión privada en IA, con 47.400 millones de dólares en 2022, muy por encima de China, que se encuentra en segundo puesto con 13.400 millones de dólares y que solo ha ratificado tres leyes sobre IA desde 2016. El país norteamericano también encabeza la lista de número total de startups de IA, con casi el doble de empresas que la Unión Europea y el Reino Unido juntos, y 3,4 veces más que China, según la Universidad de Stanford.
La regulación europea entrará en vigor en 2024 y Bruselas asegura que su objetivo principal es abordar los riesgos generados por los distintos usos de la IA a través de “un conjunto de normas complementarias, proporcionadas y flexibles”. En esta línea, el Ejecutivo comunitario añade que estas reglas otorgarán a Europa un papel de liderazgo en el establecimiento de un nuevo “patrón oro mundial” en este terreno.
“Este marco brinda a los desarrolladores, implementadores y usuarios de la IA la claridad que necesitan, al intervenir solo en aquellos casos que las legislaciones nacionales y de la UE existentes no cubren. El marco propone un enfoque claro y fácil de entender, basado en cuatro niveles diferentes de riesgo: riesgo inaceptable, riesgo alto, riesgo limitado y riesgo mínimo”, señala un comunicado de Bruselas.
En este contexto, los principales factores que Europa y otros países buscan regular son los datos con los que trabajan las IA, la identidad y los datos de los usuarios que utilizan (por ejemplo en la vigilancia biométrica), la gestión de las preguntas y las respuestas que se plantean, así como su impacto ambiental y posibles sanciones a los usos negativos.
¿Por qué regular?
Todos especialistas consultados para este reportaje coinciden en que esta industria requiere una normativa. “Lo que caracteriza a este particular momento en el que nos encontramos, es que parece el proceso de colonización del salvaje Oeste. Nos adentramos en un territorio sin ley e inexplorado, lleno de oportunidades pero del que desconocemos todos los riesgos”, responde Pablo Haya, director de en el Instituto de Ingeniería del Conocimiento (IIC), al ser consultado sobre el tema.
Haya explica que se debe reflexionar de forma crítica sobre cómo se quiere que se desarrollen las IA que se alimentan de cantidades ingentes de datos. “La obtención y manipulación de estos datos puede tener implicaciones legales sobre los derechos de autoría, propiedad industrial, privacidad o protección de datos. Por ejemplo, con la regulación actual no es trivial responder a quién es el autor de una imagen generada por una IA”, observa.
Desde la Asociación de Auditoría y Control de Sistemas de Información (ISACA, por sus siglas en inglés), coinciden en que la regulación es “crítica” en este momento. Su embajador en España, Ramsés Gallego, indica que su impacto en la sociedad es innegable y que se debe regular y legislar acerca de los límites éticos del uso de tecnologías disruptivas como la algoritmia, la inteligencia artificial y el aprendizaje de máquinas generativo.
“De la misma manera que regulamos el acceso a las armas u otros aspectos sociales, algunas dimensiones tecnológicas merecen una conversación profunda, un debate social sereno y una regulación que proteja los intereses de los ciudadanos y de la sociedad en general, y eso incluye, por supuesto, al ecosistema empresarial”, apunta Gallego.
Un avance galopante
Un análisis del gigante tecnológico Intel refleja el acelerado (y preocupante para algunos) avance de la inteligencia artificial. Según la empresa, el entrenamiento de la IA creció más de cien millones de veces más rápido que la ley de Moore, el conocido postulado que afirma que la velocidad de los ordenadores se duplica cada dos años.
En este contexto, un grupo de más de 10.000 expertos firmó recientemente una carta abierta en la que se apelaba a todos los laboratorios de IA para que “pausen inmediatamente durante al menos seis meses el entrenamiento de los sistemas de IA más potentes que GPT-4″. El comunicado, firmado por personalidades tan relevantes como Elon Musk, Steve Wozniak o Yuval Noah Harari, asegura que la IA representa un “cambio profundo en la historia de la vida en la Tierra”, y debe planificarse y gestionarse con el cuidado y los recursos correspondientes.
“Desafortunadamente, este nivel de planificación y gestión no está ocurriendo, a pesar de que en los últimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”, sentencia el documento.
Asimismo, Italia se ha convertido este mes en el primer país de Occidente en prohibir el conocido chatbot ChatGPT de OpenAI, aunque con motivos distintos. El regulador italiano de protección de datos ordenó a los creadores que dejaran de procesar “temporalmente” los datos de los usuarios del país, en el contexto de una investigación sobre una supuesta violación de las normas de privacidad de Europa.
El organismo italiano citó una violación de datos de OpenAI que permitía a los usuarios ver los títulos de las conversaciones que otros usuarios tenían con el chatbot. “Parece que no hay una base legal que sustente la recopilación y el procesamiento masivos de datos personales para ‘entrenar’ a los algoritmos en los que se basa la plataforma”, sostuvieron en el comunicado.
