¿Cómo se deben "comportar" las máquinas inteligentes?

Lunes, 31 diciembre 2018 | Redacción CEU

"Yo, robot", "Blade Runner", "Eva",... Todas estas películas tienen un denominador común, abordan, con mayor o menor profundidad, el tema de la inteligencia artificial. Como siempre que se plantea esta cuestión, pronto surge el debate de dónde se encuentran los límites al desarrollo de esta tecnología y cuál puede llegar a ser su potencial real. La IA ofrece, tanto a los individuos particulares como al conjunto de la sociedad, beneficios sustanciales, de ahí que su desarrollo esté en pleno apogeo. No obstante, como vaticinaba este universo de ficción, dependiendo del uso que se le dé, su impacto también puede llegar a ser negativo. En vista de que este no es un asunto menor, la Unión Europea ha empezado a trabajar sobre un borrador de principios éticos para la inteligencia artificial. ¿Qué normas deberían regir el “comportamiento” de las máquinas inteligentes? ¿Qué plantea la Comisión Europea?

No hace mucho, comentábamos en este blog la importancia de anteponer el enfoque ético al desarrollo de las nuevas tecnologías. El sector de la inteligencia artificial es uno de los ámbitos más innovadores que tiene una gran fuerza transformadora y avanza a un ritmo más rápido. Bruselas es consciente de que la IA constituye una gran oportunidad para aumentar la prosperidad y el crecimiento, mejorar la calidad de vida y bienestar e, incluso, hacer frente a desafíos globales como los ODS. No obstante, también reconoce que el progreso de esta tecnología puede entrañar múltiples riesgos. Por esa razón, hace meses que la Comisión Europea trabaja en la elaboración de unos principios guía que sirvan de hoja de ruta a la hora de afrontar la expansión de esta tecnología.

¿Quiénes escriben esta guía para la IA europea?

Son cincuenta y dos expertos independientes y proceden del ámbito académico, la sociedad civil y el mundo empresarial. Componen el grupo de especialistas en IA que trabaja en la primera versión de principios éticos "para una Inteligencia Artificial confiable" de la Unión Europea. Entre ellos, se encuentra una española, Cristina San José, responsable de estrategia y nuevos negocios de big data en el grupo Santander.

Días atrás, el contenido del borrador en el que los expertos han estado trabajando estos últimos meses salía a la luz. Se trata de una primera aproximación, no de un texto definitivo. De hecho, hasta el día 18 de enero, se aceptarán comentarios y sugerencias sobre este primer boceto. Los usuarios que se registren en AI Alliance podrán acceder a un foro virtual en el que ofrecer su punto de vista. Los internautas tendrán la posibilidad de participar en las discusiones sobre las medidas que se han propuesto hasta ahora. A partir de la fecha mencionada, el grupo de expertos retomará el trabajo para, finalmente, en marzo publicar la versión concluyente del texto.

¿Qué contiene el borrador europeo?

El texto provisional apuesta de forma clara por un enfoque centrado en el ser humano. Según el mismo, el desarrollo de esta tecnología debe perseguir maximizar los beneficios y minimizar los riesgos. Además, el uso de la IA no puede considerarse un medio en sí mismo, sino una tecnología destinada a aumentar el bienestar humano. Para que la IA sea confiable tendrá que respetar los derechos fundamentales, la regulación aplicable y los principios y valores fundamentales (siempre asegurando un "propósito ético") y tendrá que ser también técnicamente robusta. El borrador del Grupo de Expertos de Alto Nivel de la Inteligencia Artificial en Europa puntualiza que incluso con buenas intenciones la falta de control tecnológico puede ocasionar daños involuntarios.

La guía de la Comisión Europea enumera cinco principios y valores que tienen el objetivo de garantizar que la IA se desarrolla de una forma centrada en el ser humano:

El principio de la benevolencia: "hacer el bien"
El principio de no maleficencia: "no hacer daño"
El principio de la autonomía: "preservar la autonomía del ser humano"
El principio de justicia: "ser justo"
El principio de la acción explicable: "operar de manera transparente"

El borrador también incluye una lista de temas que plantean inquietudes y que han generado debate entre los expertos: la identificación sin consentimiento, los sistemas de inteligencia artificial encubiertos, la calificación y clasificación masiva de ciudadanos sin consentimiento en detrimento de los derechos fundamentales y los sistemas de armas autónomas letales (LAWS, por sus siglas en inglés). A su vez, el documento deja espacio para escenarios que hoy por hoy parecen el argumento de una película de ciencia ficción, pero que, en caso de lograr desarrollarse en un futuro, podrían tener un riesgo asociado muy alto (por ejemplo, el desarrollo de algún tipo de “conciencia” artificial).

El objetivo de este borrador no es fijar una regulación, sino recoger una serie de principios que sirvan como base para la elaboración de leyes sobre esta materia en un futuro. Europa ya se ha convertido en un referente mundial en la protección de datos privados, ahora pretende hacer lo mismo en el campo de la inteligencia artificial. En comparación con países como China y EE. UU., Europa aún está lejos de ser un referente en el sector. Para intentar dar la vuelta a esta situación, la UE está perfilando una estrategia sobre inteligencia artificial. Su objetivo es que las inversiones, publicas y privadas en su conjunto, lleguen a los 20.000 millones de euros a finales de 2020.

En CEU IAM Business School, somos conscientes de la importancia que tiene adoptar un enfoque ético en el marco de la actividad empresarial. El desarrollo de nuevas tecnologías está poniendo a prueba la capacidad innovadora y creativa de los profesionales, pero también los valores y principios sobre los que estos trabajan. Nuestro Global MBA está dirigido a aquellos profesionales que deseen gestionar un escenario global en constante cambio y marcado por la transformación digital, atendiendo a unos valores claros y con un sentido profundo de la ética.