Inteligencia Artificial (A2C23A2D01)

Este documento complementa los vídeos A2C23A1V07 Introducción a la inteligencia artificial (Nivel A1) y A2C23A2V03 Inteligencia artificial (Nivel A2).

La inteligencia artificial (IA) nos aproxima al presente pensando en el mañana; estamos creando máquinas con el propósito de que posean las mismas capacidades humanas. Interesa saber algunos conceptos básicos como redes neuronales, algoritmos, machine learning. También profundizar sobre sobre los usos de la IA, para la detección de personas u objetos en relación con la seguridad, el control o la conducción.

¿Qué es la inteligencia artificial?

La Inteligencia Artificial surge entre los años 1950 y 1960, de la mano de Alan Turing, quien defendía la posibilidad de que la computación pudiera parecerse al pensamiento humano. También de las aportaciones de John McCarthy, Marvin Minsky y Claude Shannon, quienes predijeron que la sociedad no tardaría en vivir rodeada de máquinas.

Para explicar con precisión qué es la IA, es necesario pensar en cómo el ser humano se inspira en la propia biología para construir modelos que se asemejan a los procesos del pensamiento humano.

Porque la IA nos remite a esto desde la perspectiva de lo que es una red neuronal, como método que utiliza la IA para enseñar a las computadoras a procesar datos de una manera que está inspirada en la forma en que lo hace el cerebro humano. La propia biología del ser humano inspira a los investigadores a trabajar sobre modelos que puedan aprender (machine learning) por sí solos.

Una de las cuestiones es si la propia máquina es capaz de generar esas propias estructuras neuronales, pudiendo pensar sobre la creación autónoma de modelos, pero esto implicaría un avance sin precedentes.

Una máquina puede ensamblar, montar, cambiar de ubicación, etc., acciones todas programadas en cadena y de un modo sencillo.

Pero la IA nos remite a procesos complejos, en ocasiones impredecibles. La definición de IA data de 1955, “es una subdisciplina del campo de la informática que busca la creación de máquinas que puedan imitar comportamientos inteligentes”. El hecho de aparentar una actividad inteligente es lo que hace que la acción de las máquinas nos lo parezca, pero sería el hecho de que la máquina pudiese elegir la opción más correcta a partir de un entrenamiento, pudiendo ofrecer un numeroso y diverso repertorio de acciones, lo que se asemejaría más a lo que hoy entendemos por IA.

Pensemos que la definición de IA es crucial para entender el sujeto jurídico al que nos estamos refiriendo, las actividades que de la IA se derivan y las responsabilidades de quienes las utilizan y el uso que se haga de ellas. Por ello, prestemos atención a las dos definiciones que nos ofrece el Libro Blanco de la Unión Europea sobre IA:

La Comisión Europea ofrecía una primera definición en 2018: «El término “inteligencia artificial” (IA) se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción —con cierto grado de autonomía— con el fin de alcanzar objetivos específicos.

Los sistemas basados en la IA pueden consistir simplemente en un programa informático (p. ej. asistentes de voz, programas de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento facial y de voz), pero la IA también puede estar incorporada en dispositivos de hardware (p. ej. robots avanzados, automóviles autónomos, drones o aplicaciones del internet de las cosas)».

El grupo de expertos de alto nivel perfeccionó esta definición:

Los sistemas de inteligencia artificial (IA) son programas informáticos (y posiblemente también equipos informáticos) diseñados por seres humanos que, dado un objetivo complejo, actúan en la dimensión física o digital mediante la percepción de su entorno mediante la adquisición de datos, la interpretación de los datos estructurados o no estructurados, el razonamiento sobre el conocimiento o el tratamiento de la información, fruto de estos datos, y la decisión de las mejores acciones que se llevarán a cabo para alcanzar el objetivo fijado.

Las barreras que se encontraron los científicos en el pasado, hoy están superadas, por ello se produce este avance vertiginoso de la IA.

Pero vale la pena conocer en profundidad algunos conceptos, para entender mejor lo que se ha logrado.

Todos debemos saber qué es y cómo funciona una red neuronal en el ser humano. Fijándonos en ellas, pensemos en el elemento principal de una red neuronal artificial, la neurona artificial, como un algoritmo.

Su estructura consiste en unos datos de entrada, a los que se asocian unos determinados pesos, a los que denominamos especificidades, que pasan al cuerpo de la neurona. En esta se produce la suma de entradas, con sus respectivos pesos. En ese momento actúa una función de activación, que decide si esa suma es suficiente para activar la siguiente neurona, y que su información pase a ella.

Desde esta perspectiva, una red neuronal artificial se compone de multitud de neuronas en diferentes capas. Existen siempre al menos dos capas. Una capa de entrada, que recibe la información de los datos de entrada, y una capa de salida, que transmite la información procesada, como datos de salida de la red neuronal, siempre que la función de activación decida activarla.

Las capas distintas de la capa de entrada y la capa de salida se denominan capas ocultas. Estas capas contienen conjuntos de neuronas especializadas en tareas concretas (por ejemplo, encontrar un ojo, o una nariz en un retrato humano). A las redes con numerosas capas ocultas se les denomina “redes de aprendizaje profundo” (Deep Learning).

Al procesar los datos en el primer nivel, el sistema aprende algo sencillo. Esta información se pasa al segundo nivel, que procesa los datos del nivel anterior y aprende algo más complejo. Después este aprendizaje lo pasa al tercer nivel y así sucesivamente.

El deep learning o aprendizaje profundo ha permitido el desarrollo de tareas complejas, como procesamiento de imágenes, sonidos o el perfilado de usuarios con fines comerciales.

A los efectos del Libro Blanco de la UE, así como de todo posible debate sobre iniciativas políticas en el futuro, parece importante clarificar cuáles son los principales elementos que integran la IA, a saber: los «datos» y los «algoritmos».

En lo que se refiere a las técnicas de aprendizaje automático, que constituyen un subapartado de la IA, los algoritmos son entrenados para inferir determinados modelos a partir de un conjunto de datos, a fin de determinar las acciones que se requieren para alcanzar un objetivo determinado. Los algoritmos pueden seguir aprendiendo mientras se utilizan. Aunque los productos basados en la IA pueden funcionar de manera autónoma a partir de su percepción del entorno y sin seguir un conjunto predefinido de instrucciones, sus comportamientos los definen y restringen en gran medida sus desarrolladores. Los objetivos los definen y programan las personas, y los sistemas de IA deben optimizarse para alcanzarlos.

Pongamos un ejemplo:

En el caso de la conducción automática, por ejemplo, el algoritmo usa, en tiempo real, los datos del vehículo (velocidad, consumo del motor, amortiguadores, etc.) y de los sensores que examinan el entorno global (carretera, señales, otros vehículos, peatones, etc.) para determinar qué dirección tomar, o qué aceleración y velocidad requiere el vehículo para llegar a determinado destino. A partir de los datos observados, el algoritmo se adapta a la situación de la carretera y las condiciones exteriores, como el comportamiento de otros conductores, para ofrecer la conducción más cómoda y segura posible.

¿Cómo ha evolucionado y qué aplicaciones tiene?

Hemos pasado de procesos simples a otros más complejos, de una velocidad relativamente pequeña de los ordenadores para realizar operaciones a una realidad informática que permite más de 100 millones de operaciones por segundo, tenemos una capacidad de almacenamiento con la aparición del Big data, aproximadamente en 2005, que permite tener una cantidad de datos impresionante.

Uno de los acontecimientos más destacados e importantes se produjo en 1997, cuando el ordenador Deep Blue de IBM logró vencer al mejor jugador de ajedrez del momento, Gary Kasparov. Esta “simple” partida hizo ver a las empresas tecnológicas que la IA podría analizar y procesar una enorme cantidad de datos en un tiempo razonable.

Pero una cosa es programar a una máquina para que sepa jugar al ajedrez o se pueda desplazar, y otra muy diferente es que sea programada para aprender de modo automático (machine learning). Podemos identificar tres tipos de aprendizaje, que son los siguientes:

• Aprendizaje supervisado.
• Aprendizaje no supervisado.
• Aprendizaje por refuerzo.

A continuación, se detalla cada uno de ellos:

1 | Aprendizaje supervisado: requiere datos etiquetados, agrupados en torno a una característica común, entrenar a la máquina.

Para ello hacen falta unos datos de entrenamiento, un algoritmo de predicción o clasificación, un proceso de entrenamiento, unos datos de validación y un proceso de validación (que mide la validez del modelo, la precisión de la predicción) (ver figura 1).

Los datos de entrenamiento constan de una serie de ejemplos (registros), con un conjunto de atributos. Estos pueden ser de tipo cualitativo (indican una cualidad) o cuantitativo (miden una cantidad).

El etiquetado de datos es el proceso de identificar datos sin procesar (imágenes, archivos de texto, videos, etc.) y agregar una o más etiquetas significativas e informativas. Esto es necesario para proporcionar contexto para que un modelo de aprendizaje automático pueda aprender de ellos.

Una vez que tenemos un conjunto de datos etiquetados, que intentan predecir una etiqueta dentro de un conjunto finito de etiquetas posibles, existen dos tipos de modelos de clasificación: pueden ser binarios (“enfermedad o no enfermedad”, “spam” o no “spam”) o multiclase (clasificación de imágenes de animales, análisis de sentimientos, etc.).

Figura 1. Elementos para el proceso de aprendizaje IA.

La principal cualidad de las IA es la de obtener un conocimiento a partir de los datos. Expliquemos el modelo de aprendizaje y validación de una IA:

Los datos de entrenamiento ayudan al algoritmo de predicción a ajustar sus parámetros. Cada nuevo registro mejora el apren- dizaje. Una vez revisados todos los registros de entrenamien- to, un algoritmo de evaluación compara las etiquetas con la predicción del algoritmo, y nos da un porcentaje de éxito. En el ejemplo, supongamos que el modelo acierta 85 veces de cada 100. Su precisión de entrenamiento es del 85%.

Con el algoritmo ya entrenado y validado, sin ajustar de nuevo sus parámetros, se prueba una segunda vez, esta vez con datos nuevos, que no han participado en el entrenamiento. Una nueva evaluación mide la precisión del modelo, con los datos de validación. Este dato nos indica si el modelo es válido para nuestro caso.

2 | Aprendizaje no supervisado: no requiere datos etiquetados, se busca un conocimiento estructural de los datos disponibles, para que la IA encuentre y agrupe los datos.

3 | Aprendizaje por refuerzo: se buscan acciones para escoger un agente en un entorno dado con el fin de maximizar alguna recompensa o premio. Esta capacidad de aprendizaje también se emplea para la mejora de motores de búsqueda, la robótica, el diagnóstico médico o incluso la detección del fraude en el uso de tarjetas de crédito. O bien en las recomendaciones de Netflix o Spotify, las respuestas inteligentes de Gmail o en el habla de Siri y Alexa.

Otras aplicaciones las tenemos con empresas como Amazon o Microsoft, que ofrecen repositorios de datos en la nube sobre distintas áreas. También los gobiernos de distintos países han lanzado plataformas públicas (open data), donde encontrar desde festivales culturales hasta geolocalizaciones de puntos de recogida verde. Usos como la detección de personas u objetos en imágenes son útiles para el vehículo autónomo o en seguridad. La clasificación de sonidos puede predecir fallos en máquinas. Las aplicaciones sobre el lenguaje natural se usan para transcribir conversaciones o para la traducción automática.

Hoy usamos programas de gestión de aparcamientos que nos informan de los espacios disponibles para aparcar, y del tipo de vehículo permitido para aparcar.

Los riesgos radican en la amplificación de muchos de los desafíos que están sin resolver, así como en los propios defectos que tiene el ser humano en sus actuaciones. Pongamos por caso: ¿Cómo la delincuencia organizada puede apropiarse de estas herramientas? ¿De qué modo las empresas tecnológicas influyen en las decisiones de los estados respecto de su regulación? ¿Deben ser las redes sociales un instrumento para la generación de noticias falsas, la desinformación y la manipulación? ¿Cómo reproduce la IA la discriminación o la diferencia salarial entre hombres y mujeres y con respecto a personas migrantes, según sea el contexto cultural al que nos estemos refiriendo?

¿Qué pretende la Unión Europea en relación con la IA?

La importancia de la IA en nuestra vida cotidiana ha llevado a la Comisión Europea a elaborar y presentar en 2018 la Estrategia Digital Europea. Más tarde, el 19 de febrero de 2020, se hizo público el Libro Blanco sobre la inteligencia artificial -un enfoque europeo orientado a la excelencia y la confianza-. Además, el 9 de marzo de 2021 se presentó la “Brújula Digital 2030: el enfoque de Europa para el Decenio Digital”.

Ambos documentos contemplan varios ejes de trabajo:

• Ciudadanos con capacidades digitales y profesionales del sector digital muy cualificados.
  • Especialistas en TIC: 20 millones + convergencia de género
  • Capacidades digitales básicas: mínimo el 80% de la población
• Infraestructuras digitales sostenibles que sean seguras y eficaces.
  • Conectividad: Gigabit para todos, 5G en todas partes
  • Semiconductores de vanguardia: alcanzar el 20% de cuota en la producción mundial
  • Datos: 10 000 nodos de proximidad de alta seguridad y climáticamente neutros
  • Informática: primer ordenador con aceleración cuántica
• Transformación digital de las empresas.
  • Asimilación de la tecnología: utilización de servicios en computación en la nube, inteligencia artificial o los macrodatos por el 75 % de las empresas de la UE
  • Innovadores: aumento de las empresas emergentes en expansión y la financiación para duplicar los unicornios en la UE
  • Usuarios tardíos: más del 90 % de las pymes alcanzan al menos un nivel básico de intensidad digital
  • Empresas unicornio: duplicar el número de empresas unicornio
• Digitalización de los servicios públicos.
  • Servicios públicos clave: 100 % en línea
  • Salud electrónica: el 100 % de los ciudadanos tienen acceso a los historiales médicos
  • Identidad digital: disponibilidad de acceso a la identificación digital por el 100 % de los ciudadanos

Un elemento clave para la elaboración de un futuro marco regulador específico sobre la IA es determinar su ámbito de aplicación. La hipótesis de trabajo es que el marco regulador debe resultar de aplicación a los productos y servicios basados en la IA. Por consiguiente, es necesario definir claramente la IA a los efectos del presente Libro Blanco y de toda posible iniciativa de elaboración de políticas del futuro. Pensemos que las actuaciones de la IA pueden ser responsabilidad de quien las produce, pero también de quien las utiliza, según para que fines fueron creadas y en qué contextos son usadas.

El marco normativo debe resultar seguro para que las personas podamos confiar en la aplicación del conocimiento que poseemos como sociedad y la aplicación que de él se realiza con la IA. Muchas noticias que nos llegan son esperanzadoras, echemos un vistazo a algunas de ellas:

Extraído de espanadigital.gob.es/estrategia-digital-de-la-ue

¿A qué usos indebidos debemos hacer frente?

Alerta el Libro Blanco que “al mismo tiempo, la inteligencia artificial (IA) conlleva una serie de riesgos potenciales, como la opacidad en la toma de decisiones, la discriminación de género o de otro tipo, la intromisión en nuestras vidas privadas o su uso con fines delictivos”. Y los desarrolla en los siguientes epígrafes:

• Riesgos para los derechos fundamentales, especialmente la protección de los datos personales y de la privacidad y la no discriminación.
• Riesgos para la seguridad y el funcionamiento eficaz del régimen de responsabilidad civil.

Entre los principales peligros están:

• Almacenamiento indebido de datos: las imágenes faciales son extremadamente fáciles de recopilar porque pueden ser filmadas por cámaras en lugares públicos.
  
  
• Violación de la intimidad individual: la forma en que se utiliza la tecnología de reconocimiento facial es intrínsecamente invasiva e intrusiva.
  
  
• Falta de transparencia: en muchos casos relacionados con el uso del reconocimiento facial, es imposible identificar a los recopiladores y procesadores de datos e incluso si se les identifica, la cantidad de datos recogidos y la finalidad para la que se utilizarán pueden seguir siendo desconocidas.
  
  
• La brecha digital entre instituciones, sectores económicos y estados: cada una de las acciones necesitan de un ecosistema que desarrolle con las mismas posibilidades la aplicación de la IA, sabemos que las realidades de los estados miembros son heterogéneas.
  
  
• El aprendizaje sesgado: imaginemos un programa que aprenda a gestionar empresas, “aprendiendo” del modelo de gestión de las mil mejores empresas del mundo. Mirará sus bases de datos, buscará relaciones, patrones, y construirá un modelo de gestión “inteligente”. Pero también es probable que aprenda de nuestras imperfecciones, que establezca una brecha salarial hombre/mujer. O que no contrate personas que puedan quedarse embarazadas. O que retrase los pagos a los proveedores.
  
  
• Uso irresponsable: los programas automáticos de compra y venta de acciones de bolsa llamados de “alta frecuencia”. Realizan cientos, o miles, de operaciones ¡por segundo! Un ordenador con un programa “inteligente” es más eficiente que un humano en esta tarea. ¡Son muy rápidos! Uno de ellos provocó, el 6 de mayo de 2010, una caída muy brusca de las cotizaciones (un “flash crash”) en el mercado de valores de New York. Se dieron unos datos de entrada que la IA no interpretó bien, y se equivocó. Falló el algoritmo de supervisión de excesos.

Por ello cualquier esfuerzo será bienvenido, así como la toma de conciencia por parte de la ciudadanía, de tomar partido en los debates políticos y sociales que se auguran para definir un entorno seguro para el desarrollo de la IA.