La mecanización y automatización de procesos ha provocado cambios sociales importantes a lo largo de la historia. Por ejemplo, durante la primera mitad del siglo XX la mecanización de los trabajos agrícolas provocó migraciones masivas del campo a las ciudades en toda Europa, que se transformó en una sociedad fundamentalmente urbana. La inteligencia artificial (IA) va a permitir la automatización de una gran variedad de procesos complejos que actualmente aún requieren de intervención humana. Hay numerosos ejemplos y diferentes previsiones de en qué grado y cuándo se conseguirá esa automatización: la conducción autónoma, la traducción automática en tiempo real o la robótica asistencial, entre muchos otros.

Para conseguir nuevos niveles de automatización y autonomía en la toma de decisiones, la inteligencia artificial debe avanzar en la resolución de retos científicos de envergadura. 

Mejorar el modelado del comportamiento. La inteligencia artificial se situará en el futuro en un contexto social, conviviendo e interactuando con humanos y otras inteligencias artificiales, con sensores y actuadores ubicados en nuestras viviendas y ciudades. Es fundamental que las IAs sean capaces de construir modelos correctos de todos estos 

actores, de manera que puedan entender y prever de manera razonable sus intenciones y acciones. Las IAs deben ser capaces también de hacerse predecibles, para conseguir que se llegue al comportamiento colectivo deseado de forma rápida. El aprendizaje automático es clave en la resolución de este reto y debe desarrollar algoritmos que consigan aprender a partir de conjuntos reducidos de datos, tal y como hacemos los humanos, eliminando la necesidad actual de ingentes cantidades de datos. Resolver este reto es fundamental para alcanzar niveles de autonomía de acción con la seguridad necesaria, y para hacer que las IAs, como actores sociales, ayuden a conseguir los objetivos de desarrollo sostenible marcados por las Naciones Unidas.

Mejorar la interacción hombre-máquina. Cuando las IAs se utilizan para la toma de decisiones es fundamental que los humanos entiendan la razón por la que se toman estas decisiones. Y para que las IAs puedan generar estas explicaciones se necesita mejorar la integración entre modelos simbólicos, por ejemplo basados en formalismos lógicos, con sistemas de aprendizaje no-simbólicos. Esta integración es hoy en día muy pobre. Hay que avanzar 

en el modelado semántico de los problemas, en la comprensión de la pragmática de las sociedades humanas y en el modelado del sentido común. Avanzar en la explicabilidad y en la mejora de la interacción entre personas y IAs es un reto importantísimo.

Mejorar la verificabilidad del software. Como en cualquier proceso de automatización, los humanos, y la sociedad en general, exigimos garantías en el comportamiento de los sistemas y en los resultados que obtienen. Esto implica que los sistemas tengan que ser verificados para demostrar que su comportamiento se ajusta a los requerimientos, como se viene haciendo tradicionalmente con el 

software. Dado que la inteligencia artificial intervendrá en procesos de decisión que afectarán al bienestar de la población, además es crucial que podamos verificar que estas decisiones se adecúen a los valores y principios que compartimos como sociedad, tales como la seguridad, la privacidad, la justicia y muchos otros. La explicabilidad que comentaba antes tiene que incluir estos elementos para que la tecnología sea aceptable por todos. Igualmente, eliminar o detectar sesgos en el uso de los datos es clave para garantizar el respeto a la no discriminación. Conseguir niveles de verificación adecuados para los valores sociales requeridos es uno de los grandes retos actuales de la IA.

La inteligencia artificial puede ser una oportunidad para mejorar nuestras sociedades si informamos con claridad de las consecuencias de la aplicación de esta tecnología y hacemos que los poderes legislativos establezcan leyes de redistribución de la riqueza satisfactorias para todos (impuestos a los robots, salario mínimo universal, etc.). La educación de la sociedad en el uso de la tecnología es clave para formar 

ciudadanos con sentido crítico que puedan decidir la dirección en el uso de esta tecnología. Por ejemplo, la automatización de las tareas agrícolas, de manufactura o de transporte eliminará puestos de trabajo y creará otros. El balance en este proceso irá claramente en la dirección de reducir la necesidad del tiempo dedicado al trabajo para satisfacer las necesidades básicas. Este fenómeno ha estado siempre relacionado con los procesos de automatización. Si comparamos las condiciones laborales del siglo XIX y las del XXI vemos que la jornada laboral se ha reducido desde las 12 horas diarias sin prácticamente descanso a jornadas de 35 horas semanales. La inteligencia artificial puede ser el catalizador de nuevos cambios, profundos y positivos, en el empleo y las relaciones laborales, en la desubicación de los centros de trabajo y, en general, en una mejora de las condiciones de vida. Pero, para garantizar que estos efectos sean positivos, necesitamos que los ciudadanos con sentido crítico se impliquen en el proceso y exijan a los poderes públicos una gestión adecuada de los beneficios.

Finalmente, estos retos necesitan de un trabajo multidisciplinar que involucre a tecnólogos y expertos en ciencias sociales. El CSIC se encuentra en una situación privilegiada en este sentido, ya que dispone de competencias en una multitud de áreas que pueden contribuir a un desarrollo armónico de la IA. Hemos creado recientemente el AIHub.CSIC como una iniciativa inclusiva de diversos institutos que realizan investigaciones relacionadas con la IA, y nuestro Instituto de Investigación en Inteligencia Artificial actuará de coordinador de este esfuerzo. Confiamos en que esta iniciativa sitúe al CSIC como el actor clave de la IA en España.

Carles Sierra

Director del Instituto de Investigación en Inteligencia Artificial