Centrada en el ser humano

Sin lugar a dudas, uno de los puntales de este nodo es la unidad Ellis (siglas de European Laboratory for Learning and Intelligent Systems), que dirige Oliver. Como explica la experta, esta red es una iniciativa que partió de los propios científicos, quienes, “preocupados por la falta de competitividad de Europa en la investigación en inteligencia artificial y por la fuga de talentos a Norteamérica y Asia”, decidieron movilizarse y contrarrestar esta situación. Su objetivo no es otro que “fomentar la soberanía europea en inteligencia artificial”, permitiendo que los investigadores puedan desarrollar aquí sus carreras, con salarios competitivos y con todos los recursos necesarios.

Presente en 15 países, la unidad de Alicante -la primera de España- tiene como peculiaridad que es la única que adopta la forma jurídica de fundación y, sobre todo, que también es la única especializada en un tema como la inteligencia artificial ética, responsable y para el bien social. Es decir, centrada en la humanidad.

Sesgos raciales

Entre las distintas líneas de investigación que Ellis impulsa en Alicante, destaca la que gira en torno al análisis del impacto de los algoritmos que utilizan las redes sociales, especialmente en las mujeres. Así, uno de sus primeros estudios quiso analizar las repercusiones del uso de los filtros de embellecimiento de aplicaciones como Instagram y TikTok, para lo que tuvieron que desarrollar un software específico y crear varias bases de datos de caras, tanto tratadas con estos filtros como sin tratar. La conclusión no es nada esperanzadora, ya que por primera vez se demostró que el uso de estas herramientas “homogeneiza la belleza y reduce la diversidad, con las implicaciones que esto tiene para las generaciones que crecen con estos modelos”. Igualmente, los expertos también detectaron claros sesgos raciales: “Con los filtros te vuelves más blanco”, señala rotunda la investigadora, que alerta del riesgo de “equiparar el ser bello con ser blanco”.

En la misma línea, otra investigación ha analizado la censura que aplican estas redes al arte a través de sus algoritmos de moderación -lo que incluso ha afectado a la difusión de obras clásicas que contienen desnudos- y cómo esto afecta al conocimiento actual del arte. También de qué forma ha empezado a influir en el propio trabajo de los artistas. Es decir, si se están autocensurando para evitar quedarse sin la difusión que proporcionan estos canales. Como es lógico, desde Ellis intentan aportar soluciones a estos problemas y, por ejemplo, trabajan en el desarrollo de un algoritmo, Fairshap, capaz de identificar qué datos son importantes a la hora de entrenar otros algoritmos para que sean “justos” y no causen sesgos ni discriminaciones, como ocurre actualmente.

A juicio de Oliver son estos riesgos -la posibilidad de manipulación del comportamiento humano, los sesgos, la capacidad de influir en la visión del mundo de los usuarios- los que deberían centrar el debate sobre la inteligencia artificial, y no la posibilidad de que esta tome conciencia de sí misma, se rebele y amenace la existencia de la humanidad, algo que considera una “distracción” del foco realmente importante.

Regulación del software

Así, la ingeniera alicantina se muestra totalmente a favor de que se regule esta tecnología. “Todo está regulado. La alimentación, las medicinas, los electrodomésticos… Y lo están para asegurarnos de que no representan un riesgo. ¿Por qué no lo está el software, cuando estamos hablando de que vamos a tener una dependencia íntima con este tipo de herramientas?”, se pregunta Oliver. El gran reto, reconoce, es cómo establecer esa regulación sin que se frene su desarrollo.

Junto a Oliver, otra figura clave en el desarrollo de la IA alicantina es la de Pedreño, exrector de la UA e impulsor de diversas firmas tecnológicas y de Torre Juana Open Space Technology, una especie de centro de empresas que ha situado en una antigua torre defensiva del siglo XVI del campo alicantino. Entre sus proyectos más destacados se encuentra 1MillionBot, que desde un principio se focalizó en el desarrollo de chatbots inteligentes. Su gran estreno fue con Carina, el chatbot que lanzaron para responder a las consultas sobre el coronavirus en plena pandemia. Un proyecto del que se acabaron beneficiando más de 300 instituciones, que lo insertaron en sus páginas web, y que le abrió las puertas a diversas adjudicaciones de las Naciones Unidas para desarrollar chats asistenciales en varios países. Otro de sus puntos fuertes son los bots para la atención de los estudiantes, que ya ha vendido a más de 30 universidades.

Lejos de intimidarlos, 1MillionBot ha acogido la llegada de ChatGPT como una oportunidad y, de la mano del Centro de Supercomputación de Barcelona, ha desarrollado ya uno de los primeros modelos propios de España y de toda Europa de LLM (Large Language Models), como se denomina a los sistemas de IA capaces de generar textos como si los hubiera escrito un ser humano. Un modelo que, además, tiene como ventaja cumplir con las garantías de protección de datos y el resto de regulaciones jurídicas europeas, como recuerda el propio Pedreño. No se trata de una cuestión menor, si se tiene en cuentas la preocupación que existe entre los gobiernos de todo el continente por estas cuestiones, con relación al uso de la herramienta de OpenAI. También han lanzado ya una plataforma, Millie, que permite a empresas e instituciones entrenar estos modelos con datos propios para garantizar que los resultados sean fiables y adecuados a cada necesidad e, incluso, ya ofrecen servicios para acercar el propio ChatGPT a las pymes con el servicio Make a Bot.