Un projecte de la UV per a corregir biaixos de la intel·ligència artificial, premiat amb 600.000 euros per la Fundació BBVA
Un projecte, impulsat pel professor de la Universitat de València Jesús Malo López, que pretén millorar les xarxes neuronals artificials imitant les neurones visuals naturals -un mecanisme que permet millorar algunes de les limitacions que presenta la intel·ligència artificial- obté 600.000 euros de la Fundació BBVA. ‘Aprofitar les Ciències de la Visió per a superar les limitacions crítiques de les xarxes neuronals artificials’ és el nom del projecte en què també participen investigadors del CSIC i de la Universitat de Tubinga (Alemanya).
El catedràtic d’Òptica de la Universitat de València Jesús Malo López és un dels impulsors d’aquest projecte seleccionat per la Fundació BBVA dins del Programa Fundamentos per al desenvolupament d’investigacions de caràcter fonamental i interdisciplinar.
Junt amb Jesús Malo López, del Departament d’Òptica de la Facultat de Física de la Universitat de València; impulsen el projecte Marcelo Bertalmío, Institut d’Òptica (CSIC); i Felix Wichmann, del Departament de Ciències de la Computació del Grup de Processament d’Informació Neuronal de la Universidad de Tubinga (Alemania).
Les xarxes neuronals artificials són sistemes informàtics que imiten el cervell humà i per tant són capaces de processar informació. Estan basades en les neurones biològiques però presenten algunes limitacions. Segons els autors del projecte “el gran èxit de les xarxes neuronals artificials és ser el principal motor del meteòric ascens de la intel·ligència artificial en els últims anys, pel que no és exagerat afirmar que estan remodelant ràpidament la ciència, la industria i la societat en general”. Però els autors també apunten que per això és fonamental conéixer i afrontar les limitacions que presenten aquestes xarxes artificials. Algunes d’aquestes limitacions són per exemple, biaixos que poden mostrar un comportament discriminatori, o falta d’explicabilitat que fa que no es puga interpretar, d’una manera explicable per al ser humà, com la xarxa arriba a una conclusió.
La comunitat científica està aplicant ja diverses estratègies prometedores per a fer front a aquestes limitacions, de forma que podria pal·liar-les o fins i tot resoldre-les en el futur. El problema és que hi ha alguns tipus de limitacions de les xarxes artificials, que es denominen crítiques, per a les quals encara no hi ha solucions prometedores i que requereixen nous avanços. Els principals problemes venen de la rigidesa dels models convencionals i la seua susceptibilitat a atacs o tendència a tindre percepcions il·lusòries. També destaquen com a inconvenient, la quantitat de dades d’entrenament i el cost energètic associat. Les xarxes actuals requereixen d’enormes quantitats d’informació per a aconseguir realitzar el treball a nivell humà en una tasca determinada. Això implica l’ús de recursos informàtics molt grans amb el seu cost energètic i emissions de CO2 associats.
Les solucions
Així, l’objectiu principal del projecte és desenvolupar un marc per a aquestes xarxes neuronals artificials el comportament de les quals siga més similar al dels observadors humans, en el sentit que siguen més resistents a atacs, més fàcils d’entrenar i amb millors propietats de generalització.
Per tal d’aconseguir açò, l’equip d’investigadors pretén, d’una banda, dissenyar nous components per a les xarxes utilitzant resultats i tècniques molt recents de les Ciències de la Visió; d’altra banda, optimitzar els components de les xarxes utilitzant com a dades d’entrenament resultats experimentals clau de la Psicofísica Visual; i per últim, validar i posar a punt les noves xarxes per a problemes fonamentals de la Visió per Ordinador.
El projecte en què participa la Universitat de València és un dels cinc seleccionats, d’entre 305 sol·licituds, pel Programa Fundamentos que rebran una ajuda de 600.000 euros per projecte. L’objectiu d’aquest programa és donar suport a la investigació exploratòria de qüestions centrals o fundacionals d’un camp científic o de la intersecció de diverses disciplines. El de la Universitat s’emmarca dins de l’àrea de Matemàtiques, Estadística, Ciències de la Computació i Intel·ligència Artificial. L’equip disposa de tres anys per a desenvolupar el projecte.
