Llegiu aquest text i responeu a les qüestions que us plantegem tot seguit.
El britànic Geoffrey Hinton, nascut el 1947, és considerat “el padrí de la intel·ligència artificial” i encara avui n'és un referent. El 1972, com a investigador a la Universitat d'Edimburg, va desenvolupar la idea de xarxa neuronal, un sistema matemàtic que aprèn mitjançant l'anàlisi de dades, i que és la llavor a partir de la qual es desenvolupen els sistemes actuals d'Intel·ligència Artificial (IA) generativa.
El 2012, juntament amb els seus estudiants de la Universitat de Toronto, Hinton va construir una xarxa neuronal que podia analitzar milers de fotografies i aprendre a identificar objectes que hi apareixien. Amb les seves investigacions van guanyar el premi Turing, el més prestigiós del camp de la informàtica, el 2018. Google va comprar l'empresa que va crear amb els seus estudiants per 44 milions de dòlars; aquests diners els van invertir en la creació de tecnologies com el popular ChatGPT.
Hinton, informàtic i psicòleg cognitiu, afirma ara que “es penedeix” de la feina de la seva vida i ha deixat el seu lloc de treball a Google, on ha treballat durant més d'una dècada, “per poder parlar lliurement sobre els riscos de la IA”. Segons ha explicat a The New York Times en una entrevista, està “preocupat” pels “danys greus” que pot causar la tecnologia que ell mateix ha contribuït a desenvolupar.
Segons Hinton i altres líders del sector tecnològic, les noves intel·ligències artificials han estat “el punt d'inflexió més important en dècades” i “poden ser tan importants com la introducció del navegador web a principis dels anys noranta”. I, per això, ara tenen por del que pot suposar deixar en llibertat al món quelcom tan perillós. Hinton alerta que la IA generativa “pot ser una eina de desinformació”, que “aviat podria ser un risc per als llocs de treball” i que en algun moment podria esdevenir “un risc per a la humanitat”. A aquest expert li preocupa l'ús que poden donar a la tecnologia els “actors dolents”.
L'informàtic adverteix que els sistemes que desenvolupen OpenAI o Google “poden eclipsar la intel·ligència humana en alguns aspectes”. També mostra preocupació per la manera com s'ha “inundat” Internet de vídeos, fotos i textos falsos fets amb IA. “Qualsevol persona ja no podrà saber què és veritat”, afirma Hinton. L'informàtic tem que la tecnologia suposi una amenaça per a la humanitat si es permet que generi i executi el seu propi codi informàtic, ja que podria ser realment autònoma i executar comportaments inesperats o perillosos.
El març passat, més de mil experts investigadors i tecnòlegs van signar una carta oberta per demanar una moratòria de sis mesos en el desenvolupament de nous sistemes d'IA generativa encara més potents que ChatGPT. Els signants alertaven que la IA suposa “riscos profunds per a la societat i la humanitat”. Hinton no va signar aquestes cartes mentre treballava a Google, però recentment ha notificat a l'empresa la seva baixa. El cap científic de Google, Jeff Dean, va dir en un comunicat que estan “compromesos amb un enfocament responsable de la IA” i que aprenen “contínuament a entendre els riscos emergents i alhora a innovar amb valentia”. Hinton creu que l'única manera de frenar l'avenç de la IA és una regulació global i pensa que n'hauríem d'aturar el desenvolupament fins que no puguem entendre si es pot controlar.
Adaptació feta a partir del text de Jordi Martín, “Un dels pioners de la intel·ligència artificial se'n penedeix i adverteix dels possibles perills”, El Nacional, 1 de maig de 2023.