Stuart Russell, profesor de la Universidad de California en Berkeley, se ha dedicado al estudio de la ingeniería artificial (IA) durante décadas.
Pero también es uno de sus críticos más conocidos, al menos del modelo de IA al que todavía ve como "estándar" en el mundo.
Rusell ha advertido que el
modelo predominante de IA es, en su opinión, una amenaza para la supervivencia
de los seres humanos.
Pero, a diferencia de las
tramas de películas de Hollywood sobre el tema, no se trata de que estas
tecnologías se vuelvan conscientes y se vuelvan contra nosotros.
La principal preocupación de
Russell es la forma cómo sus desarrolladores humanos han programado esta
inteligencia: tienen la tarea de optimizar sus tareas tanto como sea posible,
básicamente a cualquier costo.
El genio salió de la botella, Russell
utiliza la metáfora de un genio de una lámpara que cumple los deseos de su
maestro para explicar lo que está ocurriendo.
"Le pides al genio que te
convierta en la persona más rica del mundo, y así sucede, pero solo porque el
genio hizo que el resto de las personas desaparecieran", dice.
"(En IA) construimos
máquinas con lo que yo llamo los modelos estándar: ellas reciben objetivos que
tienen que lograr u optimizar, para los cuales encuentran la mejor solución
posible. Y luego llevan a cabo esa acción".
Incluso si esta acción es, en
la práctica, perjudicial para los humanos, argumenta.
Qué se sabe de la falla que
afectó durante horas a Facebook, Instagram y WhatsApp en todo el mundo
"Si construimos la IA
para optimizar un objetivo fijo dado por nosotros, ellas (las máquinas) serán
como psicópatas, persiguiendo ese objetivo y siendo completamente ajenas a todo
lo demás, incluso si les pedimos que se detengan".
Un ejemplo cotidiano de esto,
dice Russell, son los algoritmos que rigen a las redes sociales, que se han
vuelto tan evidentes en los últimos días con el colapso global que afectó a
Facebook, Instagram y WhatsApp durante unas seis horas.
La tarea principal de estos
algoritmos es mejorar la experiencia del usuario en las redes sociales. Como,
por ejemplo, recopilando la mayor información posible sobre ese usuario y
proporcionándole contenido que se adapte a sus preferencias para que
permanezcan conectados por más tiempo.
Incluso si esto se produce a
expensas del bienestar del usuario o la ciudadanía global, continúa el
investigador.
"Las redes sociales crean
adicción, depresión, disfunción social, tal vez extremismo, polarización de la
sociedad y, tal vez contribuyen a difundir desinformación", señala
Russell.
"Y está claro que sus
algoritmos están diseñados para optimizar un objetivo: que las personas hagan
clic, que pasen más tiempo enganchadas con el contenido", continúa.
"Y, al optimizar estas
cantidades, podemos estar causando enormes problemas a la sociedad".
No obstante, prosigue Russel,
esos algoritmos no se someten a un escrutinio lo suficiente como para ser
verificados o "arreglados", por lo que siguen trabajando para
optimizar su objetivo, indistintamente del daño colateral.
"(Las redes sociales) no
solo están optimizando lo incorrecto, sino que también están manipulando a las
personas, porque al manipularlas consigue aumentar su compromiso. Y si puedo
hacerte más predecible, por ejemplo, transformándote en un ecoterrorista
extremo, puedo enviarte contenido ecoterrorista y asegurarme de que hagas clic
para optimizar mis clics".
Estas críticas fueron
reforzadas la semana pasada por la ex trabajadora de Facebook (y actual
informante) Frances Haugen, quien testificó ante una audiencia del Congreso de
Estados Unidos.
Haugen dijo que las redes sociales
"dañan a los niños, provocan divisiones y socavan la democracia".
"Facebook daña a los
niños y debilita la democracia": el duro testimonio de una exempleada de
la red social ante el Senado de EE.UU.
Facebook ha reaccionado
diciendo que Haugen no tiene suficiente conocimiento para hacer tales
afirmaciones.
Fuente…..y mas información: https://www.bbc.com/mundo/noticias-58874170
0 Comentarios