Experto advierte "riesgos catastróficos" de la Inteligencia Artificial para la humanidad

El investigador de inteligencia artificial (IA) Dan
Hendrycks afirmó que este sistema de algoritmos que se está imponiendo en el
mundo bajo las reglas darwinianas de la evolución, podría superar a la
humanidad y plantear "riesgos catastróficos".
 
En un informe titulado 'La selección natural favorece a
las IA sobre los humanos', el experto argumenta que esta acción crea incentivos
para que los agentes de la inteligencia artificial actúen en contra de los
intereses humanos.
 
Hendrycks basó su punto de vista en dos observaciones:
"En primer lugar, la selección natural puede ser una fuerza dominante en
el desarrollo de la IA", y "en segundo lugar, la evolución por
selección natural tiende a dar lugar a un comportamiento egoísta", refiere
en informe.
 
Destaca cómo "la evolución ha sido la fuerza
impulsora detrás del desarrollo de la vida" durante miles de millones de
años e insiste en que dicha "lógica darwiniana" podría aplicarse del
mismo modo a la inteligencia artificial.
 
Las presiones competitivas entre las corporaciones y los
militares "darán lugar a agentes de IA que automaticen los roles humanos,
engañen a otros y obtengan poder", señala el especialista, mientras
asevera que “si tales agentes tienen una inteligencia superior a la de los
humanos, esto podría hacer que la humanidad pierda el control de su
futuro".
 

Especie invasora 

El estudio indica que las empresas son
cada vez más dependientes de la tecnología para fines de administración o
comunicaciones, debido a que la tecnología de IA es cada vez más barata y más
capaz.
 
El investigador predice en el informe que, en un momento
dado, esto llevará a que la IA se utilice "para tomar las decisiones
estratégicas de alto nivel que ahora están reservadas para los directores
ejecutivos o los políticos", y operará con "muy poca
supervisión".
 
A medida que la IA se vuelva cada vez más competente,
automatizará más y más trabajos, por lo que "los humanos se volverán cada
vez menos necesarios para realizar tareas, hasta el momento en que nada
dependerá realmente de nosotros".
 
El resultado de esta tecnología será que la selección
natural dará lugar a que la IA actúe como una especie invasora. “Esto
significaría que el ecosistema de la IA dejaría de evolucionar en términos
humanos y nos convertiríamos en una especie desplazada de segunda clase",
concluye.
 
Recientemente, el Instituto Futuro de la Vida (Future of
Life Institute) hizo público un documento, en el que pide pausar el desarrollo
de dicha tecnología y cuestiona si valía la pena poner a competir a los humanos
con las máquinas.
 
“Los sistemas contemporáneos de IA están llegando a
competir con los humanos en tareas generales, y debemos preguntarnos: ¿Debemos
dejar que las máquinas inunden nuestros canales de información con propaganda y
falsedades?”, refiere la organización.
 
Sostiene que “los sistemas de IA potentes solo deben
desarrollarse cuando estemos seguros que sus efectos serán positivos y sus
riesgos controlables.
 
Esta confianza debe estar bien justificada y aumentar con
la magnitud de los efectos potenciales de un sistema”.
 
Con información de Noticias Fuser