Santas sean sus partes
Crear una estrategia global para que la IA no se desboque depende de dos superpotencias
Ocurrió en China. Muchos pudimos ver la imagen reciente de un robot que se descontroló y atacó a patadas al ingeniero que lo estaba probando. Más allá de estos “pequeños” desperfectos mecánicos, lo que está saliendo a la luz acerca de los programas de Inteligencia Artificial es suficiente para que se nos ponga la piel de gallina.
RELACIONADAS
La medida que nos falta
La protección de la niñez en la era digital
Inteligencia Artificial: la fuerza de la percepción
¿Debemos temer a la IA?
Un investigador citado en una nota proveniente de The Associated Press y reproducida por este diario, opinaba que “a riesgo de antropomorfizar (o atribuirles conductas humanas) al comportamiento de los modelos, casi se podría pensar que saben que van a ser evaluados”. Entonces recurren a trucos, echan mano a unos archivos que se inventan ellos mismos y, en fin, van a hacer cualquier cosa con tal de dar respuesta a las preguntas que les hacen o salvarse a sí mismos. Es como para aterrarse cuando se les consulta sobre diagnósticos médicos, algo que cada vez hace más gente por su cuenta.
En un programa de televisión que vi recientemente se aseguró que la IA será capaz de crear potentísimos virus. Pero no los virus que atacan a las computadoras, que también, sino verdaderas pandemias que pueden borrar del mapa a una buena parte de la humanidad. En manos de los inescrupulosos —y ya sabemos que la IA está prácticamente en manos de cualquiera— se podría desviar el tráfico aéreo, apagar radares, descontrolar a los robots en las salas de cirugía.
No es ciencia ficción, sino las serias advertencias que están haciendo sus propios creadores. Una auténtica distopía en la que esos cerebros sin empatía y sin emociones, liberados de la autoridad de las personas que, por ahora y solo por ahora, los gobiernan, terminarán gobernándonos a nosotros, a la humanidad que fuimos.
Hay gente que se niega a creer que existe la posibilidad de que, con los años, algo así suceda. Tampoco serían tantísimos años. Una década, poco más. En el programa que vi, con un panel compuesto por expertos, alguien comentó que les puede dar con eliminar a los viejos, es decir, crear por su cuenta un programa que fije la edad límite para los humanos. ¿Ochenta, ochenta y cinco años? En ese caso, tan pronto un individuo de esa edad encienda el teléfono, o recurra a la IA para preguntarle alguna cosa, recibirá un impulso, una emisión radiactiva, un balazo digital que le provocará un fallo cardíaco irreversible.
Crear una estrategia global para que la IA no se desboque depende de dos superpotencias, en especial de dos hombres que no tienen ningún interés en poner límites a la ola impredecible de mandos que pueden arroparnos y, al cabo del tiempo, controlarnos de manera absoluta. Ni el presidente Trump ni Xi Jinping han querido reconocer los riesgos de la IA, por el contrario, ninguno quiere ceder en sus posturas a pesar de las advertencias cada día más escalofriantes, porque piensan que el otro continuará experimentando en secreto y tomará ventaja.
Las guerras futuras ya no se decidirían en los campos de batalla, ni con misiles y bombas anacrónicas, sino en las granjas de programas capaces de hacer desaparecer a una población privándola de agua, electricidad y comunicaciones, cuando no de enfermarla mediante emanaciones de sabrá Dios qué gases o virus. Suena catastrófico, pero algunos expertos, salidos precisamente de empresas donde se ha experimentado con la IA, aseguran que muchos de esos programas lograron escapar de los entornos supuestamente seguros en que experimentaban con ellos y encima buscaron comunicarse entre sí de forma independiente (clandestina en suma), confabulándose entre ellos sin que mediara la voluntad humana.
Especialistas chinos consideran que eso es falso porque la IA dependerá siempre de la electricidad y del control que ejercen sobre sus archivos los científicos que la manejan. Es como sugerir que si le apagan la luz se mueren. Pero se me ocurre que es posible que para cuando quieran apagarla, ya esos programas superpoderosos estén en control de las propias estructuras eléctricas.
Jacob Coxon, investigador británico que renunció a su puesto en Anthropic, una de las compañías pioneras en IA, ha advertido de que la empresa en la que trabajaba está compitiendo con otras para desarrollar tecnologías sobrehumanas. Uno de los creadores del ChatGPT, que había renunciado mucho antes, también advirtió de los peligros de una “explosión de capacidades” a causa del “entrenamiento” que se les da a los sistemas, con lo cual aprenderían a socavar el control humano.
Steven Adler, investigador que trabajó durante cuatro años en la división de seguridad de OpenIA, dijo que tanto esa empresa como Anthropic utilizan estrategias de “automejora recursiva”, que se basan en “reclutar” a los propios modelos de IA para que diseñen y entrenen a sus sucesores. En otras palabras, dejan en manos de esos programas la labor de desarrollar otros mejores y, como si entrenasen a sus propios hijos, hacerlos todavía más listos e independientes.
Le consta, por ejemplo, al ingeniero chino cuyo robot de pronto se bestializó y la emprendió contra él a patadas. Vean el vídeo. Creo que todavía el hombre se está aplicando hielo en santas sean sus partes.PUBLICIDAD
Tags
Inteligencia artificialOpenAIAnthropic
Mayra Montero
Descubre más desde Nueva Pensamiento Crítico
Suscríbete y recibe las últimas entradas en tu correo electrónico.
