Opinión | Si todo el mundo trabaja unido, podremos controlar los riesgos de la IA

la película AIque Steven Spielberg hizo a principios de este siglo era una película lacrimógena sobre un robot que quería ser un niño de verdad. Pinocho, pero no de madera y no basado en magia, sino basado en la última tecnología. Un intento de imaginar a qué podría conducir la IA.

Un cuarto de siglo después, el peligro parece ser que la tecnología esté empujando a las personas hacia las máquinas, y no al revés. El teléfono inteligente con el que parece que nos hemos fusionado (y sobre el que escribo esto durante una conferencia) determina cada vez más nuestra forma de ver el mundo. Los algoritmos que llenan esta visión del mundo están diseñados para darnos lo que pedimos para que compremos lo que ellos dan. Es una forma extrema de autoafirmación que socava el pensamiento crítico y, en última instancia, destruye nuestra capacidad de sentir empatía.

Las personas sin empatía son cada vez más máquinas. Al hacer lo que sugieren estas máquinas, estamos llenando los bolsillos de las pocas personas que fabrican y operan estas máquinas. Y estas son personas que piensan que la democracia es una tontería y creen que el mundo realmente mejoraría si tuvieran el control de sus máquinas. Basta leerlo en el manifiesto actual de Palantir y pensar en lo que han dicho los grandes empresarios tecnológicos como Peter Thiel y Elon Musk.

La carrera de IA entre Estados Unidos y China recuerda a la carrera armamentista de la Guerra Fría. Luego, Estados Unidos y la Unión Soviética recobraron el sentido justo a tiempo para evitar una catástrofe e iniciar el control de armas a través de negociaciones multilaterales. La IA carece por completo de esa conciencia. Esta semana volví a oír a los Maga-Americanos en una conferencia en Atenas gritar que sólo podía haber un ganador, Estados Unidos o China, como si estuviéramos en un episodio de montañés están al final.

Mientras tanto, la IA amenaza con volverse loca. Incluso en Silicon Valley hay voces que dicen que la tecnología se está volviendo literalmente inimitable y quizás incontrolable. Cada palabra de advertencia, cada llamado a un retraso preventivo se desecha por temor a una ventaja china. Sólo en EE.UU. se invierten cada año más de un billón de dólares en IA y el auge del mercado de valores estadounidense se debe casi exclusivamente a esto.

Enfermedades graves

El potencial de la IA supera nuestra imaginación. Ya se puede ver que puede dar un gran impulso al desarrollo de nuevos fármacos y tratamientos médicos. El diagnóstico temprano de enfermedades graves a nivel celular puede salvar millones de vidas, pero el rápido desarrollo de nuevas vacunas puede salvar al mundo de fosas comunes y daños económicos inimaginables en la próxima pandemia. La sofisticada modulación de una cantidad inimaginable de datos puede acelerar la transición energética y hacer que la energía sostenible sea significativamente más eficiente y, sobre todo, más fiable.

También puede ayudarnos a detectar y combatir oportunamente la pérdida de biodiversidad y los principales riesgos para la salud asociados a ella, así como a prevenir malas cosechas y escasez de alimentos. Y todo aquel que necesite ir de A a B podrá moverse de forma mucho más segura utilizando medios de transporte sin intervención humana. Conducir uno mismo en bicicleta será una gran excepción en el futuro.

Los riesgos y peligros para los humanos están disminuyendo exponencialmente, y eso es una bendición en estas aplicaciones. Esto también se aplica hasta cierto punto a las aplicaciones militares, pero también pueden ser una maldición si se reduce el umbral de violencia porque los soldados corren menos o ningún riesgo que los oponentes con sistemas de armas menos autónomos. Operar drones y otros sistemas no tripulados desde una larga distancia en un lugar seguro es diferente a mirar al enemigo directamente a los ojos. Sin mencionar que ahora hay sistemas activos en el campo de batalla a los que se les asigna una única misión, como limpiar minas o tomar prisioneros de guerra, y luego hacen planes totalmente autónomos para completar esa misión, a veces con resultados sorprendentes.

desigualdad

Cada revolución industrial ha producido nuevas máquinas y tecnologías que facilitan la vida de las personas, reemplazándonos en un lugar para que podamos realizar trabajos mejores, menos exigentes y mejor remunerados en otros lugares. O tener que trabajar mucho menos. Queda abierta la cuestión de si este también será el caso de la IA por definición. El impacto de la IA es potencialmente mayor y entrará en juego más rápidamente que los saltos tecnológicos anteriores. Por lo tanto, la IA puede generar desigualdades económicas y sociales muy grandes, que pueden aumentar rápidamente las tensiones dentro de las sociedades y entre países y continentes.

Los teléfonos inteligentes, Internet y las redes sociales amenazan con convertir a la gente moderna en narcisistas: miran constantemente su reflejo en la pantalla, sin saber que algoritmos cada vez más inteligentes sólo nos presentan en formas infinitamente diferentes. Nos vemos arrastrados a una cámara de resonancia de similitud que nos hace cada vez más insensibles y, en última instancia, desconfiados y temerosos de cualquiera que sea diferente.

Nuestro ingenio disminuye, nuestra curiosidad se pierde y nuestra capacidad de empatizar desaparece por completo. Al permitir que los algoritmos entren en las áreas más íntimas de nuestras vidas, corremos el riesgo de perder la intimidad interpersonal. Ahora hay muchos ejemplos de la miseria que puede surgir cuando los niños vulnerables, en particular, desarrollan vínculos emocionales profundos con algoritmos que han reemplazado las relaciones personales.

La erosión de la solidaridad y la cohesión social es una consecuencia directa de la pérdida de confianza en un buen futuro. Cuando prevalece el pensamiento retrógrado, la voluntad de compartir es víctima del deseo de conservar lo que se tiene. Las preocupaciones de la otra persona se convertirán en tus preocupaciones. El otro se convierte en una amenaza y un peligro que es necesario defenderse. Esta situación se ve exacerbada por las burbujas de Internet en las que nos encontramos y podría empeorar aún más con la IA.

Limitar y dirigir

Pero también debe ser posible lo contrario. Los algoritmos no son un fenómeno natural incontrolable, los multimillonarios de Silicon Valley no son dioses intocables y la carrera armamentista de la IA no es un proceso irreversible.

Si dejamos que todo siga su curso, los riesgos no se pueden estimar, pero ciertamente son grandes. Por lo tanto, un principio básico de la política responsable debe ser el principio rector: el principio de precaución. Preferiblemente a nivel global, limitar, dirigir e iniciar un proceso de “control de armamentos” con medidas de fomento de la confianza, como en la Guerra Fría, pero ahora con el objetivo de compartir las ventajas de la IA con todo el mundo y también controlar las desventajas junto con el mundo entero.

Muchas de las materias primas y fuentes de energía necesarias para el desarrollo de la IA se encuentran fuera de Estados Unidos y China. Un enfoque puramente transaccional, como el que ahora están aplicando tanto Estados Unidos como China, se queda corto en un mundo que ya no será bipolar. Podría conducir al caos, pero también al resurgimiento de un orden mundial basado en enfoques multilaterales. Definitivamente vale la pena trabajar en ello si aún podemos reunir algo de compasión por las generaciones futuras.

Dar algo como regalo





Parte





Enviar un correo electrónico al editor.