Siempre me he visto como “progresista”, pero con la IA es hora de frenar | Pedro Lewis

doAnberra extendió la alfombra roja esta semana para uno de los señores de la IA cuya tecnología está empujando al mundo por el camino de la destrucción creativa. El CEO antrópico Dario Amodei, el oligarca tecnológico supuestamente “bueno”, ideó su versión de un futuro impulsado por máquinas con el brío de un hombre que ha desentrañado los misterios del universo, o al menos ha creado un modelo textual predictivo que puede evaluar los hallazgos de la humanidad y escupir resúmenes convincentes de nuestra conciencia colectiva.

Deleitó al Primer Ministro, a varios funcionarios electos y a celebridades tecnológicas con su discurso. Bien IA que transformaría la economía antes de convertirse en la primera empresa en suscribirse a los nuevos Principios del Centro de Datos del gobierno, convenientemente publicados apenas una semana antes. Fue un cómplice convincente y, para ser justos, Amodei no es el peor de los dioses. Fundó Anthropic después de dejar Open AI cuando la empresa abandonó su misión sin fines de lucro de “la seguridad es lo primero”. Comparte periódicamente ensayos reflexivos sobre la trayectoria de la tecnología y expresa abiertamente sus preocupaciones sobre el impacto de sus propios productos. Rompió fronteras con la administración Trump sobre cómo debería usarse su tecnología para espiar a los ciudadanos y habilitar armas autónomas, convirtiéndose así en un enemigo del Estado.

Pero Toby Walsh, profesor de ciencias de inteligencia artificial en la Universidad de Nueva Gales del Sur, me recuerda: No existe la “buena IA”, porque la IA es a la vez buena y mala. Al sintetizar grandes cantidades de información, puede desbloquear nuevas conexiones y conocimientos, pero depende de extraer grandes cantidades de energía para crear herramientas que reemplacen a los trabajadores humanos con máquinas. Al igual que otros modelos, Anthropic se formó en el trabajo robado de los creadores. De hecho, la empresa resolvió una reclamación de autores en Estados Unidos por 1.500 millones de dólares. Amodei ha predicho alegremente que su tecnología eliminará hasta la mitad de todos los puestos de trabajo administrativos de nivel inicial, pero continúa de todos modos.

Ha sido revelador observar la recepción que ha recibido Amodei por parte de nuestro gobierno, que ha declarado que está totalmente comprometido con la IA y sus cantos de sirena para acelerar la productividad, aunque basándose en modelos patrocinados por la industria. Esto a pesar de las preocupaciones de los principales miembros del sindicato, la indignación justificada de los artistas y las preocupaciones razonables de los padres. Mientras el gobierno lucha con estas contradicciones, la idea de una “IA avanzada” parece un hombre caído del cielo. El Memorando de Entendimiento firmado con Anthropic cumple todos los requisitos, desde “seguir el progreso de la IA fronteriza y promover la seguridad” hasta “apoyar un ecosistema nacional vibrante”.

Pero mientras observo desde los asientos baratos, me pregunto: ¿Es ésta realmente una visión progresista del progreso?

I Siempre me he considerado progresista. Mi padre era un agrimensor fluvial y líder sindical voluntario, mi primer recuerdo político está siendo despedido, llegué a la mayoría de edad con el ascenso de Bob Hawke y encontré mi camino hacia el periodismo y luego hacia los cuartos traseros de la política progresista donde he pasado las últimas tres décadas. He tenido el privilegio de trabajar en la mayor parte del movimiento: sindicatos, partidos políticos, cambio climático, Primeras Naciones y discapacidad. Luché por encontrar una razón que no encendiera mi pasión por el progreso.

Pero mientras llevaba las camisetas, “progresista” no fue un término en el que dediqué energía intelectual a definir. Lo que me impulsaba más era la creencia de que, con suficiente impulso, el mundo avanzaría hacia un futuro más justo y equitativo. Esto refleja el camino de Hegel hacia el reconocimiento mutuo, que llevaría a la sociedad a alcanzar un estado de equilibrio; como señaló Martin Luther King Jr.: “El arco del universo moral es largo, pero se inclina hacia la justicia”. Mientras sigamos moviéndonos, lo lograremos.

Creía que el gobierno socialdemócrata sería el motor de este progreso, respondiendo a la presión de los movimientos de masas para realizar cambios positivos en las leyes, regulaciones y financiación que reflejaran esta mayor conciencia. Los gobiernos progresistas redistribuirían la riqueza, financiarían la red de seguridad y cobrarían impuestos a las personas en función de su capacidad de pago. Cuando no se puede confiar en que el sector privado proporcione servicios esenciales, el gobierno actuaría en nuestro interés. Cuando la nación necesitara liderazgo moral, el gobierno reflejaría nuestros valores únicos.

En los últimos años han sucedido tres cosas que me han hecho cuestionar lo que siempre di por sentado. En primer lugar, los movimientos culturales progresistas permanecieron atrapados en sus propias burbujas, al mismo tiempo que las economías progresistas fueron seducidas por la derecha; y luego la tecnología nos hizo tragar su visión de progreso. Son estas olas de progreso las que están impulsando los movimientos populistas que amenazan el ascenso de la democracia liberal tanto a nivel mundial como aquí en casa.

El ascenso de One Nation se vio acelerado por una reacción contra las llamadas políticas de identidad. Su “Película Súper Progresista” muestra que ven la agenda cultural de la izquierda como su talón de Aquiles. Los progresistas han aceptado durante mucho tiempo, como un acto de fe, que el racismo y el sexismo son pecados y que la injusticia sistémica debe combatirse como parte de nuestra expresión colectiva de humanidad. Pero a medida que se amplió el espectro de preocupaciones, sus oponentes describieron estos movimientos como excluyentes y moralistas, y los consideraron que socavaban lo colectivo a expensas del individuo.

La consecuencia más amplia de una política dominada por la identidad individual es que el concepto de clase ha sido borrado. A medida que la densidad sindical disminuyó en el último cuarto del siglo XX, los militantes de la clase trabajadora quedaron privados de sus derechos de los movimientos progresistas que habían construido. Los trabajadores formaron un partido político, ganaron poder e impusieron un contrato social australiano que compartía los recursos económicos del país y proporcionaba una industria estable. Este acuerdo incluía un compromiso entre cultivar y distribuir el pastel, pero con la protección de la industria y un sistema industrial centralizado parecía posible que los trabajadores australianos tuvieran su pastel y se lo comieran también.

El fin de la Guerra Fría dio lugar a El fin de la historia de Francis Fukuyama, en el que el mundo se unificaría bajo un sistema de comercio y cooperación global basado en un orden internacional basado en reglas. En Australia, Paul Keating buscó canalizar estos vientos globales de cambio uniéndose a los mercados cambiarios globales, eliminando aranceles y privatizando los servicios gubernamentales. Y a pesar del dolor de la recesión de principios de la década de 1990 y del costo humano de eliminar industrias enteras, una mayor prosperidad nacional cumplió la promesa de Robert Reich en El Trabajo de las Naciones de que el trabajo del conocimiento crearía empleos mejores y más inteligentes. El progreso económico seguía siendo progresivo.

Pero en el nuevo milenio, la concentración de riqueza provocada por la globalización se ha acelerado, tanto entre las naciones como dentro de ellas, mientras que la confianza en el sistema se ha derrumbado. Terry Flew, de la Universidad de Sydney, describe el año 2007 como un punto de inflexión. Los rescates de bancos considerados demasiado grandes para quebrar en la crisis financiera que crearon demostraron que el sistema financiero global se basaba en el poder más que en la justicia. El ascenso de los gigantes tecnológicos corporativos ha llevado a una intensificación de estas tendencias con la difusión global de la tecnología basada en la idea de poder centralizado.

Si bien Internet parecía un recurso gratuito que haría avanzar un mundo más liberal, los modelos de negocio basados ​​en captar nuestra atención nos han llevado a un viaje de la esperanza a la desesperación. Del “Sí se puede” al “Drenar el pantano”.

ohDe este modelo roto ha surgido un nuevo acelerador de concentración de riqueza y poder. En este contexto, cuestiono mi progresismo instintivo. Un modelo de negocio basado en la vigilancia y manipulación del usuario, estructurado para reemplazar el pensamiento humano con resultados de máquinas, impulsado por un compromiso despiadado de moverse rápidamente y romper cosas, no es el camino hacia el reconocimiento mutuo que imaginó Hegel, ni la marcha hacia la justicia que conjuró MLK.

El riesgo para el gobierno es que si la IA hace lo que dice, muchos empleos y algunas industrias enteras serán desplazadas; llenará nuestros espacios públicos de basura cultural; Se está utilizando para socavar la fe en la democracia y dañar no sólo a los niños sino a cualquiera que busque compañía. Y cuando esto suceda, y un partido populista lo utilice como una prueba más de que el sistema ya no funciona para la gente corriente, el gobierno no tendrá a nadie a quien culpar excepto a sí mismo.

Mientras nuestros líderes mundiales están ansiosos por activar los centros de datos, los decanos del Estados Unidos progresista, Bernie Sanders y Alexandria Ocasio-Cortez, están pidiendo una moratoria. En un proceso de educación muy público, Sanders ha pasado los últimos meses entrevistando a todos, desde el ganador del Premio Nobel Geoffrey Hinton hasta una versión robot de Claude de Anthropic, planteando el punto difícil que muchos otros han evitado. No sólo aborda los peligros claros y presentes, sino que también plantea preguntas más fundamentales sobre hacia dónde nos lleva esto. ¿Por qué nos dicen que actuemos tan rápido? ¿Por qué es tan inevitable una tecnología tan depredadora y explotadora? ¿Es este realmente el camino que queremos seguir?

Porque esta es la verdad: el progreso siempre ha sido condicional. La dirección del cambio, la velocidad del cambio, la distribución de los costos y beneficios del cambio determinan su impacto final. Si sigo siendo progresista, es como si los luditas fueran progresistas que cuestionaran activamente la inevitabilidad del desarrollo explotador de la tecnología, rompiendo máquinas y amenazando las estructuras de poder que aceleraron su ascenso. En lugar de celebrar memorandos de entendimiento no vinculantes con los señores de la tecnología, el único camino viable que veo en este momento es hacer todo lo posible para frenar el tren construyendo barandillas y estableciendo líneas rojas, que son nuestro único medio de hacer retroceder. Al menos eso sería un progreso.