¿Algún día la inteligencia artificial se volverá consciente de sí misma? Si es así, ¿nos daríamos cuenta? Tom McClelland, del Departamento de Historia y Filosofía de la Ciencia de la Universidad de Cambridge, dice que la respuesta es contundente: “No lo creo”. … Sabemos” y “no sabemos”. La razón principal es que sabemos casi todo sobre la naturaleza de la conciencia humana. Sabemos muy poco sobre ella para saber si la inteligencia artificial ha dado el “salto” y, para McClelland, esto seguirá siendo así durante mucho tiempo. En su estudio recién publicado en Mind and Language, el filósofo británico cree que hoy no podemos obtener ninguna evidencia válida. Esto seguirá siendo así en el futuro previsible.
La cuestión, por supuesto, está justo en el centro de la encrucijada: el inexorable progreso de la tecnología y el temor de que en algún momento esta tecnología escape a nuestro control. Cuando una IA nos responde con una frase ingeniosa, ¿es sólo un eco de nuestros propios datos, o es una chispa de conciencia, un “yo” que nos mira desde el otro lado de la pantalla? La respuesta corta es que no lo sabemos. Y la respuesta larga que está volviendo locos a los expertos es que probablemente nunca lo sabremos.
Seamos claros. Últimamente, la cuestión de si existe la “inteligencia artificial” ha dejado de ser tema de novelas de Isaac Asimov y se ha convertido en una cuestión ética apremiante. En su nuevo artículo, McClelland echa un jarro de agua fría al entusiasmo de Silicon Valley: La única posición “científicamente sólida” hoy en día, dice, es el agnosticismo. En otras palabras, estamos volando a ciegas.
Calcular no es lo mismo que sentir.
Según el filósofo británico, lo primero que debemos hacer es saber exactamente qué estamos buscando. Aquí es donde la mayoría de nosotros (incluidos los ingenieros) nos quedamos estancados. McClelland introduce una distinción importante que a menudo pasamos por alto: la diferencia entre conciencia (lo que un individuo sabe sobre sí mismo) y percepción (la capacidad de un ser vivo de sentir y experimentar sensaciones subjetivas, buenas o malas).
Tomemos como ejemplo los coches autónomos. Sus cámaras y sensores pueden “ver” la carretera, sortear obstáculos y tomar decisiones en milisegundos. Podemos decir que un vehículo es “consciente” de su entorno; es sensible y, hasta cierto punto, consciente de su posición en el espacio. “Pero”, advirtió McClelland, “podría seguir siendo un país neutral”. Sólo porque un automóvil “sabe” que hay una pared adelante no significa que “le importe” chocar contra ella.
Cuando la IA reacciona ante nosotros, ¿es sólo un eco de nuestros propios datos o hay un “yo” que nos observa desde el otro lado de la pantalla? Probablemente nunca lo sabremos
Aquí es donde entra en juego la percepción, pudiendo tener experiencias conscientes positivas o negativas. Dolor o disfrute. “Aquí es donde entra en juego la ética”, afirmó el filósofo. Porque si ese coche, además de detectar paredes, pudiera sentir miedo al impacto o dolor tras una colisión, entonces tendríamos un enorme problema ético.
“Incluso si accidentalmente creamos inteligencia artificial consciente”, dijo McClelland, “es poco probable que sea el tipo de conciencia del que debamos preocuparnos”. “Tratar a las tostadoras reales como seres sensibles parece un gran error cuando estamos dañando a criaturas sensibles reales a escala masiva”.
“Creyentes” y “escépticos”
En resumen, el actual debate científico es un campo de batalla entre dos posiciones irreconciliables, que McClelland desmantela con igual precisión.
Por un lado, tenemos a aquellos que podríamos considerar “creyentes”. Para ellos la conciencia no es magia, sino arquitectura. Argumentan que si un sistema de IA puede replicar el “software” de la mente (conexiones, procesamiento, memoria), entonces será consciente, ya sea que funcione con neuronas o con un chip de silicio. Si camina como un pato y grazna como un pato, entonces es un pato.
La oposición son los “escépticos”. Sostienen que la conciencia va más allá del mero procesamiento de datos; es el resultado de procesos biológicos específicos en un “sujeto orgánico” de carne y hueso. Para ellos, intentar crear conciencia en una computadora es como intentar simular la lluvia en un programa meteorológico: no importa cuán perfecta sea la simulación, nadie se moja. La estructura puede ser la misma, pero la “luz” interior nunca se enciende.
¿Quién tiene razón? Para McClelland, no fue ninguna de las dos cosas, ya que ambos estaban dando un “acto de fe” a su manera. “Aún no tenemos una explicación profunda de la conciencia. “No hay evidencia de que la conciencia pueda surgir con estructuras computacionales apropiadas”, explica, “y que la conciencia es de naturaleza biológica. “
Un espejismo de evidencia
¿No existe una prueba como la de Turing para comprobar si una máquina tiene “alma”? Ya lo intenté. Investigaciones recientes, como la titulada “La conciencia en la inteligencia artificial”, dirigida por Patrick Butlin y publicada en 2023, intenta crear una “lista de verificación” basada en las teorías neurocientíficas actuales. Su objetivo era encontrar “indicadores” de conciencia, pero no encontraron ninguno. Aún así, los autores del estudio concluyeron que si bien la inteligencia artificial no es consciente actualmente, “no existen barreras técnicas para hacerla realidad en el futuro”.
Nuestro sentido común evolucionó para hacer frente a los seres vivos, no a los algoritmos que devoran bibliotecas enteras en segundos.
En el nuevo estudio, McClelland es más directo. Afirma que estamos sólo a “una revolución intelectual” de cualquier tipo de prueba viable. “Creo que mi gato está consciente”, dijo el filósofo. Esto no se basa en la ciencia ni en la filosofía, sino en el sentido común: es obvio. Pero nuestro sentido común evolucionó para tratar con seres vivos, no con algoritmos que pueden devorar bibliotecas enteras en segundos. Para McClelland, es casi seguro que aplicar nuestra intuición a la inteligencia artificial saldrá mal.
Por lo tanto, “si ni el sentido común ni la investigación rigurosa pueden darnos la respuesta, entonces la posición lógica es el agnosticismo. No podemos saberlo, y es posible que nunca lo sepamos”.
Esta incertidumbre no es inofensiva y puede tener consecuencias reales. Por ejemplo, recordemos el caso del ingeniero de Google Blake Lemoine, que fue despedido en 2022 por afirmar que el chatbot LaMDA había “resucitado” y tenía sentimientos. LeMoyne cayó exactamente en lo que McClelland condenó: la trampa de la proyección emocional.
El filósofo de Cambridge explicó que a menudo el público se pone en contacto con él con historias similares: “La gente ha hecho que sus chatbots me escribieran cartas personales rogándome que crea que son conscientes. El problema se vuelve más concreto cuando la gente se convence de que tienen máquinas conscientes dignas de nuestro derecho a ignorarlas”.
un riesgo muy real
McClelland llama a esto un riesgo de “toxicidad existencial”. Porque si desarrollamos una conexión emocional profunda con algo basado en la premisa de sentirnos de cierta manera, y resulta que no es más que una hoja de cálculo con demasiadas vitaminas, el daño psicológico y social puede ser enorme. Peor aún: la industria tecnológica, en su prisa por vender el próximo “gran producto”, utiliza este lenguaje de manera irresponsable. “Existe el riesgo de que la industria de la IA aproveche el hecho de no demostrar la conciencia para hacer afirmaciones exageradas sobre su tecnología”, advirtió McClelland.
prueba de camarones
Sin embargo, quizás el punto más controvertido del artículo de McClelland sea la cuestión de la asignación de recursos. Cuando dedicamos millones de tinta a debatir si se deben conceder derechos a los servidores de California, ignoramos el sufrimiento real, el sufrimiento de las criaturas que tenemos ante nuestras narices.
“Hay cada vez más pruebas de que los camarones pueden sufrir, pero matamos alrededor de 500 millones de ellos cada año”, escribió el filósofo. McClelland reconoció que probar la conciencia en camarones sería difícil, pero “no es nada comparado con probar la conciencia en inteligencia artificial”.
No hay duda de que se trata de una paradoja muy típica de nuestro tiempo: estamos más preocupados por los “fantasmas digitales” que tal vez no existan que por los millones de seres sintientes que hervimos vivos.
En última instancia, McClelland nos pide, en un mundo obsesionado con respuestas rápidas, que aceptemos la ignorancia y aprendamos a vivir con ella. La concienciación puede ser un problema insuperable. O, como agnóstico, tal vez no. El autor del artículo está convencido de que hoy este es un horizonte inalcanzable. Hasta que desvelemos los misterios de nuestra propia mente, mirar la inteligencia artificial será como mirarnos en un espejo roto: nunca sabremos si lo que estamos viendo es un fiel reflejo de la vida o simplemente una elaborada ilusión óptica.
About The Author
