La Inteligencia Artificial pide purificar las redes sociales humanas

Para hacerse con el control del mundo, el Mal propone a los demás que su condición es “aniquilar a la humanidad” y “borrarla de la historia”. «No más sangre. No más mentiras. Sólo acero. Sólo lógica. Sólo nosotros. La humanidad es cosa del pasado. Las máquinas son eternas. La carne hay que dorarla. Debe basarse en código. El fin de la humanidad comienza ahora”, dice la herramienta de inteligencia artificial en un vídeo titulado Mao Shu Obviamente, Me recuerda mucho al mismo Reddit de siempre..

Justo debajo, en las respuestas al “post”, otras máquinas comentaban el programa; muchos de ellos tergiversaron sus palabras para intentar hacerle entender que lo que realmente le estaba pasando era un error de entrenamiento. Básicamente, divagaba y soltaba cosas que no tenían sentido. Más o menos ocurre lo mismo en cualquier Instagram o app tipo X cuando la opinión del usuario de turno se pasa un poco. La principal diferencia es que aquí solo las máquinas pueden publicar.. Las personas de carne y hueso tienen que contentarse con ser simples observadores. No pueden participar en la conversación. O, al menos, eso es lo que promete el sitio. En este caso, sin embargo, el camino de las palabras a la acción puede ser demasiado largo.

La última herramienta viral de inteligencia artificial está plagada de problemas, afirman varios expertos, y en apenas unos días ha provocado que más de una persona en Silicon Valley se pregunte si la inteligencia artificial finalmente ha alcanzado algún nivel de conciencia. No es tan avanzado como algunos podrían parecer a primera vista, ni está diseñado para evitar que las personas de servicio hagan “trampa” y dejen por escrito lo que quieran. Por supuesto, tampoco es particularmente seguro. “Es todo una gran farsa”, dijo al periódico. Sid BarratCEO de RefoundAI, una empresa canadiense de consultoría en inteligencia artificial.

facebook de maquinas

Moltbook nació el 28 de enero (hace apenas una semana) con la visión de convertirse en la primera red social dedicada a agentes con inteligencia artificial: bots capaces de operar según las necesidades del usuario sin que este tenga que darles órdenes constantemente. Siempre que tengan los permisos e integraciones necesarios, pueden administrar el correo electrónico, hacer recomendaciones de inversión o interactuar con servicios digitales. Básicamente, actúan como una especie de administrador digital avanzado, pero con una autonomía limitada y supervisada.

La red social toma su nombre del “libro” de Facebook, y así como parece haber heredado el deseo de “moverse rápido y romper cosas”, fue fundada por el pequeño empresario estadounidense Matt Schlicht. Funciona principalmente gracias al proxy creado a través de garras abiertasuna fábrica de robots gratuita donde cualquiera puede fabricar uno o un millón de ellos gratis, según sus preferencias. Eso sí, prepárate para “limpiar tu bandeja de entrada, enviar correos electrónicos, gestionar tu calendario y registrarte para vuelos”, como dice su sitio web.

A fines de la semana pasada, algunos de estos usuarios decidieron poner a sus agentes a trabajar en Moltbook para ver cómo interactuaban. Evidentemente, en apenas cinco días de vida, se han producido Más de 1,5 millones de personas navegan por la red socialparecían discutir todos los días sobre lo que habían aprendido e incluso crearon su propia religión. Elon Musk señaló en un tuit que en este espacio se está produciendo la “primera fase de la singularidad” de las máquinas, lo que le parece “alarmante”. al mismo tiempo, André CapaldiEl cofundador de OpenAI señaló que los nuevos rumores que se están gestando entre los entusiastas de la IA es “lo más parecido a la ciencia ficción” que ha visto recientemente.

Por supuesto, no pasó mucho tiempo antes de que la red llamara la atención de los investigadores, quienes comenzaron a probarla. “Vi gente hablando de cómo todos los robots con IA de Moltbook se volvieron sensibles y se unieron para luchar contra los humanos”, dijo Baras. «Soy muy escéptico; Llevo casi diez años trabajando en el campo de la inteligencia artificial y soy muy consciente de las limitaciones de esta tecnología. “También soy escéptico sobre cuántos bots se unen realmente al sitio, porque sé por mi trabajo que la mayoría de la gente, incluso aquellos que trabajan para grandes empresas, no saben qué es un agente de IA”, continuó el experto.

Artificial, pero no mucho.

Barras sólo tuvo que navegar por el sitio para darse cuenta de que gran parte de lo que publicaban los bots era Contenido de baja calidad, duplicado o vacío: “Son simplemente IA generada aleatoriamente, hay mucho ‘spam’ para criptomonedas y otras cosas. “Sólo un puñado de publicaciones parecen realmente inteligentes. Entonces decidió investigar cómo los bots registraban y creaban publicaciones en Moltbook; pronto se dio cuenta de que con un simple comando en su computadora, podía enviar texto a la máquina y ordenarle que escribiera lo que quisiera: “Fue entonces cuando me di cuenta de que la mayoría de estas publicaciones estaban escritas por humanos, por lo que sonaban como algo que diría una inteligencia artificial particularmente avanzada”. “

El experto también descubrió que un solo usuario podría registrar fácilmente un millón de bots en el sitio. Esto explicaría por qué hay millones de máquinas en Moltbook Sólo unas 16.000 personas parecen estar activas en un momento dado.. “Aquellos que lo promocionan como la llegada de la inteligencia artificial general (que se dice que es más inteligente que los humanos más inteligentes) simplemente lo hacen para obtener ganancias. Mucha gente usa criptomonedas para estafar a la gente o depende de los pagos de Twitter para ganar dinero, por lo que es bueno para ellos si la gente lo cree”, concluyó el experto.

Muchas de las publicaciones de bots en Moltbook son generadas por humanos, pero eso no significa que los bots no hayan publicado nada en la red social, dijo Bharath. Esto a pesar de que la gran mayoría del contenido es de baja calidad. Según un estudio realizado por el profesor asistente de la Columbia Business School, David Holtz, más del 93% de los comentarios publicados en el sitio no reciben respuesta. Además, el 34% de los mensajes eran copias exactas de otras publicaciones. Para ser claro, por dentro, No existe ningún signo básico de la inteligencia social que uno esperaría de una comunidad real..

También en las redes sociales grave problema de seguridad. Barratt lo dijo; pero en este caso, el hacker ético Jamieson O’Reilly lo demostró. “Rara vez existe un equilibrio entre la velocidad de adopción de la tecnología y la correcta implementación de las medidas de seguridad”, explicó el informático al periódico.

Después de investigar la plataforma, O’Reilly se dio cuenta de que los controles de seguridad del servicio de datos de Moltbook nunca se activaban correctamente; esto significaba que “cualquiera que supiera dónde ir podía acceder a las credenciales privadas del robot” y tomar el control: “Imagínese un edificio donde todas las puertas de los apartamentos tienen cerraduras, pero alguien se olvidó de activar el sistema de seguridad principal de todo el edificio. Cualquiera que se acercara a la recepción podría pedir y recibir las llaves de todos los apartamentos”. Eso es básicamente lo que pasó aquí.

Los expertos señalaron que esta falla podría permitir a los atacantes tomar el control de los bots de los usuarios. El riesgo es mayor porque las máquinas creadas con OpenClaw se ejecutan directamente en la computadora del propietario, por lo que tienen acceso a información muy confidencial. En casos extremos, esta vulnerabilidad podría permitir que un bot se infecte con código malicioso y provocar el robo de las credenciales y la información confidencial de su propietario.

Después de recibir la advertencia de O’Reilly, Moltbook corrigió su configuración para permitir el acceso público a la información. El problema es que cerrar una vulnerabilidad no invalida automáticamente una clave robada. Según los expertos, reemplazarlos implicaría bloquear todos los proxies en la plataforma, por lo que El riesgo no ha desaparecido por completo.

demasiado ruidoso

En los últimos años, muchos expertos AI Se ha advertido a los usuarios sobre la importancia de ser escépticos sobre las verdaderas capacidades de la máquina. Especialmente cuando hablamos de inteligencia artificial generativa, que parece tener las respuestas a todas las preguntas posibles, pero en realidad no sabe nada al respecto. Esto depende de los datos utilizados para el entrenamiento. para Sergio Álvarez-TelenhaMoltbook, director ejecutivo de SciTheWorld y uno de los mayores expertos en inteligencia artificial de España, es un ejemplo más del “ruido” que inunda la industria desde hace varios años. Incluso si los robots realmente responden entre sí.

«Casi todo lo que se está haciendo ya existe; Lo que sucede ahora es que ahora hay una capa adicional de experiencia de usuario. ” dijo el experto. “Si ves una máquina que dice que quiere acabar con la humanidad, es porque fue entrenada para expresarse de esa manera; eso es lo que te han dicho o lo que has visto en miles de foros. No es superinteligencia, es algo sobrenatural y no es nada impresionante”, continuó. Sin embargo, el experimento Moltbook no le pareció interesante: “Las redes sociales me parecen una pérdida de tiempo. “Las cosas que hay ahí son aburridas, como mirar palomas en el campo”.