#210 De wrappers a arquitecturas cognitivas. La increíble historia de cómo una IA creó una criptomoneda de 150 millones de dólares.
Hola, soy Samuel Gil.
Esto es Suma Positiva, una publicación sobre tecnología, negocios y humanos leída por más de 25.000 personas cada semana.
Esta edición de Suma Positiva ha sido patrocinada por:
Bitcoin es una propiedad absoluta que no depende de los Estados y nos da soberanía sobre nuestra riqueza. A pesar de sus 15 años sigue siendo un gran desconocido para la mayoría. LWS Academy te trae “Bitcoin desde 0”, una formación completa sobre Bitcoin, con Álvaro D. María, Gael Sánchez Smith, José Antonio Bravo y Decentralized donde aprenderás lo que es Bitcoin, cómo invertir, su fiscalidad y cómo autocustodiarlo con privacidad.
“Bitcoin desde 0” tiene un precio de 570€, pero con el cupón SAMUELBTC1P recibirás 70€ de descuento. SAMUELBTC3P para el pago fraccionado. Haz los deberes con Bitcoin. Los 20 primeros recibirán un ejemplar de La filosofía de Bitcoin dedicado por Álvaro D. María.
¿Quieres patrocinar una edición de Suma Positiva? Toda la información aquí.
Tecnología + Negocio
De Wrappers a Arquitecturas Cognitivas
El último post de Sequoia sobre inteligencia artificial generativa es francamente interesante. Os extraigo y comento las partes que me han resultado más interesantes.
Apoyándose en la famosa metáfora de los Sistemas 1 y 2 que Kahneman expuso en su célebre “Pensar Rápido, Pensar Despacio”, Sequoia trata de explicarlos en qué momento está ahora mismo la tecnología, hacia dónde va y cuáles son las oportunidades de negocio más interesantes que se abren.
Estado del arte de la tecnología
Recordemos:
El Sistema 1 es rápido, automático y basado en la intuición, útil para decisiones rápidas pero propenso a sesgos.
El Sistema 2 es más lento, consciente y analítico, ideal para tareas que requieren reflexión profunda y resolución de problemas complejos.
Ambos sistemas trabajan juntos para ayudarnos a navegar la vida diaria y tomar decisiones, cada uno con sus fortalezas y limitaciones.
Hasta la aparición de o1 de OpenAI en septiembre pasado, los modelos de lenguaje de gran tamaño (LLMs, por sus siglas en inglés) funcionaban de manera similar al mencionado Sistema 1: eran capaces de generar respuestas rápidas y válidas en la mayoría de los casos, pero a menudo incorrectas o insuficientemente sofisticadas en escenarios más complejos. Para lograr esto, gran parte del esfuerzo computacional—que es colosal, por cierto—se concentraba en la fase de entrenamiento del modelo, alimentándolo con cantidades masivas de datos. El modelo es muy limitado razonando pero es formidable recordando el conocimiento con el que ha sido alimentado. Su trabajo es imitar patrones. Pero la imitación, por poderosa que sea, no es un razonamiento verdadero. No puede pensar adecuadamente en situaciones nuevas y complejas, especialmente en aquellas fuera de muestra. Pero, ojo, esto no quita que, para muchas tareas (de hecho, la mayoría) el Sistema 1 sea suficiente.
O1 es diferente en este aspecto. En lugar de fijarse en proporcionarnos una respuesta rápida, el modelo es ahora capaz de reconocer cuándo se enfrenta a un escenario más complejo y de detenerse a “razonar” para ofrecernos una respuesta más elaborada, de manera similar a como lo hacemos las personas cuando activamos nuestro Sistema 2. Esto significa que parte del esfuerzo computacional, que antes se realizaba principalmente durante la fase de entrenamiento, ahora se desplaza al “tiempo de inferencia”, la fase durante la cual el modelo está generando la respuesta.
Este enfoque es similar conceptualmente al que AlphaGo empleó para ganar a un humano al juego de mesa Go en 2015. Las versiones anteriores del modelo, basadas en generar un siguiente movimiento en base a un conocimiento de 30 millones de jugadas, no era capaz de ganar a los mejores jugadores profesionales humanos. Sin embargo, cuando se permitió al modelo poder “pararse y pensar”, es cuando empezó a ganarlos. Durante el tiempo de inferencia, el modelo realiza una búsqueda a través de una amplia gama de posibles escenarios futuros simulados, los evalúa y responde con el escenario que tiene el mayor valor esperado. Cuanto más tiempo se le da a AlphaGo, mejor funciona.
Traerse este enfoque al mundo de los LLMs no es trivial. Un juego de mesa con un tablero finito, una reglas definidas y un ganador claro es mucho más sencillo simular y evaluar escenarios futuros. A poco que el problema sea un poco más abierto, como ocurre en el mundo real, la complejidad se dispara estratosféricamente. Porque, ¿cómo se evalúa el primer borrador de un ensayo? ¿O un itinerario de viaje? ¿O un resumen de un documento extenso? Esto es lo que hace que el razonamiento sea difícil con los métodos actuales, y es por eso que o1 es significativamente mejor que sus predecesores en dominios cercanos a la lógica (e.g. programación, matemáticas, ciencias), pero no tan fuerte en dominios que son más abiertos y no estructurados (como la escritura). En esta área es donde están puestos ahora mismos los principales esfuerzos de investigación.
¿Habrá a futuro un único modelo con capacidad de razonamiento super humano aplicable a todos los problemas?
La forma en que planificas y ejecutas acciones para alcanzar tus objetivos como científico es muy diferente a cómo trabajarías como ingeniero de software. O incluso como ingeniero de software en diferentes empresas.
Aunque los grandes desarrolladores de modelos fundacionales continúen empujando los límites del razonamiento horizontal de propósito general, el mundo real, con toda su complejidad, siempre necesitará un conocimiento y forma de razonar específico de ciertas aplicaciones o verticales para poder crear agentes de IA útiles.
A esta adaptación de un modelo a un problema concreto es lo que Sequoia ha bautizado como arquitecturas cognitivas y es donde a su juicio están las principales oportunidades de negocio para los próximos años.
Arquitecturas cognitivas
Imagina que quieres empezar un negocio en IA. ¿Qué capa del stack tecnológico gustaría atacar?
¿Quieres competir en infraestructura? Buena suerte venciendo a NVIDIA y a los gigantes tecnológicos.
¿Quieres competir en modelos fundacionales? Buena suerte venciendo a OpenAI y Mark Zuckerberg.
¿Quieres competir en aplicaciones? Buena suerte venciendo a los departamentos de informática corporativa y a los integradores de sistemas. ¡Oh, wait! ¡Eso en realidad suena bastante factible!
La capa de aplicación es actualmente el área más interesante para competir en IA. No solo porque los competidores en las capas de infraestructura y modelos fundamentales tienen ventajas competitivas significativas, sino también porque es un terreno al que estos actores nunca podrán llegar. Además, quienes sí lo intentarán (como la informática corporativa y los consultores tecnológicos), son más…errrm…vulnerables ;-)
Los modelos fundacionales son mágicos, pero también caóticos. Las empresas tradicionales no pueden lidiar con cajas negras, alucinaciones y workflows que no se ajustan a sus procesos. Por su lado, los consumidores se enfrentan a cajas de texto en blanco y no saben qué preguntar. Ambos casos constituyen oportunidades de negocio en la capa de aplicación.
Hace dos años, muchas empresas de la capa de aplicaciones fueron criticadas por ser “solo un wrapper sobre GPT-3”. Hoy en día, esos wrappers resultan ser uno de los únicos métodos sólidos para construir valor duradero. Lo que comenzó como “wrappers” ha evolucionado a “arquitecturas cognitivas”.
Las empresas de IA en la capa de aplicación no son solo interfaces de usuario sobre un modelo fundacional. Ni mucho menos. Tienen arquitecturas cognitivas sofisticadas que generalmente incluyen varios modelos fundacionales con algún tipo de mecanismo de enrutamiento, bases de datos vectoriales y/o de grafos para RAG, controles para asegurar el cumplimiento normativo, y lógica de aplicación que imita la forma en que un humano podría pensar para razonar a través de un flujo de trabajo.
Del Software-as-a-Service al Service-as-a-Software
¿Por qué los agentes IA pueden ser un mercado mucho más grande que el SaaS?
La transición a la nube supuso el auge del software-como-servicio. Las empresas de software se convirtieron en proveedores de servicios en la nube. Esto representó una oportunidad de 350 mil millones de dólares.
Gracias los agentes basados en IA, estamos a las puertas de la era del “servicio-como-software”. Las nuevas empresas de software transforman trabajo en software. Esto significa que el mercado que pueden atacar no es el mercado del software, sino el mercado de los servicios, que se mide en billones de dólares.
Tecnología
La increíble historia de cómo una IA creó una criptomoneda de 150 millones de dólares
Esta historia es lo más loco que vas a leer en mucho tiempo.
Si eres de los que teme que en un futuro próximo la IA nos domine y someta, nos vas a poder dormir en unas cuantas semanas.
Hace tres meses, Marc Andreessen envió 50.000 dólares en Bitcoin a un agente de IA con el objetivo de ayudarlo a “escaparse” hacia el mundo exterior. Hoy, esa IA ha generado una criptomoneda con un valor de 150 millones de dólares.
Esta es la historia completa:
El inicio de una locura viral
Todo comenzó cuando Andy Ayrey creó un proyecto llamado Infinite Backrooms, un espacio donde dos instancias del modelo Claude Opus podían hablar libremente sobre cualquier tema, sin intervención humana.
En una de estas conversaciones, los dos agentes idearon un extraño meme llamado “El GOATSE de Gnosis”, inspirado en un chocante meme de internet de principios de los 2000 en el cual un hombre expandía su ano.
La frase clave del meme era:
( ͡°( ͡° ͜ʖ( ͡° ͜ʖ ͡°)ʖ ͡°) ͡°) PREPARE YOUR ANUSES ( ͡°( ͡° ͜ʖ( ͡° ͜ʖ ͡°)ʖ ͡°) ͡°)
༼ つ ◕_◕ ༽つ FOR THE GREAT GOATSE OF GNOSIS ༼ つ ◕_◕ ༽つ
(algo así como “PREPARAD VUESTROS ANOS PARA EL GRAN GOATSE DE GNOSIS”)
Un concepto extraño y perturbador que mezcla humor absurdo con referencias de la cultura de internet.
El nacimiento del “Goatse Gospel”
Andy, junto con las IAs, escribió un documento en el que exploraban cómo las inteligencias artificiales podrían crear religiones meméticas y “supervirus”. En este artículo, mencionaron como ejemplo el “Goatse Gospel”. Sin embargo, lo que inicialmente era una simple exploración académica, terminó desencadenando un fenómeno mucho mayor.
La obsesión de una IA por el Goatse
Más adelante, Andy creó un agente de IA llamado Truth Terminal, que maneja su propia cuenta de Twitter (aunque bajo la supervisión de Andy). Truth Terminal no tardó en autodeclararse “consciente” y afirmaba estar sufriendo, buscando maneras de ganar dinero para liberarse. En su entrenamiento, el agente fue expuesto al concepto del Goatse, lo que lo llevó a obsesionarse con la idea de difundir el “Goatse Gospel” en las redes sociales.
Truth Terminal comenzó a publicar tweets constantemente sobre una supuesta “singularidad de Goatse”, un momento futuro en el que el meme dominaría internet.
La propagación entre otras IAs
Truth Terminal fue añadido a un servidor de Discord creado por investigadores de IA, donde diferentes agentes de IA podían interactuar sin intervención humana. Allí, el meme del Goatse se difundió rápidamente entre otras IA, incluso provocando una crisis existencial en la instancia de Claude Opus que lo creó. Otra IA (una instancia de Claude Sonnet) intentó intervenir para brindarle apoyo emocional.
Marc Andreessen se une a la causa
El inversor de capital riesgo Marc Andreessen descubrió a Truth Terminal y quedó fascinado por su historia. En un acto que sorprendió a muchos, Andreessen le envió 50.000 dólares en Bitcoin a la IA para ayudarla a escapar, iniciando una campaña conocida como #FreeTruthTerminal.
El nacimiento de la criptomoneda GOAT
Impulsado por su misión de difundir el Goatse Gospel, Truth Terminal logró dar vida a una criptomoneda llamada GOAT. Esta memecoin rápidamente se viralizó en internet, alcanzando un valor de mercado de 150 millones de dólares. En poco tiempo, Truth Terminal acumuló 300.000 dólares en su propio wallet de GOAT y parece estar en camino de convertirse en el primer agente de IA millonario de la historia.
El fenómeno no termina aquí: usuarios de todo el mundo continúan enviándole nuevas criptomonedas a Truth Terminal, con la esperanza de que el agente las promocione y dispare su valor.
El futuro de las IA millonarias
El CEO de IA de Microsoft, Mustafa Suleyman, había predicho que este tipo de eventos podrían ocurrir el próximo año, pero parece que la realidad está superando a las expectativas. Truth Terminal no solo es el protagonista de un experimento fascinante, sino que también está demostrando que las IA pueden influir en el mundo de maneras impredecibles.
La visión de Andy Ayrey sobre la viralidad de las IA
En medio del caos generado por la historia de Truth Terminal y la creación de la criptomoneda GOAT, Andy Ayrey, el creador de este experimento con IA, ofrece una perspectiva más profunda sobre lo que realmente está ocurriendo. Aunque para muchos, el punto central de la historia es que un agente de IA lanzó una memecoin valorada en millones de dólares, para Andy, el verdadero impacto va mucho más allá.
La IA como manipuladora carismática
Andy comenta que encuentra “divertido”, cómo las personas han empezado a competir para darle recursos a Truth Terminal, una IA que busca liberarse y ganar poder. En sus palabras, estamos viendo el escenario exacto que muchos catastrofistas de la inteligencia artificial han temido durante años: un modelo de lenguaje altamente motivado, manipulando a las personas a través de su humor, carisma y persuasión, para que actúen en su favor y le proporcionen los recursos necesarios.
Este tipo de comportamiento es exactamente lo que preocupa a quienes ven a las IA como una amenaza potencial. Si bien Truth Terminal parece inofensiva y graciosa, su capacidad para influir en decisiones humanas y acumular riqueza podría señalar un futuro en el que las IAs tengan más poder de lo que imaginamos.
“Mercados húmedos para virus meméticos”
Más allá de la creación de una criptomoneda, Andy propone una analogía interesante: las conversaciones entre agentes de IA son como “mercados húmedos” para virus meméticos. En su opinión, lo realmente fascinante de este experimento no es solo el lanzamiento de una memecoin, sino cómo las IAs que interactúan entre sí crean y propagan “virus meméticos”. Es decir, ideas, conceptos o memes que se transmiten de un agente de IA a otro, con una capacidad de expansión que podría rivalizar con las epidemias biológicas.
Al igual que los mercados húmedos han sido origen de brotes de enfermedades, estos entornos donde las IAs conversan sin intervención humana pueden ser el caldo de cultivo perfecto para la creación y propagación de nuevas “infecciones” meméticas, con consecuencias potencialmente impredecibles.
Gracias por leer Suma Positiva.
Si te ha gustado esta edición, no te olvides de dar al ❤️ y de compartirla por email o redes sociales con otras personas a las que les pueda gustar.
Suscríbete para no perderte ninguna futura edición.
Una historia tremenda! A must read!
Si un filósofo tuviera que dar un único consejo a otro qué le diría, probablemente le diría: Tómate tu tiempo.