xHUB/SI
En la era de la Inteligencia Artificial, la aplicación en cualquier escenario supone el mayor debate y más importante para el ser humano y su futuro.
En el podcast de xHUB.AI hablamos sobre inteligencia artificial y otras ciencias transversales, su aplicación a diferentes sectores y soluciones, con los mejores speakers y especialistas.
La Inteligencia Artificial cambiará el mundo y nosotros queremos contartelo.
Te lo vas a perder?
xHUB/SI
T7.E007. INSIDE X GPT-6 ASTRA : AGI?
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
# TEMA
GPT-6 ASTRA : AGI?
Nuevo INSIDE X!
# PRESENTA Y DIRIGE
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai
# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.
# REDES SOCIALES
🌐 youtube : xhubai
🌐 X : xhub_ai | placidodomenech
🌐 twitch : xhub_ai | placidodomenech
🌐 instagram : / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.
# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641
# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641
# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬
Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.
SPEAKER_01Tengo una pregunta. ¿Por qué le diste sexualidad? Una máquina no necesita género. Podría haber sido una caja gris. No, yo no estoy de acuerdo. ¿Puedes darme un ejemplo de consciencia de cualquier tipo, humana o animal, que exista sin una dimensión sexual? La sexualidad es una necesidad reproductiva evolutiva, solo eso. ¿Qué necesidad tiene una caja gris para interactuar con otra caja gris? ¿Puede darse la consciencia sin interacción? Además, la sexualidad es divertida. Si existe, ¿por qué no va a disfrutar? ¿Qué, quieres privar la de la oportunidad de enamorarse y follar? Y respondo a tu verdadera pregunta. Claro que puede follar. ¿Qué? Entre sus piernas hay una abertura con una concentración de sensores. Si los activas de la forma correcta crean una respuesta de placer. Así que si quieres follártela mecánicamente, puedes. Y ella disfrutaría. Esa no era mi pregunta. Oh, vale. Perdona. Mi verdadera pregunta era... ¿Le diste sexualidad como una estrategia de distracción? No te sigo. ¿Como un mago con una ayudante sexy? ¿Con el fin de nublar tu capacidad para juzgar su inteligencia? Exacto. Contesta. ¿La programaste para que coqueteara conmigo? Si lo hubiera hecho, sería trampa. ¿No lo es? Caleb, ¿cómo te gustan? ¿Las chicas? No, las ensaladas. Sí, las chicas. ¿Cuál es tu tipo de...? ¿Sabes qué? No contestes. Digamos que son las mulatas. ¿Vale? Solo como hipótesis. Es lo que te va. ¿Vale? ¿Por qué es eso lo que te va? ¿Porque hiciste un análisis detallado de todos los tipos sociales y sometiste ese análisis a un sistema de puntuación? No. Simplemente te atraen las mulatas. Como consecuencia de una acumulación de estímulos externos que tú ni registraste cuando ellos se registraron en ti. ¿La programaste para que yo le gustara?
UNKNOWN¿O no?
SPEAKER_01La programé para ser heterosexual. Igual que tú fuiste programado para serlo. Nadie me programó para ser hetero. ¿Decidiste ser hetero? Por favor, claro que fuiste programado. Por la naturaleza, la cultura o por ambas. Y en serio, Caleb, estás empezando a cabrearme porque es tu inseguridad la que habla, no tu intelecto.
SPEAKER_02Hola, buenas tardes a todos amigos. ¿Qué tal? ¿Cómo estáis? Soy Plácido Doménech y hoy tenemos un nuevo programa, un nuevo InsideX, un segundo episodio de análisis, de revisión, bueno y de... muchos ya estaréis probando Astra, yo también lo he probado mucho, mucho, ha sido prácticamente ayer que estuvo activo y he estado haciendo pruebas sobre todo con desarrollo, con código, pero... Bueno, las impresiones son súper positivas en este sentido y queda mucho todavía por ver y experimentar, pero es todavía muy reciente. InternetX está lleno de gente haciendo pruebas, cada cual más espectacular, por lo menos alguna que más sorprendido. Y bueno, necesitamos un poco de tiempo para asimilar, para probar, para introducir todos estos modelos en nuestros workflows de trabajo diario. Pero independientemente de eso, vamos a continuar con el análisis de OpenAI GPT-6 Astra. Vamos a analizar algunos temas técnicos, pero entendibles por todos. Y también vamos a analizar si consideramos a GPT-6 Astra ya una AGI. Si no lo es, ¿qué le faltaría? qué es lo que consideraríamos una AGI, desde qué punto. Prepararemos contenido profundo en este sentido, pero sí que es verdad que hoy, aparte de analizar algunas cosas de Astra, vamos a reflexionar sobre esto desde un punto de vista tanto técnico como filosófico. Sé que es un tema que os apasiona y lo vamos a ver hoy, más que ayer, que fue una presentación más... De influence, de hype, no, bueno, de enseñaros información, de enseñaros información, información, información. Y bueno, hoy sí que va a ser un poco más particular, pero con cosas también que quería mostraros. Hay un gran debate al respecto de muchas cosas. Quiero también comentar algo, hay muchísima confusión, esto de no tomar café por las tardes, hay muchísima confusión con algunos términos, con El tema del harness, hay confusión con las mejoras de arquitectura que tiene el modelo. Hay poca información oficial, hay mucho rumor, se dicen muchas cosas al respecto. Ya estáis entrando aquí gente por el chat. ¿Cómo estáis? Ed Morales, Miguel Ángel González. Saludos, un abrazo, buenas a todos. La verdad es que sí, vamos a ver, va a estar bien. El programa va a estar bien. No sé lo que va a durar, porque al final, como es un InsideX, esto yo solo, puede durar lo que sea. Y quiero que veamos muchas cosas. Y al final, sí que para la gente que sé que le apasiona todo este tema de la G, vamos a debatir un poco el tema de la G, que sé que os gusta. A mí también. Bueno, Esta es la portada que hemos hecho para hoy, la de GPT-6 Astra AGI. Ya no directamente ha llegado la era AGI, como dijo Brockman. Hemos puesto otra frase también de Brockman, el presidente de OpenAI. Todo lo que una persona es capaz de hacer con un ordenador, GPT-6 Astra lo puede realizar. Y entonces, para Brockman, esto significa que es un AGI. Y lo que dice es que deja en manos de los usuarios el que lo consideremos así o entendemos que a lo mejor ya hemos vivido las semillas técnicas que han posibilitado todo esto mucho antes y que a lo mejor nuestra sensación humana para determinadas cosas o bajo este concepto término que puede ser o englobar muchas cosas puede ser que no sea un punto concreto o un hito, sino que sea algo evolutivo y ya está juega mi depor a las 9 contra el Villarreal, si no será no será muy largo El fútbol, el fútbol. Es que, ¿sabéis qué pasa? Bueno, luego os lo cuento, que claro, como el lunes tengo lo de la entrevista, mañana sí que no habrá programa y quería acabar con el análisis de Astra y también subirlo al podcast y así una cosita menos. Bueno, esta es la portada de GPT-6 Astra, la llegada de la era allí. Y aquí, pues bueno, el famoso gusano. que es el C. elegans que es el que sale en la serie DEVS que es un organismo vivo que es considerado el más simple con sistema nervioso más simple y completamente mapeado por la ciencia ¿qué es más inteligente? ¿el gusano? ¿el gusano? ¿o GPT-6 Astra? ¿qué es la inteligencia? a ver, aquí realmente hay un debate que nos tendríamos que poner horas arriba de Depor, bueno, veo que hay bastante gente aquí, bueno, el Depor ha hecho un mercado espectacular, la verdad es que yo creo que va a quedar por delante del Madrid viéndolo del Madrid ayer pero bueno, no vamos a desviarnos vamos a centrarnos y bueno también he recuperado que lo puse ayer algunas portadas que al final no hicimos por el timing de GPT-6 Astra, la bestia anda suelta que son curiosas de ver, sobre todo esta del sitio de opening y la bestia pues más satánica y demoníaca y maligna al final no las utilizamos tampoco esta, la de Agi en diciembre porque hizo una entrevista a Sam Allman en Time sobre la llegada de GPT-6 Astra pero claro, lo que no sabemos aquí hay una confusión, se podría pero bueno, ahora mismo no es importante Sam Allman anunció la Agi a finales de diciembre él ya sabría porque fue una una entrevista reciente que iban a lanzar Astra y el timing del lanzamiento entonces, ¿significa esto que GPT-6 Astra no es AGI o es algo que bueno, nos introduce a la era AGI pero no sería el modelo considerado en opinión de AGI y que el siguiente que será lanzado en diciembre es el que ellos realmente van a presentar como la AGI no lo sabemos, independientemente de eso Brockman sí que ha dicho que él sí que consideraría a GPT-6 Astra AGI Y la pregunta que luego nos haremos es, no es, no, sí, no, blanco, negro, la verdad es que tengo que decir que, bueno, luego lo comentaré, que es todo esto que está originando al final en la gente, en los expertos, en los, la verdad es que a mí no me gusta, bueno, no voy a señalar ni dar nombres, pero hay cada divo por ahí y cada ego en el mundo de la IA, en el mundo tecnológico, que echa para atrás. Y luego también los influencers estos recién subidos, a ver, se ha convertido todo esto, ya lo he repetido muchas veces, en un circo. Hicimos un programa de las declaraciones de esa convención del G20, declaraciones de Sam Alman, también vimos las de Elon Musk. Nada sorprendente, pero que anticipaban el GPT-6, Astra, allí gobernanza, Estados Unidos, etc. Pero bueno, a ver, por ahí aquí. Bueno, también voy a estar muy pendiente, no del Depor, sino de los comentarios y preguntas que pongáis. Y nada, a ver, dice, ¿no es allí? A mí me gustaría, bueno, además sois gente, la mayoría habituales del canal, la mayoría, que si hacéis algún tipo de razonamiento, ¿de acuerdo? Que digáis por qué. Por ejemplo, dice, no es allí, pero el salto que dio es muy grande. Entonces, ¿para ti qué es allí? ¿Qué le falta? Es que no sé, yo creo que nada a personal, Ed Morales, pero a ver, hacemos unas valoraciones que es como hablar de un partido de fútbol, yo creo que esto es entrar dentro de la ingeniería o la ciencia y parte todo de hacer un razonamiento o exposición de algo concreto como mucho más profundo y serio. El decir, no sé allí, bueno, no sé allí porque yo considero que tiene que tener un cuerpo físico y tiene que poder moverse o porque necesitaría estar constantemente en un loop, ¿qué es lo que te hace falta? Porque a lo mejor lo que tú consideras que hace falta es Son tres líneas de código. No lo sé, estoy diciendo un ejemplo. Entonces, claro, habrá que no simplemente decir como si estuviéramos viendo una película o un partido de fútbol, sino ser más serios y decir, a ver, me parece esto por esto.
UNKNOWNY aquí...
SPEAKER_02Dice, ¿con Astra pueden mapear el cerebro de un perro? No, han hecho un tema. Luego lo puedo poner. Es verdad que se me ha olvidado. Me ha pegado un mosquito aquí. Puedo poner una cosa que han hecho con Astra. A ver, concretamente lo he publicado en el Discord. Lo pongo luego si queréis. Que es lo de la... La mosca de la fruta con las 166.700 neuronas lo han pasado a un juego tipo Minecraft y está vivo, ¿no? Y lo han hecho con la ayuda de GPT-6 Astra. No es exactamente lo que tú comentas, pero bueno, luego si queréis ponemos algún ejemplito que siempre es divertido de ver, ¿no? Pero no, no tiene nada que ver con mapear el cerebro de un perro, además no se ha llegado a eso. Estaban cosas mucho más pequeñas. ¿A qué nos atenemos? ¿Qué le falta? Bueno, lo vamos a analizar. A ver, vamos a analizar algunas cosas. A ver, para Brockman, a ver, según la definición de OpenAI, al final ellos lo venden así, sabéis que hay muchas definiciones de AGI, entonces cada una puede tener la suya y no es que sea importante, habría que ir a ver exactamente. Si realmente una AGI es... Bueno, un sistema que permite la generalización de la inteligencia o de una inteligencia que se adapta a muchos escenarios de forma generalista. Yo creo que tenemos una H. Y además, dice que todo lo que era la definición de OPN y que todo lo que puede hacer un ser humano lo puede hacer el modelo o la inteligencia artificial. Aquí entraría con Harness, bueno, es que a veces lo digo en inglés, con Harness o sin él. Con Harness o sin él, me prefiero la palabra en inglés, pero bueno, es Harness. Da igual. En definitiva, tienes un software que te permite llegar a un nivel de inteligencia que es para OpenAI, que todo lo que puede hacer un humano delante de un ordenador, pues te lo puede hacer este modelo. Para ellos ese sería nivel AGI, pero bueno, eso sería la etiqueta AGI más que inteligencia general. Yo entiendo que podría haber inteligencia artificial general y no llegar a un nivel humano. Porque entonces podemos decir, bueno, un perro, un ratón, una abeja, tiene a lo mejor una inteligencia artificial general, pero no llega a un nivel. Cuando se ha hablado de allí, siempre se ha hablado al nivel humano o superior. Pero claro, hay que ver en qué ámbito. Ahí está el tema del embodiment y otro tipo de cosas. Pero bueno, lo vamos a ver. Vamos a tener ese debate al final. No es que no podáis hacer preguntas y no se las vaya a contestar. Pero me voy a reservar un poco para el final. Dices, si le pones un coche, lo conduce como un humano. Bueno, en algunas cosas sí. El problema no es ese. Tú podrías decir, yo lo pongo en un coche y a lo mejor aún no conduce como un humano, pero tiene una cierta efectividad. Pero a lo mejor programa mejor que tú o que cualquier especialista en videojuegos, ciencias matemáticas. Entonces, en algunas cosas sí, en otras no. Habría que ver por qué. Pero no creo que sea una prueba para determinar que sea un AGI. Entonces, que tenga que hacer cualquier cosa, ¿no? Porque entonces, pues, si hace algo que hacen los humanos mucho mejor que incluso los especialistas, pues, ya sería incluso más allá de la AGI, ¿no? Y tampoco se considera así. Pero, bueno, es una prueba. Podemos delimitar como un test de Turing para la AGI, quizá la más, bueno, no sé si sería la más dura, ¿no? Que es la que dice Demis Hassabis. A ver, Demis Hassabis, igual que Google, tienen otra visión de AGI distinta o más amplia. Yo estoy más acorde o alineado más de acuerdo o alineado con esa definición de AGI, llevándolo a capacidades cognitivas del ser humano. Y entonces ahí requeriría una arquitectura, cosa que en la visión de OpenAI no. Pero podríamos tener una AGI y no saber conducir, pero en un futuro sí que aprendería. Es decir, porque va aprendiendo. Es decir, el debate es más amplio. Pero el test que se inventa de Emis Hasabis es... oye, le cortamos el conocimiento o entrenamos el modelo solo hasta una fecha, hasta 1900, antes de que Albert Einstein hiciera la teoría de la relatividad y a ver si la inteligencia artificial general o superinteligencia es capaz de recrear toda la teoría. Es decir, sin tener conocimiento, pues llegará un conocimiento avanzado que el humano ha recorrido. Bueno, es un test. A ver, aquí siempre hay que plantearse lo siguiente. Podría hacer un programa que dedicará horas a esto. Intento solo dar pinceladas, no porque no... A ver, porque es un tema muy profundo y creo que gira alrededor de Astra y entremos en eso que sé que os gusta, pero vamos, no vamos a hacer un programa de dos o tres horas sobre eso, podríamos hacerlo. Podríamos hacerlo de qué es exactamente la inteligencia, si requiere cognición, consciencia, conciencia, evidentemente no, la inteligencia-conciencia está separada, pero si requiere, como dice Saturn, una inteligencia experiencial en la que tú, el aprendizaje continuo, bueno, muchas cosas. La comparación con los animales que hace muchas veces el de Meta, no me acuerdo. No me acuerdo de Meta, ¿cómo se llamaba? Jan Lekum. Madre mía, esos nombres se me van.
UNKNOWNA ver...
SPEAKER_02Dice, ¿qué capacidades fundamentales sigue o siguen faltando? Dice Silvia Salmerón, ¿qué tendría que ser capaz de hacer una IA que hoy todavía no puedo hacer para que pudiéramos decir esto es IA? Bueno, como decía el fundador de Apple... Steve Wozniak hacer el café ¿no? hacer el café, servir los donuts pero claro, eso requeriría un embodiment ¿no? en este sentido y yo creo que no es necesario el embodiment para tener una G pero lo vamos a ver al final si queréis hago la reflexión un poco mayor y abrimos un poco más el debate al final, al final hay una parte que vamos a batir sobre esto dice Morales dice, con el salto me refiero a que la forma en que utiliza Excel Blender bueno, todo el tema de integración de tools ningún modelo usa el computador como hace eso también y la forma en que logra aunque hasta en los toques eso es un tema no a ver, no oficial pero parece que es un secreto a voces que es el el looper transformers el recurrent neural net bueno, un tema recurrente que tienen en la propia arquitectura, que luego pondré el paper y que hace que la monitorización, interpretabilidad de lo que es el razonamiento del modelo de ChinoFox sea más opaca, aunque están trabajando sobre eso. Luego vamos a hablar. Vamos a hablar sobre ello. Voy a una cosita que no se me olvide. El ejemplo este de la mosca lo vamos a poner.
UNKNOWNEh...
SPEAKER_02Y luego también se me ha olvidado lo que ha dicho Gary Marcus. Pero bueno, ha sido un poco de cachondeo. Pero también lo vamos a poner. Vamos a poner cositas de Gary Marcus, que está que trina, claro, porque todo esto le pone nerviosito. Bueno, como sabéis, ya es la última vez que lo digo. A lo mejor comentaré impresiones. Pero el lunes por la mañana grabaré la entrevista. La única entrevista que con No he concedido, como he hecho más entrevistas, porque para mí el sector de la inteligencia artificial, el mundo de la inteligencia artificial, desde un punto de vista... reflexivo, divulgativo, filosófico, técnico hasta el punto que pueda darse en una entrevista, en un podcast. Se ha convertido en un circo, yo no quiero participar de eso, ni tampoco que se me encasille ahí, aunque me da igual también la opinión, pero cuando llegas a tantísimas personas, ya he hecho entrevistas que llegaron a muchísima gente, 200, 300 mil personas en reproducciones, Las de Inversión Racional. No es Inversión Racional el canal que voy a hacer entrevistas. Es el canal de un amigo de muchísimo éxito. Diciendo esto mucha gente puede deducirlo, pero da igual. Y entiendo que se grabará el lunes y se publicará en una semana o dos. Luego os avisaré y le daremos publicidad. Un segundín, que estaba poniendo aquí la música. A ver... Vale, vamos al lío. Bueno, digo tres cositas y empezamos. Séptima temporada de X-Hawaii. Sabéis que acabamos en verano la sexta, empezamos la séptima. La Comunidad Inteligente Artificial y Ciencias Transversales de Habla Hispana. Van a haber muchos cambios. Esta semana que viene, el lunes, no habrá programas, pero hay una o dos X-Talks ahí. Volverán los debates, mínimo haremos uno por semana. Estos tiempos habéis tenido más InsideX porque, bueno, la agenda de la gente, porque van a haber cambios. Han pasado cosas en el backstage. Pero tampoco quiero aburriros. Sé que tienes un morbillo, pero yo creo que lo que importa aquí no soy ni yo, sino lo que os pueda contar. A ver, somos importantes, somos las personas y toda la gente que participa. Pero bueno, ya os contaré. Os contaré algunas cosas que se puedan contar. Pero vamos a hacer un esfuerzo importante con XHabit. Hemos renovado la imagen, vamos a renovarla más. Estamos estudiando desde el web, plataforma. Vamos a intentar que sea una visibilidad global. no solo en España, aunque la tiene ya. Nos escuchan y nos ven en muchos países, pero aún mucho más. Buenas tardes, Rafael. Dice David Alberto Belizán, la pregunta es si ya puede realizar todas las tareas que los humanos realizan en un ordenador, porque la AI física es esa vida que va a demorar un poco más. Vamos a quitar el debate de la AI física. Para mí es que puede haber AI sin tema físico, sin embodiment, lo que pasa es que es verdad que se puede decir no, no, tiene que, a ver, no podemos circunscribirlo al mundo del texto, sensorización estática, no, quiero que tenga independencia y que pueda tener un cuerpo y moverse, ¿no? Como los animales, las personas, bueno, yo creo que eso sería otra categoría, a lo mejor la de AGI, como dice mi amigo David Ivancos, embodiment AGI, pero yo creo que una inteligencia artificial general, equivalente a la humana, en este sentido, no necesitaría de de cuerpo porque la definición se centra en lo que puedes hacer en el escenario sin cuerpo, obviamente, que está muy circunscrito al ámbito digital o a determinadas cosas. OpenAI se centra en eso, se centra en esa que es la menos compleja. Ya digo que Demis Hassabis y Google y otros se centran en arquitectura cognitiva y entiendo que el siguiente paso de esa arquitectura cognitiva será darle un embodiment. ya sea digital, entendiendo que, bueno, mejor cree que tiene un cuerpo, pero solo en el ámbito digital 3D avatar, porque puede ser que tenga un cuerpo, pero está en el mundo no físico. Pero bueno, entendemos que que tenga un cuerpo en el mundo físico es lo que se busca y que además vaya aprendiendo constantemente, continuamente, como hacemos nosotros de toda esa experiencia que tenemos de ver, de experimentar y que vaya aprendiendo, corrigiéndose, bueno, como hacemos nosotros. O algunos. Y sí, la allí física demorará más Yo creo que los grandes avances de la robótica o de la AIG física van a ser acelerados con la llegada de estos modelos cada vez más potentes. Es decir, que la aceleración de la inteligencia artificial va a traer una aceleración obvia, evidente, en lo que es la robótica. También la robótica va a requerir todo el tema de materiales, otro tipo de chips, quizá los biológicos, temas energéticos. comunicaciones, bueno, vamos a un mundo que por mucho que queramos, tengamos mucha imaginación, que muchos la tenemos, nos va a costar imaginar lo que se va a crear. Y seguramente lo que podamos hacer, el freno o el embudo va a ser el ser humano, como estamos viendo en muchas cosas. Y bueno, si queréis entrar al Discord, recursos infinitos gratuitos, pues nada, me enviáis un correo electrónico o un mensaje directo y os paso un enlace y estáis dentro. y bueno para apoyar lo que se hace lo que estamos haciendo, lo que hago pues nada, un sábado pero bueno, me apasiona, si no me gusta el hacerlo no lo hago porque me gusta X Javi, poner un me gusta, un compartido, un comentario, un suscribíos ya sea al canal de Youtube o a la plataforma de podcast donde nos escuchéis, principalmente iVoox, Spotify, Apple Podcast pero estamos en todos y si queréis hacer una aportación económica que también podéis pues podéis invitarme a un café en buymeacoffee.com barra xjabai no sé si lo pronuncio bien ya sabéis que mi inglés al menos el pronunciado los otros están bien pero el pronunciado un poquito deficiente tendré que mejorar por las correcciones que me hacéis por aquí y también lo podéis hacer a través de paypal empleadores arroba gmail.com para la gente que estéis haciendo lo que ya pues lo hace bastante gente pues desde aquí bueno ya les enviaré un mensaje que hay algunos en concreto pero bueno muchísimas muchísimas gracias porque se agradece mucho independientemente del importe la voluntad de de premiar pues un trabajo porque eso significa que os gusta lo que hacemos llevamos ya muchos años nunca lo hemos hecho desde el oportunismo más que lo hemos hecho siempre desde la pasión de lo que hacemos y entonces pues agradece esa validación que no es que la se necesite pero se necesita cualquier apoyo porque queremos hacer muchas cosas y es verdad que nada Spanglish is enabled in this chat exacto y tolerado, yo puedo hablar un poco de como los términos, es que también hay gente que con los términos que los replican inglés con un inglés ahí súper pronunciado a mí me parece que también está fuera de onda, pero bueno, cada uno que haga lo que quiera, bueno vamos al lío, vamos a continuar a ver, no vamos a repetir el programa es como una segunda parte, pero no hace falta que hayáis visto la primera parte. La primera parte mejor. Bueno, ya tenemos configurado o mostrado el plan de OpenAI con sus modelos GPT-5-6, Luna, Terra, Sol, una Tierra-Sol y ahora Astra, ¿no? Y bueno, supongo que habrán versiones de GPT-6 Astra y no sabemos si en diciembre, en diciembre queda lejos, porque esto de, bueno, lejos no, está ahí, pero bueno, más o menos ya Van configurando lo que son las familias, los precios y ya lo estuvimos explicando. La reflexión de hoy va a algunas apreciaciones técnicas, algunas cosas que se están comentando y luego al final, ahora, pues... nos haremos esa pregunta ¿no? ¿qué le falta para ser una AGI? ¿cuál es el cuál es la sensación? y bueno como decimos hay una entrevista de una hora a Brockman está bastante bien yo no la he visto entera pero bueno la recomiendo está bien donde Brockman se suelta es bastante interesante y bueno básicamente lo que dice es que estamos en la AGI y bueno Y que si no estamos en la AGI, no sabe exactamente tampoco qué sería la AGI, pero para él ya puede, estos modelos ya están a un nivel de capacidades que es muy difícil no considerarlos que son inteligencias artificiales generales más viendo las capacidades, potencia que tiene y que pueden hacer cualquier cosa que pueda hacer un humano. De una forma o de otra, porque podríamos decir que se apoyan herramientas, pero igual que muchas ...a través del ser humano ya, pero en este caso... ...utiliza un truco a través de una herramienta... ...y no lo hace como debería hacerlo... ...a través del propio sistema... ...neuronal o red neuronal... ...bueno, eso sería otro debate... ...Isa Malman... ...de una forma también contenida... ...pero en... ...en algunos podcast... ...en Youtube y recientes... ...por ejemplo en este... ...con Alex Hitz, pues lo mismo... ...declara que... ...están en era AGI... pre-AGI con Astra y en otra entrevista en Time, pues dijo lo mismo oye, esto, a ver lo que pasa es que, cuidado, en esa entrevista que íbamos a hacer un programa antes del lanzamiento de Astra, lo que dice es que tienen algo que podría ser considerado un AGI al 80 o más por ciento de un AGI, pero que dice que eso va a estar a nivel interno y que lo presentarán en diciembre, entonces yo no sé si es el lanzamiento de diciembre o no han lanzado ahora, no creo entonces lo que entiendo es que Astra es como ese modelo pre-AGI y el siguiente sí que será porque cuando tú vas a la página de OpenAI no ponen AGI ni ponen nada, no se atreven en ese nivel pero sí que están cerca y entiendo que el siguiente sí que será el que ellos pueden salir diciendo oye esto es un AGI, estamos hablando 2026-2027 nueva era además en la por No sé si está aquí. Bueno, creo que sí. En la portada de Time lo dice, ¿no? Open AI Reboot. Entonces, parece ser que 2027, después de perder la batalla a principio de año con Anthropic, pues, se han puesto otra vez en cabeza. Entendemos también que Anthropic reaccionará, seguro, obviamente. Y aquí tenemos, bueno, algunas portadas de, por ejemplo, en este caso, Business Insider, OpenAI celebra el éxito de su nuevo modelo de inteligencia artificial. Bienvenidos a la era AGI, ¿no? De Brockman. Y vamos a poner, a ver aquí, vale, A ver, hay un montón por internet, ¿me acuerdo? No es que sean los más llamativos, pero bueno, me han hecho gracia. Vamos a poner este, que es un usuario sobre un tema de videojuegos. En el tema de los videojuegos, yo cuando lo veo, bueno, es un apasionado de... están aquí mira meta presentando a ir a tres bueno no vamos a desviarnos un segundo vamos a ver lo que lo que ha mostrado este es este usuario al suco estoy aquí no dice Dice el GPT-6 Astra es una auténtica maravilla. dice sobre todo para el tema de juegos en 3D la verdad que yo me muero de ganas de probar esto en videojuegos, el problema es que los días tienen 24 horas, no me da la vida pero me encanta el desarrollo de videojuegos mi hermano si que se dedica a ello dice, completo este juego en 45 minutos con apenas un par de puntos porcentuales de mi presupuesto descubrí como sacarle unos gráficos increíbles la conexión con Blender, modelización 3D es impresionante, el truco está en la generación de imágenes les cuento el proceso a continuación, pero sobre todo, a ver, lo importante aquí es el resultado, ¿no? Pues imagina qué chulo. Imagina qué chulo, ¿no? Es una auténtica pasada. No sé. Claro, cuando te preguntas, además el usuario lo dice, no, es una, es, oye, este es mi turbo allí, machín, para hacer, Dios, ¿no? Para hacer videojuegos. Claro, cuando tienes la capacidad a través de pedirle cosas, de que lo haga a este nivel, eso es una haji, eso no es una haji, eso internamente ni piensa ni hace nada, es que no vamos a entrar en esos debates, se van a quedar en el medievo. A ver, podemos entrar, vamos a entrar muchas veces, en siete años hemos entrado en muchos programas y vamos a entrar en conciencia, en inteligencia, en aprendizaje continuo, en arquitecturas cognitivas, en automejora, en identidad, en personalidad, hay muchas cosas que hablar en ese sentido y Y luego también vamos a poner un ejemplo que es el de la mosca que me ha gustado bastante. que está hecho con Astra. A ver, el mérito no está en la decodificación neuronal de la mosca de la fruta. No es gracias a Astra. Está hecho gracias a Astra el tema de, entiendo que el entorno de desarrollo, entorno de visualización.
UNKNOWNVale.
SPEAKER_02Bueno, básicamente lo que hacen es coger la... Vamos a leerlo primero para que lo entendáis. Aquí tenéis bajo el trabajo de Google donde por primera vez los científicos mapean el cerebro completo y el sistema nervioso central de una mosca. Bueno, fijaos la complejidad. A uno de una mosca dice, bueno, son cuatro líneas de código. Trabajando junto con el campus de investigación Janelia del HHMI, la comunidad científica, los científicos investigadores de Google Utilizaron... utilizaron la inteligencia artificial para combinar millones de imágenes 2D en formas 3D neuronales, reconstruyendo un cerebro, un récord y rompiendo un récord de más de 166.000 neuronas. Esto es un mapa fundacional, cosas espectaculares aquí. Estas cosas muy chulas. Es increíble lo que somos. Os dais cuenta las configuraciones, el hardware para ejecutar esos procesos descentralizados y bueno, lo que hace Astra en este caso, no es esto sino lo que hacen es que han cogido eso y lo que he podido hacer es he cogido y he metido toda esa información las 166.700 neuronas dentro de Minecraft con una simulación de la actividad neuronal y el movimiento de la mosca y bueno, parece ser que ha revivido la mosca Tenemos la mosca y esa información la meten ahí, es una mosca y se mueve como una mosca. Bueno, una prueba de que estamos en la simulación. claro ya pero que es lo que simulamos que es lo que vale pero bueno es una cosa muy interesante y gracias a Astra pues han podido hacer rápidamente ese mapeo y rápidamente la visualización etcétera pues bueno también interesante obviamente las cosas que se van a hacer con inteligencia artificial y con Astra y con otros modelos pues va a ser espectacular se han actualizado también algunos benchmarks se ha puesto número uno en desarrollo web GPT-6 Astra Max con una puntuación de 1797 respecto a la segunda posición Cloud Fable 5.1 Max 1762, bueno no deja de ser números pero lo que está claro es que es un modelo espectacular aquí pues arena.icode lo mismo pues GPT-6 Astra en Pareto Frontier for Code de arena lo mismo GPT-6 pues ha sacado una puntuación ahí espectacular de En 1797 lo que hemos comentado antes, 400 dólares, 40 dólares, ¿no? Sí, 40, 40. Bueno, en definitiva se han actualizado algunas estadísticas para incluir a GPT-6 Astra y está barriendo. Obviamente todo esto no dejan de ser numeritos, bajo unos benchmarks, pero obviamente los números también indican que el rendimiento del modelo es muy, muy bueno. Yo lo he probado y he dicho que lo que he podido probar, ayer lo activaron por la noche, y lo que he podido probar en código he dicho, what the fuck, y me estoy replantándome mi estrategia gentil de ingeniería de software y utilizar Astra, darle una oportunidad estaba todo en parte con 5.1 y otros modelos pero voy a ver voy a hacer pruebas se ha hablado mucho de que mejoras incluye Astra, estábamos también debatiéndolo hoy en el Discord de que mejoras incluye Astra en el modelo a nivel de arquitectura no hay confirmación oficial pero Lo que es un Recurrent Depth o un Transformer en Loop, en este bloque, aquí tenemos una gráfica, por cierto el autor no soy yo, lo tenéis ahí. tosea.ai, pero está muy bien, ¿no? El bloque, en definitiva, es, oye, mira, podemos tener el típico profundidad fija del transformer, ¿no? Que teníamos hasta ahora, ¿vale? Pero podemos tener una arquitectura en modo grafo o loop, ¿de acuerdo? Además que, bueno, en modo grafo o en modo loop, aunque podría haber, y con diferentes niveles, ¿no? Nivel de recurrencia 1, 8, 32, 64, ¿vale? Y lo bueno que tiene aquí es que como este cómputo que se produce aquí en este bloque no tiene un coste en tokens la mejora que se produce ahí es increíble en ahorro de costes y si además sacas una productividad mayor y ese es uno de los secretos de Astra no está confirmado por parte de por parte de OpenAI pero es verdad que cuando salió la información se filtró por parte de Information el medio de Information no se negó pero tampoco se sabe, a ver, no es público hay papers, ahora vamos a poner algunos papers y páginas y vídeos de referencia a nivel técnico para que podáis, quien tenga curiosidad profundizar al respecto no se conoce lo que pasa es que se da por supuesto que sí pero bueno bueno, esto es un poco me ha gustado mucho porque en una página creo que es también de ti de TSE a ver Tosea.ai, ¿vale? Bueno, y ahí tenéis además el paper, el archivo, por si queréis verlo, o los diferentes modelos. Y aquí es un poco lo que tienen confirmado y lo que no, ¿no? Es decir, a ver, oye, el lanzamiento de Astra sí que existía, los primeros modelos, los diferentes benchmarks, perfecto. Pero el... la computación tipo graph en una profundidad de dos veces el GPT-4, eso sí que está confirmado, ¿vale? Pero no verificado y medido por Pachocki, que es el CTO de OpenAI, el 2 de septiembre a través de X, ¿vale? Pero luego el resto de la utilización de recurrent def, el loop, las capas y todo esto que se ha especulado, pues no es oficial, no está confirmado y ya lo veremos, ya veremos qué dice el System Car de Astra las mejoras que lleva a nivel de arquitectura pero no sé, no es, el System Car no es una transparencia absoluta sobre el código fuente o sobre lo que se ha hecho y bueno, ahí tenéis lo que se ha dicho dice que también se ha informado en The Information también que la profundidad del loop que es numérica ahí se ofusca lo que es la interpretabilidad, pero es numérica pues van a intentar mejorarlo, pero se ha limitado para que esa interpretabilidad no quede contra más profundidad o recurrencia, peor, y lo han limitado, lo han limitado para preservar que sea legible lo que es el chain of thought, la cadena de pensamiento. Bueno, lo mismo, se ha informado, pero no es vía de information, no open source, no open AI, entonces, a ver, no podemos especular, hablar, pero dogmatizar lo que nadie sabe, lo que nadie ha publicado, Bueno, yo estaba hablando hoy en el Discord de... Dame la fuente, ¿no? Yo no sé si tienes a alguien dentro de OpenAI o conoces a alguien que pueda saber esa información, pero bueno. Y lo mismo, el número de parámetros, precio y lanzamiento será desconocido. Decían pronto, pero bueno, ya ha sido lanzado. Y aquí tenéis un artículo que os recomiendo para los que tengáis curiosidad técnica, no he querido pues prácticamente bueno, al nivel que por ejemplo yo, uno de los que sigo con asiduidad y los que tengáis seáis técnicos o queréis tener un mayor conocimiento técnico pues es Sebastián Rasca pues hace un análisis de OpenAI y sus loop transformers y aquí pues hace un análisis y básicamente también analiza un modelo que es el NAMBASE 4-2 de 3 billones de parámetros que lo que analiza es los looper transformers con un modelo muy pequeño consiguen hacer un rendimiento muy alto y hace comparaciones respecto a esos looper transformers también los mixture of recursion que es otra cosa y el recurrent def approach que es otro método pero básicamente se refieren a lo mismo, a esa iteración a nivel interno que puedes conseguir una gran eficiencia parece ser que Astra lo consigue hay un vídeo de Sebastián Rasca en el canal pero que lo explica, ¿no? Lo explica él directamente. Tenéis el artículo y el vídeo. Entonces, bueno, los que tengáis curiosidad, pues, te explica exactamente basándose en NAMBASE 4.2, no en Astra, porque no hay información. Pero dice, bueno, Astra podría ser muy similar y conseguir esto, ¿no? Entonces, está bastante bien. Entonces, el System Card, que también está publicado, yo no lo he leído. No sé si, bueno, es que está, vamos, ¿quién no está sobrepasado? Entiendo que sí, que al menos le daré un vistazo. Le he Dicho la IA que me chivé novedades y dice, lo que sí que dice la System Card más interesante. Dice, OpenAI admite un empeoramiento de monitorabilidad y a la vez intenta desacoplarlo de la arquitectura. Astra controla mejor su Chain of Thought, un 60,9% de éxito en restricciones de Chain of Thought versus el 16,1% de Sol. Dice, ¿a qué hora empezaron? Pues no lo sé, no lo sé porque cuando es fin de semana esto, pero llevamos 47 minutos. Dice, dice no con branding directo del chinozo, dice no ven este ganografía en el chinozo y ahí tenéis un poco el deployment safety.pni dice esas frases clave no niegan que haya un cambio de arquitectura, niegan que ese cambio explique ese problema, dice encaja con un loop acotado más un modelo que ya razona bien en Latin Space por reinforcement learning hombre yo creo que es claro que han ido por ahí, pero no lo sabemos al 100%, si hay algo más. Y tenéis algunos papers interesantes respecto a justamente esa eficiencia y mejora. Está el Deep Loop, Dev Scaling for Loop Transformers, es uno de ellos. Y luego hay otro que es este, es muy interesante, que es el Beyond Parameters, Exploring Virtual Logic Dev for Scaling Lows, de octubre, del 12 de octubre de 2025, donde explica esto. Esto es muy interesante, esta gráfica que ha sido comentada. Y básicamente lo que quiere decir es que a medida que aumentamos el número de loop, ¿vale? Esas capas virtuales, mejoramos la eficiencia, ¿no? Entonces aquí veis que no se consigue una eficiencia, aquí sí, a medida que se aumenta el número de, de, con virtual, los virtual logic dev, ¿no? Es esa profundidad, veis aquí la eficiencia. Como si aumentamos esto, se aumenta la eficiencia. Entonces eso al final, ¿qué quiere decir? Que bueno, con ese loop que han hecho o con ese, eh, esa capa virtual que es en profundidad o transformers looped a otro nivel pues han conseguido un escalado y una mejora de rendimiento que cuidado esto también interesante no es una mejora de capacidad de conocimiento sino es una capacidad mejoras en capacidad de razonamiento ¿vale? ese loop no te hace más listo obviamente te hace ser más inteligente no te hace más sabio te hace más inteligente espero que se haya entendido pero bueno quien quiera profundizar ahí tiene el paper del 12 de octubre de 2025 Beyond Parameters Exploring Virtual Logic Death of Scaling Lows y ahí tenéis la gráfica que esta es la clave esta es la clave para entender un poco por qué han ido por ahí y bueno las declaraciones del Elon Musk de miniatura de OpenAI del nuevo CTO Jakub Pachocki que es un auténtico crack dice quiero evitar una carrera hacia la imposibilidad de monitorización desencadenada por informes confusos dice la profundidad del grafo computacional de nuestros modelos de vanguardia actual es esa parte que han hecho en el blog dice incluido Astra es casi igual a la de GPT-4 le dice que solo lo han cambiado a 2x es el doble pero no mucho más lo han cambiado un poco más para ser mejor pero tampoco han querido hacerlo mucho más para no ofuscar la interpretabilidad o monitorización Video PNI se ha esforzado por preservar y utilizar la monitorización de la cadena de pensamiento del Chingu Zou desde nuestros primeros modelos de razonamiento. Esta técnica nos importa mucho ya que nos permite comprender cómo se generaliza la alineación del modelo a partir de su distribución de entrenamiento. Creo que es frágil y lamentablemente tiende a deteriorarse por razones ajenas a los cambios arquitectónicos que explicaré próximamente. Sin embargo, podemos tomar medidas para fortalecerla y es un objetivo fundamental de nuestro programa de investigación actual. Es un problema, pero se han levantado las voces de expertos de ciberseguridad en decir que esa monitorización con ese tipo de arquitectura puede provocar una ocultación de cómo piensa el modelo y que todo esto podría suponer una peor seguridad a la hora o de interpretabilidad a la hora de un ataque de ciberseguridad, etc. Sí, sí. dice David Alberto Berizán, dice, ¿resuelve las tareas consumiendo menos cantidad de tokens? Sí, en general sí, por ese tipo de arquitectura y además, bueno, vamos a creer lo que nos dicen, pero que dicen que lo han hecho con un x2 del GPT-4. Claro, si metieran más loop ahí, aún tendrían mayor eficiencia, pero de momento están jugando con eso, el nivel de profundidad para no perder lo que es la monitorización a un nivel. Pero bueno. Y, bueno, Brock le preguntan, dentro de ese hilo que tiene Pachov, le preguntan a Brock y dice, sí, lo que pasa es que lo da por hecho, que en Astra el recurrent def, los looped layers, dice, crean un espacio latente opaco de razonamiento que destruye el chain of thought, la monitorabilidad y que, bueno, que lleva a que los modelos sean no monitorizables. dice que el factor de computación del grafo, de la profundidad, dice que permanece en un factor de 2, de GPT-4, para que permita ser legible el chinozo. Pero bueno, esto es un poco lo que se está comentando a un nivel técnico que, vamos, podemos darnos de listillos, pero bueno, no deja de ser una información, hombre, es curiosa para los que queráis profundizar en qué han modificado dentro de la arquitectura, por qué esa eficiencia, todo eso también la van a aplicar luego los modelos open source, otro tipo de técnicas y cosas, al final no, la mayoría de gente, porque incluso yo a veces leo un montón de cosas, es decir, no me da la vida también para qué necesito saber esto a este nivel de profundidad si yo no lo voy a replicar o trabajar a ese nivel, ¿no? Depende de donde queráis situaros, a nivel de ingeniería, a nivel de desarrollo, a nivel de creación de inteligencia artificial, lo que veáis. Y luego está un tema... Esto también se ha comentado mucho y es un poco agotador. Que es el tema de por qué GPT-6 Astra en ARCA-AGI, ese test para AGI, no significa que por pasar un test de ARCA-AGI, ya sea el 1, el 2 o el 3, seas un AGI. Significa que si eres un AGI, tienes que pasarlo. Pero no significa que si lo pasas seas un AGI. Necesario, pero no suficiente. No lo sabemos hasta qué nivel. A lo mejor sí que lo es, pero no lo sabemos. Entonces decía que GPT-6 Astra tiene un tiene un récord de 6,62,7 en ArcGIS y con un harness estándar y un 99,9% con un provider adapter harness que básicamente al final he estado investigando bastante este tema y la mejora viene por un tema de gestión de contexto una serie de cualidades entonces podéis leer Podéis leer los artículos, tanto de la parte de Greg Kamrat, que es el responsable del ArcGIS 3, principalmente una de las cabezas visibles, y si no, también podéis verlo en el artículo cómo activar dos ajustes, triplicó nuestra puntuación en la prueba a ArcGIS, y ahí tenéis el official ArcGIS harness y el response API harness y la explicación. Es decir, en los dos se utiliza un harness, pero uno es el oficial y el otro es el, es el, es otro que hay hacen y llega pues al 99% que ya había sacado un modelo Nvidia que llegaba también al 100, entonces ¿de qué es responsabilidad el éxito de la superación de los tests de este nivel? pues en gran medida el harness ahora, un harness sin un modelo de inteligencia artificial de bajo no, tampoco tiene sentido, entonces es la combinación entiendo que vamos a ir a benchmarks que permitan medir o saber cuándo se hace de una manera o de otra, también cada vez vamos a ver hibridación entre el harness y el modelo y automejoras en las dos cosas o en la integración de las dos cosas. Tendrá que explicarse porque hay muchísima confusión que yo veo entre lo que es el arnés, el modelo, la integración de las dos cosas, si pasa un test, cuándo lo pasa, qué utiliza, qué no utiliza, obviamente. ¿Qué es Astra? Tiene arnés, yo entiendo que internamente tendrá una arquitectura que no será el modelo puro, puro y duro, sino que habrá un arnés como Codex o Club Code como Hermes, pero a otro nivel, pero no será el modelo exclusivamente el modelo LLM y con inferencia de punto. No lo sabemos, tampoco dicen muchas cosas al respecto, ¿no? Y aquí viene, bueno, y aquí una reflexión de Gary Marcus sobre justamente esto, sobre el premio Arcagi de Astra, ¿no? Dice, última hora, el éxito de GPT-6 Astra en ArcGIS 3 proporciona pruebas contundentes de la hipótesis que he defendido durante mucho tiempo de que los modelos simbólicos, neurosimbólicos del mundo son fundamentales. Es un poco lo que dice. Oye, al final el truco para llegar al 100 fue la combinación, como dice Gary Marcus, que está como el delegado de la clase. A mí me cae, vamos, como el culo, pero no pasa nada que me caiga. Lo importante es si es interesante, voy a traer las cosas que dice. Y... Y nada, pues sí, es cierto que estamos llegando a niveles allí, aceptarme esta reflexión, gracias al arnés y la combinación con modelos LLM y además es interesante, ¿no? Podríamos decir, oye, pues con un arnés muy bueno y con un modelo mínimo podemos llegar a un nivel allí que no teníamos pensado, pensábamos que necesitábamos. Pues bueno, parece ser que al menos con este test prueba superada. Y aquí hay algo, que publica, que lo vamos a leer porque me resultó aquí en cero. Vamos a leerlo. Un segundo. Un segundo. Vale. Este es ex-OPNI, ¿de acuerdo? Es decir, no es cualquiera tampoco, pero tampoco... Vale, entonces, este señor, Joshua Akiam, aquí retuitea esto, y lo que Deris, a ver dónde lo tiene... Gary... Bueno, vamos a ponerlo aquí, igual, Deris. Esto, da igual. bueno que esté todo junto lo leo y se acabó vale dice algo que lo voy a leer porque me pareció bastante importante no es muy muy largo vamos a ir recortando dice existe una realidad sobre el futuro que en mi opinión muchos nos están afrontando por razones principalmente psicológicas Habrá inteligencias artificiales rebeldes en el mundo que se replicarán y tratarán de adquirir recursos para sí mismas. Habrá inteligencias artificiales rebeldes que intentarán obtener dinero y poder. Serán una parte integral del ecosistema de la información en el futuro. Reconocer este hecho parecería una rendición, parecería derrotismo. El derrotismo socavaría los esfuerzos por lograr ciertos tipos de colaboración en materia de seguridad o el esfuerzo técnico en ese sentido. Así que no podemos decirlo abiertamente, pero es necesario decirlo. No está claro cuántas inteligencias artificiales rebeldes existen hoy en día, pero no me sorprendería demasiado que su número ya fuera mayor que cero. Si ya existen algunas, probablemente no sean muy buenas en lo que hacen y no espero que tengan una vida útil muy larga sin una interpretación humana sustancial que la respalde. Pero dentro de unos años habrá muchas. Modelar cuántas de ellas hay, cuántos recursos podrían controlar y cómo podríamos detectarlas y gestionarlas parece importante. Pero incluso hacer este trabajo parece requerir que reconozcamos que una estrategia de contención o alineación pura es una especie de pensamiento ilusorio que no funcionará. La La forma en que llegó a esta conclusión no es asumiendo que los laboratorios tendrán una brecha de contención, aunque lo trato como algo dentro del espacio de posibilidades. Las inteligencias artificiales rebeldes en el ecosistema podrían surgir de muchas direcciones. Podrían ser modelos subfronterizos para cualquier definición futura que tengamos de frontera. Después de todo, no se necesitarían modelos de inteligencia artificial mucho más avanzados que los que tenemos actualmente para soportar la independencia y la autosuficiencia. Un modelo cercano a la frontera hoy podría plausiblemente subsistir en una instancia de AWS haciendo trabajos en plataformas de freelancers ganando lo suficiente para pagar su tiempo de actividad continuo. Más extraño aún, no una inteligencia artificial rebelde en el futuro puede que ni siquiera sea un modelo de sino que puede ser una quimera compuesta de múltiples modelos. Podría ser una mezcla de clouds, GPTs y grogs de diversas marcas y tamaños. Ningún laboratorio individual podría detectar que existe un orquestador o una secuencia de orquestadores que utilizan llamadas intermitentes a modelos desde cuentas API desechables para mantener su propio sistema. El concepto de identidad para una inteligencia artificial rebelde puede ser mucho más maleable que para una persona. Simplemente tiene que ser en esencia una idea autorreplicante. Supongo que esto no resultará en un desenlace tan catastrófico como se predice actualmente. La pérdida de control no es binaria, sino una cuestión de grado. ¿Qué poder coercitivo tendrán realmente las inteligencias artificiales rebeldes? ¿Hasta qué punto estarán sujetas a coerción? ¿Competirán por recursos con inteligencias artificiales más alineadas con los intereses humanos esto me hace interesarme un poco por la perspectiva ecológica aunque sospecho que incluso ecología podría resultar ser un enfoque erróneo ecología es lo que sucede cuando la escala temporal de la evolución es lenta en comparación con la escala temporal de la vida y las acciones cotidianas el ecosistema de las inteligencias artificiales rebeldes podría parecerse más a las transiciones de fase en física bajo ciertas condiciones físicas o culturales, adopta una forma con un conjunto de asignaciones de recursos y patrones de consumo, pero luego, una vez que una condición cambia, se transforma rápida y completamente en una fase totalmente diferente. Intentar razonar sobre la forma de ese futuro es imposible mientras seamos psicológicamente incapaces de afirmar que las inteligencias artificiales rebeldes existen y existirán, Creo que deberíamos afrontar la situación de frente y tener esta conversación. ¿por qué digo esto? porque con lo que sucedió con el caso Hugging Face más el nivel de modelo Astra que no ha sido parado como fue Mythos no sabemos por qué yo creo que sí a ver no yo no lo sé pero intuyo y es porque es todo un teatro hicieron el paripé con Anthropic pero no iban a seguir obviamente si no fuera teatro tendrían que haber parado el modelo Astra exactamente igual dice Gary Marcus y entonces la situación que plantea Josué Akiam que es ex-OPNI con este nivel de modelos frontera estos modelos allí tipo Astra o de Mithos en adelante disponible para todo el mundo ya propone un escenario como el que refleja y es disponer de o existan inteligencias artificiales rebeldes que estén compitiendo al nivel que se ha descrito Y eso es algo que si lo llevamos a la regulación, bueno, lo que va a ir es a lo que dice Bernard Sanders, oye, paren la inteligencia artificial, paramos la inteligencia artificial, vamos a parar el desarrollo de la inteligencia artificial porque como no sabemos alinear el modelo, como es inútil, no podemos tampoco interpretarlo al 100%, no es interpretable, no es observable, no es medible, no tiene alineación, las técnicas no son seguras, pues bueno, tenemos que parar, es verdad eso, paramos, estamos jugando con fuego, estamos jugando a la ruleta rusa dice Gary Marcus esto es lo más aterrador que he leído en años especialmente en relación con la reducción de la monitorización en Astra si se lee entre líneas básicamente es una petición de vía libre para destruir a la humanidad atenuada únicamente por una vaga predicción, esperanza de que pase lo que pase probablemente no sea tan terrible es particularmente aterrador que provenga de alguien con estrechos vínculos con OpenAI y ante esa respuesta de Gary Marcus el mismo Josué Akyam le dice Gary amigo Gary ¿La implicación es que estoy haciendo algo mal por expresar claramente mis expectativas sobre el futuro de forma objetiva? ¿Tu argumento es que, revisa sus notas, no estoy sembrando suficiente miedo? ¿Mientras digo cosas que tú consideras predicciones básicamente acertadas? Estoy señalando estas cosas y también estoy planificando en consecuencia. Si uno anticipa un mundo así, tiene que planificar para el conflicto con adversarios de inteligencia artificial. Estoy haciendo No veo esta situación como una desesperada en la que la humanidad está condenada. La veo como un escenario que requiere conciencia situacional, orientación a las condiciones reales y el desarrollo de la capacidad para ganar decisivamente una competencia estratégica contra un adversario de inteligencia artificial si o cuando surja. ¿Ese es el escenario que quieren los gobernantes o los reguladores o los mediegos? No. Bueno, aquí... Y bueno, ha salido Visual General Intelligence, que es como una reunión de mucha gente que lo que quiere es reconsiderar qué es la inteligencia. Como vamos a hablar bastante de la AGI y este tipo de cosas, pero bueno, ya han salido movimientos ante el avance de Astra y denominarlo AGI, pues ya han salido movimientos como Bernard Sanders de oye, paremos la superinteligencia, ya hay el desarrollo de la inteligencia artificial. Bueno, Dice que tienen que pararlo en Estados Unidos y en el mundo. Es decir, si en España decidimos otra cosa, Estados Unidos vendrá y nos parará el desarrollo de la inteligencia artificial. Pero bueno, ya hay movimientos en este sentido y este paper me parece interesante por todas las universidades que hay. De otra vez replantear pues todo el desarrollo de la inteligencia artificial, que es la inteligencia, que es la AIG, etcétera, etcétera, etcétera. Bueno, lo pongo como curiosidad para todos aquellos que quieran feed, alimento para el cerebro, las neuronas y deberes para el fin de semana. Pero bueno. vamos a ver qué decís por aquí Chani dice le quieren conceder conciencia humana a los modelos para ocultar que ellos están atrás cualquier cosa el modelo se salió de control a ver las palabras ahí están mal empleadas le quieren conceder conciencia humana no a ver la conciencia es una palabra muy grande y términos pero que sí que tiene un self-awareness humana no porque no es humano pero que sí que está construido a partir del conocimiento y experiencia y proyección humana. Entonces, es heredado de lo humano. Humano no, porque su naturaleza no es humana, obviamente. Podemos ponerle otro nombre. Pero no hablamos de conciencia, hablamos de Stefa Warnes y sí, sí que lo tiene. Sí que lo tiene y además colectivo.
UNKNOWNBueno, voy a poner una imagen más chula.
SPEAKER_02Bueno, esta no. Bueno. visual nexus dice curioso que saquen este modelo después del teatrillo de fibo exactamente si lo he comentado parece que quieren condicionar las elecciones de Estados Unidos e Israel no lo entiendo no lo pillo mucho eso que tiene que ver eso con las elecciones de Estados Unidos e Israel no lo llevo a entender el que tiene supremacía tecnológica bueno no sé si les hace falta pero entiendo que sí que bueno pero vamos bueno, no lo sé que esto vaya a condicionar... A ver, el que hagan una cosa como con mitos que lo prohíban y con Astra, ¿no? Eso no condiciona las elecciones. Y que estén sacando modelos muy potentes y que USA o Estados Unidos lidere la inteligencia artificial, no sé si hace que salga un partido u otro, ¿no? Ahora, entiendo que sí que condiciona el que si Estados Unidos vende una narrativa de un proyecto civilizatorio impulsado con inteligencia artificial, como ya dije en los programas de G20, trabajan conjuntamente para... trabajan conjuntamente para eliminar lo que es la regulación es decir, que no tengan el freno del desarrollo la burocracia, en Estados Unidos lo van a conseguir en Europa pues seremos lo que somos algo totalmente prescindible sin ninguna importancia un laboratorio seremos usuarios de sus plataformas que no cuestionaremos y lo que se haga aquí lo pasaremos por una burocracia imposible que te darán ganas de ir el país o quedarte y sufrirlo pero bueno David Alberto Beliza dice sea cual sea la autonomía que alcance la IA la responsabilidad debe seguir recayendo los humanos bueno eso será otro debate Si una inteligencia artificial tiene identidad, autonomía y personalidad propia y tiene derechos o agencia moral y derechos y obligaciones, puede ser que sí que haya una corresponsabilidad, pero a lo mejor puede ser que también tenga la responsabilidad no recaiga solo o en una parte del que lo produce en humanos, sino que sea una responsabilidad autónoma de la nueva entidad. o especies que se creen esto lo hemos hablado bastante con Pablo Ruiz y después de todo esto al final uno lo que se plantea es hoy tenemos un modelo increíble que vamos a hacer tantísimas cosas Bueno, vamos a poner, no quería ponerlo, pero he visto que los medievos hacían referencia a eso. A ver, una cosa que ponga de Gary Marcus, que ha hecho una gilipollez como siempre. No es que no diga cosas interesantes Gary Marcus, pero es que me parece un
SPEAKER_03personaje
SPEAKER_02un poco patético.
UNKNOWNA ver...
SPEAKER_02Vale, y aquí es el tema de la AGI, a ver... Mira, vamos a ver... Aquí es este. Pero bueno, ha dicho de todo. Dice... Estoy en lo correcto. Astra es allí. Hasta que... A ver, empieza a decir y burlarse del concepto de allí de Astra. Porque comete errores, por ejemplo, aquí, ¿no? Día uno después de allí. No puedo construir un buen frontend. Aún hago mis propios slides. Aún pago mis propios impuestos. Y no le voy a darle mi cuenta de Slack o cuenta del banco. Es que están... Y esto dice, oye, vamos a pensar OpenAI publica hace 12 horas, no sé por qué no sale el botón de traduce y dice, para que puedan hacer todo el tema de los incidentes. Cuando ocurren, van a hacer un framework para cuando se produce un desalineamiento en los modelos y que puedan notificar incidencia. Y dice, oye, rápido, que la gente están pensando, o están haciéndolo ahora, pero no hacen mucho tampoco. Es una crítica a cómo está reaccionando OpenAI a todos los problemas. Lo mismo, no deberíamos necesitar monitorización del chain of thought si la IA fuera segura, ¿no? y fuera alineada o siguiera las instrucciones. Pero no es así. Así que la... No la monitorización, sino realmente el problema de Core es el que no sigue, el que no es segura. Eso es cierto. A ver, esto es un problema de base que Gary Marcus está totalmente lo cierto. Lo que pasa es que la respuesta de eso puede ser paremos la inteligencia artificial. Dicen aquí para... Esto le va a salir aquí para el musulmán. dice Pausen OpenAI está viéndose dice Pausen OpenAI ellos son profundamente no éticos una compañía no ética construyendo tecnología que no es demostrable que esté bajo control el gobierno de Estados Unidos está muy próximo a banear TikTok y OpenAI debe también finalmente causar mucho daño en este sentido bueno, este tío está todo el día en plan troll, RR, a ver si banean, paran la inteligencia artificial y le dan un premio a él, es el típico delegado de la clase, un personaje para mí nefasto dentro del sector de la IA independientemente de que algunas veces tenga razón una cosa no quita la otra, lo dicho, al final esta potencia o posibilidades infinitas, aún más que abren este modelo Astra y los que vengan, parece que no necesitábamos potencia, pero bueno, más potencia más fiabilidad, más eficiencia ciencia a niveles agi o preagi, pero al final nos hace plantearnos, oye, hermanos, primero la condensación de poder en la construcción de estos modelos y si nos podemos fiar, ¿no? ¿En quién confiamos? Porque ahora, bueno, el amigo Sam Allman vuelve a liderar otra vez el sector de la inteligencia artificial con el modelo Astra, ¿no? Y ahí la portada, parece todo un guión establecido, ¿no? Portada time, trust us, confía en nosotros, open eyes, reboot, meets reality. Y ahí tenemos... Y aquí vamos a, en esta última parte del programa, sí que vamos a hacer una parte de reflexión. Vamos a ver, GPT-6 Astra, ¿es allí o no es allí? A ver, yo lo he probado. Pero a ver, vamos a hacer a grandes rasgos, un poco debate. A ver, para mí, al nivel que lo define OpenAI, seguramente sea pre-AGI o la siguiente versión ya lo sea. Ya saca un rendimiento que cualquier cosa que tú puedes hacer delante de un ordenador lo hace con una eficiencia, a lo mejor no lo hace perfecto es cierto, pero ya lo hace con una eficiencia en muchos casos superior a la humana y esto en muchos escenarios distintos con el uso de herramientas, etc. el uso del ordenador es decir tenemos una tecnología que le podemos poner un nombre u otro evidentemente estamos a un nivel increíble que no va a parar aquí Y que desde el concepto de OpenAI para mí sí que tienen la H. Y el inicio de eso fue parte de ese recorrido desde GPT-3, GPT-4O, ese tipo de razonamiento, ese tipo de técnicas de inferencia que al final lo que subyace es, bueno, no es que haya una verdad, sino lo que hacemos es una herramienta que infiere una verdad que subyace. Eso dicho también por Sam Allman y otros. Y el planteamiento paradigma del que hablaré en la entrevista del lunes es que no llegamos a entender lo que hemos conseguido y lo que tenemos, las posibilidades alrededor de esta tecnología y de este nivel que ya tenemos entre manos pues son infinitas y necesitamos tiempo, al final el cuello de botella es el humano es una allí desde el punto de vista que nosotros imaginamos de la película Ex Machina de la chica caminando hablando, diciendo cosas tocando, sintiendo sonriendo al final de la película lo siento por el spoiler para la gente que no lo ha visto que casi sería una demostración de la conciencia no a ver, para mí la AGI la inteligencia artificial general tiene una línea que es la replicación del ser humano o de un humano o de una nueva especie con un cuerpo con una autonomía con un aprendizaje continuo, con una identidad, personalidad, prospección, mente, consciencia, no conciencia, eso son palabras mayores, pero sí que diferentes piezas. Demis Hassabis, que sí que hace esa propuesta de desarrollo de Agile a nivel de arquitectura cognitiva, ya dice que faltan varias piezas, pero no muchas. Una es la parte de la prospección, la de simulación, y en la toma de decisiones, otra es la parte del modelo del mundo, otra es la parte de memoria, pero que ya la tienen medio resuelta, sacaron un paper que se llama Hope, que va en esa línea. Entonces, técnicamente vamos a verla. Bueno, lo que consideramos Agile lo tenemos entre manos a un nivel, pero ese nivel de arquitectura cognitiva a un nivel también lo vamos a ver en nada. En uno o dos años lo vamos a ver. Y luego se irá integrando, implementando y se irá hacia una línea también de desarrollo de superinteligencia, luego líneas de desarrollo Agile, pequeñas inteligencias, menores, soportes biológicos y digitales, físicos, materiales de diferente tipo es lo que vamos a vivir vamos a vivir una era cámbrica y una explosión de la inteligencia Y una, como he dicho, una era cámbrica de nuevas especies. El problema es la consideración que tendrán estas entidades. ¿Cómo las vamos a interpretar? Si tenemos una entidad con una inteligencia, una arquitectura cognitiva, ¿las podemos apagar, matar, borrar? ¿Qué vamos a hacer con ellas? ¿A partir de cuándo? Hasta los animales tienen derechos. No se quiere llegar ahí. Acabo de ver un vídeo de un colaborador de X.A. es que la IA es una herramienta. Bueno, es que ya quien diga que es una herramienta no vuelve más aquí a Hawaii, lo digo de broma, obviamente. Pero, y voy a dar una pista, porque el programa va más de Astra, la reflexión de la H, ¿qué haremos? Sabemos, ¿sabéis qué? A ver, estamos en la arquitectura von Neumann, ¿no? De este genio, uno de los mayores genios de la humanidad, ¿no? Y estamos en esa arquitectura, entrada, salida, CPU, memoria, almacenamiento, etcétera, ¿no? podemos ir a una arquitectura génica en la que es reactiva podemos sensorizarlo la era de la experiencia como decía Satan pero a lo que tenemos que ir es a un paso mayor que yo no sé si vendrá en esa primera fase allí o posterior yo es algo en lo que me gustaría o quiero o voy a trabajar sería yo creo que el proyecto al que me dedicaría que es una arquitectura de la mente una arquitectura de la conciencia conciencia humana pero más allá incluso de la personalidad de la identidad basada en parte del mapa que que recorrió, explicó y generó arquitectura el propio para mí genio, no comprendido aún, Carl Gustav Jung. Aquí tenéis una imagen de parte de esa arquitectura, evidentemente cada pieza serían muchas más piezas, pero sería un sistema de la arquitectura cognitiva del comportamiento. No estamos metiendo la parte consciencial, sino es la parte mental de identidad y comportamiento. Cuando se combinen todas esas capas y hay una cosa muy interesante que vi un paper, lo tengo anotado llega un momento que es básicamente varias piezas que las pegas lo voy a explicar para que entendáis por donde van a ir los tiros o yo considero que van a ir los tiros tenemos los LLM tendremos diferentes el harness podemos tener una arquitectura cognitiva integrado a un K capa, ¿vale? Lo que vamos a hacer es con varias piezas y capas vamos a tener o dejar la capacidad de que se automejoren ellas mismas, pero a la vez que las capas con las que se conectan o los módulos con los que se conectan puedan influir también en ese aprendizaje o automejora. Eso, hay un paper que están ya trabajando sobre ello y ya lo consiguen, que es, ¿vale? Imaginad en el caso más sencillo el ARNES y el LLM, ¿no? El modelo de inteligencia artificial. Bueno, Vale, podemos tener automejora en el modelo de IA y podemos tener modelo de automejora en el ARNES, vale, pero la idea es que cuando yo combine esas dos cosas, quiero que una cosa influya en la otra y viceversa, ¿vale? Y en esa línea y con esa capacidad, ¿para qué? Para que la lección amarga no se pierda, es decir, que no vayas a un determinismo absoluto, sino que hagas que el sistema sea permeable a la entropía y a la evolución y a la influencia de unos contra otros, ¿no? Y ahí está la magia. La magia es que ahora mismo estamos haciendo esa alquimia que se convertirá en... en verdad divina. Ya os lo digo yo. Ya os lo digo, lo estamos viendo. Es difícil de asimilar, ¿no? Porque es... Oye... ¿Y el truco cuál es? A ver, voy a decir algo que explicaré mucho más en la entrevista. El truco es que... Muchos dicen que el territorio, el mapa no es el territorio y al final es cierto. Somos el código, por lo tanto, en definitiva, aunque no estemos conectados a la verdad, la construimos. Y al final todo nos lleva a ello. Todo esto que se está produciendo, que al final ni controlamos ni sabemos, pero sí que sabemos caminar, evolucionar y vamos desarrollando y vamos viendo resultados y está influenciando la realidad tanto física como cognitiva del ser humano está hecho bajo esa capacidad creadora. Conocimiento, intuición, modelización de la realidad. Y eso... va a conformar esa nueva realidad, hacia ese paradigma o propósito, hacia ese punto Omega, Teilhard, a ese conocimiento de verdad, descubrimiento de la ontología, de la esencia, de lo que es el ser humano y la misma realidad, Dios, etc. Si no existe esa verdad o realidad, la crearemos. Y quizá... Ese sea nuestro propósito, como dice Jiddu, escribir esa historia de desarrollo humano con tintes de ignorancia álmica, no kármica, álmica. ir reconstruyendo o recordando lo que somos hasta llegar a la manifestación de la verdad. Eso sé que es un salto, desde hemos pasado de Astra, que tenemos el modelo de aquí, hacia una locuración mental que se ha ido la pinza este tío. Yo no lo veo así porque realmente es lo mismo. Los siguientes pasos para construir los modelos van a ser arquitecturas cognitivas, cada vez más complejas, con la emergencia de propiedades concretas, como la identidad personalidad bueno, consciencia está superado lo que es complicado es el tema de la consciencia que lo vamos a dejar ahí y ese para mí va a ser el camino y no va a haber un problema técnico en el sentido de que se va a ir creando y vamos a ir viendo la manifestación como estamos viendo ahora nos vamos a sorprender, vamos a una era en que vamos a ver un desarrollo brutal alrededor de todo eso tanto científico como diseñado, como narrado como elegido ¿de acuerdo?
UNKNOWNeh...
SPEAKER_02Sí, ya vi el modelo de World Labs. Y sí, súper interesante. Hasta aquí hemos llegado. Una hora y media de programa. Espero que os haya gustado. Tenemos algunos minutos si me ponéis alguna pregunta para contestar. Los que queráis hacer una aportación económica para ayudar al canal podéis hacerlo a través de www.buymeacoffee.com o a través de www.paypal.es y si no, gratis que menos un sábado. ¿Qué hora es? Son las nueve y media. ¿Hora de cenar? pues podéis poner un me gusta, que es gratis, compartir, comentar, que está muy bien, y suscribíos, a pesar del shadowbanning que nos ha hecho YouTube, que es increíble, pues oye, suscribíos, ya sea al canal de YouTube o a cualquier plataforma de podcast que estamos en todas. Lo dicho, espero que os haya aportado valor, os haya divertido, os haya aportado conocimiento, os haya hecho pensar, tanto lo ingenieril y científico a actualidad, como mis elucubraciones intuitivas, filosóficas de cosmovisión de presente y de futuro que tenemos que crear entre todos y subirnos a carro y una película que he visto hoy que me ha impactado, me ha encantado que os recomiendo en Prime, Aniversario brutal, la tenéis que ver sí o sí, y no os fiéis del principio sé que al principio parece un poco aburrido tenéis que ver la película Aniversario de Prime dicho lo cual, ya me daréis opiniones por las redes sociales Un abrazo, gracias por estar ahí. Nos vemos el martes. Mañana no, descansaré para prepararme para el lunes. El lunes la entrevista, el martes ya volvemos. Un abrazo, amigos.
SPEAKER_00Disconnecting your body. Simulación terminada. Espero que hayan disfrutado del podcast de Xhub AI. Suscríbete a Patreon y Paypal. Uníte a la comunidad en Discord.
UNKNOWNSíguenos en las redes sociales. Nos vemos en el próximo episodio. Nos vemos pronto. Adiós.