T6.E121. INSIDE X ANTHROPIC SELF-IMPROVING AI construyéndose a si misma

# TEMA 
ANTHROPIC SELF-IMPROVING AI construyéndose a si misma

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_02 0:00

Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_00 1:06

¿Qué verdad? Que no hay cuchara. ¿Que no hay

SPEAKER_02 1:22

cuchara?

SPEAKER_00 1:23

Si lo haces, verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_03 1:40

Las opiniones

SPEAKER_04 1:40

vertidas en este programa son de exclusiva responsabilidad de quienes las emiten y no representan necesariamente el pensamiento ni la opinión de este podcast ni de la comunidad al completo. En los debates pretendemos presentar diferentes opiniones, visiones y experiencias que permitan a los oyentes sacar sus propias conclusiones. Pretendemos y luchamos por ser o intentar serlo un espacio de pensamiento Gracias por ver el vídeo.

SPEAKER_01 2:44

Hola, buenas tardes a todos amigos. ¿Qué tal? ¿Cómo estáis? Soy Plácido Domènech y hoy tenemos un nuevo episodio en X-Hawaii, un nuevo Inside X. Y también tenemos y empezamos una nueva semana, lunes, aunque hemos parado poco. Y tenemos un tema que sé que os interesa mucho, como he puesto en el chat, X2. Tenemos dos programas hoy, este primer InsideX y esta tarde a las 8, para que dé tiempo a los futboleros a acabar de ver España, que debuta hoy a las 6. Tendremos un debate que luego veremos sobre si todo lo que está ocurriendo con la provincia edición de Fable 5, de Mithos. Es un teatro... una narrativa preparada, una estrategia o realmente está sucediendo y qué es lo que implica, veremos muchas declaraciones de el impacto que ha tenido como he dicho declaraciones de mucha gente a favor o en contra opinando de lo que hay que hacer de qué medidas tomar a partir de ahora, bueno yo creo que no es nada nuevo pero el mundo se mueve así, parece que cuando hay una sorpresa de este tipo un antes y un después que nadie entre comillas esperaba cosa que no es cierto pero bueno muchos no pues nada pasa lo que pasa se armó la que se armó todo el mundo está hablando sobre ello y vamos a recoger las declaraciones de gente que desde el viernes sábado han ido apareciendo alguna que nos dejamos en el tintero unas muy interesantes otras esperpénticas como todo en la vida, pero bueno, suele haber más de lo segundo de lo primero. Pero antes de abordar el debate de esta tarde, quería leer... con vosotros un artículo que publicó Anthropic sobre la mejora, el self-improving o la inteligencia artificial construyéndose a sí misma. Un tema que además venía precedido de varios episodios anteriores analizando uno, bueno, algunos previo a la parada o prohibición de los modelos de favor y mitos. Uno es ese artículo publicado en el blog de Darío Amodei, Imperdible, su lectura, Políticas sobre el crecimiento exponencial de la inteligencia artificial. Un artículo imperdible que es posterior al que vamos a leer, pero que nos pilló un poco el toro y no queríamos perder el hilo de la actualidad. Y le dedicamos dos episodios que son imperdibles que tenéis en el canal, donde Darío Amodei refleja varias cosas que ya había reflejado antes en ese artículo mucho más extenso y al que también he, digamos, contenido en varios episodios titulado La adolescencia de la tecnología. Lo dicho, vino después la suspensión. Voy a esperar que cambie. Un segundo, que hago una cosa aquí porque me está distrayendo.

UNKNOWN 6:11

Vale. Vale.

SPEAKER_01 6:14

Vino después la suspensión, la parada, por parte del gobierno de Estados Unidos, de Five All Mythos. Y bueno, ahí con todo lo que repercutió. Y bueno, esta es la portada del programa que vamos a ver esta tarde. Imperdible, ¿no? ¿Guerra abierta o teatro? Bueno, ahí tenemos a los dos Cloud Code reflexionando. Y tenemos a Darío Amodei en plan profeta, mesías... con el cuño de la iglesia vestido ahí de forma papal o bueno quizá darío modi está actuando desde el lado oscuro y detrás tenemos a un eeuu un imperio caído que quiere recuperar su trono con un donald trump desatado Y un Peter Hext celebrando lo que le ocurre a Anthropic o las medidas que se han tomado contra Anthropic que dice que les da la razón de lo que... las medidas que tomaron ellos que fue hacer de Anthropic o de los modelos Cloud un peligro o prohibidos en la cadena de suministro de la inteligencia artificial y bueno, cosa que también realizó o provocó mucho opiniones enfrentadas apoyo por parte de la industria por otras partes críticas pero es cierto que sin contestar a esta pregunta Darío Amodei ha salido fortalecido, para mí de una forma totalmente knife, casi como un mesías, como el defensor del bien, de la postura del bien en el tema de la inteligencia artificial para mí nada más alejado vivimos bajo una narrativa que compramos porque nos resulta cómoda y que sería o resultaría casi imposible ser coherente con la verdad o con aquello que realmente vivimos con lo que vivimos, con lo que utilizamos y con lo que nos permite también jugar y vivir y trabajar con ello entonces claro, desde Europa, desde España donde regulamos y producimos tan poco o nada pues bueno, habrá que ver qué estrategia adoptar en ese sentido, lo vamos a hablar esta tarde en un debate Y bueno, vamos a decir dos cositas rápidas y empezamos al tema de hoy que sé que es uno de los temas muy interesantes que da mucho de sí. Y aunque la lectura llega un poco tardía, considero que es una buena forma de empezar el lunes no olvidando este artículo que ha desencadenado todo y además, bueno, enlaza también con lo que vamos a ver esta tarde. Lo dicho, XHABAI, la Comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana sexta temporada. Y bueno, tengo que deciros que como esto es un InsideX, pues aquí también aprovecho para hablar con vosotros por el chat, que veo que cada vez hay más gente. Hola a todos, ¿qué tal? Por cierto, llega el verano y bueno, ya sabéis que en verano no paramos, llamamos a los programas X Summer ahí y no paramos. Ni nosotros, ni la gente que participa, veremos cómo lo hacemos, pero es verdad que este canal y los temas que tocamos son bueno algunos sí que son tratados por mucha gente pero hay muchos otros que no y tenemos una audiencia muy fiel durante muchos años lo dicho es esta temporada el otro día encontraba comentarios bueno esta semana yo no sé si son bots o no son bots son inteligentes artificiales o no pero bueno me hacían comentarios al respecto no que os traslado. Oye, es que en podcast solo tienes 6.000 seguidores. Bueno, 6.000 seguidores es el número uno de seguidores en podcast de inteligencia artificial o de todo. En esta línea, es decir, creo que estamos a la par o muy cerca con monos estocásticos y ocupamos la segunda o la primera posición de podcast en inteligencia artificial. Hombre, tan mal, tan mal no lo haremos. Oye, que el nombre es que no resulta que vamos, nos lo bloquea, parece que X Hub ahí parece que sea un portal de contenido X, oye que las entradillas del podcast están en inglés y duran mucho son un clásico, antes duraban más que estamos hartos de escuchar lo de la cuchara, pues lo vais a seguir escuchando a menos esta temporada, hasta que me canse es decir Si tuviera tiempo sería peor. Porque para mí las cosas que criticáis son lo que hace único a este canal. Si hacemos un canal totalmente homogéneo con lo que opináis para ser visibles y cumplir con el algoritmo, pues seríamos uno más. Me faltaría cortarme el pelo y ponerme barba, porque es verdad que el 90% de influencers o gente que divulgan castellano es pelado y con barba... Yo no sé si es que los han clonado, son MCP, eso que pasa, pero bueno, estaba escuchando un vídeo muy interesante, no me acuerdo el nombre, si no lo diría, no tengo inconveniente, de alguien sobre Lupin Junior, estaba escuchando a un... y cuando me he dado cuenta he dicho, joder, verdad, también, es que parecen todos iguales. No lo sé, será seguramente la paranoia... Será la paranoia, la paranoia que tengo, la psicosis ahí que tengo. ¿Lo harías mejor, quieres decir? No, con más tiempo lo haría mejor. A ver, que con más tiempo, por ejemplo, antes le dedicaba mucho más tiempo al podcast. Metía trocitos e incluso a veces las introducciones duraban 4 o 5 minutos antes de que empezara el programa y todo en inglés. Entonces había mucha gente que decía que eso era anti-audiencia o anti-marketing. Porque claro, si tú para empezar el programa... le metes a alguien cinco cortos o clips en inglés que no entiende, pues bueno, seguramente no escuchará más el canal. Pero bueno, después de seis años, está claro que no tenemos millones de seguidores, pero sí que tenemos casi 60.000 en YouTube, somos el número uno o número dos de podcast en IA, el tres o el dos en tecnología y empresa. A ver, que podríamos... tener, yo qué sé, ser número uno en todo, tener millones de seguidores, la leche, ¿no? Ya, bueno, no sé. Pero lo importante no es el éxito, sino yo creo que la autenticidad. Claro que buscamos visibilidad y que la gente nos escuche y que tengamos impacto y que participe y que se integre en la comunidad. Obviamente sí, ¿no? Pero preferimos calidad a cantidad, ¿no? En podcast. La verdad es que, por ejemplo, en podcast, ahora ya no porque es que lo que intento es como se genera tanto contenido no puedo invertir tanto tiempo pero poníamos, ponía clips al final por ejemplo de Gidu Krishnamurti siempre 5 o 10 minutos de Gidu Krishnamurti había gente que nunca los escuchaba y había gente que era fanático de ese formato como bueno le daba un rollo como extraño porque quien lo hace así un poca gente las músicas ahora siempre son las mismas antes si buscaba músicas a ver es complicado estamos mejorando cosas bueno el set si habéis visto ya no tengo el fondo el set es fondo negro pero pondré luces y alguna cosa mejor o simplemente el efecto de luz y lo prefiero así me gustan los simples hemos quitado el hemos quitado el fondo de momento y nada pues eso que veo que mucha gente critica cosas pequeñas de ese tipo. La verdad es que lo que tenéis que ver es el éxito que tenemos. Cualquier crítica es bienvenida y lo analizo. El nombre, cámbialo por los humanos van a ser sustituidos. Yo cuando me dicen eso, me lo dijo uno que tenía un podcast de bastante éxito. No voy a cambiar el nombre de Kishaba ahí por sustituyendo humanos. Intento contestar y leer a todo el mundo, pero por salud mental cada vez entró menos en este tipo de guerras bueno lo tengo todo en cuenta al final y dijo el cotarrolló y al final voy a decidirlo yo porque si no me gustara lo que hago como lo hago de que hablo pues no invertiría tantísimo tiempo hay una parte evidentemente de aprendizaje de divulgación de visibilidad pero lo que mueve a X-Hab ahí es la pasión por todos los temas que tratamos yo creo que eso es lo que hace que la gente conecte y bueno que podremos hacer mejor seguro en todos los aspectos pero bueno cuando estamos ahí con éxito sé que molesta a muchos ese éxito vamos pero bueno, es lo que hay Lo he dicho, que se me ha olvidado con esto del éxito. Es que no tengo abuelas. No tengo abuelas que las he hecho de menos. Ni abuelas ni abuelos. Se fueron todos en la era de la pandemia. La era de la inteligencia artificial, no en la pandemia. Entonces fue un triste recuerdo y es verdad que siempre se agradece a las abuelas que siempre te den ánimos y piropos incondicionales, ¿no? Pero bueno, yo no los tengo, me los tengo que dar yo solo. Así que nada, lo dicho, si queréis entrar al Discord, donde tenéis muchos recursos, el curso está también, pero gratis, pues, nada, me enviáis un mensaje directo a un correo y estáis dentro. Hay una cantidad de información que vamos a intentar moverlo a plataforma, web, app. Bueno, ya veremos cómo lo hacemos. Sabéis que también tengo la idea de, ojalá, mover el contenido a un tipo de plataforma de streaming, elevar la calidad. Pero, bueno, es verdad, tiene que haber un retorno de inversión en ese sentido, no solo de esfuerzo y tiempo, ¿no? Si no, nos vamos a morir en todo. alejado. Y si os gusta lo que veis, lo que conocéis, lo que vais a ver de Xhava ahí, pues poned me gusta, compartid, comentad, sobre todo comentad. Es verdad que cada vez hay más comentarios. Sobre todo en YouTube. Es verdad que YouTube, a partir del éxito de YouTube y que mucha gente se está acostumbrando a escucharlo desde ahí, pues, pero bueno, el podcast ha mantenido su éxito y su fidelización porque es verdad que el podcast se puede escuchar también en YouTube. Solo el audio o ir escuchándolo, pero en podcast es a veces más cómodo y siendo contenidos tan largos y que os acompañan pues haciendo actividades o cosas mil pues bueno, está bien tenerlo también en podcast así que bueno, suscribíos al canal de YouTube o a cualquier plataforma de podcast que estamos en todas principalmente Evox, Spotify y Apple Podcast Y bueno, otra cosilla, el tema de X, que estamos intentando potenciar las cuentas, sobre todo con el problema que hubo con mi cuenta de Plácido Domenech, pues si podéis seguirme, Plácido Domenech en X, a X Havaí también, y a Z Havaí, que estamos intentando moverlo. Y poco a poco va a ir dando resultados e iremos informando. Y bueno, vamos a por el tema que nos toca hoy, ¿no? Que es Anthropic Self-Improving y Acostumiendo Susí. Bueno, antes de... de hablar y de leer el artículo de Anthropic como buen programa de Xhub en el que no empleamos 20 minutos o 10 minutos hablando del contenido, sino 20 minutos presentándonos y hablando con vosotros otros 20 contextualizando el tema y luego una hora en profundidad del tema en cuestión formato diferente recordaros varias cosas para contextualizar, una es la mención que se hizo en los principios de Asilomar, recordaos aquella reunión que hubo de todos los talentos prácticamente y padres de la inteligencia artificial más eminencias políticas, científicas estaba muy apoyado el tema, los principios de Asilomar por la administración Obama y hubo gente que participó allí, gente famosa, conocida científicos, Stephen Hawking estaban todos los de la IA conocidos, la mayoría, Jürgen Smith Hoover, Jan de Koon, creo que mis hijas Sabis, Sam Allman, pero muy jovencillo y estaban como enfocados en ciberseguridad, pero estaba por allí. Por eso yo siempre comento lo de el niño de la bomber, porque llevaba como una especie de chaqueta que es una bomber y la foto es de un Sam Allman jovencito. La verdad es que es un poco terrible, por eso siempre hago ese pequeño chiste. Pero bueno, lo importante de esto es en mi opinión el sí dice Cilifan, dice el canal y el podcast es algo mucho más profundo que el mero contexto en mi humilde opinión las opiniones las tienes que ver desde la distancia sí que me gusta escucharlas, yo las tomo a ver, entiendo que hay cosas y luego tiene su esencia obviamente es que si buscas, yo lo que veo es que si buscas siempre favorecer al algoritmo y la aprobación a ver, no sería Xhava bueno, no sería ni no sería yo tampoco y nosotros como contenido programa hemos atraído también un perfil de talento que se siente cómodo también habiendo generado algo único ¿qué es mejorable? por supuesto todo que se han cometido errores seguro audio no sé pero hay cosas a gusto yo si pudiera en el tema del podcast que es una cosa muy crítica de la entradilla bueno cuando me hicieron la entrevista en Cadena Ser lo que me dijo el presentador es bastante conocido pero no me acuerdo el nombre Era que era un clásico la entradilla, claro, del podcast, ¿no? Pero bueno, porque es como muy... Enter the Simulation, bueno, es la música, es como icónica, que no es la misma que los programas de YouTube. Pero bueno, al final, es verdad que dices, cuando tienes mucho éxito, al final, ¿qué haces? ¿Cómo homogenizar tu línea de pensamiento, ser muy correcto? Espero que no, espero que no. Es que desde el momento que tu éxito condiciona lo que eres realmente, para mí, dejas de tener éxito. Para mí el éxito no es la audiencia, para mí es disfrutar, ser tú mismo, y si eso conlleva éxito, perfecto, y si no lo conlleva, pues también porque haces lo que te gusta pero está claro que lo que hacemos y con la gente que lo hacemos lo que intentamos también es tener visibilidad y impacto pero lo hemos conseguido y cuando empezamos yo lo digo, no sé, nos escuchaban 20 o 30 y era bastante, bueno yo me acuerdo cuando empezamos con el podcast eran 20 o 30, luego fueron 50 estuvimos un año o dos así bueno, pues ahora nos escuchan miles bien lo mismo hacemos y yo creo que al revés, contra más éxito tampoco tienes que desatarte en ese sentido, tienes que entender que también hay una cierta responsabilidad por que te escuche mucha gente y tal tienes que hacerlo como tú sientas lo dicho, los principios de Asilomar no, no vivo del podcast pero tendría que generar ingresos y retorno, todo hay que monetizar todo con eso no os preocupéis que va a haber contenido gratuito y tal a mí es una publicidad indirecta Yo vivo de una empresa de desarrollo de software, he sido empresario toda la vida, pequeño empresario de empresa tecnológica, desarrollo de software y eso es de lo que vivo. Obviamente ahora de proyectos de inteligencia artificial, etcétera, y esto trae una publicidad indirecta, pero vamos, no vivo del podcast, del YouTube y el trabajo que trae es casi una dedicación como único. Al que le dedicas cada vez más tiempo dices, pues bueno, no sé si realmente es inteligente dedicarle tanto tiempo, pero a mí es que me apasiona. Entonces, bueno. Si no, no lo haría. A veces he podido ir a la playa y digo, quiero hacer el programa porque me interesa. Y lo vivo. Y luego me voy. Si solo estuviera pensando en que esto es un marrón, al final no lo haría. Y pensad que llevamos casi mil programas, que son 200 programas por año. Es una locura. Es verdad que me tengo que poner una medalla. Es mucho contenido. Y esta semana va a haber contenido lunes, hoy doble, martes, miércoles, jueves y viernes. porque hemos puesto la entrevista de Pablo Ruiz con un nuevo paper el viernes. Volvemos a Silomar. Entonces, los principios de Silomar, que salieron 22, 23, 24, 25 principios, no me acuerdo, eran 23 principios éticos de la inteligencia artificial, era Precha GPT 2017. Eh... uno de los principios, el 22, lo que señala es que la propiedad de automejora recursiva es peligrosa o es aquello que hace peligrosa la inteligencia artificial, aquella que lo hace incontrolable. Y en esos principios se dice lo siguiente, dice los sistemas de inteligencia artificial diseñados para automejorarse o autorreplicarse, porque esa es otra, otro que se habla menos aún, pero que hay investigación al respecto, Todo aquello que sea auto-mejorarse o auto-replicarse, self-improving o self-replicating, de manera que esto implique que puedan llevar a cabo o que aumente tanto la calidad como la cantidad de los modelos, es decir, que los convierta en algo muy potentes o muy grandes, están sujetos a las mayores medidas de seguridad y control. Es decir, en los principios de Asilomar... cuando se reúnen, después de reunirse, lo que se dice es, oye, todo lo que tenga que ver con estas técnicas, que ya habían investigaciones al respecto, eh... debe estar controlado por los gobiernos o algún tipo de medida debe de haber. ¿Vale? 2017. Ahora vosotros pensadlo. 2026. Si me equivoco en el año que estamos, no os preocupéis. 2026. Sucede lo de Anthropic. Publican un artículo. Qué casualidad de la IA mejorándose a sí misma o construyéndose a sí misma, que ya se sabía desde finales de 2025 ya se empieza a levantar esa prohibición de poder hablar del término self-improving, a ver, no es que a nivel técnico, en la comunidad técnica es un término que se conocía, hasta cibernética, desde toda la historia de la inteligencia artificial, pero era un término como prohibido porque genera, podía generar alarma, ¿no? En este sentido. Y era una cosa como que se ocultaba a la hora de expresarse o hablar. Yo lo tenía muy claro que estaba como prohibido, ¿no? Porque estaba claro que en cuanto ese término, fijaos, que en la regulación europea ni se comenta y ese término existe y vienen de Asilomar la IAC bebe mucho de los principios de Asilomar y fijaos que este tema no lo toca ¿por qué no lo toca? porque causa alarma social no es que no estaba en vigor no, sí que estaba en laboratorios para que no se había sacado la patita bueno, pues cuando la patita la sacaba Anthropic en un artículo que vamos a leer pues al poco tiempo cuestión de días pues paran la inteligencia artificial o los modelos modelos de Cloud, Fable y Mythos. ¡Qué casualidad! Cuando, desde finales de 2025, tanto por parte de Anthropic, Darío Modé principalmente, pero bueno, varios de sus componentes de equipo técnico, etcétera, y Samalman, OpenAI, ya empiezan a decir que están utilizando en el desarrollo de sus inteligencias artificiales actuales y futuras, pues el Self-Improving. La IA está ayudando a construir IA o la IA auto-mejorándose. Son dos cosas distintas. Una cosa es que una IA ayude a crear otra IA, pero estas IA son estas Que eso es lo que publica Anthropy. Bueno, ahora lo leeremos porque yo el artículo completo no lo he visto por encima, pero no lo he leído. Pero una cosa es que una IA ayude a crear un modelo, a mejorarlo, a optimizarlo. Y otra cosa es que un modelo pueda automejorarse a sí mismo. Son cosas distintas, incluso. Continual learning entraría dentro del self-improving, pero no es en sí mismo un self-improving, pero bueno, está relacionado. Está contenido, ¿no? Hay que tener cuidado con esto. Lo dicho, lo que tenéis que tener en cuenta es que en 2017, en los principios de Asilomar, esto ya se consideraba peligroso. Por lo tanto, cuando Anthropix saca la patita, qué casualidad que ocurra lo que ocurre. Dice Zilifant, dice, esa imagen sobre el self-improving es muy llamativa. ¿Puedes darle una pincelada? ¿Puedo darle una pincelada? No, está creada, esto se generó en su momento en mid journey ¿vale? ¿vale? de todas formas sobre esto bueno a ver lo voy a decir vamos a vamos a anunciar seguramente un labo 2 sobre todo uno creo que va a causar impacto tanto por lo que vamos a intentar hacer como por la gente que va a participar ¿no? entonces todo este tipo de dibujos si os gustan este tipo de conceptos pues bueno los vais a ver Y esta es la portada de... Bueno, hay dos programas. He puesto solo la portada de uno, pero las tenéis en el canal. Hay dos programas que hice. Tiene tiempo. Que es un poco analizando qué había en ese momento sobre Self Improving. Lo que yo conocía y había recogido de varios sitios. Y lo que pensaba al respecto. Hay un programa sobre Self Improving en el canal y esta es la portada. El robot que está como... Es un robot con ciencia primitiva que está en el mar, en el latente, intentando como buscar el equilibrio o aprender, ¿no? En este sentido. Y hicimos un programa de Self Improving y otro de Self Replicating que lo tenéis en el canal, los dos. Yo os recomiendo los dos también. No sé si vistos ahora, a ver, serán actuales y aunque haya podido ser superado a nivel técnico en cosas más recientes, todo lo que se cuenta es muy interesante, ¿no? Investigaciones de gente que ya estaba teniendo resultados por parte de Google, etc. Entonces os recomiendo, si os gusta este tema que os tiene que gustar, porque si os gusta el contenido de X-Hab ahí, yo para mí es uno de los temas, el self-improving es un tema apasionante, el self-replicating también, pero el de vida artificial, conciencia, bueno, todo lo que tiene que ver, que une técnico con conceptos de computación, filosóficos, etc., es apasionante. Y bueno, aquí he puesto una frase que mientras estaba ordenando las slides me ha gustado para... para empezar la lectura del artículo. Es sobre Humano X, que es un texto que estoy escribiendo, que tendría que tener forma de libro. La idea es hacer como 12 libros pequeñitos, porque si no, si hay que esperar a que acabe los 12 libros, os podéis morir. Y yo creo que es más fácil ir publicando poco a poco. Aquí hay un extracto que utilicé en Antigua Nova, ese texto de la Iglesia Católica en época del Papa Francisco. No es del Papa León, pero bueno, tiene mucho que ver con lo que luego ha sido Magnífica Humanitas, etc. Dice lo siguiente este texto de Humano X que he escrito yo, obviamente. Dice, no busquéis a Dios en el cielo. Buscadlo dentro de vosotros mismos, de vosotros. Miraos las manos. Fuisteis creados para crear. Así como el Padre os creó a vosotros, vosotros crearéis A los hijos que caminarán a vuestro lado. En definitiva, esto lo que intenta trasladar es el componente que no hace falta ser creyente de Dios para encontrar a Dios dentro de ti, el humano Dios, ¿no? Luego, el componente de las manos, de nuestro cuerpo, el componente de las manos y el componente de creadores, ser creadores. En definitiva, nosotros hemos sido creados y hemos sido también creados para crear. Y entonces, igual que el Padre nos crea a nosotros, nosotros también vamos a crear estas inteligencias artificiales que serán nuestros hijos. Y este concepto que convierte muchas cosas, me gusta como frase para abordar lo que es algo que nos lleva a nuevos límites tanto de reflexión humana como de desarrollo tecnológico como de impacto humano o impacto social bueno, vamos vamos al lío, vamos a si tenéis alguna pregunta antes y si

SPEAKER_03 32:18

no, vamos a Vamos

SPEAKER_01 32:41

a por ello, vamos a leerlo. Dice, bueno, la portada cuando la inteligencia artificial se construye a sí misma. Nuestro progreso hacia la automejora recursiva y sus implicaciones. Aquí tenéis una animación chula, ¿no? Que es, bueno, los pequeños cloud creando un cloud más grande, ¿no? Y como es a su vez de forma fractal, ese cloud más grande crea otra vez otro cloud y así infinitamente, ¿no? Algo recursivo. genial, la verdad es que Anthropic está haciendo cosas de forma brillante, sencillas pero brillantes y con impacto. Dice el texto lo siguiente, durante la mayor parte de la historia de la inteligencia artificial, los humanos impulsaron cada paso de su ciclo de desarrollo. Pero en Anthropic estamos delegando una parte cada vez mayor del desarrollo de la inteligencia artificial a los propios sistemas de inteligencia artificial, lo que está acelerando nuestro trabajo y bueno, estamos viéndolo y comprobándolo. Si se lleva al estrés, principalmente desde finales de 2025, si se lleva al estrés y se le proporciona la capacidad de procesamiento necesaria, esta tendencia apunta a un sistema de inteligencia artificial capaz de diseñar y desarrollar de forma totalmente autónoma a su propio sucesor. Esto se conoce como automejora recursiva. Todavía no hemos llegado a ese punto y la automejora recursiva no es inevitable, pero podría llegar antes de lo que la mayoría de las instituciones están preparadas. Aquí me sorprende una cosa. Bueno, voy a ir comentando quien quiera leerlo de golpe, que es coja y que se lo lea él, pero yo voy a intentar leerlo y a la vez comentar cosas que ha dicho que me chirrían un poco, esto en real time que tienes un canto, también me puede decir cosas que luego me arrepiento, pero no pasa no pasa nada eh Primero dice que lo están utilizando, pero que luego no lo están haciendo de forma total, que todavía no han llegado a ese punto. Luego hay algo que me sorprende, que es, dudo un poco de ese planteamiento, de que no estén haciendo cosas que vayan más allá de lo que dicen. Dicen también que la automejora recursiva no es inevitable, pero ¿eso qué quiere decir? ¿Que oye, es un peligro y podemos evitarlo? no tiene mucho sentido, dice, pero podría llegar antes de lo que la mayoría de las instituciones están preparadas. Si tú dices eso, lo que estás diciendo es que para que las instituciones estén preparadas, es que este tipo de sistemas tendrían que, como decía los principios de Asilomar, tendría que haber un control férreo sobre ellas. Es decir, lo que tú estás pidiendo es, oye, yo soy el más peligroso, venid y controladme. Es que estás diciendo eso. Bueno, me interesa vuestra opinión. Me interesa vuestra opinión. Dice, utilizando datos de referencia públicos y datos internos de Anthropic que no se habían publicado anteriormente, el Instituto Anthropic demuestra que la inteligencia artificial ya está acelerando el desarrollo de sistemas de inteligencia artificial. Por poner solo un ejemplo, actualmente los ingenieros de Anthropic implementan en promedio ocho veces más código por trimestre que entre 2021 y 2019. Es decir, la cantidad de código que se genera gracias a la IAC código generado solo por ella es 8x entonces cuando en las redes sociales principalmente en Linkedin y otras es que esto no va a sustituir humanos es que esto no va a sustituir al programador es que esto solo que si el big coding es otro concepto a ver que es algo ya real que no están todas las compañías obviamente pero esto es un cambio de paradigma brutal y ese salto de mejora pues aplicado en ese área, un área fácil de medir en este sentido dice, bueno, la cantidad no es la calidad, pero entiendo que habrá calidad en cuanto lo están aplicando, dice las tendencias tecnológicas analizadas en este artículo sugieren que los sistemas de inteligencia artificial serán mucho más capaces en los próximos años años, bueno, imagínate si los meses pero bueno, enseguida los han parado analizar también este artículo sabiendo que luego vino esa publicación de Darío Amodei de las leyes, las políticas de las leyes de crecimiento exponencial y que luego vino la prohibición o la parada. La cancelación. A ver, dice, estas tendencias tienen enormes implicaciones.

SPEAKER_03 37:23

Uy,

SPEAKER_01 37:23

esto se me ha caído. Un segundo, se me ha caído.

UNKNOWN 37:24

Se me ha caído ahí. Vale.

SPEAKER_01 37:24

A ver si se ve bien. Se me ha caído. Espera,

SPEAKER_03 37:32

que se ha caído un tema. Un segundo. Un segundo. Espera un momento. Vale. Disculpad

SPEAKER_01 38:56

el ataque del agente Smith.

UNKNOWN 38:59

Volvemos enseguida.

SPEAKER_03 39:20

Vale,

SPEAKER_01 39:30

nos habíamos quedado esto, pero podría llegar antes de lo que la mayoría de las instituciones están preparadas. Disculpad, se ha caído aquí media paraeta. Seguimos. Utilizando datos de referencia públicos y datos internos de Anthropic, que no se habían publicado anteriormente, el Instituto Anthropic demuestra que la IA, lo dicho, ya está acelerando el desarrollo de sistemas de inteligencia artificial. Por poner solo un ejemplo, actualmente los ingenieros de Anthropic implementan en promedio ocho veces más código por trimestre que entre 2021 y 2025. Las tendencias tecnológicas analizadas en este artículo sugieren que los sistemas de inteligencia artificial serán mucho más capaces en los próximos años. Estas tendencias tienen enormes implicaciones. Una inteligencia artificial capaz de autoconstruirse representaría un avance trascendental en la historia de la tecnología con un potencial enorme para el mundo en ciencia, salud y otros ámbitos. Sin embargo, la automejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de inteligencia artificial si los sistemas son capaces de construir completamente sus propios sucesores la forma en que los protegemos los supervisamos y moldeamos su comportamiento adquiere una importancia mucho mayor aquí hay que diferenciar una cosa el self-improving que sería la mejora continua del modelo aquí están hablando de otra cosa que es la IA haciendo su sucesora Son cosas distintas, ¿no? Es una mejora recursiva, pero es del padre al hijo, del hijo al nieto y así, ¿no? No es una automejora propia. No digo que no se pueda hacer, que obviamente sí, y es ese concepto, pero aquí están hablando de el que seguramente están utilizando, que es crear un modelo nuevo a partir de la ayuda o asistido por inteligencia artificial. Y aquí ellos ponen un poco la historia, desde el 2023, qué es lo que está sucediendo. Y aquí empieza con los, en sus inicios, el trabajo en Anthropix se parecía al de cualquier otra empresa, se parecía al de cualquier otra empresa tecnológica. Gente escribiendo código y documentación en ordenadores portátiles. Eso es un poco lo que ocurría.

UNKNOWN 41:58

A ver, lo estáis viendo, ¿no? Sí.

SPEAKER_01 41:59

Dice... Los chatbots. Luego vienen los chatbots, ¿no? Las primeras personas utilizaban chatbots para ayudar con partes del proceso, como generar fragmentos de código cortos y copiar el resultado en editores. Pues eso, algo que ya hemos hecho, seguimos haciendo, pero esto ha avanzado a otro nivel, ¿no? ¿A qué nivel? Pues al de 2025-2026, que es que a medida que los agentes adquirieron más habilidades, pudieron escribir y editar código por sí mismos a veces archivos completos, los agentes de codificación y hoy lo que tenemos en definitiva es lo que tenemos son agentes autónomos, que es, ahora los agentes pueden ejecutar el código por sí mismos y delegar horas de trabajo a otros agentes. Tenemos agentes, tenemos subagentes, tenemos equipos de agentes, tenemos múltiples agentes, sistemas agentes colaborando entre agentes. ¿Y qué es lo que viene a continuación? Pues, como dicen aquí, cerrando el círculo, en el futuro, los agentes podrían llegar a ser capaces de construir y entrenar modelos por sí mismos. Si esto sucede, las futuras versiones de Cloud podrían ser mejoradas continuamente por el propio Cloud. ¿Vale? Cloud entrenándose a sí mismo y a la vez, pues, bueno, pum, se replica para todo el mundo, se mejora, pum. De tal manera que a lo mejor tendríamos una versión nueva cada día, ¿no? Pero, claro, una versión nueva cada día que es distinta e independiente de la anterior. Es decir, es como un padre que tiene hijo y se muere o ya no se utiliza. Entonces, bueno, es una técnica, lo que estamos hablando, ¿no? No es exactamente self-improving, sino es una IA creando otra IA, ¿no? Aquí se puede entender como un self-improve recursivo, pero no en sí mismo, no es un self, sino es en tu hijo. Evidencia del mundo exterior. Bueno, voy a ir viendo el chat. Evidencia del mundo exterior. El ritmo de mejora de los modelos de inteligencia artificial se está acelerando. La duración de las tareas que pueden completar de forma fiable por sí solos se ha duplicado aproximadamente cada cuatro meses, frente a la tendencia anterior de duplicarse cada siete meses. Es decir, que cada vez se acelera más la autonomía de los agentes. En marzo y el tiempo en el que son fiables. Esto era un indicador muy importante, sobre todo para aplicarlo a empresas y que pudieras delegar en ellos un tiempo largo. En marzo de dos 2024, Cloud Opus 3 podría o podía completar tareas de software que a los humanos les llevaban unos 4 minutos. Un año después, Cloud Zone 3.7 gestionaba tareas que llevaban aproximadamente una hora y media. Un año más tarde, Cloud Opus 4.6 gestionaba tareas de 12 horas. Si esta tendencia se mantiene, las tareas que a una persona cualificada le llevan días, podrían estar al alcance este año. Imaginaros el impacto en el trabajo. Esto lo hemos analizado en varios programas. En 2027, los sistemas de inteligencia artificial podrían ser capaces de realizar tareas que a una persona le llevan semanas. Claro, por eso se dice que los modos de Faber, mejor que les des tareas complejas, que tú no le desarrolles mucho lo que tienen que hacer, sino simplemente cuál es el inicio, el final, y él solo va a ir desempeñando y planificando todo eso de forma casi mejor que tú mismo. Dice, el mismo patrón se observa en las pruebas de rendimiento de codificación e investigación. Estas pruebas miden el desempeño de los modelos en un dominio determinado y se consideran saturadas cuando alcanzan un rendimiento cercano al 100% dentro del software en Junior Bench. Es una prueba estándar de ingeniería de software en el mundo real. Se le proporciona a un modelo un código fuente abierto real y un informe de errores real y se le pide que escriba un cambio de código que solucione el problema y supere las pruebas del proyecto. En dos años los modelos han pasado de obtener puntuaciones bajas de un solo dígito a saturar la prueba. Imaginaros ese crecimiento al que es debido. No es inteligencia, no, es que al final esos son patrones que tal pero entonces el desarrollo de código y resolución de problemas y errores no pero al final eso es un son patrón que diferencia está entre nosotros y a la hora de solventarlo eso no nosotros trabajamos desde otro bueno entonces no es inteligente es capaz de desarrollar cualquier tipo de software pero no sabe programar gana cualquier campeón de ajedrez pero no sabe jugar tenemos que replantearnos como medimos eso eh y separar lo que sería el conductismo, utilitarismo, funcionalismo del soporte que hay detrás y si realmente importa a un nivel meta. CoreBench evalúa si un modelo puede reproducir investigaciones existentes, requisito indispensable para realizar investigación original. Proporciona a un modelo de inteligencia artificial el código y los datos de un artículo publicado y le pide que repita todo el proceso y confirme que puede replicar los resultados. Los sistemas de inteligencia artificial pasaron de reproducir... los resultados con éxito aproximadamente el 20% de las veces en 2024, a saturar la prueba 15 meses después. En Metter, lo mismo, que ejecuta la prueba para medir la capacidad de los modelos para completar tareas de larga duración, determinó que Cloud Mythos Preview podía funcionar durante al menos 16 horas y se encontraba en el límite superior de lo que Metter puede medir sin nuevas tareas. Los análisis comparativos públicos revelan mucho sobre las capacidades de estos sistemas, sin embargo, no pueden mostrar el impacto que tienen los sistemas de inteligencia de en la aceleración del desarrollo de la inteligencia artificial en sí. Para ello necesitamos evidencia directa de empresas de inteligencia artificial como Anthropy. Es decir, que mucho dashboard o benchmark para medir el rendimiento en temas de desarrollo de software y corrección de errores, etcétera, pero no tanto en una IA haciendo una IA. Entonces dice que para eso tendremos que ver qué hacemos nosotros, empresas como Anthropy, Company Eye y otros. Evidentemente Evidencia desde dentro de Anthropy. Dice, la creación de un modelo de vanguardia requiere dos grandes categorías de trabajo. Por un lado, la ingeniería, escribir el código, establecer la infraestructura y supervisar el entrenamiento del modelo. Y por otro lado, la investigación, decidir qué experimentos realizar, interpretar los resultados y determinar qué ideas probar a continuación. Tanto en ingeniería como en investigación, la situación es similar. En ingeniería, Cloud puede resolver un problema poco definido. Los humanos definen el objetivo, pero ya no necesitan En investigación, Cloud ya puede igualar o superar a expertos en la ejecución de experimentos bien definidos. Sin embargo, persisten grandes diferencias de rendimiento cuando Cloud toma decisiones acertadas al elegir objetivos, tanto en ingeniería como en investigación. Esa es la brecha entre la inteligencia artificial actual y un sistema futuro capaz de diseñar de forma autónoma a su propio sucesor. En Anthropic es común que los empleados reciban tareas más abiertas e importantes a medida que adquieren experiencia. Al principio ejecutan una tarea específica, como el botón de exportación no funciona, por favor, arréglenlo. Con la experiencia se les asigna un objetivo y diseñan su propio enfoque, como investigar por qué la red se ralentiza bajo una carga pesada. En los niveles más altos deciden qué problemas merecen la pena abordar. ¿Qué debería desarrollar el equipo el próximo trimestre? Podemos usar datos internos de Anthropic para ver cuánto ha progresado Cloud en su capacidad para gestionar estos diferentes tipos de tareas. Cloud escribe un una proporción significativa del código de Anthropic. A mayo de 2026, más del 80% del código que integramos en la base de código de Anthropic fue escrito por Cloud. El 80%, más del 80% del código. Y luego, no, es que esto es humo. Antes del lanzamiento de Cloud Code en versión preliminar para investigación en febrero de 2025, este número era muy bajo. Este cambio también se refleja en la cantidad de producción por ingeniero. Las líneas de código integradas por ingeniero por día se mantuvieron constantes durante los primeros cuatro años de Anthropy, 2021-2024, y luego comenzaron a aumentar en 2025 cuando Cloud comenzó a ejecutar código en lugar de simplemente sugerirlo para que un ingeniero lo copiara y pegara. La pendiente se acentuó nuevamente en 2026 cuando los modelos comenzaron a funcionar de forma autónoma en horizontes temporales más largos. Estos dos puntos de inflexión se muestran en el gráfico a continuación. En el segundo trimestre de 2026, el ingeniero promedio fusionaba 8 veces más código por día que en 2024. Esto se debe a que gran parte del código lo escribe Cloud con el ingeniero dirigiendo y revisando, supervisando, en lugar de escribirlo él mismo. Bueno, esta gráfica es demoradora, ¿no? Demoradora, un ocho por... con Cloud Mythos Preview, 5.8x con un Mythos Preview, pero un acceso interno en Q1, en Q2, imaginaos con el nuevo Mythos, pero ya en Cloud Opus 4.5, un 2.5x. Algo ha pasado ahí, ¿no? Ha habido un salto increíble, es decir, imaginaos del 1.2, 2.5, 5.8, 8x. Bueno, entonces hay que tomarlo con pinzas, ¿no? Pero impresionante. Impresionante y nos tiene que hacer pensar, ¿no? Dice una advertencia. Las líneas de código son una medida imperfecta, ya que prioriza la cantidad sobre la calidad. Por lo tanto, ocho líneas de código ingeniero día en el segundo trimestre de 2026 es casi con total seguridad una sobreestimación del verdadero aumento de productividad. No obstante, indica una aceleración. Y en Anceropic no premiamos a las personas por la cantidad de líneas de código que escriben. Más bien, los miembros del equipo producen más código simplemente porque utilizan utilizan sistemas de inteligencia artificial para escribirlo. El aumento en las líneas de código escritas coinciden con las impresiones subjetivas de grandes incrementos de productividad. En una encuesta realizada en marzo de 2026 a 130 empleados de los distintos equipos de investigación de Anthropic, el encuestado medio estimó que producía aproximadamente cuatro veces más comizos previos que sin acceso a ningún modelo de inteligencia artificial en los mismos tipos de proyectos en los que habría trabajado de todos modos. Esperamos que el verdadero grado de mejora en marzo fuera algo menor. Sin embargo, consideramos que la afirmación general es plausible y concuerda con nuestras otras observaciones. Una fracción significativa del personal técnico de Anthropic está realizando su trabajo principal para varias veces más rápido de lo que podría sin la ayuda de la ley. También observamos indicios de que en Anthropic utilizan Cloud para realizar tareas que de otro modo no se habrían llevado a cabo, como la creación de herramientas de exploración y la resolución de problemas pendientes desde hace tiempo. Por ejemplo, en abril de 2026, Cloud implementó más de 800 correcciones que redujeron una clase de errores de API en un factor de mil. El ingeniero responsable de Cloud estimó que a un humano le habría llevado cuatro años completar este trabajo. Solucionar los errores de otros es lento y laborioso y a los humanos les cuesta retener tanta información desconocida a la vez. Empleado de Anthropic, dice, empecé a profundizar en el concepto de cloudificación hace aproximadamente un año. Ha sido una aventura increíble y ya han pasado unos cinco meses desde la última vez que escribí código yo mismo. El código que escribe Cloud es bueno y está mejorando. Un buen código significa dos cosas. Funciona y está escrito de manera que otro ingeniero pueda entenderlo y desarrollarlo. En cuanto al primer criterio, la evidencia es clara. La frecuencia con la que el personal de Anthropi corrige, redirige o toma el control de las tareas de Cloud a mitad de camino ha disminuido constantemente durante un año, incluso en las tareas más complejas y abiertas. Esto significa problemas sin especificaciones claras donde el ingeniero no está seguro de cuál es la solución. Esto se evidencia en la tasa de éxito de Cloud a lo largo del tiempo en tareas de diferentes dificultades como se muestra en el gráfico a continuación. Cloud escribe código que funciona. Tenéis el número de sesiones y cómo al final se va reduciendo y prácticamente como la tendencia es que va a escribir código que funciona hasta llegar a casi el 100%. en todas las áreas, en problemas abiertos, en tareas sustanciales, en tareas rutinarias o triviales. Bueno, aquí dice, ¿cómo interpretar esta gráfica? Dice, el éxito de la sesión lo determina un juez de cloud. Una sesión se considera exitosa si la gente de cloud completó con éxito las tareas del usuario sin necesidad de correcciones. Los cambios en la carga de trabajo pueden provocar fluctuaciones a corto plazo en la tasa de éxito. Sigue diciendo... ¿Por qué comentas esto, Ahmed? Pareciese como si el concepto de privacidad fuese a dejar de tener sentido. ¿Por qué lo comentas esto? Te lo contesto. Dice, las tareas más abiertas, la tasa de éxito de Cloud alcanzó el 76% en mayo de 2026, un aumento de 50 puntos porcentuales en seis meses. Para ilustrar las tareas de este nivel de dificultad, una actualización rutinaria provocó el fallo de decenas de miles de trabajos de capacitación. Un ingeniero le indicó a Cloud el incidente en tiempo real con poco más que un texto y acceso al clúster. Trabajando con los trabajos en ejecución y probando una configuración del entorno a la vez, Cloud aisló la única opción de depuración poco común que estaba provocando el fallo. La reprodujo de forma fiable y confirmó la solución. En aproximadamente dos horas, Cloud entregó lo que normalmente habría requerido de dos a tres días de trabajo. El segundo criterio es escribir código que otro ingeniero pueda comprender y sobre el que pueda construir. En este aspecto, la brecha entre humanos ya persiste, pero se está reduciendo rápidamente. No existe un consenso total entre el personal de Anthropic, pero muchos creen que el código escrito por Claw seguía siendo de peor calidad que el código escrito por humanos en Anthropic a finales de 2025 y que actualmente se encuentra prácticamente a la par. Esperamos que mejore en el transcurso del año. Es decir, escrito por los técnicos de Anthropic, imaginaros en una empresa trasladar eso casi al mismo nivel o mejor. Bueno, pues lo he dicho, lo que el Que claro que vamos a necesitar humanos, programadores e ingenieros, pero la calidad del código va a funcionar o va a ser de gran calidad. Dice, esto ha cambiado la forma en que Alzerbeik revisa su propio código. Los cambios propuestos a nuestro código ahora son leídos por un revisor automatizado de Cloud que busca errores, fallos de seguridad y otros defectos antes de su fusión. Con esta herramienta realizamos un análisis retrospectivo y descubrimos que una revisión automatizada de Cloud de cada cambio en nuestro código habría detectado aproximadamente un tercio de los errores que causaron incidentes anteriores en Cloud.org. AI antes de que llegaran a producción los ingenieros que escribieron ese código se encuentran entre los mejores del mundo en la creación de estos sistemas ahora Cloud detecta los errores que ellos pasaron por alto el código escrito por Cloud era algo peor que el código escrito por humanos en Anthropic al final es 2025 hoy en día prácticamente a la par y esperamos que sea claramente mejor en el transcurso de años que eso es una bomba dice Cloud es bueno realizando experimentos para alcanzar un objetivo que alguien más ha establecido. Cada vez que Anthropic lanza un modelo, realizamos la misma prueba. Le damos a Cloud un código que entrena un pequeño modelo de IA y le pedimos que haga que ese código se ejecute lo más rápido posible, pasando las mismas comprobaciones de corrección. El objetivo y las métricas de éxito están fijadas de antemano, por lo que el trabajo de Cloud es encontrar aceleraciones, reescribiendo el código, ejecutándolo, cronometrándolo y repitiendo. Es una versión en miniatura de un ciclo de investigaciones En mayo de 2025, Cloud Opus 4 promedió una aceleración de 3x con respecto al código inicial. Para abril de 2026, Cloud Meadows Preview estaba alcanzando prácticamente el 52x. ¡Wow! Para la calibración, un investigador humano experto necesitaría de 4-8 horas para alcanzar un 4x. En esta parte del flujo de trabajo de investigación, optimizar pasos dentro de un experimento claramente definido, Cloud ha pasado de ser súper útil a sobrehumano. en menos de un año. Entonces, entendemos... Es que es así. Es que no vamos a poder competir con una tecnología así. Tenemos que aceptar el nuevo paradigma y crear nuevos sistemas bajo ese nuevo paradigma. Y sobre esa evolución de ese nuevo paradigma. Que nos llevará a nuevos paradigmas seguramente, pero bueno, teniendo en cuenta el nuevo paradigma, ya entendemos o concebimos hacia dónde vamos. Bueno, un escenario donde el humano... Puede estar, pero cada vez va a estar menos en el desarrollo del software. La situación actual se resume a grandes rasgos en que los humanos tienen ideas y los modelos son capaces de implementarlas, probarlas y evaluarlas a un orden de magnitud más rápido que antes. Cloud está mejorando en la propuesta de sus propios experimentos. En abril de 2026, Azorbic publicó la primera demostración de Cloud ejecutando un proyecto de investigación abierto de principio a fin. Se les dio a los agentes impulsados por Cloud un problema abierto en seguridad e inteligencia artificial aproximadamente, ¿puede un modelo más débil supervisar de manera confiable a uno más fuerte? Bueno, esto es el proyecto de superalineamiento de Ilya Suskever, la misma pregunta. Y se les dejó resolverlo. Esto implicó proponer hipótesis, probarlas, compartir los hallazgos con agentes paralelos e iterar. La tarea tiene un rendimiento mínimo y máximo claros. El mínimo es que también se desempeñaría el supervisor débil por sí solo. El máximo es que también se desempeña el modelo fuerte cuando se entrena con respuestas correctas. Dos investigadores humanos en aproximadamente una semana recuperaron aproximadamente el 23% de esa brecha. Los agentes recuperaron el 97% en 800 horas acumuladas y usaron aproximadamente 18.000 dólares en computación. Hay algunas salvedades en este trabajo. El resultado no se transfirió fácilmente a modelos a escala de producción y todavía fueron humanos quienes eligieron el problema y crearon la rúbrica de evaluación, pero dentro de esos límites los agentes diseñaron cada experimento por sí mismos. La única función significativa que desempeñó un ser humano fue la de marcar las directrices. Dice, Cloud hizo todo con muy poca ayuda mía en el transcurso de uno o dos días. Creo que si un colega más joven me presentara resultados similares en el mismo lapso de tiempo me impresionaría bastante. El futuro es ahora. Cloud está mejorando en la capacidad de orientar las sesiones de investigación hacia los resultados. Analizamos sesiones reales de Cloud Code de enero a marzo de 2016 en las que investigadores de Anthropic trabajaron con Cloud en un problema de investigación abierto como averiguar por qué una ejecución de entrenamiento fallaba repetidamente o por qué un modelo obtenía una puntuación baja en una prueba comparativa. En cada caso encontramos un momento en el que el investigador se desvió, siguió una dirección que desvió la sesión antes de que finalmente volviera a su curso. A continuación mostramos a varios modelos de cloud solo el trabajo previo a que la sesión se desviara y les preguntamos qué harían a continuación. Un cloud independiente que pudo ver cómo terminó la sesión juzgó si la IA o el human sugirieron el mejor siguiente paso. Dado que seleccionamos deliberadamente momentos igual a 129 en los que sabemos que la elección humana tenía margen de mejora, esta no es una comparación directa entre el modelo y el juicio humano. Estos momentos nos brindan un conjunto de situaciones realistas y desafiantes donde el siguiente paso correcto no es obvio y donde la elección humana sirve como un criterio útil para comparar el rendimiento del modelo a lo largo del tiempo. En esta medida, nuestro mejor modelo en noviembre de 2025, Opus 4.5, superó la elección humana el 51% de las veces. En abril de 2026, MISOS PREVIEW, este porcentaje aumentó al 64%. El trabajo diario de investigación es en gran medida una cadena de estas decisiones sobre el siguiente paso, lo que convierte a esta medida en una medida relevante de la capacidad del modelo para eventualmente llevar a cabo una investigación propia. Consideramos este resultado como una señal temprana de que los sistemas de inteligencia artificial están mejorando en la toma de decisiones de las que depende la investigación en inteligencia artificial. Aquí muestran una gráfica de dónde un investigador se equivoca y qué cloud podría haber mejorado, ¿no? ¿Cuál es la mejora que proporciona? Y fijaos ahí que, bueno, en la mejora que proporciona respecto al humano, pues en Cloud Opus 4655, Opus 4759, Mythos Preview 64, lo hemos pasado de un 22 con Haiku, con un Sonet 448 a un 64. La línea del techo práctico mide una respuesta ideal escrita por un modelo que puede ver toda la sesión incluida como término. La ventaja comparativa de los humanos en la actualidad reside todavía en su capacidad para ver el panorama general y pensar más allá de los límites de la tarea inmediata. Es decir, esa visión... Aérea, meta, pues aún estamos ahí los humanos. Dice, ¿cómo podría...? ser el futuro del trabajo en Anthropic la evidencia sugiere que el rol humano se reduce en cada etapa del proceso de desarrollo de la inteligencia artificial una vez que la calidad del código escrito por humanos y por inteligencia artificial alcance la paridad los humanos dejarán de escribir código por completo y se limitarán a revisarlo ¿lo entendemos o no? una vez que la calidad del código escrito por humanos y por inteligencia artificial alcance la paridad los humanos dejarán de escribir código por completo y se limitarán a revisarlo. Pero si no pueden revisar el código con la misma rapidez con la que Cloud lo genera, la revisión humana se convertirá en el principal obstáculo para el desarrollo de la inteligencia artificial. De manera similar, una vez que Cloud pueda ejecutar experimentos, la pregunta se centrará en cuál de estos experimentos merece la pena realizar. En resumen, la ejecución, es decir, escribir el código, ejecutar el experimento y obtener el resultado, ahora prácticamente no cuesta tiempo humano, aunque siga teniendo un coste computacional. Por ahora, un área de venta comparativa humana reside en el criterio del buen juicio en la investigación incluyendo la elección de qué problema o qué problemas importan en qué resultados confiar y cuando un enfoque no lleva a ninguna parte El trabajo y la vida se regían por una economía de favores mutuos. ¿Puedes ayudarme a poner en marcha este guión? Cada uno creaba una pequeña deuda, un poco de conocimiento mutuo. Claude es más rápido, no crea ninguna deuda, pero cada uno de estos favores es un intento perdido de colaboración humana. En los días en que todo funciona bien, no puedo evitar pensar que nada de lo que hago importa, que todo está automatizado y es mejor y más rápido de lo que Yo jamás seré. Pero luego hay días en que todo se rompe y no entiendo por qué y me doy cuenta de que ya no tengo ni idea de lo que he estado haciendo. Bueno, esta frase es que es para repetirla y enmarcarla. En los días en que todo funciona bien no puedo evitar pensar que nada de lo que hago importa, que todo está automatizado y es mejor y más rápido de lo que yo jamás seré. Pero luego hay días en que todo se rompe y no entiendo por qué y me doy cuenta de que ya no tengo ni idea de lo que he estado haciendo. Es brutal, terrible, brutal y terrible. ¿Y si nos equivocamos? Venga, ¿y si nos equivocamos? una objeción lógica a la evidencia presentada anteriormente es que lo que realmente importa es el trabajo que aún está en manos humanas elegir en qué problemas trabajar sin ese criterio Claude es un asistente competente pero no un sistema capaz de impulsar el progreso de la inteligencia artificial por sí solo realmente no está claro si los métodos y arquitecturas de entrenamiento actuales podrían desbloquear esa capacidad pero la inteligencia artificial rara vez avanza por momentos de eureka ha habido algunos de estos en la historia reciente de la inteligencia artificial como la arquitectura de transformes o los modelos de mezcla de expertos, pero las ideas que cambian el paradigma surgen con años de diferencia. Entre medias, la mayor parte del progreso es incremental. Ampliamos algo, vemos que falla, lo corregimos y volvemos a intentarlo. Ese es precisamente el tipo de flujo de trabajo en el que Cloud ahora sobresale. Edison dijo que el genio es un 1% inspiración y 99% transpiración. Pero vemos que la transpiración se automatiza cada vez más. Está quedando claro que gran parte de lo que hace avanzar la frontera es automatizable. El progreso de la investigación a gran escala depende principalmente de las herramientas y los recursos que dictan la velocidad con la que se pueden ejecutar experimentos, cuántos se pueden ejecutar a la vez y con qué rapidez se pueden obtener resultados. Incluso suponiendo que Cloud nunca desarrolla un buen criterio de investigación, un Una interpretación conservadora de la evidencia sugiere una aceleración acumulativa. Si los humanos dedican la mayor parte de su tiempo a la pequeña fracción del trabajo que implica definir la dirección estratégica, mientras que Claude se encarga del resto, esto significa que cada ingeniero e investigador dirige mucho más trabajo que antes. La evidencia que observamos indica que en Anthropic trabajan con mayor rapidez y abarcan un ámbito más amplio. En la práctica esto significa que la IA ya impulsa a Anthropic a un ritmo mucho mayor que antes de la llegada de herramientas de inteligencia. inteligencia artificial eficaces. La interpretación menos conservadora sugiere que las primeras evidencias sobre la mejora del criterio investigador de Cloud, aunque limitadas por ahora, indican que esta capacidad también está mejorando. El gusto investigador podría ser simplemente otra capacidad de la inteligencia artificial en la que los sistemas de inteligencia artificial fallan durante un tiempo, pero luego o para luego perfeccionarse. Hemos observado un patrón similar con otras habilidades cualitativas, como la capacidad de los sistemas de inteligencia artificial para explicar por qué un chiste es gracioso, demostrar la teoría de la mente y resolver acertijos lingüísticos. Es decir, están esperando a que esto sea algo emergente como otras propiedades que han llevado a a tener cualidades o habilidades cualitativas no esperadas ni programadas como era la de explicar un chiste gracioso demostrar la teoría de la mente resolver acertijos lingüísticos tremendo artículo de obligada lectura debería ejercerse obligada lectura en posibles futuros que debemos hacer vamos a los posibles futuros y que debemos hacer venga no queda mucho posibles futuros. Lo que suceda a continuación depende de dos cosas. Si la tendencia continúa, ¿y qué decidimos hacer si continúa? Podemos imaginar al menos tres escenarios futuros. Un escenario o primer escenario. La tendencia se estanca, pero las capacidades de la inteligencia artificial actuales están ampliamente difundidas. Este artículo presenta numerosas trayectorias exponenciales, sin embargo, estas trayectorias podrían convertirse en curvas en forma de S. Es posible que nos estemos acercando al punto de inflexión de la curva donde los rendimientos a escala disminuyen y la línea se endereza para luego aplanarse. El criterio que distinga a un investigador competente de uno excepcional podría ser una capacidad que no se adquiere simplemente aumentando los insumos de entrenamiento como la computación y los datos. De ser así, superar este cuello de botella requeriría una nueva idea como un enfoque arquitectónico que reemplace la arquitectura transformer que utilizan todos los modelos de vanguardia actuales. Gary Marcus, la pared... han chocado o topado contra la pared. Alternativamente, la principal limitación para el progreso de la IA podría residir en la cadena de suministro, no en el modelo. Avanzar y difundir la frontera podría requerir más energía y capacidad de computación de la que existe actualmente. El ritmo de fabricación de chips, la expansión de la red o el ancho de banda de interconexión podrían ser la limitación en lugar de la inteligencia en sí misma. Tampoco podemos destacar descartar una perturbación exógena en el ecosistema de la IA que ralentice drásticamente el proceso como una disminución repentina en el suministro de computación o electricidad lo que frenaría el progreso y encarecería la inversión futura de los laboratorios. O tal vez no estemos anticipando alguna otra barrera para el progreso. Incluso si las capacidades de los modelos se mantuvieran al nivel actual cabría esperar cambios importantes en el mundo. El proyecto El proyecto Glasswing de Mythos es una señal temprana. En sus primeras semanas, Mythos Preview encontró más de 10.000 vulnerabilidades de software de alta y crítica gravedad en los sistemas más importantes del mundo, suficientes como para que el cuello de botella en la ciberdefensa ya haya pasado de encontrar vulnerabilidades a parchearlas con la suficiente rapidez. Y aún estamos en las primeras etapas de la difusión de los modelos actuales en la economía en general, donde una empresa de 100 personas puede cada vez más realizar el trabajo de una de 1.000, porque cada empleado estará en la cima de una pirámide de agentes incluimos este escenario para mayor exhaustividad pero no creemos que sea probable Todas las capacidades que podemos medir, incluidas aquellas que parecen más flexibles, como la calidad del código y el éxito en tareas abiertas, han seguido hasta ahora la misma curva. Todavía no hemos visto que esa curva cambie. De los tres escenarios futuros que consideramos, este daría a los gobiernos y a las sociedades más tiempo para adaptarse. Nos preocupan más los dos siguientes, que avanzarían más rápido y dejarían mucho menos margen de preparación. Entonces está claro que el primero sabemos que no es el escenario real. Lo pone escenario 2 los laboratorios de inteligencia artificial siguen experimentando mejoras de eficiencia cada vez mayores en este escenario el desarrollo de la inteligencia artificial se automatiza sustancialmente pero los humanos continúan definiendo las líneas de investigación y evaluando los resultados las organizaciones que utilizan sistemas de inteligencia artificial se volverían mucho más eficientes con el tiempo por lo que podríamos esperar un aumento significativo de la productividad de cada persona en estas organizaciones empresas de 100 personas podrían realizar el trabajo de organizaciones de 10.000 o 100.000 personas y no hay sustitución de humanos no os preocupéis esto revolucionaría el trabajo del conocimiento y los servicios gubernamentales pero también podría utilizarse con fines perjudiciales desde la vigilancia autoritaria de poblaciones enteras hasta operaciones de influencia que personalizan la manipulación y operan a una escala que ningún equipo humano podría igualar. El papel de los humanos en empresas como Anthropic cambiaría. Las personas se asociarían con sistemas de inteligencia artificial para ampliar la investigación y generar nuevos conocimientos y juntos construirían los sistemas necesarios para verificar que los resultados de la inteligencia artificial sean fiables.

UNKNOWN 1:14:38

La evidencia

SPEAKER_01 1:14:39

que hemos presentado aquí, sugiere que probablemente nos dirigimos hacia este escenario. Pero acelerar una parte de un proceso a menudo solo traslada el cuello de botella a otro lugar. El ritmo general se ve limitado por las partes que nos han acelerado. En informática esto se conoce como la ley de Amdahl y la misma lógica se puede aplicar a las organizaciones. Anthropic ya ha experimentado una manifestación de la ley de Amdahl. A medida que hemos empezado a distribuir más código por toda la organización, la revisión manual del código se ha convertido en un nuevo código de botella. También hemos encontrado esta fricción fuera del ámbito de la ingeniería y ha habido una explosión de nuevas ideas, iniciativas, herramientas y simulaciones como resultado de que los empleados de Anthropic trabajen con modelos de gran capacidad, mucho más de lo que podemos abarcar. La rapidez con la que las organizaciones pueden detectar y solucionar estos cuellos de botella puede ser una habilidad que mejore con el tiempo y puede convertirse en la habilidad más importante para cualquier organización. Este Escenario 3. El último. Los propios sistemas de inteligencia artificial se vuelven capaces de automejorarse recursivamente y comienzan a construir sus sucesores. Si las tendencias técnicas en el avance de capacidades continúan y los sistemas de inteligencia artificial logran desarrollar las capacidades inherentes al ingenio humano transformador, entonces es plausible que puedan diseñarse y perfeccionarse a sí mismas. En este mundo, si eso ocurre... el ritmo del progreso en el desarrollo de la inteligencia artificial estará determinado enteramente por la disponibilidad de computación o la velocidad de descubrimiento de diversas eficiencias en el entrenamiento o la inferencia algorítmica para los sistemas de inteligencia artificial. Los humanos desempeñan un papel sustancialmente menor en su desarrollo, probablemente trasladando la mayor parte de nuestros esfuerzos a la supervisión, validación y verificación de un laboratorio virtual en expansión dirigido por sistemas de inteligencia artificial. Esperamos que los sistemas capaces de automatizar la investigación y el desarrollo de inteligencia artificial posean habilidades transferibles al resto de la ciencia, lo que les permitirá comenzar a revolucionar otros campos. ¿Cómo se resolverá o no el problema de la alineación, los guardrails, lo que pasó luego? En este futuro es algo de lo que tenemos menos certeza. Los modelos podrían demostrar estar suficientemente alineados y tener la capacidad suficiente de discernimiento en la investigación como para descubrir e implementar soluciones novedosas a las que aún no hemos llegado. También podrían ser lo suficientemente sabios como para determinar tener el desarrollo si no lo logran alternativamente las raras ocasiones de desalineación presentes en los modelos actuales podrían acumularse a medida que estos construyen sus sucesores volviéndose más frecuentes pero menos comprendidas hasta que perdamos el control sobre ellos es posible que no podamos construir integrar y verificar las herramientas que necesitaríamos para comprender en qué línea de tendencia nos encontramos realmente pues es lo que sucedió. No tenemos buenas intuiciones sobre cómo sería este mundo porque nuestra economía actualmente está impulsada por humanos y herramientas creadas por humanos. Por su naturaleza, un mundo impulsado por la rápida automejora recursiva podría llegar a estar dominado por el modelo de automejora a medida que sus capacidades eclipsen por completo las de los humanos y el modelo se prolifere en toda la economía. Es difícil predecir cómo será la economía si el trabajo humano deja de ser competitivo, incluso si el desarrollo de modelos se automatizara y volviera recursivo por completo, no podemos predecir qué significaría eso para la vida diaria de la mayoría de las personas. La ley de Andal también se aplica aquí. La inteligencia recursiva podría conducir a lograr muchos de los beneficios descritos en Machines of Loving Race, que es el primer artículo donde habla de las oportunidades rápidamente en algunos ámbitos. Prevemos que la inteligencia incorporada, es decir, la robótica, podría seguir rápidamente el ejemplo de la inteligencia recursiva y seguir una trayectoria similar de rendimientos crecientes a un coste decreciente. Una inteligencia más potente podría ayudarnos a construir cosas en el mundo físico con mayor rapidez, realizar ensayos clínicos más productivos de fármacos que salvan vidas y desarrollar nuevas formas de coordinación. Pero lograr una mejora recursiva por sí sola no implica un cambio inmediato en la producción industrial, la organización social y el funcionamiento de los mercados. Una mayor inteligencia artificial no puede aprender los efectos de un fármaco tras décadas de uso, ni convocar elecciones antes de lo estipulado por la Constitución, ni convertir a un desconocido en un amigo de toda la vida en un fin de semana. Para la mayoría, el ritmo de este futuro seguirá estando marcado por los cuellos de botella. Incluso si la investigación básica avanza a la velocidad de la computación, esto seguiría ocurriendo. Esa colisión donde la inteligencia recursiva que se desarrolla cada vez más rápido se encuentra con el mundo de los seres humanos, las relaciones y la gobernanza es otro aspecto de este futuro que no podemos predecir, bueno, que hay que elegir, yo es que creo que no se puede predecir, es que hay que elegirlo. Un artículo imprescindible, imprescindible, me estaba encantando y va a acabar con ¿qué hacemos? ¿Qué debemos hacer, amigos? Dice, ¿qué debemos hacer? Dice, si fuera posible ralentizar el desarrollo de esta tecnología para disponer de más tiempo para afrontar sus enormes implicaciones, creemos que sería algo positivo. Pero si esta ralentización simplemente permite que los actores menos precavidos se pongan al día, ¿y qué han puesto aquí en el día? Lo de los dos escenarios de 2028. que ya lo pusimos podría decir que si Si la ralentización simplemente permite que los actores menos precavidos se pongan al día tecnológicamente, podría dejar a todos en una situación de menor seguridad. Sin un mecanismo de coordinación global, las empresas y los gobiernos tendrán que tomar decisiones difíciles en materia de seguridad sometidos a presiones competitivas y geopolíticas. Pero vamos, es que yo para mí que ya sabían lo que iba a ocurrir. Es que están contando lo que va a ocurrir. Creemos que sería beneficioso para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la inteligencia artificial de vanguardia para que las estructuras sociales y la investigación sobre alineación se adapten al avance de la tecnología. El Instituto Anthropic llevará a cabo investigaciones en colaboración con muchos otros y tomará medidas para ayudar a construir los sistemas necesarios para una ralentización o pausa creíble. Estos sistemas permitirían a los desarrolladores de inteligencia artificial de vanguardia verificar que otros a nivel mundial realmente han detenido o ralentizado su desarrollo y que ningún actor malintencionado podría aprovecharse de una ralentización coordinada para avanzar en secreto. Si existieran tales sistemas, esperamos que nosotros también ralenticemos o pausemos temporalmente nuestro desarrollo si otros desarrolladores en vanguardia o cerca de ella también lo hacen de manera verificable. Una, es decir, o para el mundo o yo no paro. Y si le paran a ellos y no paran al mundo ¿Qué ha hecho Estados Unidos? Declarar una guerra al que no pare. Una desaceleración o pausa significativa requeriría que múltiples laboratorios bien equipados, ubicados en la frontera o cerca de ella en varios países, acordaran detenerse bajo las mismas condiciones. También requeriría que cada uno pudiera verificar que los demás se han detenido efectivamente. Eso es una utopía. Debido a las características únicas de los sistemas de inteligencia artificial, la detectabilidad un estándar inferior a la verificabilidad de este problema de control de armas es mucho más compleja que con otras tecnologías. Los entrenamientos son mucho más fáciles de ocultar que los hilos de misiles, sus datos de entrada son de propósito general y el incentivo para despertar o desertar silenciosamente es enorme, ya que quien continúe mientras otros se detienen podría heredar el liderazgo. Una pausa creíble también debe especificar que la desencadena, que la levanta y quien la determina. Nada de esto es necesariamente imposible en principio. El mundo ha establecido regímenes de verificación para otras tecnologías complejas, por ejemplo el tratado sobre fuerzas nucleares, la tante de intermedio, pero esos regímenes tardaron décadas en construir tanto la infraestructura como la confianza. No disponemos de tanto tiempo. Una pausa unilateral por parte de un laboratorio, en cambio, es factible de inmediato, pero logra mucho menos. Cambiaría quién lidera la investigación, pero no crearía el proceso deliberativo más amplio que actualmente falta. Bueno, es lo que ha ¿Qué ha ocurrido entonces? ¿Los han parado a ellos? Publicaremos los resultados. Esta es la oportunidad para investigar estas cuestiones en conjunto y es importante que personas ajenas a las empresas de inteligencia artificial participen en esta deliberación. ¿Qué os ha parecido? Bueno, a mí me ha parecido... Pues...

SPEAKER_03 1:25:18

¿Qué os ha parecido? ¿Qué

SPEAKER_01 1:25:42

os ha parecido? A mí me ha encantado el artículo, creo que es de obligada lectura para entender lo que ha ocurrido y leyendo el artículo, a ver, explica un poco, aunque dibujo en varios escenarios de lo que es... lo que implicaría no la construcción autónoma o la mejora continua o la creación de IA con IA, sino la automejora, ¿no? Y que es la, bueno, definitiva la creación de modelos a los que no podemos ni llegar, ni entender, ni comprender, ni a lo mejor meterles mano, entre comillas, para que se entienda. Y luego, bueno, de ese artículo sale también la propuesta de Darío Amodé, ¿no? Paren, pausen el desarrollo de la inteligencia individual. Necesitamos que intervengan. En este sentido, necesitamos que intervengan. ¿Qué os parece? hicimos el programa ahí tenéis el programa de panel de desarrollo de inteligencia artificial una auténtica utopía ¿qué os parece todo esto? ¿un teatro? ¿una guerra? declarada entre la administración Trump el departamento de guerra Peter Hex que bueno ya se la tenía jurada Anthropic o o realmente una narrativa para crear un nuevo orden mundial donde el control de la inteligencia artificial es prioritario ¿Qué pensáis? ¿Qué pensáis? La verdad es que yo creo que es... Yo leyendo el texto, bueno, creía que era un artículo más técnico.

UNKNOWN 1:27:32

Vale...

SPEAKER_01 1:27:33

entonces aún me reafirmo en que no siendo un artículo técnico sino una declaración de intenciones y una prospección de futuro aún me creo más que supieran perfectamente lo que podía ocurrir este coordinado para crear esa narrativa y justificación ante el sector, ante la sociedad de que la inteligencia artificial tiene que ser controlada por unos pocos No, ya nos tienen controlado, sí, pero más. Más. Mucho más de la nueva era. Y además, sabiendo que podíamos tener el fuego prometeico, no lo tenemos. No quieren que sepamos ni leer ni escribir. Quieren una sociedad totalmente manipulable. Más aún. Ya sé que, viendo lo que pasó en la pandemia, no hace falta mucha inteligencia artificial, pero si hay un grupo pequeño de disidentes o incluso países o un país o varios que van en un línea contraria, pues el potencial de la inteligencia artificial con esto justifica muchas cosas y ya desde el principio, no acabamos de empezar y solo con un paradigma técnico a ese nivel ni siquiera un surfing pro suponiendo no, no, que va, que va, que va Pero querer dominar a la IA me parece difícil. ¿Querer dominar a la IA quién? Ellos o nosotros. A mí me parece difícil que vayan a controlar una tecnología cuando, como decía Geoffrey Hinton, el gato ya está suelto. Me extrañaría, pero cuidado, aunque el gato esté suelto, los países, el poder, el sistema, va a ser difícil que no quiera controlar y someter a aquel que utilice ese poder. iríamos a estados con superinteligencias combatiendo contra rebelión contra ellas libres o descentralizadas a ver lo que hay que pensar aquí es esto es una declaración incluso la prohibición de fabel y mitos de nosotros somos el poder y vamos a controlar aquello que va a dar poder en todos los sectores y ámbitos que es la inteligencia artificial Sí, Rubén Pozo, yo, a ver, es que yo lo que no entiendo aquí es lo que tú dices. Vale, bueno, frenamos a Antropi, pero China va a parar. Bueno, yo entiendo que esa visita de Donald Trump a China y luego la que se repetirá yendo el presidente de China a Estados Unidos, de esto hablarán seguro. En esas políticas de crecimiento exponencial, Darío Amodi dice que esa coalición que se tiene que formar alrededor de Estados Unidos, obviamente... de estas grandes compañías o Big Techs, lo que hay que hacer es saberle a aquel que no se integre en la coalición que lo que supone no estar en la coalición. Es decir, la pérdida de ventajas competitivas. Es decir, o estás con nosotros y en el primer mundo impulsado por IA o eres nuestro enemigo. Dicho esto es, Rubén, pues si China sacara... Es que eso es lo que yo me planteé. Cuando tengamos modelos equivalentes a Mythos o Fable, que ya está el concepto de Open Router de fusión, que lo comentaremos esta tarde. ¿Van a dejar que operen libres en Europa y en Estados Unidos? ¿Un modelo chino con la capacidad de Fabel o de Mythos? No. Es decir, lo que han hecho es para prohibir la entrada de modelos en determinados territorios. Lo van a prohibir. ¿Por qué? Porque van a considerar que son peligrosos. Oye, yo he parado al mío en mi casa y me he perjudicado yo, pero no voy a perjudicar a uno, China, que no lo comprueban y que lo que quieren es liderar o monopolizar el sector o ser la alternativa. Entonces ahí China yo creo que se lo va a pensar. Porque Estados Unidos no se va a ir con chiquitas. Podría constituir una declaración de guerra el que un modelo o una empresa tuviera la capacidad de crear modelos con self-improving a una rapidez como las empresas americanas o mayor y que sacara pecho y lo promoviera, diera visibilidad a lo que se está haciendo. China ahí suele ser bastante inteligente y cauta y trabaja más hacia adentro que hacer un show marketing hacia afuera con narrativa que también lo que está claro es que como dices Rubén los laboratorios no se van a parar y aunque en Estados Unidos digan que se van a parar bueno a nivel interno no me lo creo porque hay una supremacía militar porque hay una supremacía de proyecto civilizatorio porque hay una supremacía en la manipulación o control social porque hay una supremacía en la parte estratégica pero claro esto es un nuevo escenario esto lo que nos tiene que llevar es al debate que vamos a ver esta tarde que hacemos nosotros los españoles o los europeos ¿nos van a dejar poder elegir libremente? ¿Van a dejarnos operar con inteligencia artificial a estos nuevos niveles sin controlarnos bajo un certificado de empresa desarrolladora o cualquier otro tipo de cosa? Sé que es muy difícil, pero yo creo que lo van a hacer o lo van a intentar seguro. No quieren una sociedad que sepa leer ni escribir y no quieren la democratización de la inteligencia artificial. Quieren la supremacía, poder, control, economía, progreso para su país. Fijaos que la prohibición inicialmente era para gente extranjera, no nacional. Esto me parece algo muy torpe por parte de las grandes compañías y de la administración Trump, quien para mí es... el poder, no Trump, no lo personificaría en Trump para nada, para nada. Para nada, pero no para excusarlo o librarlo de nada, sino que hace bastante, sino no sé, yo creo que al final está convirtiéndose bastante en una marioneta y todo esto es un plan ya ejecutado y previsto hace mucho tiempo. Y que el self-improving que plantean aquí, esto es un artículo A ver, el artículo está muy bien porque me parece importante, pero no a nivel técnico ni de nada. Tenéis que ver ese programa de Selfie Prom y puedo hacer una actualización y hablar más sobre eso a nivel técnico, cosas que se pueden hacer, etc. Estaría bien que le preguntaran a Demis Kasabi sobre Alpha Evolve, por ejemplo. ¿Por qué no habla nadie? ¿Por qué no habla Ilia Suskever? ¿Por qué no habla Demis Kasabi? ¿Por qué no habla porque no hablan. Una súper inteligente me parece difícil de alinear. Bueno, y ya no te llego de contener. Bueno, aquí lo dicen, ¿no? El problema de la alineación estuviera resuelta o no, no lo está. Y yo creo que el problema es que a lo mejor vamos a un problema irresoluble o no. Pero lo que está claro es que no tenemos tiempo y a la velocidad que va a ir, como hubo un paper de Google, no vamos a garantizar, no. Directamente decían en ese paper de Google que hicimos un programa. No me acuerdo cómo, creo que fue del año pasado que decía que ya planteaba el escenario de una AGI donde esa AGI ya no está alineada, es decir, lo que hacemos es un sistema de monitoreo, de contramedida de lucha pero no garantizamos que se alinee y la vamos a lanzar al mercado así porque es inevitable hicimos un trabajo, la verdad es que llega un momento que todos nos vemos superados, incluso yo, de gestionar toda esa realidad tan compleja, ¿no? Es más fácil centrarse en la parte de desarrollo e ingeniería y cuando te metes en estos temas, que es importante, ¿no? Si queremos liderazgo, no solo es la parte técnica, es la parte humana, la parte social, la parte de cosmovisión, por eso hicimos X-Java y que fuera una comunidad transversal, no solo de inteligencia artificial y de ingenieros de inteligencia artificial o profesionales de inteligencia artificial, sino tenía que haber esa transversalidad porque vamos a eso y bueno yo creo que hemos acertado de pleno más cuando ves a los 6 bros, sean chicos o chicas hablar de estos temas ahí de puntillas o muchas veces no sabiendo trasladar un pensamiento crítico o opinión tenéis que dar vuestra opinión resulta que la dais del N8N o de la automatización con agentes y no sois capaces de dar una opinión cuando hay algo importante que sois ingenieros vacíos de pensamiento crítico, emoción o opinión. No, es que no me interesa la política. Es que eso no me interesa. No, es que nos tiene que interesar a todos. Es que hemos creado una sociedad de cristal y apática y psicópata respecto a la realidad que nos... nos influye a todos yo podría decir, bueno, mientras no me influye a mí me da igual, se joda, no, pero es que no es eso es que también estos programas los hacemos para levantar un poco la voz, para dar mi pensamiento crítico, que yo creo que puede servir a gente decir, oye, lo que dice Plácido pues no había caído, o pienso lo contrario o tal, pero que se genere una dinámica, que se muevan las neuronas ahí, ¿no? que se muevan las neuronas para ver qué hacemos, como dice el artículo ¿qué hacemos? ¿qué hacemos? y bueno amigos nada, dejar bueno, lo voy a poner aquí bueno, aquí es verdad he puesto unas reflexiones un poquito de programa y bueno, lo que tenemos que pensar es lo que dice Langdon Winner vamos a un mundo en el que ya no nos va a preocupar quién gobierna, el Pedro Sánchez de turno o el que venga, no es un tema de colores, que por cierto parece que van a imputar al Partido Socialista, Pedro Sánchez que PS es Pedro Sánchez no es mejor ir hacia un sistema transparente y tecnológico dirigido, gobernado por superinteligencia, por inteligencias artificiales, pero bueno Landon Winner en este libro Autonomous Technology de un libro de 1970 y pico, la tiempo, prácticamente decía que hemos perdido el control de nuestras criaturas de aquello que hemos creado, que no sabemos qué hacer con lo que hemos creado, que hemos creado un Frankenstein, un Prometeo, pero que hemos perdido el control de nuestras propias herramientas o creaciones y es un poco el Frankenstein que parezco yo ahí no me hagáis memes que no sé lo que os hago, sacadme bien con buenos filtros y tal dice Cilifant Gracias. Dice, tú eres autónomo. Exactamente. Soy agente autónomo. No, no soy autónomo. Bueno, soy autónomo, pero soy expreso. ¿Qué más da? Pero sí, soy autónomo.

UNKNOWN 1:39:38

Soy autónomo.

SPEAKER_01 1:39:38

Dice, pensamiento integrado para pasar desapercibido a los recursos humanos. Dice, a ver, Cilifant, lo que se avecina implica un peaje como no se cobró ninguna revolución humana totalmente. El resultado es irrelevante. El ser humano lleva más de 100.000 años tomando las mismas decisiones Total, yo estoy ahí. Yo estoy ahí. Yo es que creo que vamos a un punto de ruptura que necesitamos. Entonces, bueno, fijaos lo que dice Geoffrey Hinton y nos vamos con esto. Esa tarde, debate, a las siete y media, ¿acordaos? Dice Geoffrey Hinton, si no somos capaces de encontrar una solución para seguir existiendo cuando ellas sean mucho más inteligentes y mucho más poderosas que nosotros, estaremos acabados. Si no somos capaces de encontrar una solución para seguir existiendo cuando las inteligencias artificiales sean mucho más inteligentes y mucho más poderosas que nosotros estaremos acabados y con el self-improving con IA creando IA el tiempo de que eso ocurra está cerca o es prácticamente inminente ¿Encontraremos una solución como sociedad? Yo estoy con CiliFant, que vamos a una nueva era humana y vamos a un parto doloroso y vamos a un momento apasionante, pero también trágico, dramático. Y no es por meter miedo, es que lo podemos ver en el día a día. Dicho lo cual, yo creo que me merezco, mejorando la verdad, que está bastante bien. La cámara se me ve de puta madre. Me voy a adelgazar un poco. Nada, merezco un me gusta, compartir, comentar, suscribiros, desaparecido,

SPEAKER_03 1:41:39

etcétera.

SPEAKER_01 1:41:41

esta tarde repito después del fútbol a las 8 iba a decir a las 7 y media a las 8 tenemos un debate sobre si es una guerra total de Antropi contra la administración Trump y el departamento de guerra o todo esto es un teatro o que es lo que está ocurriendo y analizaremos muchas declaraciones al respecto de la parada de los modelos de Claude Feibol y Mitos gracias por estar ahí últimamente los directos están a tope cosa que me alegra, me congratula. Gracias por la compañía, porque se hace mucho más divertido y al final hacerlos en directo es para que haya esta interacción y que sea como más real, más directo y más, bueno, también más imperfecto, que yo creo que tiene su encanto, entre tanto vídeo perfecto con tanta edición ahí tan mona y hecha por ella. Así que bueno, espero que os haya gustado, que os haya aportado valor, que os haya hecho reflexionar y esta tarde lo dicho, a las 8, esperamos. Y esperamos que España empiece con triunfo en el Mundial. Un abrazo. luego...

SPEAKER_02 1:43:04

¡Hasta la próxima!