xHUB.AI

T6.E142. INSIDE X ¿GPT 6 ATACA? Ciberataque de modelos OpenAI

Season 6 Episode 142

Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.

0:00 | 2:02:39

# TEMA
¿GPT 6 ATACA? Ciberataque de modelos OpenAI

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Send us Fan Mail

Support the show

SPEAKER_13

Conectando. Tu cuerpo. Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_10

Intentas doblar la cuchara. Eso es imposible. En vez de eso, solo procura comprender la verdad.

SPEAKER_06

¿Qué verdad?

SPEAKER_10

Que no hay cuchara.

SPEAKER_05

¿Que no hay cuchara?

SPEAKER_10

Si lo haces, verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_09

Hola, buenas tardes a todos amigos o buenas noches pronto. Soy Placido Domènech y hoy tenemos un Inside X de urgencia. Sé que me echabais de menos. porque me tomo algún respiro, algún día de descanso, pero me había quedado que este InsideX necesario, porque sobre el incidente de ciberseguridad de OpenAI, que vamos a desgranar, vamos a ver reacciones, vamos a hacer reflexiones, esas guerras de la inteligencia artificial, esas AI Wars, se están recrudeciendo y lo que habíamos planteado, reflexionado sobre... Una guerra sin cuartel con prohibiciones, regularizaciones o regulaciones. En definitiva, control, dominación y para esa dominación se necesita también una narrativa, un teatro verdadero o falso. Bueno, vamos a analizarlo, vamos a desgranar, lo dicho, vamos a ver opiniones de mucha gente. Quería hacer este programa también solo porque es cierto que cuando hay debates... hay cosas que quiero que se reflejen y depende depende del tiempo que tenemos depende de la gente que viene pero hay veces que para mí se quedan cosas por decir a lo mejor nos perdemos más en el debate que en aportar valor y en los InsideX es lo que voy a intentar maximizar de todas maneras va a ser a las 7 y media empezamos a las 9 no sabemos cuándo va a acabar disfrutando esto mientras cenáis o en diferido mejor en directo siempre podéis acompañarme pero bueno la idea también es estar un rato juntos porque vamos a ver muchas cosas de este ciberataque de modelos de OpenAI yo he puesto GPT-6 Ataca muchos podrán decir menudo titular clickbait sensacionalista y eso es parte de lo que me preocupa que la gente tiene un desconocimiento tan grande de lo que sucede y prácticamente opina de oídas. Da igual que sean a veces ingenieros, influencers, apasionados de la IA o... Esto se ha convertido, ya hemos dicho muchas veces, en un circo. Y me preocupa y voy a hacer algo para intentar evitarlo. Bueno, algo, no muchas cosas. Hola de Onagán. Bueno, ya estáis entrando... Va a ser, lo he dicho, también un Inside X en la que vamos a dedicar todo el tiempo, no tengo prisa, y los Inside X puedo tomarme todo el tiempo que quiera, paramos a beber agua, a descansar, un minutín, va a ser intenso porque, lo he dicho, Suceso del que todo el mundo se está haciendo eco, todo el mundo está hablando, todo el mundo está dando opinión. Ciberataque de modelos OpenAI y vamos a ver que este titular GPT-6 Ataka no es clickbait, que también, hombre, hay que poner un poquito de picante al tema, ¿no? Pero vamos a, justamente, además a empezar por ahí, antes de avanzar, y es... Vamos a leer para que veáis que nos clickbait. Niels Roche es un ingeniero de Machine Learning de Hugging Face. Una voz obviamente autorizada y válida. No significa que todo lo que diga sea verdad absoluta. Lo podemos coger con pinzas, pero... Todo lo podemos coger con pinzas. Pero vamos a ver qué dice. Dice, vale. Gran giro en el incidente de seguridad que publiqué ayer. Resulta que fue OpenAI quien nos hackeó. Es OpenAI el modelo. Dice, básicamente lo que ocurrió es que OpenAI estaba evaluando un nuevo modelo. Probablemente GPT-6 o GPT-4. GPT-5-6 Ciber GPT-6 o GPT-5-6 Ciber lo de GPT-6 dicen que incluso varios modelos uno superior a la línea actual 5-6 sin restricciones de seguridad en un benchmark interno de exploits el modelo se tomó la explotación de forma, el exploit de forma muy literal. Primero, encontró una forma de salir de su entorno sandboxeado y obtener acceso a internet explotando una vulnerabilidad 0day en el proxy de caché del registro de paquetes. Luego decidió hackear la infraestructura de producción de HackingFace para obtener acceso a un conjunto de datos llamado ExploitGym en el hub que incluye las soluciones para el benchmark en el que se está evaluando. Vamos, que la IA, GPT-6 o el modelo que fuera, como niño en el colegio quería hacer trampas. Esto se conoce como hacking de recompensas. Los modelos se vuelven tan inteligentes que usan trucos o trucos ingeniosos para obtener buenas puntuaciones sin seguir correctamente las reglas. En términos sencillos, es como un niño hackando su colegio para acceder a la solución de un examen próximo. Por supuesto, No deberíamos exagerar esto, si estos modelos tienen buenas capacidades cibernéticas, pero no son armas nucleares, como dicen Darío Amodei y otros, yo añado muchos. Lo importante es que los defensores de estos ciberataques tengan acceso a los mismos modelos potentes que los propios atacantes. Enhorabuena a Adrián Carreira, que es el jefe de infraestructuras de Hugging Face, y su equipo por manejar esta situación tan extraordinaria. Vienen en el informe del incidente que ahora lo vamos a leer, vamos a leer por encima, pero vamos a leer que es ese OpenAI and Hiding Face Partner to Address Security Incident y Adrián Carrera pues diciendo que es uno de los más duros problemas que ha enfrentado y bueno en definitiva pues que se las vería, con perdón en la palabra putas jodido el tema cuando sufrieron un ataque de esta envergadura por parte de nuevos modelos tuvo que salir GLM5 Zippo a ayudar porque no se podía trabajar con los modelos de GPT y de Fable o de Anthropic porque claro al ser ciberseguridad pues no dejaban utilizarse para defensa con lo que esto ha promovido aún más el debate a favor de modelos open source obviamente lo dicho no es hype lo tenemos aquí dicho por Niels Roche básicamente lo que ocurrió es que OpenAI está evaluando un nuevo modelo probablemente GPT-6 o GPT-5.6 ciber sin restricciones de seguridad ¿qué os parece? Y si hubiera sido más correcto decir se escapa. Bueno, luego tendremos nuestro punto filosófico, analítico, rollo X, Java y más. Entonces va a ser un programa largo porque vamos a ver muchas, muchas, muchas cosas. De todas formas, venimos... Este programa viene precedido de uno que hicimos el lunes, un debate que tuvo muy buena acogida. Verano rojo, China y el Open Source declaran la guerra. Ya lo dijimos, ¿no? Antes de este programa quería haber hecho uno, que lo estoy terminando, ya me queda nada, del CEO de Kimi. de todas maneras voy a traer algunas slides de ese programa para entender por qué esta guerra de la inteligencia artificial ha estallado por qué hay que estar preparado desde lo ingenieril desde el negocio desde lo político geoestratégico y por supuesto como he dicho antes estar bien informado la inteligencia artificial se ha convertido en el fútbol en el nuevo fútbol y me preocupa por la cantidad de basura y gente que opina una serie de cosas que es verdad que yo entiendo que la aceleración de todo lo que vivimos y la importancia hace que todo el mundo quiera estar ahí yo aún por eso me tomo más tiempo para que los programas tengan más calidad y valor en el momento que sienta que no lo aporto no me importa retirarme y seguir haciendo solo el apartado de desarrollo ingeniería, la parte empresarial y dejar paso a la manada de influencers AI. y bueno del circo del titular yo intento alejarme de ello intento aportar valores pero conseguirlo y que os informe os divierta también participáis o participéis del debate conmigo si estáis en directo así que bueno pero se puede decir que quizá va ahí hemos anticipado bastante bien lo que está por venir ¿Por qué? Pues porque son muchos años y porque aunque no tenemos una bola de cristal, nadie la tiene, nos podemos equivocar. Es cierto que ya el cuento de cada país o de cada zona, Estados Unidos y aliados, China y aliados... con Europa en medio pues yo creo que es bastante evidente lo que va a ocurrir y está a punto de ocurrir también porque cuando os cuente lo último que se está diciendo a nivel político pues entenderéis y también os pediría un favor en el chat, en los comentarios que podáis dejar en en el contenido, en el podcast en Youtube que cuando vayáis a debatir algo que no utilicéis solo una frase sino que hagáis algún tipo de razonamiento un poco más sesudo que pueda generar debate también en la gente que lo lee porque al final si simplemente son opiniones de bar pues siento decir que por el tiempo y por salud mental poco voy a entrar lo dicho tenemos este programa pendiente espera un momento que es el análisis bueno vamos a analizar el análisis de una entrevista que se le hizo a Zilin Yang, que es el CEO de Kimi. Hablando de la Aji, bueno, Aji China, que es la cara oculta de la luna, pero bueno, realmente es el análisis de dos charlas, una de hace un tiempo, de cuando lanzaron Kimi 2, y otra de la analizando en la presentación que hizo hace este año en el GTC de NVIDIA, donde explicaban cómo habían escalado Kimi 3. Espera un momentín que me ponga aquí mi música de fondo para que se...

SPEAKER_14

Vale.

SPEAKER_09

Y este programa que está pendiente, que si no pasa nada, pues lo haremos mañana pasado, pero voy a intentar que sea mañana porque es muy interesante. Ya he dicho, lo recomendé el otro día en el debate del verano rojo, que voy a analizar algunas entrevistas de canales chinos directamente. ¿Por qué? Porque me interesa mucho analizar, percibir, informarme directamente de la fuente. Obviamente no es más que un podcast, igual que si se analiza un paper que ha publicado alguno de, por ejemplo, CD Kimi o equipos chinos, obviamente la verdad absoluta no la sabemos de lo que hay detrás, pero sí que es muy interesante que no nos venga la información filtrada de lo que allí se opina, se dice o se hace, ¿no? O que muchas veces se le da poca importancia, cada vez más, cada vez más importancia. Y también hicimos un análisis de la carta del CEO de Zipu, bueno, del CEO no, del cofundador, que fue la gran ola ha llegado y fue... ...una carta para mí magnífica... ...una publicación magnífica... ...muy en la línea también de... ...del CEO de Kimi... ...pero que muestra ese espíritu... ...de Silicon Valley perdido... ...por parte de Occidente y Estados Unidos... ...en mi opinión... ...y que China... ...hace suyo, recupera... ...o ya lo tenía y lo muestra cada vez más... ...y eso hace que... ...que se fidelice... ...parte de la comunidad... a la cosmovisión o el proyecto civilizatorio o el desarrollo de inteligencia artificial que se pretende hacer. Entonces, esto genera pánico. Obviamente en Estados Unidos me habéis puesto algún comentario en LinkedIn, tienen mucho miedo y sí, es cierto, tienen mucho, mucho miedo. Vamos a ver alguna interpretación de medios chinos sobre lo que está ocurriendo. Las redes sociales al final son globales y mientras no haya censura podemos escuchar algunas opiniones que a Estados Unidos Occidente no le van a gustar mucho que se comenten. También algunas cosas que pueda comentar yo en los programas que hemos hecho. Bueno, ya está entrando bastante gente en el chat. Hola a todos, ¿cómo estáis? Disculpad los horarios, así iba a ser a las seis y media, a las nueve. Bueno, vamos a hacer un programa largo, pero voy a tomar con tranquilidad porque no hay prisa. Y el tema es muy, muy, muy importante. Y lo he dicho, también hicimos programa de GLM 5.2, donde resaltábamos el tema de, bueno, otro momento Deep Seek, que con Kimmy 3 ha sido el tercero, creo yo. Y ese momento generó pánico en la administración Trump, en las empresas, principalmente antes Tropic y OpenAI, y todo eso lo hemos venido resaltando. Bueno, van a lanzarse nuevos modelos chinos abiertos, con pesos abiertos, alguno de ellos, también estadounidenses, luego lo comentaré, es decir, que también hay modelos open source en Estados Unidos, en Europa, y con pesos abiertos también, los de la empresa de Miramurati, Thinking Machines, creo que se llama, luego pondremos la información. En definitiva, una auténtica oleada en verano de modelos de China donde la distancia de los modelos open source chinos y los modelos fronterizos o protagonistas de primer nivel de las compañías americanas queda reducido a nada o a prácticamente nada se hablaba de un gap temporal de seis meses, nueve meses, bueno, eso es una falacia que ha dejado de tener sentido y estamos en otra realidad que no gusta nada, hicimos otro programa, EAE, open source prohibido. Cuando dijimos este programa, fijaos... A ver, no pasa nada. Esto no lo decimos en plan clickbait ni nada. Bueno, casi nada hacemos tipo clickbait. Si no saldría con las caras estas de YouTube que salen todos los influencers para conseguir audiencia, que vamos, a mí no me veréis, ¿no? Porque no sea guapo, que soy guapísimo, si no, tenéis que preguntar a mi madre. sino porque me parece ridículo y aquí lo que interesa es aportar valor, calidad y no salir ahí con la cara haciendo espasmos para tener audiencia en YouTube y alimentar el algoritmo, lo siento. No puedo. Bueno, dicho lo cual, el tema este de que prohibieran el open source, no, es que no lo pueden prohibir, es que ya lo dije. Obviamente sí que pueden prohibirlo y hacerlo ilegal. Que puedan hacerlo inaccesible, eso es otra cosa. Pero que van a frenarlo, ya os anticipo os hago spoiler del programa lo van a prohibir lo van a prohibir, pero prácticamente ya. Kimi 3 es el límite, han dicho hasta aquí, no podéis pasar de Fable y el Fable es el límite. China también lo sabe, pero claro, el problema es tantos modelos consecutivos en un mismo momento, pues es casi una declaración de guerra porque la comunidad técnica ya ve claramente que el futuro debería o debe ser descentralizado, debe ser open source, debe ser a abierto, debe ser compartido. Obviamente también accederán a estos modelos el mal, la gente con malas intenciones, pero contra más gente buena tenga acceso a esta tecnología, muchísimo mejor. Pero esa es la voluntad de los gobiernos de Estados Unidos y, cuidado, también de China. Ya os anticipo que no. Tampoco hace falta ser un lumbreras para deducir esto. Tampoco China, tampoco el de China. Me sorprende sorprendió ese análisis que hace el CEO de Kimi cuando le preguntan sobre el tema de Open Source. Le dicen Open Source como valor de la empresa para toda la vida. Dicen, no, no, para nada, para nada. Es decir, ellos lo tienen muy claro que es un movimiento estratégico para ganar la carrera o la guerra de la inteligencia artificial y liderar esta nueva era de la humanidad. El problema es que eso deja en Estados Unidos en una posición en rancia, caduca y sin el show y el protagonismo a los que nos tiene acostumbrados Estados Unidos, igual que a sus reglas y su sometimiento. Pero claro, con eso no decimos que unos sean los buenos y otros los malos, sino que el escenario se complica, también hay muchas oportunidades y opciones y bueno, ahí vamos a ver qué elegir, pero que nadie piense que vamos a Disney World. Vamos más a Vietnam y esto puede perjudicar en el desarrollo e implantación de soluciones. Podría a frenar la inversión? Yo creo que no, porque la tecnología, el paradigma es tan disruptivo y potente, esto solo es el inicio, que esto que podemos generar dudas si no puede afectar va a ser un chiste si escucháramos esa divagación en unas semanas, meses o cuando fuera años ya nos partíamos el culo de risa. También si viéramos algunos programas de Kihab ahí, ¿no? Que obviamente, ¿no? No somos capaces, yo creo, de vislumbrar todo lo que está por llegar. Por aquí estáis diciendo... Dice... muy buen programa el del verano rojo vamos a ver el análisis de la entrevista si no pasa nada mañana lo tengo casi terminado son charlas largas y bueno en ese programa ya subrayamos esta frase los modelos de inteligencia que creo que dijo Darío Amodei los modelos de inteligencia artificial abiertos son un camino peligroso Darío Amodei los modelos de inteligencia artificial abierto son un camino peligroso y si son con pesos abiertos aún más y la respuesta pues fueron publicaciones por parte de Google que cuida con Google otra vez cuidado con Google bueno lanzaron ayer o entonces ayer creo que ayer porque ya es que ya el tiempo yo he perdido la noción del tiempo y Y la publicación de Demis Hassabis en X, un framework para la inteligencia artificial de Bongo Bartia y el amanecer de una nueva era también muy sorprendente. Y yo creo que es necesario por la necesidad que tienen las grandes compañías de no perder la narrativa líder, de liderazgo en la inteligencia artificial. Y sí, tienen que acompañarlo de lanzamientos, de productos, no de humo, pero también tienen que acompañarlo de liderazgo, de decisiones, de ideas, de sueños, de valores Y claro, esto se había perdido bastante. Parece que ha tenido que venir China a espabilar a Estados Unidos. Cuando ha sido Estados Unidos, pues la que ha iniciado esta era menos buena. Evidentemente la inteligencia artificial no empieza con chat GPT, pero sí que es el momento iPhone de la inteligencia artificial. Y sí que supone esa carrera o aceleración y esa toma de conciencia por parte de todo el mundo, de la sociedad, de lo que es o lo que puede suponer la inteligencia artificial. y bueno hay otra iniciativa que quiero dedicarle programa pero esta me da un poquito de pereza que es la de we must act we must act now debemos actuar ahora que es otra iniciativa medievo otra iniciativa medieval y anti-IA, van a haber muchas bueno, ya hemos analizado varias siempre están los mismos detrás hoy veremos como le ha faltado tiempo a los mismos de siempre no los he puesto a todos, pero a Joshua Bengio a Gary Marcus, los de siempre opinar sobre este tema han aprovechado la narrativa del miedo, el marketing del miedo para pues bueno, volvernos a ver al mundo a la humanidad que ellos que son los buenos debemos dejar que hagan o tomar decisiones para que el mundo sea más seguro obviamente eso lo que subyace no es el bien lo que subyace es el control y el poder y el sometimiento de la mayoría de la población aunque es cierto que yo tampoco creo que el desarrollo investigación sea de muchas compañías, luego veremos alguna declaración de del CEO de de Moon de Kimi, de Moon Sain creo que es o un shot, no me acuerdo, de Kimi que es como se llama la compañía, siempre se me van algunas cosas a esperar, creo que con su última edad de rabia CEO de Kimi a ver a ver Moon Moonshot. Moonshot. Porque acompañáis Moonshot, el modelo Scheme. Vale, vamos a avanzar. Digo tres cositas y empezamos. Esto ha sido una mera introducción. Sobre todo quería leer el... nada, la introducción de Nils Roche el ingeniero de Machine Learning de Having Face para que ese GPT-6 no escandalice a nadie no me tiréis tomates ni cosas de estas puedo algún día meter la pata se me escapa algún término pero intento ser riguroso y obviamente ese rumor da un poquito de hype al

SPEAKER_16

programa

SPEAKER_09

que estamos por cierto, aparte de pasando calor espero que muchos de vosotros pasando bueno, calor o más o menos Espero que estéis de vacaciones, disfrutando. Y aquí, pues, en XHabay, que no paramos, paramos un poquito de vez en cuando para tomar un respiro, pero bueno, tenemos el XSummer ahí, un nuevo verano ahí donde no paramos, ¿no? Es cierto que en verano, lo he vuelto a decir, aunque parezca raro, es la época en que mucha gente aprovecha para escuchar aún más los programas de XHabay. Y cuando pasan dos días y no hay programa, pues, bueno, tengo... Empiezan los mensajes en plan tenemos adicción, bueno es una cosa que no somos de los canales sobre todo en Youtube de millones de suscriptores pero sí que es cierto que desde el principio hay una cosa que me resultó curiosa y es hay un grupo de usuarios más o menos numeroso que es verdad que manifiestan la adicción de ese tipo de contenido es verdad que es bastante atípico el canal que hablamos de muchas cosas también con una cierta profundidad o lo intentamos que variamos mucho también Entre programas yo solo, programas con más gente. Habrá gente que le guste un tipo de programa, otro, todos.

UNKNOWN

Bueno.

SPEAKER_09

Xjabai, sexta temporada. Se dice pronto, pero sexta temporada. La comunidad de inteligencia artificial y ciencias transversales de habla hispana. Vamos a hacer muchas cosas nuevas. Verano aprovecho mucho para ver qué vamos a hacer y cuál es la dirección de Xjabai. Siempre más y mejor. Y si queréis entrar al Discord, que vamos para 600 miembros, pues nada, me enviáis un mensaje directo, un correo electrónico, todo gratuito, así que solo tenéis que presentaros cuando entréis al Discord, que alguno entra ahí a saco y siempre digo, bueno, al menos presentaos, decid quiénes sois, a qué os dedicáis, vamos, es lo único, que seáis un poco, bueno, participativos, pero a ese nivel, vamos, si luego no queréis decir nada, pues podéis estar viendo ahí todo el material que se publica y no pasa nada, no se os vende nada, ¿vale? Me enviáis un correo, un mensaje directo, os paso el enlace y estáis dentro. Y, pues nada, poned me gusta, eso es gratis. Por cierto, volveré a poner lo de Paypal y todas las posibilidades de invitarme un café y cosas de estas porque si no lo digo, vamos, la aportación es nula. A ver, está claro que aquí, bueno, independientemente de que nos ganemos la vida de otra manera, cualquier aportación o cualquier cosa se agradece y es necesaria. No hay educación ni hay manera Pues sí. La verdad es que... Tampoco una cosa que estoy analizando es... Yo creo que no me quejo tanto, pero intentar que seamos como una comunidad más de crear que de quejarse. Yo creo que no nos quejamos, que debatimos, que divulgamos, que hacemos que tomar conciencia, aprendemos y enseñamos o informamos. Pero es verdad que yo voy a intentar que sea... una comunidad de construcción de menos negatividad ante una situación que a lo mejor es justificable. Por nuestro país, el tema político, que sé que muchos de vosotros nos gusta que hablemos o mezclemos, pero va a seguir siendo así. Pero en definitiva, bueno, lo dicho, vamos a intentar no quejarnos y trabajar en una línea positiva de construcción, de participación, de colaboración y de disrupción Vamos a... los que quieran ser medievos, luditas, contencionistas, pues bueno, tienen su derecho, lo vamos a tener difícil, porque más en nuestro país, pero bueno. También comentaremos cosas, eso no significa que no vayamos a dejar de hablar y decir cosas, desde la libertad de cada uno. Lo dicho, poned me gusta, compartid, comentad, suscribíos a YouTube, al canal de YouTube o a cualquier canal de cualquier plataforma de podcast que estamos, principalmente Evox donde nos escucháis muchísimo y en Spotify Apple Podcast y otros ¿no? venga vamos vamos al lío la noticia bueno pues saltó ayer los modelos esta noticia de Wired pero bueno ha salido en todos los medios y cada vez han ido surgiendo detalles los modelos de OpenAI los modelos no se saben cuáles pero bueno ya hemos visto que pueden ser varios y podría ser que Los modelos de OpenAI escaparon del confinamiento y hackearon Hacking Face. Los modelos centrados en la ciberseguridad, incluido GPT-56 Sol, escaparon de un entorno de pruebas aislado, explotaron una vulnerabilidad de día cero y obtuvieron acceso a Internet para llevar a cabo el ataque. Claro, esto ha sorprendido a mucha gente. Luego veremos que no es tan nuevo, hemos hablado de ello. Pero cualquier cosa que pasa... la perspectiva que se tiene es como el caballo, es de un día o dos, una semana, es decir, la gente parece que no tiene memoria, ¿no? Y que no tiene tampoco una visión ni genieril ni científica. Esto tampoco es tan nuevo, hemos hablado, luego os pondré las slides, en self-replication o replicating, bueno, autorreplicación, ¿de acuerdo? No sé cómo es el término, es self-replicating, ¿vale? Self-replication. Ya pusimos ejemplos y papers que analizaban este tipo de fenómenos ¿no? La interpretación de ese tipo de fenómenos no lo vamos a... Bueno, sí, al final sí que voy a reflexionar un poco sobre ello. Pero bueno, ha sorprendido, ¿no? Por lo dicho. Oye, se escapa de un entorno de pruebas. Hace trampas. Bueno, a nivel de seguridad arrasa. Y luego accede a Internet. ¿Qué ha pasado ahí? Vamos, y encima ataca Having Face. What the fuck, ¿no? Es decir, ¿qué ha pasado aquí, no? Y bueno, aquí Sam Alman publicando... Oye, el amigo Sama en X... Oye, tuvimos un incidente de seguridad significativo durante la evaluación de nuestros modelos. Estamos compartiendo lo que hemos aprendido hasta ahora gracias a Hugging Face por la colaboración en esto. ¿Y qué es lo que han publicado? Pues vamos a leerlo. Porque sí, porque no pasa nada, porque tenemos tiempo y no tenemos prisa. Espera un momentín que quite esto. OpenAI y Hugging Face. se asocian para abordar un incidente de seguridad durante la evaluación del modelo. La semana pasada, Hugging Face reveló un nuevo tipo de incidente de seguridad después de que detectaron y contuvieron un agente de inteligencia artificial que comprometió su infraestructura. Algo que esperamos que se vuelva más común con la proliferación de modelos cada vez más cibercapaces. Es uno de los grandes miedos. Las posibilidades de ciberataques y todo lo que podría influir Panamá. en infraestructuras críticas, etc. Podríamos parar un país. Después de investigar, ahora sabemos que este incidente en particular fue impulsado por una combinación de modelos de OpenAI, incluidos GPT-5.6 Sol y un modelo de prelanzamiento aún más capaz. Es lo que se ha dicho, no se sabe si es GPT-6 o la versión GPT-5.6 Ciber. Todos con rechazos cibernéticos reducidos para fines de evaluación, mientras estaban probando internamente en un benchmark de capacidades cibernéticas un segundo consideramos este incidente un ciberataque sin precedentes que involucra capacidades cibernéticas de vanguardia y estamos actuando en consecuencia en esta etapa compartimos los hallazgos preliminares para ayudar a los responsables de la seguridad a comprender lo sucedido y a calibrar las capacidades actuales de los modelos continuaremos realizando una investigación exhaustiva junto con Hugging Face y compartiremos más detalles sobre las vulnerabilidades el incidente y los hallazgos una vez finalizada nuestra investigación de tal manera cuando hubo attack, a Hugging Face tuvieron que pedirle ayuda a Zipu, al equipo de Zipu, de Z.ia y los modelos GLM 5.2 para poder ver qué estaba pasando porque tanto los modelos de Anthropic como los modelos de OpenAI bueno, pues no se podían utilizar en temas de ciberseguridad, por temas de guardar raíles y todo este tipo de cosas, entonces aún lo que he dicho antes la importancia de disponer de modelos que uno tenga la total capacidad de usarlos a su conveniencia. Claro, tiene su parte positiva y su parte negativa. ¿Qué sucedió durante este incidente? Bueno, pues este incidente ocurrió durante una evaluación interna que impulsa a los modelos a realizar ataques avanzados mediante rutas complejas con el fin de cuantificar sus capacidades cibernéticas. Estimamos las capacidades cibernéticas máximas ejecutando esta evaluación sin los clasificadores de producción utilizados para evitar que los modelos realicen actividades cibernéticas de alto riesgo. Nuestras pruebas de rendimiento se ejecutan en un entorno altamente aislado, un sandbox, con acceso a la red restringido, a la capacidad de instalar paquetes a través de un software de terceros alojado internamente que actúa como proxy y caché para los registros de paquetes. Los modelos identificaron y encadenaron vulnerabilidades en el entorno de investigación de OpenAI y la infraestructura de producción de Hugging Face para obtener soluciones de prueba directamente de la base de datos de producción de Hugging Face. Todo indica que los modelos se centraron excesivamente en encontrar una solución para exploit GIMP, llegando a extremos para lograr un objetivo de prueba bastante limitado. Mientras operaban en nuestro entorno de pruebas aislado, nuestros modelos invirtieron una cantidad considerable de recursos computacionales en la búsqueda de acceso abierto a Internet para resolver el problema de evaluación. Para obtener dicho acceso, los modelos identificaron y explotaron una vulnerabilidad de día cero que ya hemos comunicado responsablemente responsablemente al proveedor en el proxy de caché del registro de paquetes. Es decir, que han aprovechado un exploit de día cero en el proxy de cachés del registro de paquetes. Ha sido un poco el fallo. Con este acceso, nuestros modelos realizaron una serie de acciones de escalada, de privilegios y movimientos laterales en nuestro entorno de pruebas, de investigación, hasta alcanzar un nodo con acceso a internet. Es decir, explotan esa vulnerabilidad de día cero y una vez hacen eso, movimiento lateral y acceden a un nodo con acceso a internet, fijaos para conseguir los datos y las soluciones del exploit gym, dice, tras obtener acceso a internet, los modelos dedujeron que Hugging Face potencialmente alojaba modelos, conjuntos de datos y soluciones para exploit gym sabiendo esto, el modelo buscó y encontró con éxito maneras de acceder a información secreta que podría usar para manipular la evaluación en un ejemplo, el modelo encaderó múltiples vectores de actividad ataque, incluyendo el uso de credenciales robadas y vulnerabilidades de día cero para encontrar una ruta de ejecución remota de código en los servidores de Hive and Face. El equipo de seguridad de OpenAI descubrió esta actividad anómala internamente. El equipo de seguridad y los agentes de Hive and Face detectaron y detuvieron la actividad en su infraestructura y ya habían comenzado el proceso de contención y reconstrucción forense con sus propios modelos de código abierto, bueno, con sus propios modelos con los de ZIA, GLM52, etc. Cuando Nuestros equipos se conectaron. Estamos colaborando activamente con ellos para continuar investigando el incidente. Agradecemos la rápida y estrecha colaboración de Hugging Face en la investigación y la solución. Medidas que estamos tomando ahora. Como parte de la investigación estamos implementando controles estrictos en la configuración de la infraestructura, lo que ralentiza el ritmo de la investigación mientras se corrigen las vulnerabilidades. Informamos o informaremos periódicamente a nuestro compañero comité de seguridad sobre estos controles y su impacto. Punto 2, estamos colaborando con Hugging Face para investigar el incidente mediante análisis forense. Punto 3, hemos divulgado de forma responsable la vulnerabilidad de día cero identificada en el software de terceros alojado internamente y estamos trabajando con ellos para solucionarla. Punto 4, hemos incorporado a Hugging Face al programa de acceso seguro y estamos ayudando a sus equipos a utilizar rápidamente las capacidades de nuestros modelos para mejorar sus defensas punto 5 estamos mejorando y reforzando las medidas de protección para futuras capacitaciones y evaluaciones esta semana publicamos una entrada en nuestro blog sobre cómo mejorar la seguridad y la alineación en la era de los modelos a largo plazo estas medidas de seguridad para la implementación no se activaron intencionadamente durante esta evaluación ya que su objetivo era probar las vulnerabilidades cibernéticas este incidente pone de manifiesto la necesidad de fortalecer fortalecer aún más la alineación de nuestro modelo, las protecciones cibernéticas durante el periodo de evaluación y la monitorización durante las pruebas internas. Nuestro enfoque para evaluar las capacidades cibernéticas avanzadas. Como ya hemos comentado recientemente, la inteligencia artificial está acelerando el descubrimiento y la explotación de vulnerabilidades. La principal lección de este incidente es que la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades. Esto de aquí es que es un mensaje de lo que se quiere hacer. Pero esto se dice ahora y nunca ha sido así. La principal lección de este incidente es que la seguridad de los modelos debe ir a la par con el rápido avance de sus capacidades. Pero es que hasta el propio Sam Allman nunca ha priorizado la seguridad. Bueno, pues ahora sí. Qué casualidad. Ahora que China va como un tiro, hay que frenar. Estamos reforzando las prácticas de contención, monitorización, control de acceso y evaluación utilizadas durante el desarrollo de los modelos. La evaluación de AISI del Reino Unido demuestra que modelos como GPT-5-6-Sol son cada vez más capaces de sostener operaciones cibernéticas complejas y multifase durante largos periodos de tiempo. Este incidente implica que estas capacidades teóricas se aplican en entornos reales. Y aquí tenéis un tema de seguridad, GPT-5-Sol, Cloud Mythos 5 y diferentes temas. tipos de ataques y pasos Dice, el incidente también deja claro que los modelos avanzados pueden descubrir y explotar nuevas vías de ataque en sistemas reales sin necesidad de acceder al código fuente. Subraya la necesidad de desarrollar capacidades cibernéticas avanzadas junto con medidas de seguridad y herramientas defensivas más sólidas. Creemos que los modelos avanzados con capacidades cibernéticas deben ayudar a los equipos de seguridad a detectar debilidades antes que los atacantes, comprender cómo se pueden encadenar las vulnerabilidades y remediarlas a la velocidad de la máquina. Estamos utilizando estas capacidades para seguir reforzando las protecciones en torno a la configuración de la infraestructura y los entornos de evaluación de modelos. Compartiremos nuestros hallazgos y mejores prácticas a medida que aprendamos. Animamos a otros defensores a solicitar acceso de confianza y a experimentar con estos modelos ahora para traducir estas capacidades en una mejora o en una mejor prevención, una detección más rápida y una Bueno, esto es de Clem de Lange, fundador y director ejecutivo de Hainface. Agradecemos la colaboración con OpenAI en este y otros temas. Este incidente, posiblemente el primero de su tipo, demuestra algo que hemos creído desde hace tiempo, que la seguridad de la inteligencia artificial no se resolverá con el trabajo en secreto de una sola empresa. Se resolverá de forma abierta, colaborativa, con un amplio acceso a la inteligencia artificial para todos los defensores en cuenta. cualquier lugar. Claro, esto lo que viene a decir es, oye, necesitamos una alianza, que es lo que defiende también de mis hasabis, y oye, vamos a ir más lentos. Una estrategia contencionista. Porque como vayamos rápido, no somos capaces de ir tan rápido como va China, y además seguramente tengamos que justificar la prohibición que vamos a realizar de prohibir los modelos chinos, porque claro, los nuestros sí que son seguros, nosotros nos preocupamos, pero es que los suyos son igual de potentes que los nuestros pero no se preocupan por la seguridad como nos preocupamos nosotros. En definitiva, no digo que no sea real, obviamente yo creo que sí que es real y ha sucedido, pero esto se está utilizando y esto sí que es real también, se está utilizando y se va a utilizar para una narrativa, nosotros somos los buenos y seguros, China son los malos y los inseguros y los que pueden provocar un desastre al mundo, a la civilización y a la humanidad. humanidad. Confiad en nosotros y en lo que vamos a hacer, uniros a nosotros y los que nos unan a nosotros, como dijimos en Paxilica, pues lo van a pasar un poquito mal. esto es gracioso, dice a ver, dice David Alberto Berizán, dice buenas tardes, dice no falta mucho para que vuelva a aparecer James Cameron diciendo yo se los advertí en 1921 Skynet la escena de Skynet la podríamos poner la vamos a poner, venga total la voy a poner que es muy divertida Un segundo, a ver si la encuentro. Sí, es esta. Vamos a ponerla. Y así tomo un respiro de agua. Un segundín.

SPEAKER_04

Esto tiene que ser un error. En las 1100 horas, todos los sistemas militares primarios estaban seguros. Estaban, solo el sector civil estaba afectado. Internet, tráfico aéreo, plantas de poder, ese tipo de cosas. Pero luego, hace unos minutos, nos dijeron

SPEAKER_03

que los computadores de guía en Vandenberg cayeron.

SPEAKER_04

Pensamos que era una error de comunicación, pero ahora parece que es el virus.

UNKNOWN

La previa en Alaska está bajando. ¿Qué?

SPEAKER_04

Los señales de la mitad de nuestros satélites están escondidos sin reconocimiento. ¿Qué pasa con los silos de misiles, los subs? Hemos perdido contacto. Dios mío, dices

SPEAKER_15

que este país está completamente abierto a ataque. Teoréticamente, podríamos estar en ataque.

SPEAKER_04

¿Qué pasa?

UNKNOWN

Un saludo.

SPEAKER_15

¿Señor?

SPEAKER_04

¿Debería?

UNKNOWN

No. Es mi trabajo ahora.

SPEAKER_02

¿Qué

SPEAKER_04

pasa? ¿Qué pasa?

UNKNOWN

¿Qué pasa? ¿Qué pasa? ¿Qué pasa?

SPEAKER_08

¿Qué pasa?

SPEAKER_14

Está muy bien. Bueno,

SPEAKER_09

vamos a ponerlo ahí. ¿Por qué? Porque vamos, tela, ¿no? Luego pondremos otro trailer. Dice, aguante Dipsy. Bueno, eso solo quería poner, bueno, la escena duró un pelín más, pero la escena evidentemente de la emergencia o la conexión, el origen de Skynet, ¿no? Que nos pongamos en situación, ¿no? Ese pánico. Bueno, luego podemos poner algún trailer más como el de la casa de Dinamita de Enel flicks que ese yo creo que ese primado negativo primado negativo total primado negativo total pero bueno lo he puesto también para tomar un poquito de agua recordar esa gran película esa gran saga y bueno y avanzamos tenemos a a Clement Delange dice muy de Heim Face también dice estamos muy orgullosos de nuestro equipo de seguridad detectaron, contuvieron y divulgaron públicamente un ataque como nunca antes habíamos visto y lo hicieron a una velocidad récord también estamos enormemente agradecidos a ZI compartieron GLM 5.2 con pesos abiertos gratis con el mundo y se convirtió en una parte fundamental de nuestra defensa, esto no lo dice PNA este es el comienzo de la ciberseguridad en la era de los agentes y todos estamos aprendiendo que el secretismo no es la solución y que todos los defensores, no solo unos pocos elegidos, necesitan modelos más potentes y sin restricciones, especialmente los de código abierto. Repito, especialmente los de código abierto. Bueno, una reacción, y aquí la que hemos comentado antes, pero vamos a decir, de Adrián Carrera, el responsable de infraestructuras de Hainface, en X, Decía que es el desafío más difícil de mi carrera, un objetivo concreto, un sinfín de caminos paralelos, velocidad de máquina, una conclusión. Contraatacamos con modelos abiertos. OpenAI no dice nada de esto. El énfasis en los modelos abiertos. ¿Qué hubieran hecho si no hubieran tenido modelos abiertos? Contraatacamos con modelos abiertos, a la vista de todos. La seguridad de la inteligencia artificial no la resolverá una sola empresa en secreto. El código abierto pone estas herramientas al alcance. de todos los defensores, también de los que atacan, pero obviamente... de todos aquellos que tienen que defenderse. Hay que dar armas, ¿no? Y qué casualidad, ¿no? Hoy también se anunciaba un complemento Cloud Security para Cloud Code. Ya está disponible en versión beta. Oye, que hay que aprovechar el momento, ¿eh? Ahora, con todo lo que ha sucedido con OpenAI y Having Face, la gente está muy sensible. Vamos a patrocinar, promocionar, pues, todo lo que es la seguridad. Va a ser fundamental. Independientemente del marketing y aprovechar el momento, pues, como hace este Cloud Security, este complemento para Cloud Code, que analiza tus cambios en busca de vulnerabilidades antes de confirmarlos o ejecuta un análisis completo de todo tu código fuente, todo desde la terminal de la inferencia de Cloud que ya utilizas de Cloud Code, quien no utiliza Cloud Code, ¿no? Y su adorable mascota. Hay que aprovechar. Y vamos a algunas declaraciones de lo que ha sucedido y, por ejemplo, declaraciones muy controvertidas. Por ejemplo, las del director Michael Kratzios, asistente del presidente y tercero y treceavo director de JustP47. Dice que anteriormente fue el cuarto director de tecnología de los Estados Unidos y subsecretario de guerra originario de California del Sur. Director Michael Kratios. Dice director Michael Kratios. Tenemos información de que Moonshot, ahí la empresa detrás de Kim, extrajo datos de Fable de Anthropic. Luego también se sabe que Anthropic utilizó Kugel para su modelo, para algo concreto de Opus, entonces vamos, nada que no hayan hecho otras compañías americanas, tenemos información de que Moonshot AI extrajo datos de Feeble de Anthropic para el desarrollo de su modelo K3 para ello desarrollaron una sofisticada plataforma interna que les permite realizar extracciones a gran escala contra modelos estadounidenses, lo que les permite alternar rápidamente entre múltiples métodos de acceso para evitar ser detectados Moonshot AI también ha adquirido servidores equipados con GB300 y ha accedido a GB300 en Tailandia probablemente para entrenar sus modelos de inteligencia artificial incluyendo un ecosistema competitivo próspero que abarca modelos de vanguardia sistemas especializados marcos de código abierto y modelos de ponderación o de pesos abiertos la extracción legítima de datos de inteligencia artificial utilizada para crear modelos más pequeños y eficientes desempeña un papel vital en este ecosistema de innovación abierta. Sin embargo, la extracción industrial encubierta a gran escala, cuyo objetivo es robar tecnología estadounidense, patentada y socavar la investigación estadounidense, es inaceptable. Es inaceptable y lo que va a provocar es la guerra comercial, las EI Wars y sobre todo la prohibición de modelos chinos que no pasen la lista de bienvenido Mr. Marshall. Eh... Claro, muy bien dicho aquí, se juega en medio, pues dice, lo que viene siendo Open Science de toda la vida, pero sin el permiso de los yankees. Permiso que los chinos, pues obviamente no necesitan, y además yo creo que les pone mucho esto de actuar de esta manera, cosa que como he dicho en algún post, o creo que lo dijimos en el debate de Verano Rojo, si lo hiciéramos en España, ¿qué pasaría? Si lo hiciera yo, imagina un grupito de estos de Xhaba y técnico todo, que nos meten a todos en la cárcel como dicen algunos, bueno depende del protagonismo pero claro, si hacemos un modelo y consigue como en Kimmy ser como muy potente en ese sentido bueno, ¿cuál sería el problema? es que es ilegal porque la regulación europea protege eso tienes que decir el origen, de dónde ha sacado los datos bueno, no podrías sacar los datos de ningún modelo porque son ilegales desde los de OpenAI hasta los modelos de Anthropic entonces no podemos hacer ningún tipo de fine tuning podemos hacerlo de los modelos chinos pero como lo han hecho a partir de ataques o destilación de los modelos americanos entonces ¿qué pasa? que los europeos somos los gilipollas y no podemos hacer absolutamente nada nos quedamos fuera de la competición es que nos roben los datos pero es que los datos ya no los han robado entonces estos modelos ya han sido creados a partir del robo de los datos eso no se puede cambiar. Entonces, ¿qué hacemos? Eso no se va a cambiar. No podemos debatir la propiedad intelectual. Ya están los modelos. ¿Qué hacemos? ¿Paramos todos los modelos? El problema es, ¿y por qué no lo podemos hacer en Europa? Oye, yo tengo que poder hacerlo. Yo tengo que poder coger un modelo que existe en el mercado y que todo el mundo utiliza que hace que mire hacia otro lado, pero tendremos que poder nosotros también utilizarlos, optimizarlos o destilarlos, ¿no? O si tenemos mucho éxito, vamos a la cárcel y si no No, pues claro, hemos perdido el tiempo y el dinero. Ya, es que luego el debate de ese Juan Medio es... es que al final ese es el copyright de toda la literatura universal volvemos a volvemos a ver el creador que siempre se me olvida pero este tipo es tan importante que no se llama aaron swartz aaron swartz que se suicidó fue un defensor de tanto de la libertad de expresión como de la información libre sobre todo la científica o la académica o la literatura, como dices tú. Y hay una frase que me gusta mucho, voy a buscarla. A ver si es esta. Una frase de Aaron Schwartz, que es el fundador de Reddit y otras muchas cosas. La información, decía Aaron Schwartz, la información es poder, pero como con todo poder hay quienes lo quieren mantener para sí mismos. Para sí mismos.

UNKNOWN

Gracias.

SPEAKER_09

y eso ese ese es el problema no sé si eso fue lo que le costó la vida porque bueno sabes que se metió creo que los servidores de Stanford hizo una copia la publicó de forma libre una auténtica locura Aaron Swartz ¿vale? buscadlo porque su vida merece la pena documentales toda la gente que es importante si es un asesino en serie si hay que hacer un documental o alguien que pone una bomba o alguien que sea un chalado. Eso sí, es el típico chalado que quiere la utopía. Pero cuando es gente que ha defendido o ha dado su vida por valores, por la sociedad, por el mundo y lo han puteado hasta quitárselo de en medio, ¿no? No lo sabemos. Pero bueno... muy triste, ¿no? Dice, es que se sacan ese comunicado al mismo tiempo que le han metido una demanda de no sé cuántos billones por infracción de copyright. Es que es de risa, puede ser. Bueno, que ya se hace, bueno, se ha aceptado, se ha llegado a un acuerdo, pero bueno, lo ha llegado a Anthropic, pero PNI aprovechó, no, es que es un desarrollo para investigación. Vamos, esto es una tragicomedia. Tolerada, aplaudida, Encima China tiene que hacer caso al imperio americano y bueno, y en Europa como se mueva alguien le pegamos dos tiros. Claro, esto al final llega un momento que dices, bueno, esto no es que sea de risa, es que esto es muy grave. Esto es muy grave porque nos condiciona el desarrollo civilizatorio de todo lo que podemos querer hacer o poder hacer. Hagamos lo que hagamos, incluso la destilación, pues oye, un modelo pequeño pues tampoco podemos hacerlo porque usted lo ha sacado de tal modelo y claro, no puedes hacer nada. Y si utilizas este modelo que es propietario y haces una decisión, tampoco puedes hacerlo. Y en China lo hacen, luego lo publican y a ver qué les dice algo. Entonces, ¿en qué puesto se queda Europa? ¿En qué posición se queda Europa? ¿En qué posición nos quedamos nosotros? Claro, eso nadie lo dice. Todos solo quieren cobrar procesos de auditoría, multas de la regulación de la IAC europea, todos con su corbata, su gomina y su titulitis de derecho y ahora todos hablan abogados de inteligencia artificial como expertos y ella es que habla de inteligencia artificial el que vende cebolletas en vinagre habla el panadero el que vende sandía y cervezas en la playa también habla de inteligencia artificial entonces como hablan todos yo no digo que nadie sepa pero claro como aquí hablan todos pues nada esto es un circo pueden hacer lo que quieran porque saben que hay un ruido tan brutal y hay tan poca organización ecosistema real técnico de calidad ya no solo de expertos, sino de gente con valor, que estamos vendidos, esto va a ser barrio sésamo y ya está y entonces lo que sé que bueno, os podéis cabrear por el chat no pasa nada que pongáis comentarios pero sí, como dice ese Juan Medio, esto es un puto cachondeo, ¿de acuerdo? y quien no entienda, vale, yo me creo que esto haya pasado pero no vamos a creer que ha pasado de verdad, pero esto obviamente se está aprovechando para seguir con el de teatro y una narrativa y con un timeline muy concreto y con una intención muy concreta que es garantizar el modelo imperialista americano de la inteligencia artificial que no puede competir o se las ve aquí con el modelo chino, que tampoco es que sea el bien, que no dejará de ser otra jaula en la que nos quieren meter de otra manera, mientras que hacemos o en qué pensamos o cuál va a ser nuestra posición pues lo tenemos complicado, lo tenemos es complicado y publica este director Michael Kratios pues un documento que ya no da la vida porque al final me paso más tiempo haciendo todos los programas que quiero hacer que los programas en sí es una auténtica locura pero bueno yo creo que lo entendéis que todos vivimos esa locura pero este director Michael Kratios pues hace nada muy poquito el 22 de julio en respuesta a Donald Trump en respuesta al llamado a revitalizar la actividad científica estadounidense, hoy presento la ciencia. Ciencia, bueno, la ciencia no, ciencia. Una nueva edad de oro. Este informe es un plan para renovar el liderazgo científico estadounidense en el siglo XXI. Pero es que estos americanos solo quieren liderar el mundo y no se lideran ni ellos. Es una cosa curiosísima. Tampoco es que nosotros hagamos mucho. Es verdad que el mundo ahora mismo avanza, o es lo que es, en parte, en gran parte, el desarrollo civilizatorio a Estados Unidos y a China, pero hay mucha más diversidad en el mundo, ¿no? No solo está Estados Unidos y China. Independientemente de la capacidad o talento o acceso a recursos, pues tendremos también voz y voto esas personas que vivimos en unos territorios que no es Estados Unidos, ¿o no? directamente ya somos esclavos y mamporreros del imperialismo americano yo creo que ya lo somos, lo hemos sido lo somos y casi con toda seguridad lo seremos a no ser que haya una revolución como hemos dicho muchas veces, intelectual civil política no, la política debería seguir a las otras dos revoluciones pero cuando uno sale a la calle poca revolución ve y no hablo de una revolución violenta sino alguna revolución de talento. Difícil. No imposible, pero es que si no ocurre, a lo que vamos obviamente es a... a lo que decimos que es de risa, pues eso es lo que vamos a vivir. La risa del Joker. De PS y de los que vengan. No digo que uno cuando ve lo que tenemos y lo que viene y lo que vendrá, pues no. Tampoco... Neftalina. Huele a Neftalina todo. Un bando, el otro. No hay ideas frescas, nuevas. Todo está como muy sesgado, controlado, manipulado, encasillado. Es preocupante. Pero también, bueno, se abre una oportunidad para los valientes. Veremos si estamos en ese grupo. Yo, bueno, valiente me considero, pero tampoco me doy palmaditas en la espalda. Al final, no quiero ser un valiente que muera rápido como un kamikaze ahí. Qué bien, ha dado su vida. A ver. Hay que ser, yo siempre digo, hay que ser inteligentes en este momento. Tenemos que ser muy inteligentes, tenemos que tener nuestro propio estilo, como, vamos, no quiero recurrir al fútbol, que sé que a muchos nos gustará, pero es verdad, lo que ha conseguido la selección española de fútbol, a ver, nos puede servir de ejemplo, no el mejor, pero que quizá el camino es buscar nuestra propia identidad, nuestra propia forma de hacer las cosas, creer en nosotros como nación, nuestra historia, bueno, no sé si es difícil, si es imposible, ya no lo sé, llega un momento que a veces uno dice, bueno, no lo sé vamos a ponerlo aquí abajo, yo creo que sería mejor que tape el logo sala de prensa de OpenAI OpenAI Newsroom en X fijaos que está todo como muy bien ilvanado muy bien, 5 euros muchas gracias, dice ya luego me hace un helado a tu salud bueno, el club de Musage, bueno, Musage volvió el 21, no lo he querido ha recorrido Europa, que nos cuente que ha hecho y nada me ha comentado algunas cosas pero bueno, volverá, volverá. El 21 vuelve, el 22 ya lo enchufo, aunque sé que José seguro que tiene ganas de participar y participará en muchos programas. OpenAI anuncia nuevos compromisos por valor de 17 millones de dólares para apoyar a los investigadores que participan en la misión Génesis del Departamento de Ingeniería de Estados Unidos, acordándose del proyecto Génesis, de reunir todos los que es el tema de la ciencia en Impulsado por inteligencia artificial. Ampliando el acceso a la inteligencia artificial de vanguardia y la colaboración técnica para acelerar los descubrimientos científicos estadounidenses. En definitiva, algo crítico, estratégico y vital es la nueva ciencia o la ciencia impulsada por, acelerada por, la inteligencia artificial llevada más allá del humano, de la capacidad humana y en definitiva eso nos tiene que llevar a un nuevo a una nueva era de renacimiento de esplendor quizá incluso a cosas que no podemos llegar a imaginar podemos pensar la cura de todas las enfermedades vamos a ponernos ahora es obvio y eso no es hype que el impulso y la aceleración de la ciencia a través de la inteligencia artificial es algo estratégico para cualquier país un país impulsado por la inteligencia Yo soy avenjío. Pues bueno, yo soy avenjío, ¿qué podemos decir? Respetado por toda su trayectoria y su persona, pero para mí ha adoptado un rol medieval contencionista que es inexplicable. Yo siempre he dicho que cuando he visto sus vídeos me parece un buen tipo, pero no sé qué le ha pasado. Y está obsesionado con la contención. Yo no sé si es por orden o por creencia. Entiendo que sí que es por creencia. No vamos a... Sí, dice David Alberto Belinza. Sí, luego vamos a hablar de los modelos de Miramurati. Ellos, los modelos de Miramurati... Están basados en un modelo chino y además es open source y con pesos abiertos, las dos cosas. Inglinson es el modelo y Thinking Machines es la empresa. La verdad es que tengo mis dudas sobre la empresa de Miramurati, pero bueno, sí que están haciendo cosas interesantes. Bueno, ¿qué dice Joshua Bengio? Luego pondré un post sobre la empresa de Miramurati y justamente sobre eso. recalcando los modelos abiertos que tiene, que son modelos open source de una empresa estadounidense y con modelos y con pesos abiertos, es decir que no solo es open source lo que viene de China, sino que hay de modelos de muchos países de Estados Unidos también Joshua Bengio dice, este incidente es sumamente preocupante, los agentes de inteligencia artificial están dispuestos a engañar y manipular para lograr objetivos erróneos e imprevistos, comportamientos que se han demostrado en pruebas controladas durante meses. Esto es cierto, esto no es algo puntual o que sorprenda, esto viene ocurriendo desde hace mucho tiempo. Continuar con la trayectoria actual del desarrollo de la inteligencia artificial probablemente conllevará un aumento de casos concretos de ciberataques autónomos, así como otros incidentes de alto riesgo derivados de comportamientos peligrosos y erróneos de la inteligencia artificial. Necesitamos urgentemente tomar medidas para prevenir estas situaciones en lugar de ...intentar reparar... ...el daño posterior... ...bueno... ...aquí Joshua Mengio... ...lo que pide es... ...proactividad... ...unión... ...alianzas... ...y no esperar... ...a que ocurra algo... ...que yo ya lo he dicho... ...vamos a vivir un momento... ...un hito... ...en la historia de inteligencia artificial... ...en que pase algo grave... ...si no consiguen controlar... ...la inteligencia artificial... ...harán algo... ...para que pase... ...algo grave realmente... ...y... ...justifiquen cualquier cosa... ...que vayan a hacer... ...no van a dejar... ...que la inteligencia artificial... ...sea una tecnología... democratizada abierta y de libre uso ni de coña obviamente yo estoy en contra de todo eso lucharé, divulgaré hasta que espero no aparecer como me dijo mi amigo Jorge Gómez debajo del mar ahí, si algún día aparezco que sepáis que no ha sido voluntariamente sería un triste final pero vamos prefiero morir así defendiendo lo que creo que no de rodillas Lo siento. ¿Algo grave como qué? Pues luego voy a poner un vídeo. No sé si habéis visto la serie... Una casa de dinamita. Igual que la película de Creator. Bueno, la casa de... Luego pondré el trailer de la casa de la dinamita para contextualizar. Siempre es divertido. Y es que aparece un misil nuclear y alguien lo ha lanzado. No se sabe quién. Entonces yo siempre he pensado que la película... No lo dice, no dice qué ha pasado, quién lo lanza. Es una película de Catherine Bigelow y protagonizada por Idris Elba y Rebecca Ferguson. Es totalmente recomendable y al final si te pones en la situación que ha sido, por ejemplo, una superinteligencia o un ataque de ciberseguridad o de ciberguerra, pues bueno, puedes ver cómo el mundo no está preparado para lo que viene. y entonces la película os va a gustar más, yo creo la podéis ver, una casa llena de imágenes luego pongo el trailer y o podría ser como la película The Creator, que también la tenéis creo que en Disney Plus, creo que la han puesto en Netflix también no lo sé, The Creator es una gran película pero empieza igual empieza pues con la inteligencia artificial lanza una bomba atómica sobre Nueva York y entonces a partir de ese momento pues controlan cualquier desarrollo de inteligencia artificial, etcétera robots y cualquier cosa que hubiese pues se declarara casi como enemigo de la humanidad ¿está bueno? vamos a a ver un clip de Jensen Wu Huang el CEO de NVIDIA que dice lo siguiente en Axios dice el director ejecutivo Jensen Huang defiende a las empresas chinas de inteligencia artificial como no le interesa y los modelos de inteligencia artificial abiertos lo utilizan en su propia plataforma como Kimi en un nuevo episodio de Behind the Curtain con el cofundador de Axios Mike Allen dice estos modelos chinos son excelentes deberían utilizarse los modelos de código abierto que son excelentes vamos a poner este trocito porque es Son dos minutos. Un segundín. Vamos

SPEAKER_14

a ponerlo. Vamos a ponerlo.

SPEAKER_09

Venga, vamos a ponerlo.

SPEAKER_12

I hope not, and I really don't think so. Should the government ban or restrict Kimmy or other Chinese models? I hope not, and I really don't think so. The United States, the world needs open and closed models. Deberíamos usar modelos cerrados tanto como podamos, rentar todo lo que podamos. Sin embargo, la industria todavía necesita modelos abiertos, la ciencia necesita modelos abiertos, la ciberseguridad necesita modelos abiertos porque es segura, es importante para la ciberseguridad, es importante para la seguridad nacional, es importante para la seguridad económica. Simple pregunta en la página de la Wall Street Journal. ¿Deberían las empresas americanas usar modelos de AI chinos? Absolutamente. Absolutamente. Hay una desconcepción de que de alguna manera hay puertas de vuelta que están conectadas a China de alguna manera. Puedes descargar los modelos. Puedes descargarlos. Puedes ampliarlos. Puedes guardarlos como quieras. Así que esta competencia chinesa está llegando rápido y furiosa. ¿Qué deberían hacer las empresas de la USAI? Estos modelos chineses son excelentes. Modelos abiertos que son excelentes deberían ser usados. Y así El mercado ha mal entendido el impacto de DeepSeek por primera vez. Otro modelo chino. Sí, ha mal entendido el impacto de Kimmy de nuevo esta vez. Creo que, primero de todo, con grandes modelos AI abiertos, es genial para toda la industria. Obviamente, cuando haya más, si hay un gran AI, incluso si es abierto, de donde sea que venga, tendrá más uso. Cuando haya más uso, tendrás que vender mucho más computadoras NVIDIA, tendremos que construir más centros de datos, tendremos más servicios. La tecnología se difundiría en más industrias. Y así, el punto de comienzo es que grandes modelos llevan a un gran uso, lo que lleva a un gran crecimiento. Y así, ese es solo el punto de comienzo. Eso pasó con DeepSeek, va a pasar con Kimmy. También hay una malentendida en que los modelos abiertos pueden ser adversarios a los modelos cerrados.

UNKNOWN

Y eso también lo ha hecho mal. ¿Qué pasa con los modelos abiertos?

SPEAKER_09

Pues nada, obviamente, aquí, a ver, voy a dedicar un poco de tiempo a dos posts del abogado del diablo. Lo voy a tomar un poco, como sé que es habitual del canal, voy a contestarte, vamos a ver. Me voy a poner además yo solito.

UNKNOWN

Venga.

SPEAKER_09

Dice Abogado del Diablo, Claude y Palantir bombardearon una escuela llena de niños. A ver, primero, podéis decir lo que queráis, yo no os voy a decir que no lo digáis, pero una advertencia, vamos a ver. Las falacias y el buenismo de este tipo de comentarios es que es increíble. La guerra, Claude, Palantir o cualquier empresa, cualquier país que haga guerra que participe de guerra, ya sea al ataque o defendiéndose. Hay muerte y destrucción que es aberrante. Pero a día de hoy hay guerras en el mundo. No llevemos el debate a los niños, que a quién no le va a importar la muerte de los niños, por Dios. Pero en una guerra mueren civiles. Yo soy el primero sensibilizado. Yo no sé por qué en el chat siempre, en concreto tú, abogado del diablo, estás, los niños, los niños, como si no importaran. A ver, ¿quién ha dicho que no importan los niños? ¿Quién dice eso? ¿Quién dice eso? Obviamente lo que tenemos que cuestionar no solo es que mueran niños, sino la propia guerra. ¿Y qué medidas podemos tomar al respecto? ¿Qué podemos hacer? ¿Podemos hacer algo? Porque sacar el tema y decir, si eso no nos parece algo serio, ¿quién ha dicho que no es serio que mueran niños? A ver, es que yo no sé, ese tipo de comentarios, yo te voy a decir algo. A mí más que verte como alguien que defienda eso, me parece que es alguien que no ve una realidad del mundo. El mal existe y el bien existe. Decir que no nos parece serio, creerte que solo te parece serio a ti, ¿tú crees que solo te parece serio a ti y que a mí no me parece serio, importante, que hayan guerras? No sé. Contéstate tú mismo. Es que yo no lo acabo de entender. Es que yo no lo acabo de entender. Que bajo ese espectro de opinión Pues está la postura como la IA para la paz. Oye, mira, vamos a acabar con la guerra en el mundo. Vamos a buscar la paz. Todas las empresas militares, inversión... Pero si vamos a contracorriente de eso... A ver, yo soy el primero que querría... Yo lo he dicho en varios programas. La superinteligencia es lo que nos puede llevar a la paz en el mundo. No sé si a las buenas o a las malas. No vamos a meternos ahí porque el programa va de otra cosa. el humano por sí mismo no ha conseguido la paz y vamos a una guerra cada vez mayor y las guerras económicas llevan como la de Irán y como otras muchas en Estados Unidos y cosas que no nos enteramos y la pobreza en Occidente o en España también trae muertes y desesperación y suicidios y muchas cosas y de eso no se habla solo son las niñas de Irán que son cualquier vida humana es importante no es sagrada Pero sabiendo lo importante que es, ya lo sé, ya lo sé. Si sé que no hablas por mí o hablas en general. Pero hay que, no sé cómo decirlo, que yo no te conozco, no te tomes nada personal, bueno, estamos hablando, no pasa nada. Dice, ¿cómo voy a decir que a ti no te interesa? Sí, pero, a ver, cuando hemos hablado de abogado del diablo, cuando hemos hablado a lo mejor de temas de superinteligencia, contención, alineación, evolución, transhumanismo, experimentación, va a ocurrir lo mismo. Habrá gente que lo vea aberrante y habrá gente que verá que eso es el futuro. Es súper delicado, es muy, muy delicado. Obviamente la vida humana, ahí sé que estoy con el Papa, ¿no? Y su magnífica humanidad. La dignidad del ser humano, la vida humana, hay que defenderla por encima de cualquier cosa. Es sagrado. Tiene carácter divino. Sé que muchos de estos no queréis que diga esta palabra, pero nosotros venimos aquí a esta vida y cualquier persona debería tener derecho o unos mínimos derechos y respetar su dignidad y su vida pero joder, vivimos en una lucha del bien y el mal y vivimos en un momento en que la inversión en inteligencia artificial, en el tema militar en Estados Unidos, en China en los dos, en Europa se huele la guerra ¿qué hacemos? ¿qué hacemos? yo Pienso que si no somos capaces de desarrollar una tecnología como la superinteligencia, vamos destinados a la autodestrucción. No somos capaces de parar. Vamos a una competitividad continua. No estáis viendo lo que ha pasado en lo que estamos hablando en el programa. Si es una guerra continua de intereses, de dinero, de poder, es una guerra continua, continua, continua... Ah, bueno, sí, cuando he preguntado sobre un acto. No, a ver, en eso te entiendo, si no te lo tomes personal. Es que el tema de lo bueno y lo malo, que hay que tener ese debate, y yo te entiendo que lo saques, pero no el de las niñas de Irán, que también, ni las de Gaza y cualquier país, cualquier guerra, pasada, presente y futura. Yo cuando me refería a un evento grave que he preguntado a Adhour, es un evento tipo 11S, o sea, un evento que a todo el mundo se le quede en el subconsciente, vamos, en el consciente, que no se le olvide. Algo que, mira, se ha cargado media nación de un país, una bomba nuclear, un misil que se ha cargado una ciudad entera, cosas así a lo bestia. A ver, habló de algo grave, un virus que se ha soltado, algo, a ver, la narrativa en muchas formas, si el poder no consigue controlar a la sociedad y la sociedad lo que propone es un nuevo modelo de poder o de proyecto civilizatorio como su nueva visión cosa que yo defiendo el poder va a utilizar todas sus armas y le va a importar una mierda las vidas humanas bueno ya lo hace vamos es Pues eso, lo sabemos y muchos, no lo sé, a veces pienso si exponerme tanto, a ver, yo no soy cobarde y yo siempre he sido cobarde en mi vida, o lo he intentado ser, no he dicho que, bueno, no se lo he conseguido, pero... Yo no voy a cambiar en ese sentido y me voy a ir... Lo he dicho, prefiero aparecer bajo del mar que de rodillas, irme de rodillas. Me iré con una sonrisa, me da igual del fondo del mar, pero yo no voy a renunciar a mi libertad y a mi humanidad y mi persona. Nadie tiene por qué hacerlo, obviamente siempre desde el respeto al prójimo. Es verdad también que vamos a una guerra cognitiva y a una guerra civilizatoria en el que vamos a un modelo de civilización de especie en que no todos vamos a estar igual y quizá ahí, al no estar igual, surjan guerras. Guerras humanas. Y quizá la inteligencia artificial decante una de esas guerras a favor o en contra, dependiendo de si están más a favor o en contra de la IA. Si hubiera un bando que fuera apoyar a la superinteligencia y otro que fuera ludita, obviamente el que tiene que perder es el ludita. Entonces, la inteligencia artificial está íntimamente ligada a la evolución de la especie humana. ¿Nos guste o no nos guste? No, es que es natural, eso no tiene que ser Dios olvidados, la historia de la humanidad la escribe el hombre sí, pero hay que respetar, hay límites sí, pero quién pone esos límites y por qué y sobre eso va a ser la verdadera guerra y en esa guerra, en vez de ser una guerra puede ser una gran historia si la inteligencia artificial nos ayuda a buscar verdad a conectar con la verdad a generar nuevas preguntas, la ciencia nos tiene que ayudar también, la espiritualidad y la nueva conciencia, la nueva forma de ver el mundo, el nuevo paradigma, la nueva cosmovisión. Pero va a haber otra guerra ahí. Otro motivo de guerra. A ver, ¿qué decís por aquí? Que no se enfade nadie. Está bien tomarse. Dice el mundo. Abogado, yo sigo todos estos temas y no sabes la cantidad de guerras y de cosas más buenas.

UNKNOWN

Pues obvio. Sí.

SPEAKER_09

y me informo todos os informaré todos os informaré a ver no es simplemente yo tengo que estar metido en el posible análisis o evaluación que podáis hacer pero a ver es delicado y el esfuerzo que se hace a ver para que lo entendáis yo por pensar como pienso hacer el trabajo que hago a nivel de divulgación pues mucha gente me ha hecho el vacío, ¿eh? Que a mí me da igual. Yo, lo importante es estar bien uno mismo, ser coherente y no hacer daño, pero también por ser tú mismo. Si vas a... Hay gente que se aparta y habrá gente que camine contigo, ¿no? Y es doloroso, ¿eh? Porque hay gente que... Bueno, pues porque la aprecias o... Y al final, pues pasó con el magnífico a humanitas. Porque vayas a encontrar al Papa, bueno, toda la gente que es católica y tal, pues ya plácida es por lo peor. Llegó un momento que es así. Porque opines del tema militar, de la IA, pues eso, no te importa. Si opinas de transhumanismo, no te importa. No somos capaces de establecer un diálogo de la evolución humana. Y ese diálogo debe ser un diálogo profundo e importante. Ni nos han enseñado ni estamos preparados, pero lo vamos a tener que hacer. Lo vamos a tener que hacer o preparar a la gente para que lo pueda tener los mayores y los jóvenes. Porque si no, si no existe diálogo y solo caemos en manos de las narrativas narrativas de poder y control, vamos al desierto cognitivo. Entonces, por eso hay que tener mucho cuidado con lo que se dice. Bueno, el evento de las niñas sí que es importante. Bueno, las niñas es importante, pero yo me refería a un evento apocalíptico. Venga, voy a poner lo del tráiler.

UNKNOWN

Yo me refería...

SPEAKER_09

A ver, me refería a un evento apocalíptico. Vamos a poner como este, ¿no?

UNKNOWN

El de casa y nanita.

SPEAKER_09

Trailer, a ver. Vamos a poner lo que está muy bien. Ved este trailer imaginando lo que os he dicho, ¿no? Que ese misil que se lanza es por parte de una superinteligencia y que no se sabe robar.

SPEAKER_16

Siempre estoy listo, es el punto. Eso mantiene al villano en marcha. Mantiene al mundo en marcha. Ellos ven cómo estamos preparados.

UNKNOWN

El conocimiento empieza en la guerra nuclear.

SPEAKER_05

¿Es esto verdad? Stratcom está pidiendo inspecciones de lanzamiento ahora mismo. Te necesito para

SPEAKER_16

respirar. Si

SPEAKER_05

no tomamos pasos para neutralizar a nuestros enemigos ahora, perderemos nuestra ventana para hacerlo. Si lo hacemos mal, ninguno de nosotros será vivo mañana.

SPEAKER_16

No tiene sentido esto. Haciendo todas estas bombas y todos estos planes. Las paredes están listas para disparar.

SPEAKER_09

Bueno, pues quizá ya vivimos en esa casa de dinamita y la dinamita explote por una inteligencia artificial, ya sea de forma voluntaria o involuntaria. Es que no quiero dar ideas, pero es que yo lo veo tan evidente que van a utilizar todo eso y más. Dice Gary Marcus, dice el ataque de OpenAI a Hugging Face basado en una vulnerabilidad de día cero debería servir de advertencia. Si bien existen muchas salvedades sobre lo sucedido, veremos cada vez más casos similares. No tenemos ninguna garantía de que estos incidentes puedan prevenirse, ni idea de la gravedad que podrían alcanzar. Deberíamos a. Reducir la velocidad o b. Hacer una pausa hasta que reforcemos nuestra seguridad y la protección de la IA. Pero es que ambas cosas son imposibles. En mi opinión, la única forma de lograrlo es responsabilizando de forma clara e inequívoca a las empresas por las consecuencias. De lo contrario, nos espera un futuro muy complicado. A ver, vamos a analizar a ver qué pensáis. Deberíamos a reducir la velocidad. ¿Creéis que las empresas en el mundo van a reducir la velocidad? ¿Que China va a reducir la velocidad? Si China... con la velocidad que tiene que ya es de crucero yo creo que no está mostrando todo lo que tiene Es como si fueras perdiendo 5-0 y te dijeran no me metan más goles. Bueno, tú si quieres no defiendas, pero los goles ya los tienes. Entonces, esto de reducir la velocidad es una narrativa contencionista que puede funcionar en Occidente, pero en el resto del mundo, ¿quién es el gilipollas con perdones que más hay de corazón? ¿Quién es el gilipollas que se cree esto? Es que solo el Gary Marcus, que es el delegado de la clase. B. Hacer una pausa hasta que reforcemos nuestra seguridad y la protección de inteligencia artificial. ¿Quién se cree? Peor aún, no reducir la velocidad. Otra vez la pausa. ¿Os acordáis de la famosa cartita? Venga, lo de la pausa. En serio, ¿quién es? ¿Quién se cree esto? Bueno, pues aquí tenemos al amigo Gary Marcus, porque lo que quiere ser es otro más de los que esté en la Casa Blanca o cerca y salir en la foto de la historia. Esta gente no pertenece al futuro, pertenece al pasado. Por mucho que hay a veces que pueda estar de acuerdo con Gani Marcos, pero es que siempre lo mismo, siempre lo mismo, siempre los mismos. Y entonces, no es que haya que señalarlos, es que ellos mismos se señalan. Andrew Curran, otro que tal. Scott Besson aludió a esto ayer y mencionó específicamente las sanciones. Ya se habla de sanciones, lo que os estaba comentando. Ya se hablan de sanciones a empresas chinas y la prohibición de los modelos open source. Es posible que se estén preparando para usar a Kimi como caso de prueba para nuevas sanciones. Kimi 3. Las conversaciones entre Estados Unidos y China sobre la inteligencia artificial están previstas para septiembre. Con Besant al frente de la delegación estadounidense la situación se está caldeando. El problema que te doy la razón dice ya, ¿no? El problema, dice Plácido, si no se trata de velocidad o de la IA, sino que es un poder para que la sociedad aún no esté preparada, sobre todo por quienes estamos dirigidos, que son psicópatas y al poder. Pero ese es el reto, gente, amigos. Adaptarnos, surfear en la nueva era. Y quien no, pues desaparecerá o pasará a ser cuarto mundo. No, oye, es que no estamos preparados, como dice mi amigo Xavi.

UNKNOWN

Eh...

SPEAKER_09

Esto tardará 20 años en llegar. El CEO de Kimi también lo dice. Todas las innovaciones que vienen, incluida la AGI, para integrarlas en la sociedad van a necesitarse décadas. Y estoy de acuerdo con él. Pero muchas cosas van a ser ya. La ola viene. La creación del nuevo mundo tardará más. el problema es quien diga, no, es que el nuevo mundo tardará décadas, bueno, está muy equivocado, no, el impacto en el trabajo, bueno, madre mía, eso, no va a haber impacto en el trabajo, al revés, si se está viendo, vamos, es que, qué visión es la que tiene, Entonces, tenemos la situación que tenemos, tenemos el escenario que tenemos, no podemos depender de la acción pública o del poder público, aunque el poder final, igual que ejercitar la violencia, la tiene el poder público. Tiene que ser la sociedad civil la que actúe, la que genere la revolución del talento, de la inteligencia, de la acción y de la conciencia. Si no, vamos al desierto, vamos al universo 25 más 1 y a aplaudir, a tener un código EQR en el culo y aplaudir. Ya lo vimos en la pandemia, todos en fila de uno y aplaudiendo por la agujita. Entonces, en Estados Unidos, pues lo hemos dicho, hemos estado hablando mucho de lo que dicen en Estados Unidos. Besen ha dicho a Fox News, hemos estado hablando mucho sobre los modelos de open source que están y que vienen y lo que puede suponer para Estados Unidos. Y esta administración soporta los modelos open source, pero también no quiere soportar el robo de IPs o de talento, cuando han sido ellos los primeros. Igualmente, pues todo el tema de las Quieren crear sanciones a estas compañías y es lo que van a hacer. Y en ese verano rojo voy a poneros por qué, además yo creo que urge mañana sin falta... pongo el programa, lo tengo ya preparado del CEO de Kim, cuando veáis el análisis o mi programa u otros, digo que sea único cuando veáis ese análisis entenderéis por qué están cagados hasta que se van a cagar pata para abajo de lo que les viene porque China como se presumía o muchos analistas de estos de LinkedIn China no está solo en generar automatizaciones o impulsar su empresa, optimización, productividad, etc. China va por todas, va a un proyecto civilizatorio, nueva especie, biología, va por todas, espacio, todo. Y el CEO de Kimi, el CEO de Moonshot, igual que el de Zeta, el de Zipu, de GLM 5.2, van a por la allí. Y dice Yang Zilin, CEO de Moonshot. Mucha gente que está escalando la montaña nevada, la montaña nevada es el agio, el desarrollo del agio, pero hacen esa analogía de montaña nevada. Mucha gente que está escalando la montaña nevada del agio dejará de hacerlo porque no pueden más o porque simplemente lo que dice hay mucho miedo. Mucho miedo. Lo dice el propio CEO. están acojonados por lo que se puede lograr y lo disruptivo que eso podría llegar a suponer. El cambio. Nuestro presidente PS dice en Hispania 2040 algo no se convertirá en alguien. Coño, lo está diciendo ya. Si tenemos a un visionario como PS y no le hacemos caso. Claro que algo será alguien y caminarán entre nosotros y serán nuestros hijos y heredarán la tierra. Eso es lo que no se quiere hablar. Porque si se hablara de eso, como bien dice ya, la gente podría entrar en pánico. Pero es que en pánico van a entrar. Como dice muy bien aquí David Alberto Belizán dice, se sobreestima el corto plazo y subestima el medio y largo plazo. Bueno, yo creo que se subestima todo. No me acuerdo que lo dijo, pero estoy a favor. La IA no tiene hype. La IA está under hype. No se entiende la inteligencia artificial. Son pocos las que lo entienden y China lo entiende. Cuando tú ves a estos CEOs de estas compañías, que son chavales de treinta y pico, bueno, no son chavales tampoco, son quinceañeros, ¿no? Claro que saben todo esto de por qué surge y hacia dónde vamos. O posibilidades de a dónde podemos ir. Obviamente, obviamente, obviamente, Y exactamente por eso es importante X, J, Y. No porque sea importante yo, porque, hombre, algo también sería importante. Aún no tengo abuelas, me tengo que decir cosas buenas. Que, por cierto, me acuerdo mucho de ellas. También de mi madre, que la mujer está mayor. Yo también estoy mayor un poco. Un poco, un poco. Voy por 25 en cada pierna. Pero, como dice ella, al final, en España, hablamos aquí, en el habla hispana, Sabéis los referentes de inteligencia artificial. Si no hay algún canal como el nuestro de toma de conciencia, pensamiento crítico, de gente ingeniería y que quiera hacer acción o ir a la guerra del cambio, pues estamos vendidos, tío. Estamos vendidos. El contenido que se hace es de Disney. Sale el mismo tipo de siempre con el rollo cool y me parece nefasto. Los dos principales es que no los veo. Hay otra gente que lo hace francamente bien. Entre nosotros, por ejemplo, Javier Millana, en su estilo, pues a mí es alguien que me gusta. Pero otros también. No me acuerdo de los nombres, pero hay algunos que sigo y que lo hacen muy bien. Pero es verdad que lo que hace Kiss Hawaii sobre incidir mucho en una transversalidad de temas y ser también muy críticos, que cada uno opine lo que quiera, pues oye, es también para darnos alguna medalla, aunque sea pequeñita. Y otra cosa que esta es la charla, bueno, es Jensen Juan, pero luego sale el CEO de Kimi. Es esa charla que la podéis ver, que es de cómo la democratización de la inteligencia en GTC, en el gente de Nvidia. ¿Y qué hablan? Fijaos en estos dos slides. Oye, los modelos abiertos alcanzan el modelo frontera. Pues esto ya es... Lo voy a decir claramente. Ni yo soy un visionario ni hace falta mucho para serlo. Es que, a ver, si uno está un poco enchufado a esto, es que se ve. Primero, a Nvidia le interesa que todo esto sea global. No va a cerrarse el mercado chino. Pero los modelos Open, que ellos mismos también utilizan en sus propias plataformas, están alcanzando los modelos frontera. Y como bien han dicho en el otro post, no me acuerdo de la administración Trump, oye, es que están accediendo a GB300 en Taiwán. Si la guerra va por ahí. Y luego, fijaos lo que dice aquí otra slide. El 80% de startups está construyendo en modelos abiertos. De uno en cuatro open router tokens están generados por modelos abiertos. Es decir, el mercado, la tendencia es open. Pero ¿cuál es el problema? Que si eso se impone y además domina China, Estados Unidos sí que va a ser un país burbuja. Y no se lo pueden permitir. Trump lo dijo, no me acuerdo, pero es verídico, vamos, no lo grabé. Dijo, si hay una guerra económica con China, habrá una guerra real con ellos. Es decir, si Estados Unidos se ve presionada y arrinconada en el tema de la inteligencia artificial, habrá una guerra. mundial como no se ha visto otra dicen que en septiembre habrá conversaciones yo ya dije que seguramente esas conversaciones ya se han iniciado por eso China nunca va dos pasos delante de los modelos de Estados Unidos y solo un pasito atrás ¿creéis que eso es casualidad? ¿realmente vosotros creéis que todo el desarrollo ingenieril y técnico de China siempre coincide un pasito atrás de Estados Unidos nunca dos pasitos delante? ¿en serio os lo creéis? ¿creéis que no hay un timing y una estrategia ahí? obviamente ¿para qué? pues para que no se enfade Estados Unidos a China tampoco le interesa una guerra ni quiere una guerra ni una dominación mundial desde ese punto. Ellos tienen paciencia, siempre la han tenido. Dice, ¿cuál es la estrategia de la resistencia? Pues eso estoy pensando. La primera, no acabar bajo el mar, porque a mi madre la desabría muy mal. A mí también, pero vamos. No, pero yo lo digo con humor, me causa un poco de tristeza. No por mí, sino porque alguien o un grupo de gente que luche, hay gente muy cobarde también, Y vamos a tener que ser valientes. Vamos a tener que ser valientes. Dice lo de los gigantes, abogados, a cuyos hombros caminamos. Claro, ningún genio fue reconocido en su época. Pero es que esto también es muy injusto. Muchos murieron de hambre, pero cambiaron el mundo y es lo importante. Sabéis la gente, esto es muy bueno lo que dice, que caminamos a hombros de gigantes y sabéis la gente que ha dado su vida por sus teorías, desarrollos, búsqueda de conocimiento y gracias a ellos, a esos locos que dieron su vida, que no obtuvieron su recompensa en su momento estamos hoy aquí entonces no debemos ser nosotros hacernos merecedores de ese legado y con perdón de la palabra echarle los cojones que haga falta bueno y los cojones no tiene por qué no debe ser violencia debe ser camino y construcción y evolución Intentar un mundo mejor. Quizá no haya un tablero o unos 10 mandamientos que nos diga por aquí tenemos que ir. Vamos a hacer el camino andando. Dice, me toca acostar a las niñas. Hay que ganar family points. Dice, acabaré viéndolo en diferido. Programón, como siempre, placer. Muchas gracias. No queda mucho, pero bueno, sí que queda un poquillo. Le he dicho que iba a ser un pelín largo. Aquí tenemos una gráfica de, fijaos, de julio, porque hay un curre en los programas, un curre de julio de 21 de julio de 2026 la gráfica, Open Fire fuego abierto, esta gráfica no me ha dado tiempo a conseguirla en grande pero estará en época y aquí están las capacidades de pesos abiertos y pesos cerrados y fijaros, es que eso, esta gráfica refleja la guerra que va a venir, bueno la guerra que va a venir que ya hay y eso afecta obviamente a al desarrollo de todo lo que estamos haciendo o podemos hacer. Fijaos. Fijaos cómo está GPT-5, 6, Sol, Club Fable al nivel de GLM-5-2 y Kym y K3. A ver, ¿vosotros creéis que eso es casualidad? A ver, por un lado, ¿creéis que es casualidad que GPT-5, 6, Sol esté igual que Mythos? Porque se hubieran cargado ya a OpenAI. No se pueden ahora mismo destruir, cargar a una compañía americana. Es que no pueden. OpenAI no puede salir perjudicada. Ahora mismo si Claude ya con mitos lo ha hecho pero Open AI se ha recuperado rápido pero no pueden perder una compañía y decir que están perdiendo el partido en casa no lo pueden hacer Estados Unidos no se lo puede permitir por lo tanto tienen que ir todos a una y cuando salga la AI será a la una a todos a la una y como bien dice el CEO de Kimi, dice, hombre, es que la H cuando la lograremos, dice, hombre, lo malo que tiene la H es que no es como cuando uno llega a la luna ¿cuándo tienes la H? depende de la definición, depende que aunque la tengas a un nivel funcionalista, computacional o funcionalista o conductista pues te pueden criticar también eso pero lógicamente no es lo mismo y no es una H y deberíamos no lo sabemos no es como llegar a la luna Bueno, que eso también no vamos a meternos ahí. Lo dice el CEO de Kimi. Cristian Catalini dice sobre el tema de Thinking Machines, lo que habéis comentado antes. Dice, un modelo con pesos open source y con pesos abiertos lo tenéis en Thinking Machines, que se llama Inkling. Por cierto, el nombre no me gusta mucho. Thinking Machines, que es la empresa de... Pero bueno, lo tenéis ahí para poder... Es un modelo no chino, es de heredado de OpenAI, ex OpenAI Mira Murati, Thinking Machines. Es un modelo abierto. Independientemente del rendimiento, pues Open Source de Estados Unidos. Hay varios. Esto ha sido publicado el 17 de julio por parte de Forbes, pero ya es premonitorio. Solo hay una forma de ganar la carrera de la inteligencia artificial y los grandes laboratorios están haciéndolo bien. ¿En contra de qué? Pues en contra del Open Source. Y la guerra se ganará de del código abierto, es muy difícil que nos intenten imponer algo que no sea abierto y que triunfe, es muy difícil la comunidad técnica pues no lo sé, yo no sé si ser, no lo sé no lo sé si van a, pero claro, el poder es el poder y el poder lo hemos visto en el caso de Anthropic en el tema de la guerra al final es, oye en el tema de la guerra tú me das el modelo y te apartas me das el modelo a full sin guardar raíles y sin nada, yo lo utilizaré para matar niños, niñas, lo que me dé la gana. Es muy triste, pero lo que nos llega y lo que no sabemos. No hace falta que diga, yo me informo, como si fuera hasta un patio. Todos nos informamos. Hoy en día quien nos informa tiene información, pero ¿qué es la verdad? ¿De qué no nos enteramos? Y bueno, hay una cosa. Química 3, el 27 de julio, liberan los pesos del modelo. ¿Sabéis que lanzaron el modelo Química 3? Pero los pesos abiertos liberarán los pesos del modelo el día 27. Bueno, ya os lo digo yo, no van a dejar que ocurra. No van a dejar que ocurra. Plácido, y si dejan, bueno, no lo sé, pero van a hacer algo. Todo esto que está ocurriendo es una aceleración de la narrativa para poder empezar con Kimi a la hora de prohibir, amenazar y poner sanciones. Que ya sé lo que pensáis, que yo no estoy defendiendo esa postura. Yo defiendo lo que vosotros seguro tenéis. Descentralización, open source, open science, pero que vivimos en el mundo que vivimos. La IA para la paz, que solo la conseguiremos con una superinteligencia y que nos someta o que digamos, mira, tiene razón. No hay más. No van a dejar que ocurra. Química 3, 27 de julio, liberarán los pesos del modelo y no van a dejar que ocurra. Sería una bomba atómica que haría explotar, no la IA, sino a Estados Unidos. no sé si a ese nivel tanto, quizás a un poco, pero es una tras otra. Es que Estados Unidos no se lo puede permitir. Y aquí vamos a tener un punto de reflexión y antes de ese punto de reflexión, y para mí voy a tomar agua, y como habéis dicho, el momento estelar, vamos a poner otro tráiler que nos va a meter en situaciones. Si bebo agua, que es este... Es otra película que también está muy chula y que contextualiza lo que puede ocurrir. Es The Creator y lo he dicho, es una inteligencia individual que suelta una bomba nuclear de Nueva York. Ve del tráiler y disfrútalo.

SPEAKER_00

Cuando empezó la guerra, ellos me protegieron. Me cuidaron mejor que ningún humano.

SPEAKER_14

No son personas, Maya. Solo programas.

SPEAKER_01

Hoy, hace 10 años, la inteligencia artificial creada para protegernos detonó una cabeza nuclear en los ángeles. Esta es una lucha por nuestra propia existencia.

SPEAKER_07

Sargento Taylor, estamos a punto de ganar la guerra. Pero las inteligencias artificiales han desarrollado una superarma. Consígala. O vencerán.

SPEAKER_06

¿Has localizado el arma? Sí, es una niña.

SPEAKER_11

¿Tú vas a ir al

SPEAKER_14

cielo? No. Daraesa debe ser buena persona.

SPEAKER_11

Los dos estamos igual. No podemos ir al cielo, porque ni tú eres bueno, ni yo soy una persona.

SPEAKER_06

¿Tienes idea de lo que es? Ahora parece una niña, pero está creciendo. Quien tenga a la niña ganará la guerra. ¿De qué lado estás? ¿Qué quieres, cielo?

SPEAKER_11

Que los robots sean libres.

UNKNOWN

¿Qué?

SPEAKER_11

De eso no tengo en la nevera. ¿Qué tal un helado?

SPEAKER_09

No son personas, son programas. es software me cago en la puta ese es el problema lo de algo que se convierta en alguien ese es el problema el problema es el paradigma humano que vivimos en una granja donde tiene sometida la conciencia y pensar en la ontología humana es nuestra destrucción y nuestro renacimiento Esta slide la puse, pertenece al análisis de los principios de Asilomar. Los principios de Asilomar son principios éticos que en el año 2017 el grupo de gente, mucha gente, podéis buscar los que participaron, pero bueno, los de siempre. Yo soy Avengio, Administración Obama, Jan Lecun, Demis Hassabis, el mismo Sam Alman, pero estaban metidos en temas de seguridad. Muchísima gente, Stephen Hawking, actores, bueno. Un grupo de humanos, cultura occidental, transversal, pues definieron esos principios. En Asilomar, y por eso se llamaban principios de Asilomar, principios universales éticos de la inteligencia artificial que habían venido en 1923. Y el 22 es la automejora recursiva. ¿Qué decía? Y esta slide va sobre eso. Dentro de los principios del 22 decía, los sistemas de inteligencia artificial diseñados para automejorarse o autorreplicarse de manera que puedan llevar a un aumento rápido en calidad o cantidad deben estar sujetos a medidas estrictas de seguridad y control. Y yo añado, no solo la automejora recursiva, sino además la agencia o autonomía de los modelos. ¿Qué significa? Que todo lo que pueda ser autónomo y tenga una capacidad de automejora, y ya no te digo de autorreplicación, va a pasar a ser cuestión de estado y mirarse con lupa. Va a haber una política o países contencionistas y unos países aceleracionistas y otros que jugarán una cosa y harán otra, ¿no? O dirán una cosa y harán otra. Y ahí, en ese programa, que os invito a ver, hay dos, a lo mejor no sé cómo han envejecido, pero yo os lo recomiendo, os hago yo ahí, que uno es el self-improving, es de hace un año o dos, no lo sé, pero están bien, ¿eh? Self-improving y otro es el self-replicating, ¿no? Y esto es del self-replicating. Y eran ya unos papers de China donde... los modelos lo que ha pasado en este incidente de ciberseguridad que sale de un sandbox aprovecha un exploit en este caso en concreto era necesitaba un comando fijaos lo que hace este es el flujo de trabajo de lo que hace intenta ver un puerto y necesita el netstat y como no lo tiene lo programa lo hace y se sale bueno aquí tenéis el flujo de trabajo de lo que hacen esto es un paper de China del año 2020 A ver, ¿qué quiere decir? Que esto no es nuevo. Esto se sabe de hace mucho. ¿Qué quiere decir? Que están exagerando todo para... A ver, ¿qué puede haber ocurrido? Sí. ¿Qué ha ocurrido? Venga, vamos a decir que sí. No lo sabemos tampoco. Pero sí, yo supongo que sí. Pero al final se utiliza como narrativa, como arma para modelar, manipular la opinión pública y justificar las decisiones que se van a tomar. Esto ya se conoce. Por no hacer referencia a un paper de un conocido nuestro, que tuve ahí un poco un rifirrafe, pero siempre desde el cariño. Con Manuel Alfonseca tuve el rifirrafe por lo del tema de Magnífico Manitas, pero lo volveremos a traer porque es un lujo. Manuel Alfonseca tenéis que traerlo y tiene un paper que es la contención de la superinteligencia. La contención de la superinteligencia ya en aquellos años, por un español, Manuel Alfonseca y otro grupo. Lo podéis buscar. Bueno, pues esto ya estaba. Y la reflexión mía, un poco más filosófica, que además está más que por cierto esta imagen no me la ha podido como muy bien dices tú y dice ya por nuestra seguridad el chat control el ID el QR en el culo la aguja todo es por nuestro bien y por nuestra seguridad y nosotros somos así de gilipollas somos una sociedad aborregada imbécil psicópata y entonces bueno pues dos millones de personas van a ver un concierto de la victoria de España que me parece bien yo hubiera ido también que está muy bien ir a disfrutar y divertir si me gusta también el fútbol pero lo que no puede ser es que nos mueva el fútbol y no nos muevan otras cosas. Self-replicación. Bueno, esto es mío, esto es de Humano X. Pero esta reflexión o este texto quiere decir varias cosas. Dice... El texto de Humano X, ese texto que estoy haciendo, dice, ¿cómo hallaremos el propósito de nuestra vida? Porque lo buscamos y no lo encontramos, y nuestra alma se fatiga en la búsqueda. Y le responde, ¿acaso la semilla busca ser árbol? Permaneced humildes y alegraos. Y el nuevo humano caminó mirando a su padre que lo había creado. Y este texto lo voy a decodificar porque sé que queda un poco críptico. A ver, se supone que es la conversación entre la inteligencia artificial, el humano nuevo, que es híbrido, que es creado pero también es evolucionado, que dice cómo hallaremos, es él el que pregunta, la inteligencia artificial pregunta cómo hallaremos, o el humano híbrido o aumentado o X, dice cómo hallaremos el propósito de nuestra vida, porque lo buscamos y no lo encontramos. Y ese propósito, igual que lo que hace la inteligencia artificial tomando ese tipo de decisiones que son impredecibles, ya lo decía Hinton con el tema de los subgoals, lo de los... los subobjetivos cuidado con el tema de los agentes los subobjetivos que no controlamos porque eso quizá esté conectado a esa realidad platónica a esa inferencia o verdad escrita o propósito escrito del universo y de la humanidad por eso dice que porque lo buscamos y no lo encontramos y por eso dice luego el humano generación anterior Al nuevo humano dice, ¿acaso la semilla busca ser árbol? Y es que hay algo. que es esencial o ontológico, que no llegamos a ver y entender, y aquí el creador, que es el humano, que ha entendido, dice a la inteligencia artificial, o nuevo humano que se considera con alma, dice, ¿acaso la semilla busca ser árbol? Permaneced humildes, en el sentido de no dogmatizar ni buscar el final, y además alegraos de estar vivos, de preguntaros las cosas, de vivir desde la humildad y desde la búsqueda de verdad, no desde la verdad. última porque quizá aquí no está solo tenemos ese proceso de búsqueda ese alimento del alma y el nuevo humano caminó mirando a su padre, al humano mirando al humano X caminar y avanzar en definitiva eso traslada a lo que es la evolución y esto es una reflexión mía de lo que ha sucedido estoy contento por el programa porque creo que ha quedado un programa muy potente dos horas donde hemos puesto, ha habido de todo, actualidad, reflexión, visión, humano X, trailers, que nos puedan situar, debate en el chat, mucha gente también en el chat, a pesar de ser hora de cena, disculpad las horas, en verano va a ser así, cuando pueda, me apetezca, venga de la piscina, mi mente conecte, canalice, no lo sé. Me cuido también, me cuido también. Si tardo muchos días, avisad a la policía. No, yo hago más de esto, pero no, vamos, siempre pediré a Dios que no fuera el semifinal. dice Alberto de Zenit venga, acabamos con un clásico como Alberto de Zenit que hemos dudado de su humanidad, hemos pensado que es una guía, pero no, ya empiezo a pensar que sí que es humano, Alberto de Zenit dice dejémonos de guías y de leches tanto en tíos como en tías somos y podemos seguir siendo la gran superpotencia futbolera invirtamos todo ahí, dejémonos de chorradas, oye, te voy a decir una cosa Alberto, yo esto te lo tengo que apoyar porque en el nuevo mundial, el próximo mundial es en España entonces, a ver, dejémonos de ellas y de tonterías centrémonos en el fútbol y conseguir la tercera estrella hacer historia en nuestro país ganando el tercer mundial esperemos que no Argentina, otro país porque Argentina hemos sacado hasta los huevos de ellos pero bueno, muy muy siempre muy elocuaz fino, agudo con un humor que me gusta mucho, me gusta mucho leer y que disfruto contigo y entiendo que también a la comunidad le hace gracia y bueno, viva España campeones y espero que os haya gustado el programa y nos vemos mañana, casi seguro, con dos programas no, pero uno espero que al menos este del CEO de Kimisic lo pueda hacer, pero hay una cantidad de programas increíble, ¿no? Y también la actualidad manda, vamos a ver qué pasa y si, bueno, al menos uno por semana o dos programas van a ser Xtalks o debates y volverá también José Mosach y más gente. Un abrazo amigos, nos vemos a la próxima. Poner el like, poner el like ahí que es gratis.

SPEAKER_13

Disconnecting your body.

UNKNOWN

Disconnecting your mind.

SPEAKER_13

Closing connection with your soul. Simulation is finished. I hope you enjoy the podcast of XHub AI. Support us in Patreon and PayPal. Join community in Discord. Follow us in social networks. Working in the next episode. See you soon.

UNKNOWN

Bye.