T6.E090. INSIDE X 3 / 4 AGI Con Demis Hassabis

# TEMA 
3 / 4 AGI Con Demis Hassabis

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_00 0:00

Conectando. Tu cuerpo. Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_01 1:06

Bueno, vamos a empezar...

SPEAKER_03 1:36

Hola, buenas tardes a todos, amigos.¿Qué tal?¿Cómo estáis? Soy Plácido Doménech y hoy tenemos un nuevo InsideX. Esta tarde no tendremos programa. Mañana es festivo, aunque mañana... Puede ser que hagamos un programa sobre Carpati, también realizando una charla en Sequoia. Y hoy tenemos un InsideX de los que os gustan. Bueno, espero que os gusten todos o la mayoría,¿no? Pero tenemos un InsideX de, bueno, tanto el tema como la persona. Además, una charla no la he visto. La voy a ver con vosotros, como siempre, de 20 minutos aproximadamente. Y la charla es la entrevista con Demis Savis, el CEO de Google DeepMind premio Nobel de química gracias a Alphafold y bueno, yo creo que una de las mentes que traerá la AGI entiendo que hay más Iria Suskever Jan LeCun...Juggen Smith-Huber......yo apuesto realmente por Demis Hassabis......y por Eli Suskever......pero Eli Suskever......está desaparecido......no es que de una sorpresa descomunal......pues......habrá que confiar en que aparezca......pero......otra de las figuras es Demis Hassabis......y vamos a escuchar que tiene que decir sobre el desarrollo de la AGI......que ya os adelanto......lo que dice el titular......dice que tenemos o tienen ya......tres cuartas partes desarrolladas de la AGI......que tienen todas las piezas......y que queda poco... Demis Hassabis no es alguien que juegue con el marketing, que entiendo que... También entrarán un poco, pero no estamos hablando. Demis Casavis no es a Malman. Demis Casavis es un científico de inteligencia artificial. Trabaja para una compañía, obviamente, sí, Google. Hay intereses, más con todo el protagonismo de Anthropic, de Ariamo Day. Pero bueno, vamos a ver qué tiene que decirnos. Vamos a decir dos cositas al respecto y empezamos.

UNKNOWN 3:48

Empezamos.

SPEAKER_03 3:48

bueno alguna cosita habéis tenido esta mañana para quien se haya perdido el programa ha tenido que ser en ese horario porque nuestro protagonista no podía era Vicenia sobre un artista virtual de música presentaba su nuevo single Dante con su nuevo videoclip también impresionante tenéis el programa en el canal y tenéis también si buscáis Vicenia y Dante en Youtube podéis ver ahí información y también podéis ver el videoclip canciones también en Spotify, si buscáis Vicenia con V, pues lo vais a encontrar dicho lo cual, este es un programa de XHabay, la comunidad de inteligencia artificial y ciencias transversales de habla hispana, sexta temporada y si queréis entrar al grupo de Discord, que cada vez tiene más actividad pues vamos para 600 miembros, cada vez más cerca pues me enviáis un mensaje directo, un correo electrónico y os paso un enlace y estáis dentro con un montón de recursos que no cursos, porque bueno, cursos estoy ya mirando un tema de formación que poco a poco vaya creciendo y ya os diré, ya os diré porque yo creo que no podemos esperar más y lo estáis pidiendo,¿no? Vamos a ver qué hacemos.

UNKNOWN 5:09

Eh...

SPEAKER_03 5:10

Si os gusta lo que veis, lo que habéis visto, lo que conocéis, lo que escucháis, poned me gusta, compartid, comentad, suscribíos, sobre todo comentad. Bueno, me gusta gratis y suscribíos, bueno, si os gusta y queréis estar atentos, pues activad la campanita en el canal de YouTube y bueno, también en podcast que nos escucháis, seguís muchísimo, pues os suscribís a cualquier plataforma de podcast que estamos en todas, principalmente en Evox, Spotify, Apple Podcast en todas y vamos al lío, vamos con el amigo de mis hasabis, vamos con la creación de la Aji y con esa charla en Sequoia estaba pensando bueno qué tipo de audio iba a poner a ver, un segundín, porque aquí¿Qué tipo de audio? Voy a poner audio en castellano para que en podcast lo podáis escuchar, aunque las traducciones y el audio, yo siempre me aprecio escuchar el original, pero bueno, como los subtítulos en español no van, vamos a dejarlo en español. He puesto subtítulos en inglés, pero bueno, los del podcast podéis escucharlo en español, así que seguro que habrá menos quejas, aunque bueno, no es todo lo perfecto que pudiera ser, pero se va a entender perfectamente. Venga, vamos

SPEAKER_02 6:30

al día. Denis, muchísimas gracias. Fue emocionante estar aquí. Gracias a todos. Es genial estar aquí. Honor tenerte en nuestra fábrica de chocolate. Sí, acabo de enterarme. Sí, estoy deseando comer chocolate después. Excelente. Bueno, Denis, vamos a empezar de inmediato. Tenemos a uno de los OG, todos los sentidos, grandes mentes creativas, fundadores, visionarios de la idea. Un verdadero creyente, un verdadero científico en Denis. Vamos a empezar la conversación hablando de los primeros días de The Mind Logo. Pero si es de DeepMind, entramos en materia de científica y abrimos una sala para algunas preguntas. Muy bien, vamos directo. Demis, tú eras un prodigio del ajedrez. También fuiste fundador de una empresa de juegos. Eres neurocientífico y eres el fundador de DeepMind. Y ahora eres líder de una gran empresa de gran envergadura. Parecen cosas poco relacionadas, pero has dicho que hay un hilo conductor.¿Puedes explicarnos eso? Hay un hilo conductor y... Bueno, quizá lo convertí en un hilo conductor. para que pudiera ser una especie de post hoc, ya sabes, para darle forma, pero quería dedicarme a la IA desde hacía mucho tiempo. Así que decidí que era lo más importante que podía hacer y lo más interesante que podía hacer en mi adolescencia. Y luego elegí cosas para estudiar o hacer que pensé que con el tiempo me ayudarían a crear una empresa como DeepMind. Así que lo tenía como plan desde que tenía unos 15 o 16 años. Me decidí hacia los videojuegos porque en realidad es Eso fue en los 90, ahí es donde se desarrollaba la tecnología más puntera. Obviamente no solo en IA, sino también en gráficos, especialmente en hardware. Por supuesto, las GPU que todos usamos hoy en día fueron diseñadas para motores gráficos y las usábamos, bueno, yo usé las primeras GPU a finales de los 90. Bueno, había mucha tecnología de vanguardia y todos los juegos que hice, incluidos todos los que hice para Bullfrog, pero también para mi propia empresa, Elixir Studios, todos se incluían la IA como componente principal del juego. Probablemente el juego más conocido que hice fue Theme Park cuando tenía unos 17 años, que era una simulación de un parque de atracciones en el que miles de personitas entraban en el parque temático, jugaban en las atracciones y decidían qué comprar en las tiendas. Había todo un modelo económico de EA subyacente y fue uno de los primeros juegos de su tipo junto con Sim City. Y cuando vi que vendió más de 10 millones de copias y lo encantada que estaba la gente al interactuar con la EA, fue una de las cosas que me hizo pensar en dedicarle toda mi carrera. Y luego, por supuesto, la neurociencia consiste en inspirarse en cómo funciona el cerebro y en diferentes ideas algorítmicas a partir de ahí y luego unir todas esas cosas diferentes para el inicio de Big Mind cuando consideramos que era el momento adecuado. Y luego, por supuesto, usamos los juegos como el primer campo de pruebas para nuestras ideas de IA. Tenemos una sala llena de fundadores aquí y puedes identificarte porque has sido fundador no solo una meta, sino dos veces. Volvamos a la primera vez que te hiciste esto.¿Cómo fue? No es la startup por la que eras más conocido, pero fue una con la que tuviste un éxito increíble como la liderazgo y que te enseño sobre la creación. Bueno, mira, yo fundé Elixir Studio nada más salir de la universidad y tuve la suerte de trabajar en Bullfrog Productions, que como sabéis de juegos era una especie de estudio de videojuegos legendario en los inicios de la industria de los videojuegos, probablemente el mejor de Reino Unido y Europa, y quería hacer algo que combinara la IA La IA. Así que en aquella época financiaba la IA por la puerta trasera a través del desarrollo de juegos. Y luego la llevé a la vanguardia y la combiné con creatividad de vanguardia. Eso aún sigue vigente en la actualidad, dada la forma en que realizamos nuestra investigación de punta. Pero quizá la lección más importante que aprendí fue que quieres adelantarte 5 años a tu tiempo en, no 50. Así que intentamos hacer un juego llamado Republic en Elixir Studios que simulaba un país entero. Y la idea del juego era que podías derrocar, creo que había un dictador a cargo del país de muchas maneras diferentes y básicamente simulamos ciudades vivas y respirantes, teniendo en cuenta que esto era como a finales de los 90 en un Pentium. Así que teníamos que conseguir todos los gráficos y toda la guía para un millón de personas trabajando en un PC doméstico en ese momento. Era ambicioso, sin duda, pero a lo mejor lo fue en exceso y eso generó algunos problemas inesperados. Aprendí esa lección de que quieres adelantarte a tu tiempo, no quieres ser obvio cuando es obvio para todos que es demasiado tarde Pero si estás 50 años adelantado, probablemente no haya forma de que tengas éxito. Bueno, hablando de no adelantarte demasiado tu tiempo, era 2009 y decidiste que habría AGI. Quizás solo estabas 10 años adelantado a tu tiempo en ese momento. Mejor que 50 años. Háblanos de nuevo de la sala llena de fundadores aquí. Háblanos de 2009.¿Cómo convenciste a los primeros talentos brillantes porque atrajeste empleados de muy alto calibre, además de los miembros del equipo?¿Cómo los convenciste de creer en lo que parecía ciencia ficción total en ese momento? Bueno, hubo algunos hilos interesantes que creo que retomamos. Creo que pensábamos que íbamos cinco años por delante, pero quizá más bien íbamos diez. Pero ya sabes, Jeff Hinton y sus colegas Negasa acaban de inventar el aprendizaje profundo en el ámbito académico, pero casi nadie se había dado cuenta de que era algo importante. Sabíamos mucho sobre el aprendizaje por refuerzo y creíamos que se podía avanzar mucho combinando esas dos técnicas que casi nunca se habían mezclado. En realidad, no para nada más que problemas de juguete en las materias académicas. Había dos partes bastante compartimentadas de la IA. Entonces pudimos ver que las GPU de la época iban a ser realmente útiles. Por supuesto, ahora usamos TPU, pero la industria de la computación acelerada iba a ser muy útil. Y luego también sentimos al final de mi doctorado y posgrado, y algunas de las otras personas que reuní eran neurocientíficos computacionales, que teníamos sus suficientes ideas y principios de cerebro que podrían ser útiles, incluida la idea de que el aprendizaje por refuerzo podría escalar con el tiempo a la IAG. Bueno, sentíamos que teníamos esos ingredientes y casi nos sentíamos como guardianes. No es un secreto porque nadie en el ámbito académico, ni de académico, ni en la industria creía realmente que fuera posible ningún gran progreso. De hecho, mucha gente del ámbito académico Solía. poner los ojos en blanco cuando nos sugerían que trabajáramos en AGI o IA fuerte, como se llamaba a veces en aquella época, porque era como si supiéramos que esto no funcionase. Así que ya sabes, todo el mundo lo intentó en la década de 1990. Yo hice mi posgrado en el MIT, que era una especie de centro para los sistemas expertos. Y en primer lugar, los sistemas de lenguaje lógico. Quiero decir, parece increíble pensarlo ahora, pero yo ya sentía que eso era árabe entonces. Pero ya sabes, así es como se sigue haciendo tanto en Cambridge, en el Reino Unido, como en el MIT, esos grandes centros de IA tradicional. Y eso me convenció aún más de que estábamos en lo cierto, porque al menos si íbamos a fracasar, fracasaríamos de una manera diferente a como la gente había fracasado, ya sabes, para llegar al IAG en los 90, así que parecía que valía la pena hacerlo, sin importar lo que pasara, incluso si obviamente se había investigado, no sabíamos con certeza si tendría éxito, pero al menos fracasaríamos de una manera original si no funcionaba. Hubo algún punto de fricción común en esa creencia inicial¿Hubo algo que tuviste que demostrarte a ti mismo o a tus primeros seguidores para que se sumaran? Bueno, lo dije de esta manera. Habría dedicado mi vida a la IA, sin importar lo que hubiera pasado. Así que como resulto se ha ido, ya sabes, se ha ido hacia el lado absolutamente asombroso, hacia el lado optimista de lo que pensábamos. De hecho, sigue dentro de lo que perdecíamos en 2010. Pensamos que sería una misión de 20 años. Y creo que básicamente estamos en el camino correcto como campo para eso. Y obviamente hicimos nuestro nuestro aporte en eso. Pero incluso si no hubiera ocurrido de esa manera y siguiera siendo un tema especializado. Eso es todo lo que seguiría haciendo, porque sentí que era la tecnología más importante de la historia si fuera obvio para mí. Sabes que nuestra declaración de misión original en DeepMind DeepMind, el paso uno era resolver la inteligencia artificial, es decir, desarrollar una IAG. El paso dos, usarla para resolver todo lo demás. Así que siempre pensé que era la tecnología más importante que se podría inventar, pero también la más interesante como herramienta para la ciencia. como un artefacto interesante en sí mismo y, de hecho, como una de las mejores formas de entender nuestras propias mentes, ya sabes, como la naturaleza de la conciencia, los sueños, la creatividad, todas esas preguntas que tenía como neurocientífico. Sentí que una de las cosas que faltaba era una herramienta de análisis como la IA, pero también una comparación para eso. Podrías hacer una especie de estudio experimental controlado y comparar dos sistemas diferentes entre sí. Hablemos de la IA para la ciencia. Fuiste uno de los primeros en hacerlo, siempre has creído en ello y has sido muy purista en este aspecto, siendo esta la misión principal.¿Qué hay de la forma en que creaste DeepMind y estableciste la cultura, que la ha posicionado para estar constantemente a la vanguardia de la IA para la ciencia? Bueno, ese era el objetivo final, al menos para mí. Mi pasión personal es que mi propio impulso para desarrollar la IA era hacer avanzar la ciencia, la medicina y nuestra comprensión del mundo. Mi expresión de esa misión era hacerlo De una manera meta,¿verdad? Construirla, la herramienta definitiva, y luego volver cuando estuviera lista y usarla para hacer avances en la ciencia. Cosas como AlphaFold, que hemos hecho, y creo que muchas más cosas. Así que siempre hemos tenido eso en el centro de lo que hemos estado tratando de hacer en DeepMind. Así que, de hecho, hemos tenido una división de IAE para el grupo de ciencia dirigida por Pushmi Boy, que ha existido durante casi una década. De hecho, más o menos el día después de que regresamos de Sol y AlphaGo Match, que es como hace 10 años. Fue cuando comenzamos formalmente los esfuerzos de IA para la ciencia, porque estaba esperando que los algoritmos fueran lo suficientemente potentes y las ideas lo suficientemente generales. Y para mí, ya sabes, Cracking Go fue ese momento en el que pensamos que ahora estábamos listos para aplicar realmente estas ideas a problemas importantes del mundo real, comenzando con estos grandes desafíos científicos. Así que siempre hemos tenido eso en mente. Como el uso más beneficioso de la IA,¿cómo que podría ser mejor que usarla para, ya sabes, curar enfermedades y darnos una esperanza de vida más saludable y ayudar con medicina seguida obviamente de otras áreas realmente importantes como la ciencia los materiales el medio ambiente y la energía y este tipo de energía y este tipo de temas en los que creo que la guía también va a tener un papel muy importante que desempeñar en los próximos años como se abre paso light en la biología estás muy involucrado con la ciencia isomórfica un área que te apasiona profundamente nadie ha sido un purista del potencial de la guía para curar enfermedades desde el principio cuando tendremos el tipo de momento que hemos hemos tenido en el lenguaje y la codificación, pero en biología. Diría que hemos tenido uno de esos momentos con Alphafol. Así que ya sabes, es un gran desafío de 50 años. El plegamiento de proteínas y la estructura tridimensional de las proteínas es algo increíblemente importante que debes saber si quieres diseñar medicamentos o si quieres entender la biología. Por supuesto, solo una parte del proceso de descubrimiento de fármaco. Es una parte importante, pero solo una parte. Isomorphic Labs, que es nuestra última empresa derivada, se divierte mucho dirigiéndola y consiste en crear tecnologías adyacentes en el ámbito de la bioquímica y la química que puedan diseñar diseñar los compuestos automáticamente para que se ajusten y se unan a la parte correcta de la proteína. Ahora conocemos la proteína, la forma de la proteína. Sabemos que hay en la superficie de la proteína y a qué tenemos que dirigirnos. Pero ahora tenemos que crear el compuesto correcto, que por supuesto se una con fuerza donde queremos que se una al objetivo de interés, pero que no se una a nada más, idealmente, porque eso sería un efecto secundario tóxico. Así que el sueño es hacer casi toda la exploración, que es el 99 por ciento del trabajo y el tiempo en silicona y luego guardar el paso del laboratorio húmedo solo para el paso de validación bueno creo que si podemos hacer eso creo que podemos lograrlo en los próximos años creo que podríamos reducir los tiempos de descubrimiento de fármacos en lugar de tardar por ejemplo una media de 10 años a meses quizá incluso semanas o quizá incluso días y entonces creo que todas las enfermedades podrían estar al alcance de la mano y creo que cosas como la medicina personal personalizadas serán posibles como variaciones personalizadas de los medicamentos básicos. Así que creo que todo el ámbito médico, el ámbito del descubrimiento de fármacos, va a revolucionarse en los próximos años. Brillante. Has hablado mucho sobre la IA para la ciencia.¿Crees que en algún momento la IA creará nuevas ciencias? Para la revolución industrial y la termodinámica.¿Se enseñará algo nuevo de forma fundamental en nuestro sistema educativo? Y si es así,¿cómo sería? Sí, pienso que hay varios puntos en ese sentido que sí creo que se van a realizar. Bueno, en primer lugar, creo que la comprensión y el análisis de los propios sistemas de IA se convertirán en toda una ciencia, una especie de ciencia de la ingeniería. Estos son artefactos increíblemente interesantes que estamos construyendo y son increíblemente complejos. y con el tiempo serán tan complejos como la mente y el cerebro humanos, por lo que será necesario estudiarlos para que podamos comprender completamente cómo funcionan estos sistemas, mucho más allá de donde estamos hoy. Creo que hay todo un tipo de mecanismo de campo que forma parte de eso, pero creo que hay mucho más que podemos hacer para analizar estos sistemas. Eso sería una ciencia, pero también creo que la propia IA puede desbloquear nuevas ciencias, que es a lo que te refieres. La que me entusiasma especialmente es la IA para simulaciones me encantan las simulaciones todos los juegos que escribí no solo tenían IA sino que eran simulaciones creo que las simulaciones son la forma en que podemos abordar algunas de las cosas que consideramos ciencias sociales como la economía y otras materias más humanísticas porque es muy difícil estudios de control en ese sentido porque no son solo ciencias como la física hoy en día el problema es que son sistemas emergentes como la biología y es muy difícil hacer experimentos de control repetidos. Si aumentas los tipos de interés en medio punto porcentual, tienes que hacerlo en el mundo real y luego ver qué pasa. Puedes tener teorías, pero no puedes ejecutarlas miles de veces. Pero si pudieras simular cosas con mucha precisión, entonces quizás se puedan hacer nuevas ciencias en las que puedas tomar muestras rigurosas de un simulador muy preciso. Y creo que eso nos permitirá tomar decisiones mucho mejores en estos dominios, que hoy en día son muy inciertos y¿Qué hará falta para llegar a esas simulaciones extremadamente precisas?¿Modelos mundiales?¿Qué tipo de ciencia e ingeniería son necesarias juntas? Bueno, mira, quiero decir que estoy pensando mucho en eso. Hacemos mucho ese trabajo y como simuladores de aprendizaje sería básicamente... Bueno, ya sabes, esto está en dominios donde no conocemos las matemáticas lo suficientemente bien o quizás es demasiado complejo. No podemos simplemente escribir... No podemos escribir directamente un simulador de casos especiales. Simplemente no es lo suficiente. No captura todas las varias. estamos haciendo eso, lo hemos hecho con el clima. Tenemos el tipo de simulador meteorológico más preciso del mundo, Weather Next, y es mucho más rápido que el que usan los meteorólogos para el clima. No, no podemos, y no estoy seguro de que sea una buena idea, pero el primer paso es entenderlo mejor. E incluso en biología estamos trabajando en una especie de lo que yo llamo una célula virtual. Bueno, ya sabes, un sistema emergente enormemente dinámico, y creo que la biología es perfecta, el aprendizaje automático es un lenguaje de descripción perfecto para la biología, de la misma manera que las matemáticas no son para la física porque creo que en biología en muchos de estos sistemas naturales tienes montones de señales débiles corre las señales débiles son las de datos demasiados para que la mente humana los pueda analizar pero hay conexiones correlaciones y causalidades interesantes dentro de esa masa de datos así que creo que siempre me ha parecido que el aprendizaje automático es la herramienta perfecta para describir ese tipo de sistemas mientras que estoy las matemáticas no han podido hacer ya sea porque no podemos hacerlo como podemos hacerlo como matemáticos de élite porque son demasiado complejos o porque el poder expresivo de las matemáticas no es suficiente para entender este tipo de sistemas dinámicos altamente emergentes también al desorden ya la naturaleza estocástica y quiero decir que por cierto con el tiempo podría ser una vez que aprendas en estos simuladores tal vez haya otra rama de la ciencia de la que podrías extraer algunas ecuaciones una vez que tengas el simulador lado, de modo que tengas esta especie de simulador implícito, un simulador intuitivo y luego tal vez podrías extraer ecuaciones explícitas de eso, porque en parte también podrías mostrarlo tantas veces como quieras. Tan fundamental como Maxwell o algo así. Tal vez sí, no sé si eso existe para esos sistemas emergentes, pero si existen, no veo por qué no seremos capaces de encontrarlos en esto con estos métodos. Eso sería increíble. Has hablado de esta teoría de que el componente básico de todo en el universo podría ser información como esta. Es más, teórico. Boba Fett,¿cómo lo piensas y qué significa eso para una computadora de viaje clásica tradicional? Bueno, mira, creo que por supuesto puedes hacer todo lo famoso, ya sabes, igual a MCI cuadrado y todas las cosas que hizo Einstein y la energía y la materia son equivalentes, y la energía es equivalente. Pero en realidad creo que la información tiene una especie de equivalencia de la misma manera. Así que puedes pensar en la organización de la materia, en la estructura, y especialmente en cosas como la biología que se resiste a la entropía, como si sistemas de procesamiento de información en su esencia. Bueno, creo que se pueden convertir esos tres tipos de cantidades entre sí, pero tengo la sensación de que la información es lo más fundamental. Es un poco lo opuesto al pensamiento clásico de los físicos de la década de 1920, donde la energía y la materia son lo principal. Creo en, en verdad, que resulta más efectivo conceptualizar el universo y el mundo como información ante todo. Y si eso es cierto, y creo que hay muchas pruebas de ello en Entonces, por supuesto, la IA es incluso más profunda en cierto sentido de lo que pensamos y ya es bastante profunda porque también se trata de organizar la información, comprenderla y construir objetos informativos. Pues sí, la IA es, en mi opinión, un procesamiento de información. Bueno, creo que hay algo profundamente conectado con estas diferentes áreas si lo piensas desde la perspectiva del procesamiento de la información como la forma principal de pensarlo.¿Y crees que una máquina de turismo clásica será capaz de computarlo todo? Bueno, a veces pienso en lo que estamos haciendo y me refiero a nosotros mismos como los campeones de Cheverin porque creo que Alan Cheverin es uno de mis héroes científicos favoritos de todos los tiempos o pienso que sus contribuciones sentaron las bases fundamentales no solo para la informática sino también para la IA Y creo que uno de los resultados más profundos es el resultado de la máquina de Chewring. Sabes que todo lo que es computable puede computarse mediante una descripción relativamente simple de una máquina. Así que creo que es probable que nuestros cerebros sean máquinas de Chewring aproximadas. Bueno, creo que es interesante pensar en la conexión entre las máquinas masticadoras y los ordenadores cuánticos y los sistemas cuánticos. Pero creo que al menos lo que hemos demostrado con cosas como Alfgo y especialmente Alphafold es que una máquina masticadora clásica obviamente bajo la apariencia de una red neuronal moderna puede modelar lo que se pensaba que era un sistema cuántico en el caso del plegamiento de proteínas en cierto sentido es muy pequeño trata con partículas muy pequeñas y uno podría pensar que tendría que tener en cuenta todos los efectos cuánticos de los enlaces de agua y todo tipo de cosas pero resulta que puede llegar aproximadamente a una solución óptima en un sistema clásico Así que puede resultar que muchas cosas que creemos que son cuánticas y que necesitarían un sistema cuántico para modelarse o ejecutarse podrían modelarse en un sistema clásico si se pensara de la manera correcta. Has hablado constantemente de la IA como herramienta. Un telescopio, un microscopio o astrolab a lo largo de los siglos. Pero cuando piensas en una máquina que puede modelar casi cualquier cosa, digamos que ni siquiera puede modelar sistemas cuánticos, como señalaste.¿Cuándo dejará de ser una herramienta?¿Borrará eso alguna vez? Bueno, mi fuerte sensación es que deberíamos en esta especie de misión y viaje para construir una IAG, aquellos de nosotros que estamos en ese viaje, muchas de las personas en esta sala saben que creo quería mejor construir primero una herramienta una herramienta increíblemente inteligente útil y precisa y luego cruzar la siguiente rúbrica que ya es lo suficientemente profunda y por supuesto la herramienta podría comenzar a ser cada vez más autónoma y parecida a un agente como todos estamos viendo ahora estamos en medio de esa era de la gente pues sí pero hay un paso más que considerar o sea agencia de algún tipo es consciente se trata de preguntas de este tipo las cuales también tendremos que abordar con la debida atención. Pero recomendaría que hiciéramos eso como un segundo paso a Change Trends. Quizás usando la herramienta del primer paso para ayudarnos.¡A nos! Pon esas siguientes preguntas profundas. E idealmente también podríamos entender mejor nuestro propio cerebro y mente y definir cosas como la conciencia con mucha más precisión de lo que podemos hacerlo hoy en día. tienes estimaciones de cómo podría ser esa definición de consciencia. Y quiero decir que no tengo mucho que agregar más allá de lo que miles de años de filosofía no han dicho ya. Pero quiero decir que para mí está muy claro que es obvio que se necesitarán algunos componentes. Probablemente sean necesarios, pero no suficientes. Cosas como la autoconsciencia y, ya sabes, la idea del yo y el otro. Algún tipo de continuidad en el tiempo. Entonces, algunas de estas cosas son claramente necesarias para cualquier cosa que pueda parecerse a la conciencia, pero quiero decir, obviamente, una pregunta abierta en cuanto a cuál es la definición completa, y he hablado con muchos de los grandes filósofos sobre eso. Daniel Dennett, obviamente, falleció hace poco, pero tuvimos una larga conversación sobre esto hace unos años, y creo que, bueno, uno de los problemas es cómo se comporta un sistema. Se comporta como un sistema consciente. Bueno, podría decirse que los sistemas de ya podrían terminar siendo capaces de hacer eso a medida que se acercan, pero todavía queda la pregunta de por qué, bueno, por qué pensamos que los demás somos conscientes Una es la forma en que nos comportamos como seres conscientes, pero la otra cosa es que estamos funcionando en el mismo sustrato. Así que creo que si esas cosas son ciertas, entonces es comparable imaginar que estás experimentando lo mismo que yo, razón por la que no tenemos ese debate sobre, bueno, normalmente sobre si los demás somos conscientes, pero creo que obviamente nunca tendremos la equivalencia de sustrato con un sistema artificial, así que siempre habrá, creo que será difícil cerrar completamente esa brecha para poder verlo desde el punto de vista de el comportamiento, pero respecto a la experiencia, probablemente haya métodos post-agi, pero hoy se desvía de nuestra discusión sobre ya para la ciencia. Brillante. Bueno, vamos a abrir la sala de preguntas en un momento. Preparen sus preguntas. Pero mencionaste a dos filósofos. Mencionaste a Kant y a Spinoza como dos de tus filósofos favoritos. Kant es un filósofo deontológico altamente impulsado por el deber. Esa Spinoza tiene una visión casi determinista de universo, bórsalas y cómo conectas esas dos creencias y dónde está tu pensamiento sobre cómo funciona el mundo. Bueno, la razón por la que me gustan esas dos, Vandik, las que llamaron la atención es que creo que Kant cuando estaba haciendo mi doctorado en neurociencia. Ya sabes, sus afirmaciones sobre la mente crea la realidad,¿verdad? Creo que eso es básicamente cierto.

UNKNOWN 30:45

Y

SPEAKER_02 30:47

Otra razón para estudiar la mente,¿verdad? Y cómo funciona el cerebro. Y me interesa en última instancia la naturaleza, la realidad. Tenemos que entender cómo la mente interpreta eso. Y creo que eso es lo que tomé de Kant y luego de Spinoza. Se trata más de lo que casi se podría llamar la dimensión espiritual, como si estuvieras tratando de entender el universo usando la ciencia, en mi caso como herramienta. Estás entendiendo un misterio profundo sobre cómo funciona el universo de una manera muy profunda y eso es lo que siento que estamos haciendo y lo que hago cuando hago ciencia y trabajamos en IA y construimos esas herramientas es que de alguna manera estamos estamos leyendo el lenguaje del universo Hermoso. Qué hermosa manera de decir lo que haces todos. Científico o filosofo. Antes de terminar, haremos un par de preguntas rápidas. Gracias por... Él no las ha visto todavía. Sobre la distribución año de la IAG. Vaya. Rechazar la premisa de la pregunta. No, 2030. He sido bastante constante en eso. 2030. Hay que leer un libro, un poema, un artículo para cuando logremos la IAG. Vaya. Para cuando la logremos, una vez que la logremos. Bueno, mi libro favorito es The Fabric of Reality de David Deutsch, así que creo que sigue siendo válido. Espero responder a las preguntas de ese libro con la IAG. Ese es mi trabajo posterior a la IAG.

UNKNOWN 32:22

Pero ya.

SPEAKER_02 32:22

Mis momentos más orgullosos en DeepMind. Vaya, no hemos tenido suerte de tener muchos. Quiero decir, probablemente Alphafold. Ahora, un par de preguntas sobre juegos. Imagínate que estás en un juego de estrategia, por turnos, de alto riesgo. Juegos de FIFA, politopia, copia. Y pudieras elegir a un científico de la historia. Si estamos pensando en los Einstein, los Turing, los Newton,¿a quién elegirías para que estuviera en tu equipo?¿En mi equipo? En el tuyo. Creo que probablemente me uní. Si creo que quieres un teórico de juegos. Y creo que es el mejor. Tiene sentido. Claramente así es como serías un buen compañero. De acuerdo. Bueno, Denis, lo haces todo. Muchas gracias por estar con nosotros. Por favor, únete a mí para agradecer.

SPEAKER_03 33:25

Bueno, nos ha parecido muy buena la charla. Tengo aquí un montón de notas. Va a dar de sí el análisis. Voy a... A ver, voy a dejar para el final la contestación de preguntas del chat porque tengo un montón de puntos también, cosas a ver. Webs de la empresa Isomorphic Labs. Bueno, vamos a ver algunas cosillas sobre el simulador del tiempo que tienen. Bueno, y la referencia a David Deust. Este sí que tenéis que seguirlo,¿no? Pero bueno, me parece uno de los genios vivos de nuestra época. David Deust, o como se pronuncia. O como se pronuncia. Que, por cierto, The Fabric of Reality es el libro en el que se basa principalmente y en otras cosas, pero principalmente se basa la serie Devs de Alex Garland un imperdible y algo que hemos siempre comentado, una de mis series favoritas también uno de los directores favoritos, aunque discrepo algunas cosas que piensa este señor, me parece un tipo brillante un director brillante sobre el tema de los videojuegos bueno, sobre el tema de los videojuegos, quería poneros un videojuego que nunca nombra Demis Hassabis y es este Evil Genius como lo veis Evil Genius Genio Diabólico es un juego de Demis Hassabis¿por qué nunca lo nombra?

UNKNOWN 35:03

jajaja

SPEAKER_03 35:04

Es un juego de dominación del mundo. Bueno, se comenta en los correos de la denuncia de Elon Musk a Sam Alman cuando están hablando del peligro de Google. Creo que también se comenta en el libro del Imperio de la Inteligencia Artificial de Karen Henghao. Pero bueno, es curioso,¿no? Solo comenta Theme Park y SimCity, que son dos clásicos de Theme Park, gran juego en su momento,¿no? se lo sacan ahora bueno da para teorías más conspiranoicas pero bueno, es la realidad, ese es el videojuego y su programador, su joven programador que es un genio de mis hasabis bueno, una anécdota pero curiosa y también que la tengamos aquí eh El origen de Demis Hassabis hemos visto, aquí comentáis, hay cientos, decenas, miles de videojuegos, perdona, de videos que hemos analizado con Demis Hassabis en el canal. Hay cientos más en el resto de YouTube,¿no? Pero sí, el origen de Demis Hasabi son los videojuegos, el ajedrez, es decir, los videojuegos, los juegos, el ajedrez y la neurociencia. Tiene Demis Hasabi algunas charlas de hace 10 o 15 años de neurociencia que están en YouTube que son imperdibles. Porque si las veis os daréis cuenta de lo que no cuenta. Y diréis,¿cómo sabes lo que no cuenta? Bueno, si lo contaba en aquella época pues si no lo cuenta ahora está claro que está haciendo una narrativa como mucho más naif para que la gente acepte pues el trabajo que se está realizando desde un punto de vista científico y desde un punto de vista ético aunque bueno siempre defiende de mis hasabis no el desarrollo de la hachi aquí hay una cosa Otra cosa que es curiosa, Demis Hassabis siempre ha soñado con crear una inteligencia artificial o una inteligencia con capacidades humanas, es decir, simular la mente humana. Pero ahora no, ahora cuando está ya tan cerca, no sabemos si por miedo o por las consecuencias que pueda tener. Yo no veo a Demis Hassabis como un líder, evidentemente es una de las personas más brillantes, es un genio, pero en algunas cosas... Volvemos a decir, me parece que, no sé si por las circunstancias y por directrices, tiene una narrativa pequeña y no entra. A lo mejor no es que no entre por brillantez o liderazgo, sino porque le dice, vaya, tú ahí ni comentes.

UNKNOWN 38:23

Eh...

SPEAKER_03 38:24

Dice que el plan sigue, el plan en 2010, bueno, aquí decís algunos que estabas ya en el 2003, yo entiendo que algunos estaréis hasta antes de Turín hablando de inteligencia artificial, cuando era pequeño también, pero es decir, intentar que los debates no sean del pasado, da igual que estéis 200 años con algo, bueno, hacer una reflexión, una pregunta, una duda, más que el poneros yo Porque si yo estuviera constantemente haciendo lo mismo, bueno, esto sería para mí al menos un coñazo, como oyente también. O al menos el oyente que a mí me interesa, que es el que tiene siempre la mente abierta, la duda abierta y no analiza tanto el pasado. ni la medalla, sino el pensar en lo que viene de forma evolutiva, cambiante y pasar a la acción, que se participe de ese proceso en un sentido o en otro. No sé si el sentido es irremediable o lo podemos elegir o va a ser algo emergente. Pero bueno, el plan 2010, 20 años, 2030. Luego se lo vuelven a preguntar, oye,¿cuándo va a estar la AGI 2030? Y después de tenerla allí, pues la idea es, bueno, resolver todos los problemas a partir de esa tecnología. Yo creo que esa postura sí que es inteligente. Es decir, hay un punto es, bueno, vamos a crear una tecnología que sea capaz de... de ayudarnos a seguir desarrollando lo que es conocimiento o cosas nuevas que ahora mismo nos suponen un problema porque no tenemos esa capacidad. Vamos a crear como esa entidad, esa inteligencia que nos ayude a llegar a ese punto de allí. Y a partir de ahí vamos a ir descubriendo y solucionando cosas. Luego vendrá la superinteligencia, pero no vamos tampoco a abrir mucho el debate porque se vuelven debates estériles.¿Cómo está aquí? Una herramienta, lo que dice, que constituye la inteligencia artificial, una herramienta para la ciencia o para determinados problemas. Pero bueno, ya vamos a llegar al AGI. Él hubiera preferido, y lo sigue diciendo, utilizar la inteligencia artificial en casos, en el narro, muy específicos y muy bien hechos y de forma muy segura, y luego pasar al AGI. Pero bueno, no ha sido ese el camino. Ha sido el de la aceleración y el optimismo. Y vamos a paralelamente tener esos dos desarrollos. Ya estamos al final de la historia. dentro de un año, dos, tres nadie lo sabe, no pongáis puede ser que sean diez, es decir, realmente no tenemos bueno, podemos escuchar lo que nos dicen, está claro que a partir de los avances y lo que estamos utilizando podemos intuir o esperar o casi de forma, como un forofo de la IA, pero dejar de aseverar determinadas cosas se pueden aseverar como hizo Kurzweil bueno, es otro tema, eso otro tema que si nos metemos ahí dice que una vez llegue la AGI que nos permita resolverlo todo, es decir, que la IA se convierta en esa herramienta para la ciencia que nos permita resolver los grandes problemas y nuevos retos. Uno de los retos que vamos a enfrentar o que deberíamos de tener es conocernos a nosotros mismos a través del funcionamiento de estos modelos de inteligencia. Aunque sean alienígenas o no humanos, pero sí bioinspirados, no dejan de ser sistemas complejos, como es la misma biología, y podríamos aprender muchísimo de ellos, o que ellos nos ayudaran a conocernos a nosotros mismos. Hablar del concepto de conciencia, para mí, no voy a profundizar porque al final siempre es un agujero negro, pero para mí Demes Casavis está equivocado en el concepto de conciencia. No puede obviar la realidad, la física y la evidencia. Los Nobel que se han ganado, no puede contradecirlos, es un acto de fe. Puede hacerlo y puede decir, oye, yo creo que está muy obsesionado con este punto, que es que todo es computable. Bueno, es científico esa afirmación. La polla luego lo veremos en la simulación de sistemas clásicos tradicionales de redes neuronales en lo cuántico, pero yo creo que ahí se pierde. También es mi opinión, podría fundamentarla mucho más, pero no creo que sea el momento. Puede ser que he hecho algunos programas al respecto, entonces no me gusta estar repitiendo constantemente. Los tenéis en el canal. biología, bueno, toda la aplicación de la AGI, bueno, de la AGI actual y de la AGI, va a ir enfocado dentro de lo que es la biología a descubrir nuevos fármacos, pero no solo eso, sino va todo el enfoque de la bioquímica, la química, entender la proteína, bueno, lo ha explicado mucho mejor que yo,¿no? Sí que ha nombrado una empresa, Isomorphic Labs, de la que él es CEO, vamos a ver su página web, es interesante, no la conocía. A ver un segundo. Esto. Creo que me equivoqué

SPEAKER_04 44:00

de

SPEAKER_03 44:01

página. bueno aquí tenéis la página web de la empresa de la que Demis Hassabis es CEO Isomorphic Labs vamos a echarle un vistazo porque aparte está visualmente muy chula no tiene para traducir bueno pues nada bueno ahí tenemos bueno enfocada a la salud a la biología alfafol Estamos utilizando las máquinas del machine learning para evolucionar, transformar el descubrimiento de fármacos, diferentes trabajos. Es curioso lo que somos. Y nada, aquí tenemos a Demis Hassabis.¿A quién le puede caer mal Demis Hassabis, no? Bueno, así en un principio,¿no? No sé. Pero bueno, esta es su página web, muy chula. Y no sé si es una empresa, entiendo que en colaboración con Google o independiente de Google, no lo sé. Pero bueno, ahí la tenemos. Isomorphic Labs. dice, habla Demis Hasabi sobre bueno, le preguntan si la llegada de la AGI traerá nuevas ciencias o nueva educación necesaria para abordar esas nuevas ciencias y bueno, entiende que sí, no sabemos tampoco exactamente qué llegará, qué tipo de nueva ciencia, qué tipo de nuevo conocimiento, que suponga la creación de nueva metodología, nuevo conocimiento, nueva educación, pero bueno, habla de que sería importante tener como sistemas emergentes la capacidad de hacer simulaciones con precisión, bueno esto por ejemplo en el tema de los fármacos es fundamental para recortar tiempos y poder incluso aplicarlos en tiempo real si todos imaginamos la típica impresora 3D que nos imprimiera el fármaco pues claro, eso requeriría de un simulador de precisión altísima de tal manera que pudiéramos tomar decisiones casi en tiempo real o no o más pausadas pero bueno, una cosa No es cuestión de días o de horas. Entonces, bueno, siempre se hace referencia,¿no? El tema de las vacunas sería una de las utilidades, la que nos espera,¿no? Vamos a otra cosa que ha comentado Demis Hasabi, que es, bueno, tenemos... Tenemos uno de los modelos de simulador de tiempo mejores, en este caso, algo tan entrópico como la simulación temporal del tiempo. Nuestro modelo Weather Next 2, el modelo más avanzado de forecasting de tiempo. Y bueno, aquí lo tenéis, la página web. Podéis probarlo, no es el momento ahora, pero bueno, ahí tenéis todo el tema de la predicción del tiempo. Lo podrían haber utilizado con la dana,¿no? Y otras muchas cosas. Pero bueno, yo creo que es muy interesante. No sé aquí... Para entrenarlo entiendo que habrá que rellenar algo, pero bueno. Muy interesante. Es decir... Vale. Habla también de trabajos en la... en la creación de una célula virtual,¿no? Esto es algo también que Demis Hassabis ha repetido constantemente,¿no? Constantemente, que uno de sus proyectos sería, una vez llegara la AGI, la posibilidad de crear células virtuales,¿no? Muy a lo Michael Levine, en este caso,¿no? Le preguntan sobre la base de la realidad, la información, si todo es computable o no, ya sabéis que él defiende que sí, defiende la figura de Turing como héroe, lo es, Y habla otra vez de la simulación de sistemas cuánticos o la aproximación, simulación de sistemas cuánticos con sistemas tradicionales. Esto, el que sea así, no significa nada. Al final no es lo mismo... O sí, aquí entraría un debate que... Lo hemos tenido tantas veces con programas de Roger Penrose y con otra gente que, bueno, no es el momento. Vamos a hablar de AGI. Dice, bueno, lo que dice siempre, oye, que en este viaje hacia la AGI, lo importante para él hubiera sido que la IA hubiera sido una herramienta en determinados problemas narrow y poder llegar a la AGI desde otro punto. Pero, bueno, en ese sentido van a llegar a la de una determinada manera, quizá de forma más insegura, quizá priorizando el desarrollo de la AI por encima de otros problemas narrow que podrían impactar en el ser humano. Pero yo creo que es inevitable, porque la AI supone una supremacía tecnológica, un hito histórico, y el ser humano también se mueve, y los intereses de todo tipo, de poder, de narrativa, económicos, obviamente. Habla de la agencia y de la conciencia. Otro punto en que para mí, vuelve a estar equivocado. Vuelve a estar equivocado.¿Por qué digo que está equivocado? Porque hemos hecho muchos programas sobre el tema de la conciencia y muchos programas de mucha gente hablando de la conciencia y también de Demis Hassabis hablando de la conciencia y tiene una visión reduccionista y para mí a científica. No voy a entrar más en ello. Os veis el programa de la conciencia que hay en el canal. Lo dicho, lo que él propone... o proponía, pero se va a paralelizar, es primer paso tener una IA narrow segura, segundo paso la AGI, después conocernos a nosotros mismos e incluso una vez tengamos la AGI, utilizar la AGI para saber, entender hacer propuestas, un marco teórico, científico, de lo que es la consciencia, la conciencia, el yo. Dice que para llegar a ese punto de lo que es la AGI, hacen falta varias cosas,¿no? El aprendizaje continuo, la autoconciencia, la continuidad temporal del yo, en definitiva la identidad, temas que Anthropic ha estudiado y tratado e integrado. Bueno, lo que he comentado muchas veces, bueno, que ahora se llama Harness Agéntico, que a ver si la semana que viene hago un programa que ya lo tengo agendado. La semana que viene va a ser épica en calidad de programas y en cantidad. Pero... El harness es lo que es la arquitectura cognitiva. Yo creo que el desarrollo de los modelos de inteligencia artificial unido a la evolución de las arquitecturas cognitivas, unido a la interacción de estos agentes en sistemas multiagénticos de forma masiva, como sistemas complejos, nos va a dar... más respuestas y aún tener más cerca el desarrollo de este tipo de tecnologías el desarrollo para mí no creo que sea un hito aunque pueda serlo, seguirá siendo evolutivo, es decir, no es que llegue la ya la tenemos inventada y es esto sino que eso seguirá evolucionando y seguirá habiendo debate que nadie lance campanas al vuelo hay una cosa que ha dicho, varias cosas pero breves, lo de Dennett a ver, lo que voy a hablar no es obviamente a nivel personal, para mí Daniel Dennett es una de las personas que más poco entienden, pero bueno, no es que entienda poco, sino el que lo intentó es destruir lo que se conoce y adaptar, intentar Bueno, llevar a un funcionalismo prácticamente y a un determinismo todo, es decir, en vez de ver el conocimiento en la realidad o lo que conocemos, sabemos, y en muchos casos de forma experimental y matemática, pues él pasa de todo esto y va directamente a destruir ese dualismo y genera su propia teoría que tenía muchísimos adeptos, como hay muchos reduccionistas, nihilistas, materialistas, El funcionalismo computacional en el que nos vamos a mover es inevitable. Para mí no es una lección. Yo lo defiendo, pero no es que sea una lección. Es que es inevitable esa pared. Es inevitable por la misma ontología de la realidad. No es cuestionable. Por lo tanto, Denet, descansa en paz. Pero estabas muy, muy, muy equivocado. Lo que dice luego del mismo sustrato, no, es que nosotros, aquí volvemos a Demis Gassavis, se le ven las costuras muchas veces. Y Demis Gassavis dice que no vamos a estar, las inteligencias artificiales no van a estar nunca en el mismo sustrato humano.¿Por? Cortical Labs y otros. Michael Levine, Xenomorph. Xenobots, perdona. Xenobots, Xenomorph. Xenobots, Xenobots. Vida artificial, vida sintética, hibridación,¿por qué no? Además en algunos momentos lo dicen, esto no... No es para el debate de esta charla. Es que es meterse en cosas que no estaría tan cómodo. No estaría tan cómodo porque la gente cuestionaría su trabajo y como buen genio, yo también lo entiendo, oye, yo bastante hago, disfruto, no molestéis. Yo estoy a otro nivel, o no, estoy al nivel de todo el mundo, pero yo hago mi trabajo y estoy para que estén cuestionándome a cada momento. A lo Palantir. Habla de... de dos filósofos la otra vez dijo Kant y Wittgenstein ahora ha dicho Kant y Spinoza como buen determinista él viene de la rama de Dennett, del determinismo de Spinoza bueno, la ciencia está está diciendo algunas está tomando otra dirección pero bueno, no pasa nada Kant tiene que haber no sé por qué nunca nombra Kant Bond, Privan tienen poco espíritu crítico, entiendo que esta gente y este señor en concreto que es inteligentísimo, un genio bueno, entiendo que en una charla tampoco se va a poner a debatir o contar posibilidades entre una cosa y otra pero vamos, poco le duraba a Roger Penrose y otros deterministas a científicos como Demis Hassabis todo es computable la realidad no dice eso dicho lo cual a ver, que uno me ha saltado algo Ah, sí, perdón, algo me he saltado de la emoción. Vuelve a decir que en el 2030 tendremos la AGI, el libro que también os recomiendo, ya lo he dicho, inspiración de mi serie favorita, Debs, de HBO, de Alex Garland, de Fabric of Reality, de David Dobbs. David Dobbs, que si no lo seguís, es un pecado, es un... Podréis estar castigados de por vida,¿no? Pero... Bueno, tenéis que seguirlo. Es el genio vivo de nuestra época. Mmm... Y fijaos que dice, oye, cuando llegue la AGI lo que voy a intentar es demostrar o cuestionar o resolver lo que se expresa en The Fabric of Reality. El momento que más orgulloso es que tiene The Deep Minds AlphaFall y... Elegiría, dentro de todos los científicos, le preguntan varios, dice Turing, Einstein, y elige a alguien que es Von Neumann. Fijaos que no se nombra mucho, porque es controvertido, pero Von Neumann, que poco... reconocido está,¿no? En ese sentido. Un segundín. Un segundo que tengo que buscar. Un segundín. Os quería enseñar una cosa, pero... Bueno.

UNKNOWN 57:02

Aquí lo vemos. Vale.

SPEAKER_03 57:05

Vale, bueno, voy a ir a las preguntas y me contáis qué os ha parecido. Vamos a ir por las preguntas. No las afirmaciones, las dudas, las preguntas.

UNKNOWN 57:23

A ver...

SPEAKER_03 57:26

esta me ha parecido interesante¿qué garantía tenemos de que la primera AIG no simulará alineamiento para luego instrumentalizar humanos? garantía absoluta ninguna ni ahora ni nunca garantías o seguridad bueno medidas, lo que se está haciendo, tipo de alineamiento, que no es 100% fiable, el análisis y la interpretabilidad de las redes neuronales, y bueno, determinadas investigaciones que se hacen para la alineación, el control, la monitorización. De todas formas, Google sacó un paper del que ya hicimos un programa que ya dicen que llegaremos a la H sin haber alineado el modelo y que lo que tienen es un sistema de control. En definitiva, eso, ya vamos a lanzar la H al mercado, pero cuando la lancemos, bueno, si se le va la pi entre comillas, se monitoriza, se supervisa, tendremos mecanismos de actualización, contención, etc. Ahí iríamos al paper de Manuel Fonseca, la contención de la superinteligencia, que es imposible, etc. Entonces, bueno, vamos a un escenario no determinista. no determinista y seguramente donde las IAS alinearán, supervisarán o nos asegurarán que se porten bien. Otras IAS, no los humanos. Nosotros no podemos. Vamos a estar observando cómo funciona la red neuronal o qué vamos a hacer. No vamos a poder hacer. Vamos a tener que utilizar la IA o una AGI para contener o alinear otra AGI. Esto ya se propuso en su momento cuando estaba Elias Uskever en OpenAI con ese equipo del superalineamiento. vamos a ver aquí dice mucho Preguntas concretas. A ver, si os lo digo, no es por prepotencia. No os lo toméis a nivel personal. Es una cuestión, lo veis, se gasta muchísima energía. No solo tiempo, sino energía. Entonces, cuando queráis tratar un tema, la conciencia, si queremos otro programa de conciencia, preparo otro programa de conciencia y hablamos de conciencia, todo el tema no localidad, etc. Pero claro, el que todo se convierta en un debate de locura hace que los programas no sean disfrutables. Estamos hablando de Agile, de Mis Hasabis, de que llevan tres cuartos de desarrollo. Es una charla muy breve, tampoco disruptiva, pero bueno, que comenta cosas que son interesantes. A ver, el doctor Alex Wisner... Un segundo... A ver... El doctor Alex Wisner... que me lo habéis comentado mucho, a ver, subió un vídeo a uno de sus canales de YouTube titulado The Self is Not Causal, en el que se explica qué es la acción consciente y el yo, cómo surgen y por qué surgen. Tendría que verlo, no puedo opinar de lo que no sé. Si quieres poner un resumen, te puedo decir, sí, no, ya lo veré y debatiré o lo podemos poner. Es interesante,¿no? Lo puedo, voy a anotar por aquí The Self is Not Causal. Es, da para un Inside X,¿no? The self is not the host. Pero bueno, Aquí tenemos que ver la parte científica y después también la parte no científica, de creencia, espiritualidad, fe. Y en este uno de los, para mí, que mejor lo hace es sin duda Jiddu Krishnamurti. Bueno, sus charlas también con David Bohm son muy interesantes y abordan este tipo de cosas. El tema de la bioingeniería y biotecnología es algo en el que tendríamos que nosotros ahí sí que podemos entrar. Bueno, no sé si ser líderes, pero no llegamos tarde y yo creo que España es un país, pero no vamos a ser, yo ya lo dije, España va a ser el país ludita por excelencia contra la IA o con contención de inteligencia artificial.¿Coincides con lo de la AGI para el 2030? A ver, yo no tengo una bola de cristal, ni tengo información confidencial, ni conozco, pero mis sensaciones es que esto ya lo tienen desarrollado. Lo que nos están contando es una milonga.¿Por qué?¿Y por qué crees eso, Plácido? A ver, podría hablar mucho sobre ello. Si queréis un programa, Plácido, háblanos por qué crees. Pero básicamente, o de forma reducida, todos ya establecen, ya no hay debate sobre la fecha. A ver, nadie se jugaría su carrera, su prestigio, premios Nobel, si esto, dando ya hace dos años ya las mismas fechas y todas las mismas fechas, incluso alguno antes para poder anticiparse,¿no? Está pactado.¿Creéis que esto se deja a la libertad de...¿Qué hacen en China? Tampoco lo sabemos,¿no? DeepSeek, el objetivo también es desarrollo de Agile,¿no?¿Qué tienen ahí? Es más difícil de saber, pero yo creo que aquí es claro que... Bueno, él lo dice, tienen todas las piezas, es una cuestión de... Bueno, tiene muy claro que lo pueden tener, que eso no significa que ese sistema o primeras Agiles, como decía Jesús Quever, se vayan desarrollando, las tengamos desarrolladas, que a lo mejor no están accesibles para el público en general, poco a poco, pero va a haber algún tipo de anuncio en principios de 2030 al respecto, que va a cambiar la humanidad. Bueno, ya está cambiando. Dios no juega a los dados, lo hará la AGI. Ay, Alberto, cómo te echo de menos cuando no hablas. Es brillante, Alberto. O me gusta lo que dice. No sé. Me llega. Dios no juega a los dados, lo hará la AGI. Bueno, tengo que decir que... Perdí una amiga y una colaboradora habitual de X-Habay por esa frase. Bueno, dicho esto, a lo mejor me escucha. Dios no juega a los dados, lo hará la Aji. Es una frase, es una pregunta profunda. Yo es que hay algo que... La AGI conectada al mundo de... Yo creo que hay dos términos ahí,¿no? La AGI conectada sin estar conectada al mundo digital y otra que sí. Yo creo que... Para mí la AGI, incluso la inteligencia artificial, como nosotros, tiene un componente determinista. tiene un comportamiento causal o que es explicable bajo la mirada la lupa de casi imposible de un sistema complejo pero si lo conectamos como nosotros al mundo físico a la realidad física habría que ver también esa conexión como se realiza si bajo sensores digitales analógicos bajo soporte biológico híbrido sintético¿Qué es lo que produce el que no juega los dados? La conexión a lo no local, lo cuántico. Si somos capaces de conectar la IA a lo cuántico, no jugará los dados. Bueno, no será determinista. Y esto además está probado en algunos experimentos. Voy a ponerlos. Esta mujer, a ver un segundo. Cuántico, conciencia, mujer, a ver, es que se llama la chica... Nunca me acuerdo los nombres. A ver, un segundo. A ver, esta mujer. Susan Hildertz. Susan Hildertz. Hicimos algunos análisis de vídeos de ella. Y tiene este vídeo que, bueno... Este es el que analizamos. Voy a ponerlo para que sepáis cuál es. Y hace la pregunta de si las sillas pueden experimentar. Pueden experimentar. Y aquí Susan sí que hace experimentos de conciencia cuántica, de sistemas de redes neuronales tradicionales conectados o no a un sistema cuántico y con resultados sorprendentes en cuanto a la toma de decisiones. Yo creo que ese no jugar a los dados... o jugar a los dados, el no determinismo, el libre albedrío, la conciencia o una posibilidad es la conexión al mundo físico, al sistema cuántico. En ese punto estamos enlazando lo simulado que nos supera con aquello que nos hace únicos, la conciencia. Y aquí ya no hablaríamos de una simulación. A ver, espero haber contestado tu pregunta. Jodida la pregunta,¿eh? A ver, dice... Dice,¿y crees que podría surgir algo de un conjunto de sistemas como piensa Demis, no sé, que emerja una especie de inteligencia lenígela? Sí, no sabríamos identificarlo. Tendríamos que, llegado a ese punto de que nos ayudaran a conocer la conciencia a un nivel físico y su interpretación, bueno, entender que eso no es, ontológicamente no es lo que somos nosotros. Hay otra pregunta.¿Puede una simulación o sistema complejo realizar una conexión al mundo físico porque todo está dentro de ese sistema de información? Bueno, es una pregunta. Esa pregunta es más jodida.¿Cabe la posibilidad? Sí. No puedo dogmatizar y decir que no porque eso casi nadie se lo pregunta. Eso casi nadie se lo pregunta. Pero yo creo que sí. Pixiezcom dice, las inteligencias artificiales, por más que sean un producto de la suma de conocimientos humanos y un alineamiento forzado, el resultado de las agis no serán nada similar a un humano en perspectiva, motivación y en forma de ver la vida. No, es como un ratón no tiene la forma de ver la vida que lo tiene una gallina, que lo tiene un mono, que lo tiene un humano. Una agi lo verá de forma diferente, obviamente. Ahora, Nosotros estamos hechos a imagen y semejanza y las hajis también. Son nuestros hijos. Por lo tanto, aunque estoy de acuerdo con lo que dices, heredan nuestra perspectiva, nuestra motivación y forma de ver la vida. Que no digo con eso que no sea diferente. Pero eso que dices tú de nada similar, no. Lo serán. Serán una evolución. Lo son. Bueno, no, a ver, Lourdes. Bueno, Leonard, entonces no conoces a Leonard,¿no? Leonard, dice, alguien se hubiera ido de la... Leopold Aschenbrenner.¿Conocéis a Leopold Aschenbrenner? Bueno, pues hay una charla de tres horas o cuatro, no me acuerdo,¿no? Y un paper o un documento al respecto, bueno, podéis verlo,¿no? Pero bueno, hay un montón de gente que ha hablado en ese sentido.

UNKNOWN 1:10:51

Vamos.

SPEAKER_04 1:10:54

No.

SPEAKER_03 1:11:14

No, ya lo... Es que habría que explicarlo bien, que para ti, que la AGI será determinista, exactamente, será determinista, pero que no hará trampas, no. Ya lo he explicado. Depende de cómo, en qué paso esté.

UNKNOWN 1:11:34

Eh...

SPEAKER_03 1:11:35

Bueno, ya lo que veamos nosotros como trampas habría que analizar exactamente qué es para ti la trampa que hacemos nosotros y qué es lo que tú entiendes que él no hará trampas. Entiendo que será un sistema más inteligente, más evolucionado, más conocedor de cómo funcionan las cosas de una forma superior a la humana y por lo tanto no requerirá de cosas o técnicas que nosotros empleamos que él puede no utilizar y ser más exacto. Bueno, esto que dices es una... Perdona que lo diga así, es una gilipollez.¿Será impredecible hasta para Dios? No, eso es una tontería. Bueno, entiendo que quieres jugar con la perdona. A ver, no quiero que... Nada personal,¿no? Pero que quieres jugar con lo de que Dios no juega a los dados. Bueno, eso no es cierto. No es entender ni el concepto de Dios ni el tema de impredecible. Volvemos a lo mismo. Un día podemos hacer el tema del libro albedrío y con dibujitos os lo explico para que ese tipo de frases no se den. Es no entenderlo. Nosotros ahora mismo solo podemos explicarlo al nivel que estamos. Si entendemos un concepto de Dios más allá de nuestra propia realidad y cómo se entiende la realidad y cómo la interpretamos, es decir, eso es una tontería. Pero centrándonos en lo que estamos, obviamente, bueno, para el ser humano sí. Para el ser humano llegará un momento que... Si no nos hibridamos, claro, nos parecerá lo mismo que una hormiga a un humano,¿no? Pues lo mismo, nos convertiremos en hormigas que no entendemos realmente y aunque sean nuestros hijos, pues bueno, nos explicarán en nuestro lenguaje para que entendamos, igual que nosotros lo hacemos con las mascotas. Pero eso, emplear términos como Dios, que nosotros seamos impredecibles hasta para Dios, igual que Kurzweil, no existe Dios, lo crearemos, a ver, este tipo de cosas queda muy bien, pero es... no situarse. Yo no estoy en contra de la limitación humana, sí del descubrimiento, pero hay límites. El creerse que no los hay y que estamos fuera del videojuego y de la simulación es... es demostrar muy poco, no tener perspectiva. Y eso, a partir de no tener perspectiva, nacen un tipo de razonamientos, pensamientos, valores, que para mí están más entroncados en la pérdida y en el mal que en el descubrimiento de verdad. Sé que esto no es un discurso científico, obviamente, es una opinión, una creencia, pero es que esta realidad y a lo que nos vamos a enfrentar, la era de las inteligencias artificiales, basadas principalmente en el funcionalismo computacional pues tiene esa limitación no podemos poner a Dios en la ecuación es que no, a ver, no nos hace falta no quiero decir que no nos haga falta a Dios para algunos sí, para otros no, libre albedrío pero hombre, a ver, es que es evidente,¿no? bueno, yo creo que ha sido un programa interesante que llevamos,¿no? tampoco llevamos tanto tiempo, una hora y dieciséis venga,¿alguna pregunta más? pero Bueno, lo que sorprende de la charla de Inglaterra es la fecha y que dice que lleva en tres cuartos, 2030. En 2030 estamos hablando de nada. Si hablamos del impacto en el trabajo a estos niveles y que no se habla nada a nivel político, ni a nivel estatal, ni a nivel europeo, bueno, en europeo sí que se habla, pero¿qué pasará que en 2030 cuando se anuncie o tengamos este tipo de desarrollos? Yo creo que el mundo va a cambiar muchísimo. Yo creo que... Yo creo que lo único que podemos decir es, a ver, olvidémonos de... Bueno, primero hay que ser felices y disfrutar el momento. Es un momento apasionante. Luego hay que prepararse. Hay que prepararse para la antropía. Olvidaos de tener la verdad, ni siquiera... A ver, yo tengo mis convencimientos, otras partes son conocimiento o lo que yo creo que es conocimiento, pero es que no es importante. Yo creo que lo importante es, bueno, experimentarlo, que es lo que estamos viviendo cada uno a su manera, intentar estar cerca o aproximarnos a la verdad y a la coherencia de cada uno e intentar hacer un mundo bueno ser felices e intentar hacer felices al prójimo y un mundo mejor y bueno estar preparados ante un mundo que y una humanidad que va a estar en guerra o va a atravesar una guerra no sé si después de esa guerra o desierto vendrá una utopía más que una distopía yo espero que sí o incluso apostaría por evitar ese desierto pero no lo sé si vamos a ser capaces Capaces, me cuesta pensarlo, pero hay que estar ahí. Determinados debates es necesario tenerlos, de la naturaleza, de la conciencia, etc. Porque... determinadas cosas base que plantáis aquí en el chat que se convierten en dogma o valor van a condicionar mucho el proyecto civilizatorio que se desarrolla a continuación y sus valores a mí una de las cosas que más miedo me ha dado en X Habayas fue el programa este de Peter Thiel y luego el manifiesto de Palantir que en algunas cosas estoy de acuerdo pero el manifiesto de Palantir de la República Tecnológica me acojonó es acojonante y eso es lo importante Ed Morales venga, esta pregunta y si hay alguna más y nos vamos Ed Morales si la AGI va a ser tan poderosa como la pintan lo que tenemos que hacer bueno, la AGI no es la superinteligencia dicen que en 5 años más tarde pero bueno, no vamos a entrar en ese debate de jugar a la quiniela si la AGI va a ser tan poderosa como la pintan lo que tenemos que hacer es cuando la creen ir resolviendo los problemas que surjan preguntándole o no. Sí, eso es lo que dice Demis Hassabis. Que cuando tengamos la AGI hay que resolver los problemas del mundo y del humano. Incluido conocernos a nosotros mismos. Yo creo que ahí sí que estoy con Demis Hassabis. Sí, el de Alex Karp. Bueno, el de Palantir. Pero sí, que está basado en el libro de Alex Karp. Bueno, amigos, yo creo que ha sido un buen programa para jueves. Si no, paz a nada mañana hacemos el de Carpati, también en Secuoya así vamos combinando prepárense para cualquier cosa que todo será posible es una buena frase final de Alberto de Zenit, prepárense para cualquier cosa que todo será posible Yo lo diría, vamos a ver posible aquello que nos parecía imposible. E incluso aquello que no éramos capaces ni de imaginar, vamos a verlo posible. hecho realidad o manifestarse. Como toda verdad. Y eso es algo que va a cambiar la percepción humana. Y eso, como dijimos ayer en el programa de Psicosis, tiene un peligro, tiene una gran oportunidad que es como un despertar, pero tiene un gran peligro que es con el estado actual a nivel de conciencia cognitivo de la humanidad, de los jóvenes también, de los mayores también, obviamente. Aquí no nos hablamos ninguno, pues hay grandes riesgos que esto repercuta muy positivamente en algunos, pocos y muy negativamente en muchos ahí está también este tipo de programas en XHabay para divulgar, debatir, para que podáis preguntar perdonadme si a veces soy muy asertivo y no entro en debates porque es verdad que lo os digo, no es por prepotencia es que intento cuidar mi energía de verdad es un poco no os toméis nada que diga a nadie de forma personal eh Modo supervivencia tampoco. A ver, modo supervivencia sí,¿vale? Pero modo disfrutar y modo prepararse,¿no? Para la lucha. Fight or die,¿no? Lucha o muere. Eso sí. Sí, sí, modo supervivencia. Una última pregunta. Venga, va, dice ya. Veterano aquí de... La última, no, vamos. Que no tiene nada que ver esto, pero me surge. Pensaba que era la pregunta. Pon la pregunta y nos vamos. Te la contesto y nos vamos. Bueno, bueno. Y yo soy poniendo los likes, que el algoritmo los tiene fritos. Venga, dice ya, pon la pregunta. Es muy difícil,¿eh? Voy a tener que estar aquí media hora más. Bueno, esto está bien,¿vale? Yo quería hacer programa.

UNKNOWN 1:20:35

Eh...

SPEAKER_03 1:20:35

Dice,¿qué opinas de las desapariciones de los científicos desaparecidos ligados a la NASA y el JPL? Bueno, a ver... Primero voy a hablar de algunos programas. Bueno, ahí evidentemente tampoco es en los que se lo creen todo, pero vamos, de estos que van de científicos, no voy a dar nombres, que han hablado de este tema, me parece que, oye, que vayan a hablar en modo barrio sésamo a su puta madre,¿vale? Es decir, a mí me parece que un tío que tiene millones de seguidores o que es un personaje público, tener esos análisis de barrio sésamo que ya los hizo en la pandemia, no uno, sino varios de los influencers científicos Es que me parece, tío, que... Tócate los cojones, macho. Es que me sabe hablar mal. Pero es evidente. Vamos, ha llegado hasta la administración Trump y es evidente que pretenden silenciar a mucha gente. Si luego ves las declaraciones que han hecho cada uno de los que han ido desapareciendo, bueno, es que es flipante. Pero bueno,¿qué pasó con Greenberg? Tenemos, por cierto, en Discord a alguien que trabajó con Greenberg. Yo he vivido... No yo directamente. Yo no. Pero... a través de una persona viví un caso de este tipo en temas de salud y cáncer cura contra el cáncer yo no me lo creía pero me lo contaron y la realidad supera la ficción la realidad supera la ficción. Y quería hacer un programa, porque hicimos uno,¿os acordáis de la era de la revelación? Bueno, a ver, es como un programa de IA, hablar de ovnis, pero bueno, en el tema de la revelación, como también estaba muy relacionado con el tema de la IA, lo que revelan o no, y a nivel tecnológico, bueno, en este caso, en el tema de talento, en el tema de científicos. Por eso no habla de mis hasabis,¿cómo van a hablar? Está todo muy contenido,¿creéis que no hay una contención de la narrativa?

UNKNOWN 1:22:32

¿En serio os creéis que no? Uff,

SPEAKER_03 1:22:33

Por favor. A ver. No, no voy a dar nombres. No voy a dar nombres. Ah, me cae bien. Bueno, algunos... Pero es que, tío, es que es momento de decir perdón. También estoy en contra de estos que se lo creen. Todavía hacen programas apocalípticos. Pero bueno, en este caso estoy más próximo a algunos de ellos. A ver, hay cada uno que saque sus propias conclusiones de lo que nos llega. Bueno, os recomiendo el último documental de Bob Lazar y la charla que tiene Bob Lazar de Tres Horas con Joe Rogan. La podéis ver y opinar, que también está muy interesante. como dicen en física todo lo que no está prohibido por las leyes de la física es obligatorio pues eso bueno ha sido un buen programa y una buena pregunta que no está relacionado directamente con la IA sí que está relacionado con los valores de la comunidad de XHABAI que es la defensa del talento en inteligencia artificial y en general y el valor y la creencia la fe absoluta en que el talento tiene que estar en primera línea del desarrollo de proyectos civilizatorios y del desarrollo de civilización y de valor como una sociedad avanzada. El talento, la creatividad, la búsqueda de verdad, el conocimiento, la excelencia, la meritocracia. Lo dejamos aquí. Ha estado un programa una horita y media. Ha habido bastante gente o mucha gente. No en horario habitual. Sabéis que los de las tres y media que he querido comer al final. Espero que lo hayáis disfrutado. Mañana más. Gracias por estar ahí. Un abrazo.

SPEAKER_00 1:24:40

¡Hasta la próxima!