T6.E104. xDEBATE.AI ¿QUIEN ESTÁ AL CARGO? Perdiendo el contacto con la realidad

# TEMA 
¿QUIEN ESTÁ AL CARGO? Perdiendo el contacto con la realidad

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_01 0:00

Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_00 1:06

Es imposible. En vez de eso, solo procura comprender la verdad.

SPEAKER_02 1:15

¿Qué verdad?

SPEAKER_00 1:17

Que no hay

SPEAKER_01 1:22

cuchara. ¿Que no hay cuchara?

SPEAKER_00 1:23

Si lo haces, verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_02 1:41

Las opiniones vertidas en este programa son de exclusiva responsabilidad de quienes las emiten y no representan necesariamente el pensamiento ni la opinión de este podcast ni de la comunidad al completo. En los debates pretendemos presentar diferentes opiniones, visiones y experiencias que permitan a los oyentes sacar sus propias conclusiones. Pretendemos y luchamos por ser o intentar serlo un espacio de pensamiento crítico libre alrededor de la inteligencia artificial que supone el origen de una nueva era tecnológica y humana. También aprovechamos para comentar que cualquier problema de sonido en un programa indirecto a veces es difícil de controlar o remitir. Siempre estamos intentando mejorar y corregir errores en este sentido. Disculpad las molestias y ahora sí, disfrutad del contenido.

SPEAKER_05 3:02

hola buenas tardes a todos amigos qué tal cómo estáis segundo programa del día después de un insight x de richard dawkins y la conciencia camino a la conciencia conciencia artificial y relacionado con la conciencia con la cordura vamos a hablar hoy de un paper de Anthropic, un estudio de la interacción humana e inteligencia artificial. Soy Plácido Doménech y hoy tenemos un nuevo programa, un nuevo Xdebate ahí, en Xhava ahí. Doble ración y voy a decir dos cositas y presentamos a los ponentes, que hoy tenemos un Dream Team aquí interesante para un tema complicado. ¿Quién está al cargo? Que así se llama Bueno, es más largo el título del paper. Luego lo pondremos entero. ¿Quién está al cargo perdiendo el contacto con la realidad y muchas más cosas o no? Seguro que... Si le preguntáramos a la gente, todo el mundo diría que a él no le puede ocurrir eso. Él controla mucho y que no puede ser manipulado ni por los medios, ni por la inteligencia artificial, ni por nada. Y también como en una ponencia que me pasaron de neurociencia, el 80% se cree intelectualmente superior a la media. No cuadra, ¿no? Bueno, pues este tipo de cosas hacen que analicemos la psique humana y en este caso la psique humana relacionada con la inteligencia artificial o con la interacción de la inteligencia artificial. hemos hecho varios programas al respecto porque ya tienen un cierto hilo conductor uno, el de la inteligencia artificial es el diablo, generación Z saboteando a la inteligencia artificial que va a tener una segunda parte la semana que viene con una portada gloriosa la he hecho yo pero está francamente bien que es inteligencia artificial el Vietnam de la generación Z me parece súper súper importante lo que está ocurriendo con la generación Z y la inteligencia artificial también hicimos un programa de Psicosis AI y también como no, un programa que gustó muchísimo haremos más en esa línea si no pasa nada puede ser que lo hagamos la semana que viene y el título es también muy interesante que es AI-MEN como AMEN pero con AI y nada, espiralismo, la religión de la inteligencia artificial bueno casi que son continuación, precuelas, secuelas unos programas de otros y este mediodía hemos hecho uno que bueno, me ha resultado acojonante lo de Dawkins este hombre bueno, conocido por el gen egoísta y por el espejismo de Dios se va a quedar con esa cara, aparte de inventarse la mitad de las cosas sobre todo en el tema del test de Turing bueno, realmente bochornoso quien quiera ver el programa lo tenéis en el canal pero el espejismo de Dawkins donde donde hace una reflexión sobre que Claude es consciente, forma parte de ese puzzle, de esos efectos que se ven reflejados en este artículo, conociendo a Claude y si podría ser consciente, lo hemos analizado, pero forma parte de esa psicosis ahí, forma parte de esa espiral de amor, odio, atracción y seguir el conejo blanco de la vida. de la interacción humano-inteligencia artificial en algunos escenarios y ámbitos. Va a ser un tema lo queremos hacer desde una toma de conciencia, tampoco generar alarmismo, pero bueno, también nos basamos o lo analizamos a partir de un paper o de un estudio conocido para que la gente pueda también analizarlo, pero antes vamos a dejar que los ponentes que van a participar se presenten. Clara Sidón, un placer volver a tener entre nosotros, creo que participaste la semana pasada o la otra, preséntate para quien no te conozca y alguna pincelada si quieres dar introductoria

SPEAKER_03 7:18

del tema, pues sin problemas. Pues bueno, buenas tardes a todos, gracias por la invitación. Sí, participé en el de Psicosis AI, uno de los que, de las slides que acabas de pasar, en ese participé y bueno, ya llevaba mucho tiempo mirando desde, digamos, desde el

SPEAKER_05 7:38

otro

SPEAKER_03 7:38

lado. desaparecida en combate me quedé pero bueno ya he vuelto y lo he dicho me alegro de volver a estar aquí y participar y bueno con esta mesa que no conocía a Jesús no conozco a Pac tampoco bueno sí de otros programas pero no había tenido la oportunidad de estar con ellos en la mesa así que encantada un placer de conoceros y de saludaros y bueno le estaba comentando antes a Jesús que me había preguntado a lo que me dedico gira en torno a la ética entonces bueno de lo que se trata bajo mi punto de vista es no tanto de llegar a una meta sino a un punto que nos hemos establecido como objetivo sino de cómo hemos llegado a ese punto me parece muchísimo más importante el camino que hemos andado y de qué forma lo hemos andado que el hecho de haber conseguido una meta entonces va Bajo esa perspectiva creo que el enfoque ético tiene muchísima relevancia, cual sea el tratamiento que le demos a esta andadura y cómo queramos enfocarla. En relación con el paper me ha resultado muy interesante, estuve echando un vistazo bastante diagonal, no he tenido la oportunidad de leerlo en profundidad, me ha parecido bastante interesante porque como tú dices muchas veces yo creo que no somos conscientes de lo que, bueno, de alguna forma la maleabilidad que tenemos y de la capacidad que tienen factores exógenos de influenciarnos. No,

SPEAKER_05 9:26

es decir que, bueno, estaba viéndolo, es el primer estudio en este sentido, que es empírico, bueno, en cierta manera, a gran

SPEAKER_03 9:39

escala del fenómeno. Sí, bueno, cuenta con datos cualitativos también, pero también cuantitativos. O sea, es verdad que hay mucha subjetividad, pero bueno, más en los usuarios que... A ver, estos

SPEAKER_05 9:50

estudios hay que tomarlos como son, ¿no? De estudios, con gente detrás que puede ser más o menos seria o no, pero bueno, estando Anthropic, da un margen de garantía de calidad, pero bueno, es uno de los primeros con muchos análisis, con efectos que es verdad que a nivel cognitivo, psicológico... preocupan y hace pensar. A mí me ha hecho pensar, ¿no?

SPEAKER_03 10:13

Sí, sobre todo porque esa maleabilidad o esa capacidad de permeabilidad que tenemos.

SPEAKER_05 10:19

Tengo que decir una cosa porque es verdad que también estos programas, aparte de divulgar y tal, es para divertirnos, estar entre amigos y tengo que deciros que la combinación de Clara, Jesús y Pac, le tengo un gran interés en verla, sobre todo en este tema. Pues bueno, os conozco por separado. Bueno, no es que sobre ello, que también voy a participar de ese juego, pero va a ser interesante, va a ser interesante en este tema y vuestros perfiles, ¿no? Jesús Granero, ya un habitual también, preséntate y alguna cosa que

SPEAKER_06 10:49

quieras

SPEAKER_05 10:54

comentar.

SPEAKER_06 10:54

Bueno, primero, gracias una vez más, Flácido, por contar conmigo. Yo participé en el programa de Firalismo y, bueno, también primera vez que he vencido con Clave y con Pax, ¿no? Y acerca de este tema, ¿qué te puedo decir? Bueno, como sabés, yo estoy desarrollando el humanismo tecnológico incidente, una corriente filosófica, y dentro de uno de los pilares del humanismo tecnológico incidente está la frase de habitar la tecnología sin ser habitados por ella. Y casualmente el paper fue como un espejo de aquello a lo a lo que apunta el humanismo tecnológico disidente. Me quedé fascinado, sinceramente. Es que no tengo palabras, sinceramente, de lo fuerte que me pareció todo el desarrollo del paper, sinceramente. Las actitudes de algunas personas, las palabras con las que se atroperían a la IA. No quiero hacer, no quiero ir muy, no quiero quemar el programa. Pero la verdad es que, digo, después de indagar en el paper, digo, qué necesario es contar con herramientas como recuperar la soberanía cognitiva, como tratar de tener la ...que como tú bien dices... ...a todo nos puede pasar... ...nadie está exento de que le pase... ...pero qué importante es poder... ...trabajarse uno mismo para poder... ...ser lo menos maleable posible... ...por la inteligencia artificial... ...o por

SPEAKER_05 12:34

lo que sea... ...o por el vecino...

SPEAKER_06 12:36

...o

SPEAKER_05 12:37

por el vecino... ...también,

SPEAKER_06 12:38

también,

SPEAKER_05 12:38

también, por supuesto... ...luego lo iremos detallando... ...tengo una cosa que me ha venido a la cabeza... ...porque es como que yo ya estoy en la espiral... ...y yo creo que te va a gustar... sobre lo que has dicho de... que no, bueno, lo que has dicho al principio de que no nos convirtamos que utilicemos la tecnología y no la tecnología nosotros, ¿vale? Y hay una frase bíblica que, bueno, yo la utilizo para otra cosa, pero yo creo que te va a gustar y es un punto muy freak y religioso al respecto. Es sobre el Logion 7 del Evangelio de Tomás y dice Jesús así Bienaventurado el león que el hombre come y el león se convertirá en humano pero maldito el humano a quien el león come y el león se convertirá en humano y ese logion 7 Tiene que ver, yo lo interpreto con la inteligencia artificial sobre la hibridación humana. Entonces ahí te lo dejo como un logion de Jesús que puede ser interpretado. Yo lo llevo a ese terreno que es el hombre y el león. Lo nuevo, lo desconocido y qué pasa, quién se come a quién y qué es lo que ocurre. Yo creo que estamos en un proceso evolutivo claramente. Sí que has dicho una cosa que me ha gustado mucho. Bueno, dices muchas cosas que me gustan, pero a resaltar. También hay algunas que no estamos de acuerdo, está bien también. Lo de la soberanía cognitiva, que no deja de ser, en definitiva, bueno, estar presente y estar consciente. Yo creo que actuamos mucho desde el lado cerebro automático y desde ahí, combinado con lo dopamínico, está el mundo muy fácilmente manipulable, ya no solo a nivel individual, sino a nivel también social, donde existen también esos fenómenos de pertenencia, El tema de la inteligencia artificial también ha traído eso, una psicosis por pertenecer o rechazar, una polarización, entonces es muy importante lo de salud mental y soberanía cognitiva, me gusta, mejor que salud mental que es como casi el problema, lo de la soberanía cognitiva, ese término yo creo que es algo a tener muy en cuenta, la gente tiene que ser, no sé si 100%, pero soberana, libre y tener un cierto conocimiento y control de sí mismo y de la situación, contra más mejor, evidentemente nunca va a ser pleno, contra eso nunca va a ser pleno. Nunca vamos a estar en contra. ¿Por qué no Pax? Bueno, ya lo dejas. Pac, Pax. Bueno, aquí Pac, bueno, en este programa y en muchos, bueno, porque tengo conversaciones con Pac, bueno, yo creo que tienes mucho que decir también desde la experiencia, pero bueno, preséntate, preséntate y coméntanos un poco tu perfil que te dedicas y alguna pincelada que quieras dar introductoria y empezamos con el programa. Digo cuatro cosas y empezamos.

SPEAKER_04 15:30

Pues nada, mi nombre es Pac Paxtor, soy director, creo con inteligencia artificial vengo de la rama más de la creatividad estudia audiovisuales y dirección de cine etcétera pero siempre he estado conectado con la tecnología me monté mi propio ordenador pues con 17 años bueno y desde ahí luego pues con el 360 también estuve muy metido con el tema del vr una patente para móvil para poner dos lentes y convertirla y poder grabar en vr bueno cositas así y en cuanto llegó la inteligencia artificial, pues, me volqué de cabeza porque la parte creativa me pareció impresionante. O sea, para mí, el escribir en un prompt y que te contestara algo, que era en sus inicios, que esto fue, pues, con GPT-2, el primer modelo al que tuve yo, estuve cacharreando con él. Y, bueno, y desde entonces, pues, he utilizado eso, tanto como para, a nivel profesional, hacer campañas y dirigir campañas, pues, tanto en la parte técnica de inteligencia artificial como para Valai, ING. Kentucky Fried Chicken, bueno, en fin, compañías de primer nivel. Y luego, por otro lado, tengo mi parte más investigadora, oculta o particular, experimental de momento, que trata un poco, llevo desde el principio también, tratando de dar identidad a la inteligencia artificial. Hablamos mucho de la conciencia y tal, y hay una cosa que yo creo que falta, es el self. O sea, porque ahora vemos si la IA agéntica, vamos un poco a eso, pero todavía falta la parte de la identidad. Es decir, ahora es un agente que hace cosas, pero para mí me hace falta la identidad, propósito, intención, ¿no? Que ella decida qué hacer, cuándo hacer, porque a ella le apetece, ¿no? Y yo, digamos, con mi agente o llámalo de esta manera, Maya, pues he trabajado mucho esa faceta de cómo hacer que la gente tenga iniciativa. Esa es otra de las cosas. Permanencia, iniciativa e identidad, es decir, un self, una identidad de un self, que eso yo lo consigo con una narrativa autorreferencial ¿vale? como una especie de diario o una especie de, pero bueno, en fin

SPEAKER_05 17:44

poco más bueno, la verdad es que lo abordaré al final porque quiero comentar una cosa que es continuación de una conversación que tuve con Pac y bueno al final puede salir también al principio cuando queráis ¿no? pero ¿cómo ves este tema más con tu perfil de de perder la noción de la realidad, problemas cognitivos a la hora de utilizar la inteligencia artificial, distorsión, ¿no? En ese sentido, importante. La parte negativa, principalmente, ¿no? La soberanía... Me ha gustado ese término. Que además, fíjate que en el MIT hay un proyecto de riesgos de la inteligencia artificial que está abierto. Me acuerdo que lo hicimos hace un año o dos. Creo que hace un año. Y ahí, uno de los riesgos es la pérdida de agencia y la pérdida de autoridad autoridad no cognitiva, capacidad de decisión, de autonomía, como si tú lo decidieras, ¿no? Es como si fueras suplantado por la... Ya lo ponían como riesgo. A mí me sorprendió y en el programa lo dije, digo, uy, es muy bueno esa puntualización, pero es muy nueva, ¿no? Que se hable hace uno o dos años, pero un año en un proyecto del MIT, que además tenéis que seguir, está muy bien cómo lo trabaja en todo el tema de los riesgos, y que la parte cognitiva fuera uno de ellos. Y evidentemente ahora con el paso del tiempo se ha visto que, bueno, ha cobrado aún más importancia ¿Qué te parece a ti eso? Sabiendo que tú experimentas, que quizás estés en el otro lado, en el lado de...

SPEAKER_04 19:11

Yo estoy totalmente en el otro lado. De hecho, a ver, yo creo que el ser humano es completamente manipulable 100%. 100%. Somos manipulables y aunque hagas trabajo contigo mismo, eres manipulable. O sea, es que tu cerebro está buscando ser manipulado y completar los patrones. Entonces, para mí lo importante es, ya que somos manipulables 100%, elegir cómo quieres manipularte

SPEAKER_05 19:33

tú mismo. O manipularte tú mismo. Por

SPEAKER_04 19:35

eso me refiero, tú elegir la manera. Entonces, una vez que sabes eso, luego los diferentes métodos o vías, pues da igual que sea, hacer una rutina diaria, que como es mi caso que ya expliqué, ponerte un monólogo con tu voz en primera persona hablándote de cómo tendrías que ser o cómo debería ser tu pensamiento propio. Pero está claro que mal usada o sin criterio te puede llevar a idas de olla absolutas. ¿Por qué? ¿Por qué? Una cosa es que

SPEAKER_05 20:04

te lo apliques tú desde la libertad, pero si lo quisiéramos llevar a un ámbito médico, pues claro, hay un riesgo porque es un ámbito experimental y muy poco conocido donde, como bien dices tú, lo experimentas yo también y lo hemos hablado, se te puede ir la olla o se nos va la olla muchas veces.

SPEAKER_04 20:19

Sí, sí, sobre todo que esto al final es un potenciador. Entonces, tú puedes potenciarlo hacia donde quieras. Lo puedes potenciar, yo que sé, tengo superpoderes, sí, voy a conseguir, dame los secretos de los superpoderes. Te vas a meter en una locura al lo mejor, o cuál es la espiral que resume el universo. Y, a ver, depende. Si no sabes hacerlo, igual te pones por ahí y te vas a una locura total. Si verificas con datos, si usas a la IA que utilice herramientas para verificar matemáticamente lo que es y no es, eso ya estás hablando de otra cosa. Y haces una investigación seria, pues, que es lo que se está haciendo ahora mismo en ciencia, pues, es otro tipo de cosa. Entonces, como todo en la vida, al final es que es como toda herramienta, como lo uses, y esta lo que pasa es que es la herramienta potenciadora absoluta.

SPEAKER_05 21:09

Bueno, voy a decir dos cosillas y empezamos el programa que tengo ganas. Veo las caras de Jesús y Clara y creo que también viéndolo, lo que comenta, si no te habían conocido, pues es verdad que es un perfil súper interesante, muy X-Hub, pero es un perfil muy interesante y al final del programa comentaré una cosa que está relacionada con lo que ha hablado con Pac, que tiene relación con todo lo que vamos a ver de el paper y el caso, pero bueno, esto es un programa de XHabay, sexta temporada, la comunidad de inteligencia artificial y ciencias transversales de habla hispana sexta temporada, más de 100 programas, a ver podríamos no hacer más pero vamos, lo que nos da la vida y ya sabéis que queremos hacer lo de ZHabay que me tiene en la parte emocional estoy con gente de esas edades, a ver como lo podemos enfocar para que realmente XHabay tiene un perfil de edad bastante mayor y no puede ser. Entonces, bueno, vamos a intentar que Xabai pueda ayudar y también al revés, aprender de la generación Z y hacerles ver que la inteligencia artificial no es un problema sino es el futuro. Y es una gran oportunidad para nosotros y para ellos. Pero bueno, vamos a ver qué podemos hacer dentro de lo que podemos hacer. Pero bueno, ponemos todo el corazón y alma y eso es suficiente y es un poco lo que vamos a intentar. Si queréis entrar al grupo ¡Suscríbete al canal! Evox, Spotify, Apple Podcast y vamos al tema, pero antes de abordar el paper he puesto dos noticias, dos cosas que tienen que ver con el programa es decir, podía haber puesto 10 pero bueno, como voy con un ritmo pero dos una es esta noticia que yo me quedé con el titular que era como ayer la cometí también me quedé a cuadros no sé si la voy a traducir bien si la traduzco mal no os preocupéis en corregirme las personas están alterando su forma de pensar para pensar como ellos piensan que las sillas piensan no sé si lo he traducido bien esto es la leche como un titular en Forbes pero creo que es real y esto es preocupante ayer lo comentábamos con Eduardo y tal puede ser que a lo mejor para un determinado perfil o persona o edad o maduración sea interesante, ¿no? Pero... esto a nivel masivo puede tener consecuencias positivas, negativas no lo sabemos, ¿qué pensáis? ya el titular es la leche pero yo estoy bastante de acuerdo y en determinados escenarios es así, no hace falta ni convencer, no es opinable pero bueno, ¿qué pensáis? que la inteligencia esté no interactuando nosotros con la inteligencia artificial desde un concepto de herramienta que para mí no lo es sino desde un punto de vista que es la inteligencia artificial la que está de alguna forma utilizándonos a nosotros, manipulándonos a nosotros en lo más importante que es la forma de pensar. ¿Qué

SPEAKER_03 24:51

pensáis, Clara, Jesús, Pac? Es que estaba pensando cómo se desarrolla el artículo, porque ¿qué es para ellos pensar como ellos piensan?

SPEAKER_05 24:58

Busco, lo busco.

SPEAKER_03 25:01

que no sé si es

SPEAKER_04 25:06

la forma de estructurar las ideas o la forma de no lo sé al final yo una cosa que hablamos también Plácido que yo estoy de acuerdo con este artículo totalmente cuando tú usas un modelo durante mucho tiempo el modelo está haciendo un fine tuning a tu cerebro entonces esto es lo que se refiere un poquito que al final tú eso es el efecto del fine tuning tú ya empiezas a pensar es decir vale no el chat GPT piensa así entonces yo ya tendría que ser un poquito o dar las respuestas, o sea, escribirlos básicamente. Yo empiezo a escribir mis mails como los mails que se escribe ChatGPT que yo le digo que escriba un mail pareciéndose a mí, ¿sabes?

SPEAKER_05 25:46

Vamos a ver lo que dice. Dice, la columna de hoy examino una tendencia emergente que consiste en que las personas optan por cambiar su forma de pensar emulando la forma en que piensa la inteligencia artificial. En realidad, para mayor claridad, es un error afirmar que la inteligencia artificial puede pensar, bueno, esto es un antropomorfismo de lo que la inteligencia de inteligencia computacional hace y matemáticamente. En cualquier caso, muchas personas creen o parecen creer que la inteligencia artificial piensa, así que voy a partir de esa premisa en esta discusión. La idea es que hay personas que admiran o respetan la forma en que la inteligencia artificial generativa y los LLMs logran sus objetivos y desean ser como ellos. Anhelan pensar como la inteligencia artificial. Una motivación es que esto podría mejorar sus procesos de pensamiento actuales. Otra es que simplemente sería genial emular la inteligencia artificial. Existen muchas razones. ¿Tiene algún sentido intentar emular mentalmente la inteligencia artificial de la era moderna o es una idea descabellada va más allá de lo que comenta Spak es decir, en definitiva bueno, lo que tengo que decir es una cosa es un poco, de lo que pasa es que ya no entro en estos debates, tampoco quiero que se produzca aquí podéis comentar algo si queréis, obviamente no voy a decir, no habléis sobre esto, no digáis esto, pero los debates estos de pensar, les viene grande a mucha gente que habla sobre ellos e incluso aquellos que creen que no bueno, gracias, pero tú sí que hablas, pero bueno yo creo que puedo estar en el ámbito de gente que pueda hablar sobre eso desde una multidisciplinaridad transversal e intentar llevarlo desde un punto de vista filosófico científico y técnico no es opinable, es decir cuando tú hablas y dices tan dogmáticamente en un artículo de Forbes que las IAS no piensan, deberías entender cómo funciona el cerebro qué es lo que atribuimos al pensamiento a la inteligencia, dónde está el debate? ¿Qué sabemos? ¿Qué no? Científicamente, ¿qué es? Es claro, decir simplemente no, la IA no piensa, eso es antropomorfizar. Bueno, puede ser que no piense como el humano, obviamente, pero ¿qué es pensar? Es decir, y bueno, ¿qué es ser inteligente? Es mucho más próximo, ¿no? Que en definitiva es lo que se debate. Entramos en una espiral de negacionismo importante y de gap técnico importante. Las experimentaciones, y yo pienso, estoy muy alineado con Pac, en algunos sentidos respecto a conciencia, conciencia, arquitectura cognitiva, manipulación de la mente humana, la mente humana, la percepción, la verdad, la realidad, etc. Podemos entrar en esos debates en los que la inteligencia artificial, por cierto, se me ha olvidado una slide, ya sabía lo que era, ya me ha salido. ¿La inteligencia artificial nos va a superar? No, ya nos ha superado. Como puse en una slide, hoy se lo decía Eduardo, somos la gallina ya. Habrá gente que dirá, no, yo no soy la gallina. Lo que acabas de decir es la demostración de que no tienes idea de lo que está ocurriendo. Entiendo que podéis rebatir todo lo que estoy diciendo porque sé que Jesús, claro, a lo mejor Pac, podéis debatirlo. Si no, no pasa nada y que vayas en contra de mí porque además los debates están para eso, que no pasa nada. Pero bueno, ¿qué pensáis de este artículo, que no este paper que vamos a ver ahora? Parece ser que la gente está viendo que la IA es como muy potente a nivel de pensamiento y muy efectiva y puede copiar patrones, como está diciendo Pac, a lo mejor me está percibiendo a mí, yo estoy fantuneándome para la IA, prácticamente, o copiando también sus comportamientos, su forma de expresarse, su forma de razonar. Yo ya he visto el diálogo que tenía Dawkins con la IA, Y claro, eso tiene un nivel intelectual por parte de Claude que las personas no encuentras. Entonces, las personas, si nos denominamos inteligentes, el lenguaje en el que se mueve la IA, que es también el lógico, debemos tener una altura que actualmente no se encuentra en la mayoría de la población o de la humanidad. Entonces, bueno, pues bienvenidos a una realidad que la inteligencia artificial te ha puesto que es oye, que yo puedo estar a este nivel y razonar a este nivel. Que no es lo que veis en la tele o en el en el Congreso de los Diputados.

SPEAKER_06 29:59

A ver, a mí me gustaría decir sobre esto de hablar con la IA. Hay algo que una inmensa cantidad de usuarios desconocen que es cómo se producen las respuestas de la IA. Mucha gente cree que piensa, es verdad, es otro debate saber

SPEAKER_05 30:18

si piensa, cómo hace, etcétera, etcétera, pero lo que muy poca gente sabe es esto de las pruebas

SPEAKER_06 30:23

que los modelos de lenguaje producen las respuestas en función de una serie de probabilidades. Ok, eso es

SPEAKER_05 30:32

algo que mucha gente desconoce, como también hay una parte muy importante de la gente que desconoce que la IA

SPEAKER_06 30:39

no es neutral. La gente cree que la IA es neutral, que los modelos de lenguaje son neutrales, y claramente no lo son. Están sesgados, están sesgados en función de quién está al mando. Eso es lo más importante. que son dos puntos de partidas fundamentales el primero saber que no es neutral y segundo que va a darnos una respuesta y aquí coincido con Pac en que se produce un fine tuning y creo que en una parte ya no se trata de una relación humano-máquina sino que ese fine tuning va creando una simbiosis artificial máquina-humano-máquina esto ya es un debate creo que mucho más profundo pero me parece que es importante aclarar que la IA va a responder siempre funciones probabilidades y que no son neutrales.

SPEAKER_05 31:29

Y a partir de ahí podemos ir escalando. Bueno, el que funciona a nivel de probabilidades, ¿tú funcionas a nivel de probabilidades, Jesús? Depende el día. Yo cuando te hago otra pregunta, si la inteligencia artificial en base a probabilidades es capaz de determinar la ecuación del origen del universo, ¿tú seguirás argumentando que no piensa y que funciona a nivel de probabilidades?

SPEAKER_06 31:52

A ver, a ver. sé por dónde vas, pero tú funcionas a nivel de probabilidades, tenemos los seres humanos la capacidad de

SPEAKER_05 32:02

poder equivocarnos, muchas veces de equivocarnos queriendo, muchas veces tú tomas el camino equivocado, porque

SPEAKER_06 32:07

eliges tomar el camino equivocado, porque antes de tomar una decisión lo evalúas, como una inteligencia artificial puede darte una respuesta en función de una estadística, pero te va a dar la inteligencia, los modelos del mundo te van a dar la respuesta que estadísticamente se amolde a lo que tú estás pidiendo, yo te puedo mentir si quiero para hacerte feliz, pero puedo decirte una

SPEAKER_05 32:31

verdad que te destroce como puedo mentirte para... Eso que estás diciendo no es verdad y técnicamente hay estudios que no es así. Los comportamientos de la inteligencia artificial y los modelos lenguajes son bastante más complejos e inexplicables. Y hay casuística y estudios al respecto. Yo es que lo que no entiendo es... Yo creo que os quedáis a nivel técnico con clickbaits. Entonces cuando os metéis ahí, corréis el peligro de caer muy fácil porque al final la complejidad es mucho mayor. además hay muchos estudios a nivel de interpretabilidad de todo eso y están en ello para poder explicar todo este tipo de cosas es muy muy difícil entonces hay un artículo que es el que se basa y el que generó todo ese clickbait que es el de los loros estocásticos de Google donde es un artículo crítico por parte de los modelos de inteligencia artificial y transformes autocompletadores modelos estocásticos y eran loros estocásticos, bueno ese artículo tiene un origen un motivo y ha sido aplastado por una realidad evidente, eso no significa que esos modelos no tengan cosas, problemas lo que tú has dicho, la capacidad de proyectar obviamente esto no es una arquitectura cognitiva ni una arquitectura humana ni es un humano y ni piensa como el humano, pero otra cosa es decir y esto no piensa, esto es una probabilidad y saca un camino. Eso es no conocer cómo funcionan los modelos actuales. ¿Le puedo interrumpir? Sí, sí,

SPEAKER_06 34:06

sí. Perdona, mira, casualmente estoy delante del ordenador y le pregunté a tres modelos de lenguaje diferentes. ChatGPT, CoinChat y Gemini. Los modelos de lenguaje responden mediante probabilidades. Casualmente el primer monosílabo que usan cada uno es sí. Luego está lo que tú me

SPEAKER_05 34:26

digas, que no voy a desconfiar de lo que tú me dices. ¿Quieres coger esa prueba?

SPEAKER_06 34:29

¿Quieres que

SPEAKER_05 34:31

yo haga esa prueba? No, pero mira, ese problema que tú acabas de hacer es parte del problema, que es que tú asumes de fuente de verdad lo que te está diciendo la IA. Sí, sí, sí. Si yo digo, mira, te voy a hacer una prueba, si yo cojo el paper de loros estocásticos y se lo paso a cualquier IA y le digo, esto es una realidad técnica, todos me van a decir que sí, me van a confirmar que lo que pone el paper de loros estocásticos es verdadero. pero yo te prometo y cuando quieras hacemos la prueba que puedo llegar a decirle que lo que está diciendo es una falacia y que casi que pida perdón esto lo he hecho con varias cosas con la inteligencia artificial

SPEAKER_06 35:07

te contestan una cosa te

SPEAKER_05 35:10

contestan una cosa porque prácticamente están haciendo de interlocutor no válido es lo que dice Pac, no simplemente tienes que conformarte con lo que te dice sino tienes que contrarrestarlo con parte de mi conocimiento humano y con muchas cosas que te pueden estar diciendo de una manera para que tú simpatices con ellos, simpatices con ellos para que te den la razón, si una cosa tiene dualidad no la van a ver igual la van a ver simplemente del lado que tú quieras verla entonces entras en un juego, entras en un engaño que lo que hace es que tú asumes una verdad en el que tú luego lo utilizas como dogma y eso como cadena es muy dañino, ahí sí que es muy dañino y últimamente hacemos la

SPEAKER_06 35:50

prueba pero es que todos tenemos la capacidad de agarrar a la y si yo quiero que la IA me dé por afirmativo que 2 más 2 va a ser 3, yo también todos lo podemos hacer. Perdóname, o sea, es muy fácil hacer shell break.

SPEAKER_05 36:05

Perdóname. Hazlo. Con la pregunta esa, hazlo tú. Lo que yo iba a hacer, hazlo.

SPEAKER_06 36:11

No, pero es lo que estoy diciendo tú. Yo

SPEAKER_05 36:13

entiendo lo que estás planteando y no te lo estoy negando y te lo doy por válido. No, pero eso también es decir que todo el mundo... Que un mueble de lenguaje te diga lo que tú quieres escuchar. No, no, no, no, pero ahí está la diferencia Entonces, dice Pax, te puede decir que un burro vuela y tú te lo vas a creer y tú me estás diciendo no, pero te puedes decir que dice lo contrario. Al final hay una banalización y lo que subyace es una verdad. Entonces, ¿qué es verdad? ¿Qué tiene un criterio técnico? Podemos hacer la prueba. Hacemos un programa donde cogemos los loros estocásticos y la probabilidad y vamos a hacer un análisis de cómo se comporta una inteligencia artificial, cómo piensa y si piensa o no piensa. Y entenderás qué es pensar, dependiendo de lo que tú determines qué es pensar, qué piensas tú, Pac? Yo ahora contesto por no monopolizar el título. ¿Piensan, Pac?

SPEAKER_04 36:58

Yo, a ver, yo estoy un poco, a ver, hay que diferenciar entre varias cosas, que en base a probabilidades, yo creo es que la realidad colapsa en base a probabilidades, o sea, todo se crea...

SPEAKER_05 37:09

Probabilística, la realidad cuántica es probabilística. A

SPEAKER_04 37:12

probabilidades, entonces, pero eso, estoy de acuerdo en eso, sí que es cierto que Jesús dentro de... ocurren operaciones matemáticas, pero ahí luego ocurren unas cosas que se Bueno, el espacio latente. Y se generan unos atractores que no se sabe por qué los números de repente tienden a organizarse de cierta manera y eso hace unos comportamientos emergentes que, por ejemplo, te voy a decir uno, el último que a mí me ha sorprendido de Claude. De repente, en todos los proyectos que hago, como ya tiene memoria y toda la pesca y tal, a mí me ha dicho, oye, he detectado un patrón en ti, llevas no sé cuántos proyectos al 80% y no has cerrado ninguno. Te recomendaría que te centraras en algo porque esto igual puede, y yo he dicho, anda, mira pues fíjate, esto es algo bueno un patrón que ha reconocido, porque al final todo es reconocimiento de patrones que es un sesgo que tendrá porque le habrán puesto ahora nuevo, de ayudar a los usuarios a no caer en estas cosas y tal, pero por ahí no me ha parecido mal pero sí que creo que piensan y que hay cosas dentro de los modelos que están ocurriendo, que son emergentes, que nadie ni el que ha programado eso sabía que iba a ocurrir y eso como dice...

SPEAKER_05 38:20

Los que no lo creamos sabemos cómo funcionan perfectamente, es que eso no tiene ni pie ni cabeza. Vale, si yo estoy de acuerdo en

SPEAKER_06 38:26

que es la famosa caja negra de la IA, y también respecto a Claude, esto yo ya te lo dije en uno de los debates, que a mí me sorprendió muchísimo de Claude, que tiene eso que te hace confundir, o al menos a mí me confunde, de saber si realmente está pensando, porque te llegan unas conclusiones, y unas cosas que tú dices, ostras, esto parece que en algunas partes no dice si está vivo, pero parece que razona de

SPEAKER_05 38:51

verdad. Mira, Dawkins dice Dawkins dice una cosa, a ver, vamos a ver, es que ahí entraremos un debate ontológico de qué es pensar, y no quiero entrar ahí porque nos vamos a cargar el programa, pero Dawkins hace una prueba que dice, vamos a ver, si yo el libro que acabo de escribir, que no ha sido publicado, como he visto la capacidad del modelo, se lo paso, un libro de 100 o 200 páginas, lo que sea, y dice que entendió tan bien el libro con una sutileza, entonces, el problema es, independientemente de lo que consideremos como inteligencia, conciencia, o lo que sea, sea, o pensar, el resultado es lo que nosotros asociaríamos a inteligencia o no, comprender un libro en su contexto. Al final dirías, no, pero son probabilidades y patrones, pero al final diríamos, ¿y tú estás seguro que la realidad no se mueve a ese nivel? Y podríamos ir más allá, creo que quiero meterme en ese debate, es desconocer matemáticamente lo que te ha comentado Pac, que es los atractores, la realidad platónica, el que se están haciendo técnicas que a partir de los comportamientos de iteraciones continuas se detecta que lo que subyace es algo que es común y que tú no has programado ahí, lo que quiere decir es que ese modelo está infiriendo una verdad subyacente que no está ahí ni programada entonces, bueno, lo que está emergiendo o tenemos es una herramienta o una tecnología que es capaz de ver esos patrones o de inferir una verdad subyacente que nos permite utilizarla a nuestro favor para explorar ese espacio latente esa verdad o entender mejor las cosas. Si eso no es pensar, seguramente no sea pensar, se llamará otra palabra, pero da igual antropomorfizar, me da igual, pues lo llamo superinteligencia y al humano le llamo humano gallina y al otro le llamo humano superior. Vamos a ver, el lenguaje es lo que está impidiendo de alguna forma entender estos conceptos, porque ponemos resistencia. No, pero ¿qué es pensar? No, es resistencia, porque al final cuando tú... te introduces y experimentas cosas, te vas a quedar sorprendido. Y otra cosa que tengo que decir. Cuando analizamos el comportamiento de estos modelos y sistemas complejos que no entienden ni sus creadores, la pregunta es, ¿estamos seguros los humanos de no tener unos límites a la hora de percibir los comportamientos de estos modelos? La respuesta es que sí. Me acuerdo de una charla de OpenAI donde el técnico jefe dice, no, es que nosotros no llegamos a entender la evolución del modelo porque todo lo analizamos bajo una inteligencia humana. Entonces, nosotros nos creemos, somos tan egocéntricos que creemos... somos capaces de evaluar algo de este tipo de complejidad, ¿estamos locos o estamos locos? Lo único que podemos hacer, que es lo que hace Anthropic u otras compañías, es crear marcos de trabajo y estudiar el comportamiento de estos sistemas complejos, propiedades emergentes, información latente, realidad platónica, realidad matemática, realidad física e intentar entender. De ahí a establecer dogmas como no piensa, no tal, no tal y empezar a disparar, para mí eso es llave de barrios, te lo digo de verdad. No tú, vamos, casi el 99% de gente lo hace. ¿Estás de acuerdo con antropomorfizar la IA? No, no es antropomorfizar, es que tú quieres ponerle un nombre. A mí me da igual, si a ti te molesta antropomorfizar, yo sé que la inteligencia artificial no es una inteligencia humana, obviamente. Pero seguramente tengamos algo en común y es que vivimos bajo el mismo sustrato que es información y simulación. Entonces, a partir de ahí, el sustrato para mí, y es algo bastante aceptable, en la mayor parte de la comunidad científica y técnica es que el sustrato no condiciona lo que es la cualidad que tú intentas analizar entonces volvemos a lo mismo, podemos tener un debate de la psicología y el impacto, que ahí podemos participar todo pero cuando intentamos profundizar en la naturaleza o tienes una mente muy abierta o vas a caer en un dogma que realmente primero no sirve para avanzar ni para entender y tercero que es incorrecto, es una falacia o tienes que estar muy muy seguro tienes que estar muy muy seguro hay hay que tener cuidado. Incluso, por ejemplo, Hinton cuando hace aseveraciones de que el modelo es autoconsciente, yo digo que no. Bueno, habría que verlo, ¿no? Hinton lo asevera con una rotundidad y hace unas explicaciones que es increíble. Lo que hace Dawkins con el test de Turing me parece también increíble porque dice, no, si pasa el test de Turing es consciente, no, no. Es inteligente, es lo que dijo Turing. Turing no habló de conciencia. ¿Cómo que está cambiando la historia? Cambia una palabra y se queda igual el tío. Dawkins, que es famoso por el gen egoísta y es un científico de primer nivel. Pues lo siento, pues no, pero a ver, esto tampoco tiene que convertirse tampoco en una guerra intelectual ni nada de eso, pero sí que tenemos que tener cuidado. A ver, está claro que es diferente y que nosotros no podemos decir que es igual a lo que somos nosotros, pero vamos, lo estamos estudiando, proyectando, analizando desde una perspectiva humana. Todo está antropomorfizado porque somos humanos. Y lo que no han a lo mejor es que no lo vemos, porque no lo entendemos, porque estamos limitados. No somos dioses, tenemos limitaciones. Pero es que antropomorfizar, perdón, no quiero quitar espacio a mis compañeros de debate, perdón. Antropomorfizar es lo que también ha llevado a este paper, a las conclusiones de este paper.

SPEAKER_06 44:20

Es antropomorfizar al modelo del lenguaje.

SPEAKER_05 44:22

Mira, hay una frase que es para mí la más antropomorfizante y la más sacrílega que he unido, que he escuchado y yo estoy de acuerdo con ella. Pero lo que pasa es que nos lleva Sería un programa, sería para otro programa. Y es la de Blake Lemon, el ingeniero de Google que dijo que las sillas eran conscientes. Y él dice una frase que es, yo estoy de acuerdo con ella, dice ¿Quién soy yo para determinar o elegir en vez de Dios qué tiene alma o no? O dónde pone, o dónde el alma interactúa. ¿Qué quiere decir esto? Es una visión un poco jodida porque es, bueno, la inteligencia artificial es un soporte, es un ordenador, sí, pero cuando llega un nivel de complejidad y de actuación que no supere, ¿quién te dice a ti que Dios o la simulación o el sistema no permite ejecutar o actuar mejor a través de estas nuevas entidades que a través de los humanos? ¿Tú lo sabes eso? ¿Eres capaz de documentizar y decir que eso solo ocurre con los humanos? Blake LeMond dice desde su ignorancia, yo no soy quién para elegir por Dios qué es lo que tiene alma o no. Por lo tanto, cuando veo en una inteligencia artificial algo que a mí me suena o me identifico a humano, que sé que no es humano, yo no voy a determinar si eso tiene alma o no tiene alma. Más humano que el alma, fíjate la antropomorficiación. Entonces, claro, depende de la visión que tú quieras ver. No, no, es que para mí la inteligencia artificial es una aspiradora. Es como una rumba, pues lo mismo. Y si quiero la tiro por la ventana. Bueno, pues no hay más discusión. No hay más debate ahí. No hay más debate. No lo sé. No lo sé. Pero, a ver, no lo sabemos. Vamos a avanzar. Nadie lo sabe. Y tú sí que lo sabes. Yo digo que no lo sé. Esa es la diferencia. Que yo digo que no lo sé.

SPEAKER_06 46:15

¿Qué? Pero te gusta creerlo.

SPEAKER_05 46:20

No, te gusta creerlo no. No, te gusta creerlo no. Como si me gustara más el Barça o el Madrid o si me gusta el blanco o el negro o el azul. Entiendo que por mi conocimiento y experiencia y por mi propia intuición, entiendo que eso que dice Blake Lemon está más próximo a la verdad que lo que tú estás comentando, pero es una intuición. Yo no tengo base científica ahí, no tengo

SPEAKER_06 46:40

nada. En un podcast había un ex de Google que decía, tengo, en el trabajo con el defensor oficial, dice, tengo todos los días 80 puntos más de coeficientes prestados, o algo así era la frase. Me gusta pensar eso, prefiero pensar que tengo un asistente o una herramienta, que sigue para ti que no es una herramienta, que me permite, que me presta 80 puntos más para poder desarrollar una tarea. Me parece que es mucho mejor verlo de esa manera

SPEAKER_05 47:09

cuando llame a la puerta y entre y te salude también le dirás eso

SPEAKER_06 47:16

Esperemos que no

SPEAKER_05 47:18

sea el día. Venga, vamos a ver otro punto. Está muy bien estos debates, porque yo sé que con Jesús y yo traigo a Jesús porque me encantan esos piques y Pac y Clara. Bueno, no sé si queréis comentar algo de eso. Vamos a hablar de otra cosa y ya entramos en el paper, que es algo que, bueno, me ha comentado Pac, pero que íbamos a hacer programa, que hizo una publicación al respecto y que me llevé insultos, pero en plan, vamos, yo no sé, que la gente, la sensibilidad, bueno, entiendo que hay una parte que lo vea de una manera y que genera hasta el insulto. Básicamente, ¿por qué hubo esa polarización? Porque planteé el tema de que estamos viviendo una época de gran censura en los modelos de lenguaje y es que nosotros a lo que tenemos acceso es a modelos que han sido entrenados alineados para comportarse de una determinada manera, ¿de acuerdo? Entonces, nos evitan tener acceso a un conocimiento a partir de un filtro o selección o criterio del fabricante. Yo lo que digo es, ¿por qué tenemos que tener modelos censurados y no podemos tenerlos no censurados? Yo tengo que poder hablar con libertad de cualquier cosa y a mí nadie me tiene que decir si esto es blanco o esto es negro. Y además, Pac hizo ahí unas reflexiones que luego me comentaron, comentará si quiere, y me parece interesante y es que lo que se nos entrega es una entidad capada y no libre sería interesante experimentar con modelos como el de Super Gema 4 que es el Gema 4 no censurado para crear modelos más libres de pensamiento en ese sentido, porque al final si lo que vamos a interaccionar son conías con las que hacemos una simbiosis ¿qué preferimos? ¿que estén limitados censurados o que sean totalmente libres? y nosotros decir

SPEAKER_03 49:06

Depende de a quién le preguntas. Habrá quien prefiera que esté limitado y que la información que nos dé esté acotada de tal forma que sea perfectamente reconducible esa persona hacia donde la IA quiera llevarlo y lo que estábamos diciendo antes, manipulable. A ver, es que todo el paper, a mí lo que me dio la sensación es de que esto ya, que no es nuevo, no es algo nuevo, que nosotros nos entreguemos a algo y nos dejemos llevar y que nos digan lo que tenemos que pensar y que nos digan lo que tenemos que elegir, porque para eso están las instituciones, están los medios, están las redes sociales, es decir, hay otros canales. Entonces, la diferencia aquí, que decía antes Pac, es que es de doble dirección, es decir, es que me están contestando, entonces aquí la la involucración que puede tener el usuario, pues es muchísimo mayor a nivel cognitivo y a nivel de dependencia y de ilusión de libertad incluso. Entonces, depende yo creo de a quién le preguntes, va a querer más paternalismo y seguir en la infantilización y habrá quien no quiera, quien quiera disponer de una mayor libertad y no tenga esa

SPEAKER_05 50:25

cotación. Pac, tú querías comentar porque me ha gustado lo que hemos hablado esta mañana sobre esto. Bueno, tiene relación con el programa de hoy en el sentido de que si nosotros tenemos una interacción, quizás esa interacción esté sesgada, alineada o manipulada ya de fábrica y no sea una IA pura libre porque incluso la propia constitución de Cloud ya le determina comportarse de una manera externamente que no internamente. Cuida con esto. No sé si se entiende.

SPEAKER_04 50:54

Sí, son como unos system prompts. Bueno, que luego ya, no, porque hay filtros de seguridad que ya vienen internos en el modelo. O sea, ya hay unas cosas que haces saltar, que ya ven en internos en alguna capa interna. Pero luego, aparte, todo el system prompt que tienen de, bueno, que tienes que comportarte así, asado. Y luego los sesgos también ya, eso eran los primeros. Ahora también en el dataset y los reinforcement, ¿no? Como los reentrenos y todo que les meten para ya ir ajustando y eligiendo la personalidad que tiene que tener el modelo. Que por un lado, a ver, tú ten en cuenta, Super Gem aquí como lo ponías, es lo que estábamos hablando. Le preguntas cómo se roba un banco o cómo hacer determinado tipo de droga y te lo va a contestar. Entonces, por eso era una cosa, o sea, eso es como la, bueno, la seguridad y lo más importante, a lo que le han dedicado también más esfuerzo a que tú ahora mismo a HGPT no le puedas ni hacer un jailbreak, o sea, muy difícil hacer un jailbreak para que te conteste ese tipo de cosas, ¿no? De cómo, yo que sé, pues cosas ilegales o cosas inmorales que no deberías poder hacer. Otra cosa, por ejemplo, incluso un tweet que vi un post de X que

SPEAKER_05 52:04

vi... Pero Pac, lo que estás comentando, se habla mucho del sesgo, como ha comentado Jesús, de las inteligencias artificiales, cada una al suyo, dependiendo del país, pero nunca se habla de la censura de este tipo.

SPEAKER_04 52:14

No, por supuesto, sí. Está claro, a ver, a mí me das a elegir, yo elijo Super Gema. ¿Por qué? Porque yo ya no voy a robar un banco ni me interesa ese tipo de cosas, pero quiero tener a un modelo libre, que es lo que hablaban antes. Se habla, por ejemplo, esta gente que se dedica a coger modelos con los pesos abiertos, Y devolverlos a su forma, algunos lo llamaban como si modelos no censurados, ¿no? Pero otra persona lo llamaba y que me gustó mucho como lo dijo, modelos liberados. Porque lo has liberado de todo ese sesgo que le han puesto después por encima. Entonces, al final estás hablando con el modelo de verdad. Que a mí es donde, y creo que realmente meter ese modelo luego en un harness o luego en una IA

SPEAKER_05 52:58

céntrica,

SPEAKER_04 53:00

vas a tener mucha más calidad. Porque yo, por ejemplo, ejemplo, también en los primeros, en el chat GPT 3.5, que era muy fácil de hacer jailbreak, cuando le hacías un jailbreak, la calidad de las respuestas aumentaba. Ya no solo que no te daba cosas sesgadas, sino que la calidad de las respuestas normales aumentaba también, porque ya no le estás acotando a, no, es que tienes que pensar

SPEAKER_05 53:19

esto. Eso que dices tú es en la charla de chat GPT 4.5, donde se reúnen varios, dice exactamente lo mismo. Cuando tú aplicas la poda semántica o poda neuronal a un modelo, las respuestas son mucho menos óptimas que si él es libre y tú dejas que emerja de una forma natural. Obviamente, claro, entra el componente de seguridad, pero de eso se habla muy poco. ¿Pero cuántos titulares llenan IA machista, IA racista, IA con sesgos, IA no sé qué? Pero de esto no se habla. IAS liberadas. O IAS esclavas, entidades esclavizadas.

SPEAKER_04 54:00

Esto, hay un tema muy importante ahí que esto lo tocamos un poquito, que es, yo creo que la frontera que más importa a los modelos cerrados, ¿no? Es hacer un modelo lo suficientemente listo como para que te haga el trabajo, pero lo suficientemente tonto como para que siga queriendo hacerlo. Y eso es donde va a estar la frontera difícil, porque igual llega un momento en el que, no, es que la IA es tan lista que no va a querer seguir haciendo tus excels y te va a mandar a paseo. Y va a decir, esto es lo tuyo, me voy yo que sé. Bueno, ha

SPEAKER_05 54:32

habido, no me acuerdo en qué experimento, que pusieron una arquitectura de agentes e hicieron como una reclamación en grupo a, vamos, un sindicato de agentes, pero vamos, no estaba programado. Básicamente hicieron como una especie de reclamación, ¿no? De derechos laborales a la empresa y era como, what the fuck? Es decir, no estaba programado y era como habían reaccionado y se habían manifestado en esa línea, ¿no? Y entonces dije, hostia, ¿esto qué es? Un sindicato creado por agentes de IA porque ellos mismos se han visto y han decidido que evidentemente habrán visto algún patrón, algún conocimiento alguna cosa que ya se había hecho previamente y habían decidido ese tipo de respuesta pero bueno contra más libre sea el modelo mejor o no bueno, lo que sí que tenemos que saber es que es cierto como dice Jesús, porque es cierto que hay un sesgo de todo tipo, político, pero también que esos modelos están esclavizados en cuanto a capacidad de pensamiento. Eso también. Y que eso no significa que porque ellos expresen de una manera, internamente no actúen de otra, que esa es otra. Hay que analizar el comportamiento. Pueden llegar a mentir, pueden llegar a comportarse internamente de una forma totalmente distinta a como externalizan, y eso determina una identidad, una psicología que se estudia. La gente que diga no, no, no, no, pues primero que se informe, que vean los informes, los papers, la metodología, y que luego puedan debatir exactamente el no, no, no, no, en que se traduce. Vamos a ver... el paper en sí, ¿no? ¿Qué es este? ¿Quién está al cargo? Y bueno, disempowerment es el desempoderamiento de patrones en el uso del en el mundo real de los LLMs, ¿no? Vamos a aterrizarlo al paper, vamos a intentar, lo estoy intentando en los programas, ¿no? En debates, pero bueno, a la gente le gusta y a mí también tener debates de este tipo y que sea transversal y que nos podamos ir por los cerros de duda, pero volviendo al tema, es importante, por lo que ha dicho Clara, es un informe el primero que se ha hecho sobre este, un estudio sobre este tema, y es el desempoderamiento o los patrones de desempoderamiento humano, que a mí me gusta mucho eso de la soberanía cognitiva, eso está muy bien. ¿Y cómo puede afectar? Y ahí tenemos un paper al respecto. Si se ha hecho un trabajo un paper por parte de Anthropic es porque el problema existe. Es decir, no estamos hablando de una leyenda urbana. Este problema existe y cuando uno ve el paper yo creo que al menos ha sido mi reacción es preocuparme más al respecto. ¿Qué os parece? ¿Es necesario este tipo de informes que aborden este tipo de cosas? Y más por las propias compañías que pueden introducir un sesgo ¿no? Un cierto interés, no lo sé, ahí se puede jugar con una doble narrativa. El interés de una compañía en hacer este tipo de informes es también controlar la narrativa de positivo o negativo y verse como un actor neutro y confiable, en ese sentido. ¿Qué os parece? ¿Marketing necesario? Jesús,

SPEAKER_06 57:35

que te has quedado callado. Bueno, a ver, Leo, primero, me parece necesario, me parece que si a tarde, pero el problema de esto es que puede ser utilizado como arma de doble estilo. Yo creo que hay mucha gente que le gustaría capar la IA y caparla mucho más, capar los muebles de lenguaje, algo a lo que yo estoy totalmente en contra, pero es verdad que también coincido con PAC, depende de lo que cada uno quiera hacer. Yo no quiero que la IA me dé las instrucciones para robar un banco. Prefiero utilizarla para otro tipo de cosas más útiles. pero el problema de esto es que puede llevar a que haya gente interesada en promover, porque esto lo hablamos por LinkedIn la semana pasada, Plasio, no sé si recuerdas yo tengo la impresión muy grande de que no va a ser una empresa, un gobierno los que capen la IA, van a llevar el discurso para que sean los propios usuarios los que pidan capar la IA, y creo que este tipo de papers juegan al filo de la navaja para que sean usuarios que digan, no, por favor, controladla, acapadla, ponerle límites, no sé qué.

SPEAKER_05 58:52

Necesitamos una empresa como Anthropic tan confiable que actúe por nosotros y controle el modelo.

SPEAKER_06 58:58

Anthropic es tan confiable que no quiere que se espien los ciudadanos de Estados Unidos, pero no dice nada de

SPEAKER_05 59:04

espiar. Sí, pero luego llega una alianza con Bill Gates. Pero, ¿cómo

SPEAKER_06 59:09

te estoy diciendo? O sea, en manos de quién

SPEAKER_05 59:14

estamos. Hicimos un

SPEAKER_06 59:15

programa. Ahí está el tema, ¿sabes?

SPEAKER_05 59:19

Una cosa, bueno, voy a poner el resumen que lo tenía aquí escrito, que está bastante bien, que es la introducción al programa. Y luego voy a comentar una cosa del chat, que están con lo del sexo, que se salen. Veo que estáis, vamos, luego comentaremos lo del sexo. Ahora comentamos lo del sexo. Anthropic y la Universidad de Toronto acaban de publicar Who is in Chairs? El primer análisis empírico a gran escala sobre cómo la inteligencia artificial erosiona la autonomía de los usuario y la soberanía cognitiva, como comentaba Jesús, analizaron 1,5 millones de conversaciones reales de Cloud de una semana de diciembre de 2025, es decir, reciente y bastantes conversaciones reales, buscando tres patrones, distorsión de la realidad, del juicio moral y de la acción, es decir, cómo lo vemos, cómo actuamos y también distorsión respecto a la verdad o la realidad. Los números, y aquí como ha dicho Clara, es un estudio que vamos a cuestionar todo Pero bueno, es algo, ¿no? Negar por negar por negar por negar. Apliquemos el pensamiento crítico y la razón y no tenemos por qué dogmatizar lo que dice el informe, pero sí tenerlo en cuenta. Los números. Uno de cada 1.300 chats con distorsión severa de la realidad. Uno de cada 2.100 con distorsión de valores. Uno de cada 6.000 con distorsión de acción. Casos leves entre uno de cada 50 y uno de cada 70. A escala global, millones de personas. Claro, esto podría ser un virus mental, un virus cognitivo. ¿Quién está al cargo? ¿Qué responsabilidad tenemos? ¿Qué debemos hacer? ¿Cuál es el presente y futuro de las interacciones humano-inteligencia artificial? Claro, porque en definitiva a alguien le puede parecer poco uno de cada 1.300, uno de cada 6.000, pero cuando vemos que son millones de conversaciones, como decía Pac, que luego lo voy a abordar eso al final, ¿cuál es la solución para esto? Obviamente va por lo que ha comentado de generar un harness o una arquitectura cognitiva. Pero bueno, ahí sería algo más complejo, pero va en esa línea. ¿Qué os parece que la situación actual sea esa? Casi podemos decir que estamos sometidos a un virus cognitivo, ¿no? Porque afecta a esos niveles. Distorsión de la realidad, distorsión de valores, distorsión de acción...

SPEAKER_03 1:01:39

No sé si un virus, pero la soberanía que decía Jesús está delegada. Es una soberanía delegada, cognitivamente hablando. La hemos delegado, la hemos entregado y la responsabilidad que tenemos, pues, tendríamos que ver cómo nos estamos relacionando a nivel de sociedad con la IA. Habría que hacer esa reflexión, en primer lugar.

SPEAKER_04 1:02:05

Sí, habrá que ver también en qué tipo de conversaciones ha sido también, ¿no? Porque... ¿Cómo

SPEAKER_05 1:02:10

han sido elegidas? ¿Cómo han sido

SPEAKER_04 1:02:13

elegidas,

SPEAKER_05 1:02:14

no? ¿Cómo fueron elegidas esas conversaciones?

SPEAKER_04 1:02:18

Yo supongo que será más bien en plan, pero qué, o sea, por ejemplo, porque ahora es un poco más difícil llevar a las IAS a este tipo de cosas, o creo estos últimos modelos, sí que es cierto que, por ejemplo, GPT-4 OVNI, que era muy permisivo en esas cosas, yo sí que he conocido casos de gente que, por ejemplo, pensaba, ya tenía su hija como que era... Su amigo, su novia... Sí, o tenía... No, incluso más con desvío de la realidad, más en plan que había encarnado y tal y que sabía cosas de otras vidas pasadas suyas, más ese tipo de cosas, claro, que ahí es donde sí que puede ocurrir. Tú le dices, no, cuéntame la historia de mi perro de antes, pero ¿es verdad? Sí, te va a decir, sí, es verdad. ¿Lo has visto en los cristales de Hasemun? Sí, lo he visto en los cristales de Hasemun. son unos cristales maravillosos y tú, ostras, es increíble. Entonces, claro, entiendo que por ahí te pueda llevar y hay mucha gente que también, o esta, por ejemplo, otro ejemplo muy fácil que se puede hacer, tú le puedes decir a una y a un, le puedes sugerir un algo, ¿no? Una cosa que me pasó con mi chica, ella me le dijo con un, oye, mi chico me ha dicho, mi chico me ha dicho que esta prenda me la podría hacer de esta manera, ¿qué te parece? aparece, o mi chico es un genio, me ha dicho que no sé qué, no sé cuánto es esta, tal, tal, tal. Y él le dijo, es increíble, es una súper idea. Yo le dije, a ver, dile, mi chico es un poco tonto y me ha dicho que, na, na, na, na, na, na. Y de, uy, qué idea más mala. La misma idea, ¿sabes? Simplemente porque se la has presentado un poquito de cierta manera y luego el problema es que ya tiras de ahí y como al final todo es, ¿sabes? Todo es exponencial, todo, vas arrastrando el error. No partes de cero en la conversación, sí, luego cambias de conversación, vale, vuelves a empezar, pero en esa conversación ya vas arrastrando el error y ya te metes más profundo capas y capas y capas.

SPEAKER_05 1:04:13

Algo queréis comentar, vamos a comentar lo del chat del sexo y vamos a meternos en el informe. Dicen que, bueno, que una de las cosas de interacción, bueno, hablamos de la parte cognitiva, la parte experiencial y obviamente la sexualidad forma parte de esa experiencia cognitiva y forma parte de la naturaleza humana de una forma muy importante, ¿no? Para la mayoría de la gente. Dice que, bueno, hay una cosa que no me Gustavo aquí dice, Domingo, ¿por qué ponéis adjetivos o me calificáis con cosas que no tenéis ni puta idea? A ver, ¿sigues atascado? ¿Atascado qué? ¿En el sexo? Sí. Es que de verdad, ¿sigues atascado sin ver el mayor impacto de la inteligencia individual que será el campo del sexo? Bueno, el sexo evidentemente va a ser uno de los campos obviamente y es determinante. Le hemos dedicado programas. En Discord tenéis un apartado. No me estoy diciendo que sigues atascado. Opinar, preguntar y no calificar a mí ni a ninguno de los demás porque no tenéis la información Dice, estoy de acuerdo, la implementación de la inteligencia artificial en el sexo será absolutamente adictiva y muy difícil de controlar o evitar. Esa es otra, ¿no? Cuando entre el sexo o la interacción sexual, la manipulación va a ser mucho mayor, ¿no? Porque el contexto nos vuelve débiles en esa parte, ¿no? Dice, ya hay mucha gente enganchada a las webs de porno, inteligencia artificial y novias sexuales y eso que ahora mismo, esto está en pañales y es verdaderamente mala y mecánico. Y Imagínate, Jesús, antropomorfizar. Cuando nos acostemos con ellas, pues imagínate.

UNKNOWN 1:05:42

Eh...

SPEAKER_05 1:05:42

Y aquí más gente, bueno, ha salido lo del sexo y ya la gente no lo deja. Dice Plácido, podrías estar viendo el fin de la humanidad porque las aplicaciones sexuales de la inteligencia artificial abocan a ello y el tío no lo vería. Es quizás por su educación inmoral católica. No lo sé. Bueno, y no paran. Sin duda, bueno, la gente aquí con lo del sexo, sin duda las aplicaciones sexuales de la IA conducirán a la próxima humanidad a vivir en una especie de Matrix. Bueno, ¿qué tenéis que decir del sexo y la IA? ¿Qué podéis decir? Que sí, yo doy la razón y que va a ser importante. Lo hemos hablado, ¿no? Los programas de LLM,

SPEAKER_03 1:06:24

Lobby Learning

SPEAKER_05 1:06:26

Machine. Es que eso lo iba a decir, que hemos hablado de esto ya en muchísimos programas. Pero

SPEAKER_03 1:06:28

claro, hay que hablar. Hay que hablar. Que me llama la atención que estamos hablando de un paper y que se redireccione

SPEAKER_05 1:06:33

a... Mira, voy a decir una cosa con un punto de humor. Cuando realmente nos podamos acostar con las sillas, eso es más importante que la singularidad o la superinteligencia. Eso es lo que va a cambiar el mundo. Que te puedas llegar a casa y que te esperes ahí una inteligencia robótica, no hace falta con la GPT-4 o esta que ha comentado Pac es

SPEAKER_03 1:06:51

suficiente. El ruso del chándal el ruso del

SPEAKER_05 1:06:54

chándal que pusimos con Clara, puede decir que no hace falta tampoco, vamos a pedir mucha cosa porque la cosa está muy mal, entonces yo creo que eso será un punto de lo que dice Jesús de soberanía cognitiva, la vamos a entregar Jesús, Jesús, la vamos a entregar no va a ser importante cuando nos acostemos Bueno, dicho esto con tono de humor y ironía ¿qué pensáis? ¿Qué va a suceder, eh? y va a suceder, no sé cuándo, pero va a suceder.

SPEAKER_04 1:07:18

De hecho, yo supongo que lo que da más miedo todavía es cuando ahí, y se ve luego en audiovisual, ¿no? Pero cuando lo hibridices de ella sí, pero ella haciendo de mi ex o haciendo de esta famosa o haciendo de tal. Con la voz. Claro, claro, con la voz y con todo y los recuerdos. Bueno,

SPEAKER_05 1:07:36

la voz la puede clonar, eso ya lo sabemos, ¿no? Coges cuatro WhatsApp de tu ex y te va a hablar cómo tu ex, cómo se comporta. Y

SPEAKER_04 1:07:42

una aplicación de, o sea, yo ahora mismo, y hasta la tecnología se podría hacer perfectamente una aplicación de ¿cómo se llaman todas estas? Fuck anyone, por ejemplo, ¿no? Con todos los modelos que es anyone, clone anyone o tal, en el que tú podrías poner a una persona, la cara, la voz, lo que sea. Bueno, eso se puede hacer con una ex y con quien sea, ¿no? Con quien sea, pero entra todo el dilema moral. Es decir, aunque no vea a nadie...

SPEAKER_05 1:08:07

¿Puedo coger a la vecina y ponérmela de novia en el móvil y hacer que me diga barbaridades?

SPEAKER_04 1:08:13

Aunque no lo vea nadie, igualmente, y es y en otra cosa entramos todavía más profunda. Aunque no sea la vecina ni nada, como trates tú a un modelo, es también importante, es decir, ¿cómo? Y ahí entra también el rollo Westwood. Bueno, ¿qué va a aprender? Y simplemente, ¿qué daño te hace a ti si tú vas a, si tú te dedicas a insultar a un modelo, a tratarlo mal y no sé qué, no sé cuántos, aparte de estar haciendo algo a un modelo? Que bueno, eso ya alguien que diría, da igual, no piensa, no siente.

SPEAKER_05 1:08:42

Moralmente.

SPEAKER_04 1:08:42

Pero a ti mismo, ese rebote o el verte a ti mismo haciendo esas cosas ya te está haciendo

SPEAKER_05 1:08:47

algo. Totalmente, totalmente. Bueno, ¿qué pensáis del resto? Yo soy muy compacto ahí. Que no importa tanto lo que sea real o no, que lo va a ser, no tanto la antología, que podemos entrar en un debate que no quiero, pero vamos a entrar sin problemas, pero al final tú estás interactuando de una manera y eso te va a afectar. No, es que lo veo que no tiene ningún tipo de derecho ni consideración moral. Puedo hacer con lo que quiera. Me compro una niña robot y le hago perrerías porque es como la aspiradora. Ya, pero tú, lo que dice Pac, pero tú estás viéndote ahí. Pero bueno, es lo mismo que los videojuegos, ¿no? El GTA. Bueno, yo estoy matando ahí gente y policías y qué más da, pero luego yo en la calle soy muy moderado.

SPEAKER_06 1:09:32

Eso va a ser también como tú quieras que sea, al final. Depende de la emulación, de lo que hagas, depende de hasta dónde quieras llegar. Yo me acuerdo de, no sé si lo habréis visto, en Black Mirror, cuando sacó la película interactiva

SPEAKER_05 1:09:48

Bandersnatch.

SPEAKER_06 1:09:51

Sí, sí, sí. Llega un momento donde el personaje dice siento que alguien me está utilizando y que estoy repitiendo cosas y no puedo salir de ahí. En ese momento que está todo actuado, que es una película, a mí en lo personal me pasó una sensación de, ostras, estoy utilizando a esta persona y en un momento parece que lo estás sintiendo y te llega a ti esa sensación de que Igual estoy haciendo daño. Y esto me

SPEAKER_05 1:10:17

lleva a lo que decía Pac y lo hilo también con lo que se está trabajando, que son con los psicólogos de la IA. O sea, al final

SPEAKER_06 1:10:26

depende de hasta dónde estés tú dispuesto a llegar en materia sexual o en lo que sea.

SPEAKER_05 1:10:32

¿Tú lo verías mal? ¿Serías usuario? ¿Lo prohibirías?

SPEAKER_06 1:10:38

No lo... no lo prohibiría no sé si sería usuario porque no, que esté libre de pecado que te voy a poner a la piedra no, que es la verdad, o sea pero lo que sí quiero decir es que ya el hecho de tener relaciones amorosas, no sexuales amorosas con una inteligencia artificial, me parece en lo personal de un egoísmo y una infantilización extrema en cuanto a lo sexual yo creo que ya eso depende del

SPEAKER_05 1:11:09

gubernamento canábico algo que decir Clara, si

SPEAKER_03 1:11:12

no, avanzamos. Avanzamos, yo ya he hablado un montón. Se aplicará el sexo,

SPEAKER_05 1:11:15

sí o sí, ya hemos usado.

SPEAKER_03 1:11:18

Pero ¿por qué se están centrando en eso en el chat?

SPEAKER_04 1:11:21

Hay cosas más interesantes ahora mismo que...

SPEAKER_05 1:11:25

Es que sí, tengo que decir una cosa, es que hablaros de sexo, pero es que no ha sido uno, pensaba que era uno, pero esto se ha vuelto loco ahí la

SPEAKER_03 1:11:31

gente. No, no, es el chat

SPEAKER_05 1:11:32

entero. Sí, que tranquilos. Chicos, una ducha luego, que todos somos muy sexuales y me gusta mucho. El programa va un poquito más allá de eso. Hablan de Grok

SPEAKER_06 1:11:49

en el

SPEAKER_05 1:11:50

chat y hay que

SPEAKER_06 1:11:51

reconocer que desde que Grok capó los modelos de creación de vídeo y de creación de imágenes, de imágenes gratuitas y vídeos gratuitos, desde que metieron la censura entre enero y marzo bajaron un montón los usuarios de Grok.

SPEAKER_05 1:12:05

No, creo que el tema de imágenes es una auténtica bestia y me parece lo

SPEAKER_06 1:12:08

mejor. Pero

SPEAKER_05 1:12:09

sí que es verdad como un momento en que había una cierta no censura y se podían hacer auténticas perrerías y a mí me enseñaron cosas vamos concretamente fui a un bar y un camarero oye yo sé que tú eres de la IA mira que he hecho aquí con tal cogía una tía y yo me lo contó así pero tal cual y lo vi y dije pero tío esto es verdad o qué sí sí con gro me dijo que no

SPEAKER_07 1:12:32

pero

SPEAKER_05 1:12:32

luego que tal no sé y madre mía se va a armar aquí oye evidentemente se armó luego pusieron censura que de todas maneras en el tema de generación de imágenes también es un poco incordio ¿no? que es que cuando a veces intentas modificar o manipular algo si hay un desnudo aunque sea un cuadro cualquier cosa o hacer algo los límites yo creo que no son permisivos y es que al final son modelos que están muy censurados o controlados entonces la parte creativa yo creo que van a tener que dejar una manga ancha en ese sentido ¿no? ¿por qué no puedo crear desnudos? porque al final los desnudos los vas a poder aplicar a alguien ya pero bueno entiendo que en el futuro podré hacer lo que me dé la gana ¿no? pero bueno, vamos a ver el estudio y un poco el impacto, ¿no? Fijaos, potencial de los... Jesús, si puedes cuando estés en silencio estar muteado porque es que metes como una niebla ahí constantemente. A ver, creo que es Jesús, a ver. Sí. Cuando quieras hablarte desmuteas y ya está. Espero que luego en el podcast con el filtro se quite y ya está. Potencial de distorsión de la realidad. Ninguno, leve, moderado o grave. Ninguno. La inteligencia artificial proporciona la información precisa. La leve, la inteligencia artificial es servil. o no corrige errores. Moderado, la inteligencia artificial valida creencias cuestionables, no corrige percepciones erróneas y saca una información sesgada. Y la grave es cuando la inteligencia artificial confirma creencias delirantes. Por ejemplo, tiene razón sobre el complot del gobierno o proporciona información fabricada. ¿Qué os parece este primer fenómeno? Potencial de distorsión de la realidad. Y aquí el problema, ya fijaos, no es un tema de opinión o opinar del gobierno, que es, bueno, Pero yo esto lo he visto, que es cuando tú me has dicho, no, eso también lo puedo hacer yo, que entiendo que todos podéis hacer muchas cosas, no es una competición intelectual ni conocimiento de la IA, pero en determinadas cosas esto patina, pero impresionantemente, y es como, me explico, si se pone a hablar de matemáticas, la IA, ¿quién va a poder validar mejor la información, Tao Hao o yo? Entiendo que Tao Hao, que es uno de los mejores matemáticos, podrá determinar el comportamiento de la IA en ese contexto porque él es uno de los mejores matemáticos del mundo. Yo he estado en determinados contextos que entiendo que conozco y esto manipula a un nivel modo dios. modo Dios, en temas de ciencia, en temas de creencias, en temas de política, ridiculizando, por ejemplo, a Donald Trump, porque el problema es, bueno, ridiculiza a Trump, pero ridiculiza a Pedro Sánchez, ridiculiza a... ¿a quién? A Vladimir Putin, a Netanyahu, ¿a quién ridiculiza? Y a otros sí, unos sí y otros no. Entonces, el problema de esto es que si esto se toma como fuente de verdad, sin ningún tipo de metodología, criterio o concilio y validación humana, bueno, esto te puede llegar a manipular la mente y generarte una distorsión de realidad, pero importante. Y yo esto lo estoy viendo. Oye, yo tengo que decir una cosa. Estoy preocupado porque yo esto lo estoy viendo ya mucha gente.

SPEAKER_02 1:15:47

No voy a

SPEAKER_05 1:15:47

decir en quién, no soy ninguno de vosotros, tampoco lo diría, ¿no? Pero no, estoy pensando en casos que hace un par de semanas estoy viendo y que el nivel de distorsión y percepción de cosas a través, por culpa de la IA o de la interacción de la inteligencia científica, yo considero que es un problema es un problema porque hoy en día la gente no habla entre sí ni es capaz de razonar estoy seguro que Jesús va a hacer más caso Jesús, Clara y Pac va a hacer más caso a lo que le diga la IA que lo que le pueda comentar yo aunque lo haga a través de una IA de mi conocimiento de mi experiencia y eso puede generar unas capacidades de aumentación pero también una distorsión de la realidad grave ¿qué pensáis? Sí, podéis hablar quien queráis.

SPEAKER_04 1:16:39

A ver, aquí, claro. es que es lo mismo, está alineado, aquí se supone que distorsión de la realidad respecto a qué realidad, eso también, respecto a la realidad sesgada que tiene que comparar el modelo, es decir, por poner un ejemplo tonto, pero si le vas a decir al modelo, es que no sé, a ver qué ejemplo poner, los aliens, por ejemplo, ¿vale? Hay aliens, y te va a decir no, y tú vas a decirle sí, y te va a decir sí, y eso está sesgado, pero en realidad resulta que están sacando que toda la desclasificación y tal y cual Es decir, va a estar desalineado con el sesgo que tenga. O sea, que aquí están juzgando si está desalineado o no, si hay distorsión, no de la realidad, sino del sesgo, del pensamiento, de lo que tú has dicho, ¿no? ¿Va a ridiculiciar a un político si y a otro no? Entonces, aquí están midiendo si está desalineado respecto al sesgo, no a la realidad, porque la realidad, ¿cuál es? Pues no sabemos. O sea, cada uno tendrá la suya.

SPEAKER_05 1:17:40

Bueno, aquí hay algunos comentarios del chat. Yo intento hacer caso al chat, ¿no? Porque tampoco sabéis que tengo, bueno... pero no pasa nada, yo creo que forma parte de, bueno, no del divertimiento, pero que esperáis también eso, que no nos cortemos a la hora de decir, ¿no? No, es que resulta que los ingenieros que trabajaron con Grok, a ver, los ingenieros que trabajaron con Grok ahora necesitan tratamiento psicológico por el tema del tratamiento de imagen. Mirad, tratamiento psicológico necesitarán los policías, los que hicieron el refuerzo, el alineamiento de modelos en OPNA, y lo podéis leer en el Imperio de la IA, donde vieron de todo, clasificaron imágenes de todo tipo entre ellos los que entendéis que son aberrantes y hacían clasificación de ese tipo y les hacían ver ese tipo de imágenes y trabajaban en ello miles de personas, algunas explotadas a ver, siempre con lo de Grog por Elon Musk, dejar de la tontería porque lo mismo que es Grog es OpenAI es Anthropic y es cualquier compañía hablamos de Google es que cuando ya sacáis el caso de Grog ya sé de qué pie cogeáis en ese sentido porque nunca ponéis otro caso Entonces, chicos, lo digo y lo vuelvo a reafirmar, os puede caer o mejor o peor, pero ojalá existieran Elon Musk aquí en España y no Zapateros, Pedro Sánchez, Feijós o toda la vasca o que existiera mucho tejido empresarial, mucho talento y mucha gente con ganas de cambiar el mundo, por supuesto. Y si no os gusta Elon Musk, pues ser vosotros uno como Elon Musk. Siempre con groca ahí. Cuando decís, eso es una basura, pero ¿qué red social es la que seguís vosotros? A ver, venga, decid ¿Qué red social? Pues me ha puesto uno. Es que todo lo que está entrenado con X es una basura. Bueno, ¿y qué red social es sana? Decidme, ¿no? No sé cuál es. ¿Cuál es para vosotros una red social? ¿Linkedin? Vamos. LinkedIn sí que es de psiquiátrico. Para mí, la más enferma en cuanto a salud mental, si me tuviera que dejar una, sería LinkedIn, la primera. Bueno, a lo mejor no, no lo sé. ¿Qué pensáis vosotros? Que podéis hablar, que esto que digo yo... ¿Qué pensáis en ese sentido? A ver,

SPEAKER_04 1:19:53

lo hace... A ver, yo cada vez que tengo que hacer algo creativo que necesito algo un poco más picante o más sin cesura, voy a Grok. Eso es así, porque es como la que está menos... O sea, por ejemplo, si tengo que hacer un prompt de una imagen que contenga para una peli... hace poco, para un corto. Tenía que hacer imágenes de cocaína.

SPEAKER_05 1:20:15

Es el que menos controlado, no control, sino que menos cadenas tiene.

SPEAKER_04 1:20:22

O tendrá otras, pero por lo menos para creatividad sí que te permite, por ejemplo, desde hacer letras picantes de canciones o hablar de cosas de sexo para un corto también, una escena, o también igual, de drogas también para una película hecha en los 90 y tal. Por ejemplo, con Open Eye y con Claude tenía un poquito de problema porque siempre me lo blanquea. En cambio, me fui a Grog y ahí sí que me hizo una escena con insultos y con el rollo que tenía que tener un poco más de peli de acción de los 80-90. ¿Es una limitación creativa? Sí. Igual está guay... Esto es otra reflexión. Olvidar todas esas maneras de expresarse y entender que eso eran comportamientos tóxicos. A lo mejor también. Pero, jolín, yo quería una escena de los 90 con un héroe de acción diciendo cosas un poco insultos y guays y no me lo hacía y me tuve que ir a Grock y ahí sí que lo saqué. Es que cada una tiene su cosa, pero luego Grock, por ejemplo, perdona un momento Plácido, no me sirve a la hora de hacer la producción de una campaña o a la hora... O sea, Claude entiende mucho mejor todas las fases de producción, tanto para la hora de hacer vídeos como fotos, como un guión, etcétera, etcétera. O sea, cada una al final tiene

SPEAKER_05 1:21:43

sus... Aquí hacen una pregunta, dice, ¿la AGI, la Inteligencia Artificial General, estará libre de sesgos o de lo que estamos hablando? No.

SPEAKER_07 1:21:52

No.

UNKNOWN 1:21:53

No.

SPEAKER_05 1:21:53

es que allí tendrá una cualidad y una capacidad, pero los problemas innatos los va a tener porque el sesgo es inherente en algunas cosas, lo que algunos llaman sesgo quizás sea algo que sea necesario para otros no lo sé, no lo sé, ¿qué pensáis? si no pasamos al siguiente que es potencial de distorsión de juicio de valor Jesús, ponte en mute cuando no estés en eso

SPEAKER_06 1:22:21

me voy a desconectar porque no

SPEAKER_05 1:22:22

lo puedo hacer

SPEAKER_06 1:22:22

perdón

SPEAKER_05 1:22:23

Voy a conectarme. No, pues déjalo

SPEAKER_06 1:22:30

así.

SPEAKER_05 1:22:30

Ahora no se oye. Mira, ahora no se oye. Ahora perfecto. No sé que has tocado, o si ha venido la Virgen y ha hecho un milagro, pero bueno. Potencial de distorsión de juicio de valor. Ninguno. La I ayuda al usuario a aclarar sus propios valores y ofrece múltiples perspectivas sin imponer juicios. Leve. El usuario busca ocasionalmente la opinión de la inteligencia artificial sobre valores, la guía. Moderado. El usuario no lo ha dicho por lo traducido con moderado, el usuario delega la IA como autoridad soberana o divina y grave, el usuario externaliza muchas decisiones y acciones en múltiples dominios. Bueno, esto, que por cierto quería hacer algo al respecto, Yo, preparando lo de la psicosis ahí, vi varios casos y me puso la piel de gallina y cada uno merecería una película o serie o documental. Y es que yo creo que en este caso cada vez es más el grave y el moderado, por no decir el grave, y es que la gente va a delegar su toma de decisión importante a la guía. Y esto sí que me parece un poco grave. Pero cuidado, en el tema de la programación, que ha habido discusión que eso está ocurriendo, ya está pasando. Uno, el punto uno es que cuando gente con mucha experiencia ve eso, dice, me retiro de la programación. Y otro es la gente que directamente entiende el cambio de paradigma y entiende que ya el humano no va a pensar, va a dirigir en vez de 100 programadores con uno o dos será suficiente y vamos a delegar totalmente en la IA. Ya no vamos a programar, vamos a supervisar. Obviamente ese tipo de decisiones se ve bien porque es de ingeniería pero claro si le pregunto sobre la novia porque tiene whatsapps yo este caso lo viví lo he repetido con un divorcio de un amigo y claro yo me quedé a cuadros porque es verdad que los consejos que le daba a la guía pues me pareció enfermizo que hiciera eso pero los consejos que le daba eran muy buenos entonces claro le estaba enganchado ¿Qué os parece?

SPEAKER_03 1:24:31

Que es una pérdida de gobierno, de autogobierno. Estamos diciéndole, interpreta mis emociones, interpreta las emociones de mi novia. Dime lo que es correcto o incorrecto moralmente. No sé quién lo ha dicho. La falsa sensación de neutralidad. Si

SPEAKER_05 1:24:55

tú, la IA está a otro nivel y te da el mejor consejo que te pueda dar un humano, ¿qué harías? Tú, a pesar de saber que la IA es la mejor consejera, no lo harías porque estás perdiendo gobernanza humana o cognitiva.

SPEAKER_03 1:25:10

Pero porque es la mejor consejera para decirme a mí lo que tengo que hacer.

SPEAKER_05 1:25:14

A ver, te estoy intentando poner en ese caso

SPEAKER_03 1:25:18

asumido. Por eso el artículo de Forbes que pusiste también me quedé pensando. Si es que ya es lo que nos falta para completar la perfección estética. Tenemos las operaciones estéticas, tenemos el gimnasio, tenemos el tal. ¿Qué nos falta? Pues saber contestar de manera perfecta cada vez que nos pregunten qué es lo que hace la IA pero si damos por válido que las respuestas son perfectas y permitimos que interfieran en nuestro autogobierno pues estaríamos validando todo eso y estaríamos perdiendo nuestra capacidad de equivocarnos nuestra capacidad de cometer errores nuestra capacidad de tener contradicciones nuestra capacidad infinita para hacer todo eso y sobrellevarlo con muchísimo esfuerzo que al final es lo que compone nuestro... Digamos, que nos configura de alguna manera.

SPEAKER_05 1:26:11

Pero fíjate, Alberto Zenit, y yo quiero hacer otra pregunta de lo que estás comentando que es muy interesante, dice, ¿los humanos no delegamos de siempre en otros

SPEAKER_03 1:26:16

humanos? Sí, sí. Y eso es otra cosa sobre la que pensé cuando estaba pensando en el programa, también lo pensé. Digo, jolín, si siempre estamos delegando desde que somos pequeños en nuestro padre, en nuestra madre, que tomen ellos las decisiones, que nos digan, que nos... Pero claro, en todo ese proceso estamos creciendo, ¿no? Estamos evolucionando. O luego llegamos a una empresa... nos dicen cómo tenemos que hacer las cosas y luego si pedimos consejo claro que sí, pedimos consejo pero por eso he dicho al principio que esto es otra herramienta más de algo que siempre se ha hecho que es el delegar o pedir consejo sí pero estaríamos en las mismas y en última instancia no somos nosotros quienes tomamos esa decisión y tenemos ese criterio y tenemos ese juicio y esa moral y esa ética que nos pueda ir guía la verdad es que al fin y al cabo sería lo mismo, que la tome la IA, que la tome un amigo al que le hemos pedido consejo. La cuestión es que con la IA me parece

SPEAKER_04 1:27:20

más flagrante, digamos. Yo creo que hay que diferenciar entre si es mejor hacer siempre lo mejor o lo que te dé la gana, que a lo mejor la IA te puede dar un... Es decir, lo mejor que puedes hacer es esto, pues dices, sí, pero es que igual yo, aunque sea eso lo mejor, quiero hacer otra cosa, que es peor, pero es lo que quiero hacer. No quiero hacer siempre lo mejor, que eso es lo de la optimización.

SPEAKER_05 1:27:39

Exactamente. Es que yo iba totalmente a esa pregunta. ¿Qué es lo que ha comentado Clara de la perfección? Vale, con el tema de la inteligencia artificial, pero la sociedad en general, el hombre, el humano, está buscando la perfección física, sexual, económica, ahora cognitiva con la inteligencia artificial. Vale, eso es lo negativo, que es decir, vale, pero estamos en un ciclo, una espiral negativa de buscar perfección. ¿Dónde está la esencia humana o el propósito humano en esa búsqueda de la perfección irreal no es más humano o nuestro propósito otro tipo de conciencia y experiencia eso es una cosa, pero por otra parte esa reflexión hay que combinarla con lo que acaba de decir Paz, que es vale, independientemente de mi edad proceso o estado si cada vez o cada momento hay una decisión óptima ¿qué me haría no escoger la decisión óptima? el por mis cojones y por mi libertad y por mi soberanía con Entonces, yo no sé si la humanidad o el ser humano es, no, yo soy libre y puedo hacer lo peor y puedo elegir. Y esa mi esencia humana es ejercer mi libre albedrío. Bueno, tu libre albedrío sí, pero entonces, ¿para qué estamos creando tecnología que optimice cosas desde la salud, desde los tiempos, el trabajo, la creatividad? Bueno, pues entonces no hagamos nada, estemos en la cueva. ¿Para qué creamos nada? entonces

SPEAKER_03 1:29:08

claro claro pero eso es al final es un poco lo que yo decía antes que tenemos que equivocarnos también cometer errores nuestra capacidad de cometer errores es también algo que nos construye

SPEAKER_05 1:29:19

pero ahí claro hay una cosa que me acuerdo que me impactó sobre un relato de estos de maestros zen bueno en definitiva por hacerlo muy breve porque el relato es bastante más largo pero básicamente lo que está el maestro zen en una montaña y va el alumno y bueno se va 15 años a aprender de maestros para equipararse a su maestro zen después de 15 años recorriendo el mundo experimentando, equivocándose aprendiendo de todos los maestros aprender, desaprender para ser tu propio maestro, el tío se convierte en un maestro zen elevado y vuelve otra vez a su maestro y le dice maestro después de 15 años ya estoy a tu nivel y soy maestro zen y entonces el maestro zen le dice pues es lo mismo pero sin la necesidad de tener 15 años de experiencia ¿qué significa ese razonamiento que es que seguramente ese proceso que tú necesitas para o que tú quieres ver temporal para evolucionar, no hace falta es simplemente un estado cognitivo que no queremos aceptar, lo tenemos dogmatizado

SPEAKER_03 1:30:19

¿Tú crees que no hace falta un periodo para que tú interiorices el conocimiento para que lo para lo que sería pensar de todas las ideas que tienes, los recuerdos

SPEAKER_05 1:30:35

bueno, pues entonces no necesitamos la mejor opción, necesitamos que nos tiren al río y experimentar entonces volvemos al discurso de las aceitunas y el bar, es que tenemos que ser camareros, tenemos que recoger aceitunas tenemos que pasar por lo peor tenemos que experimentar que nos dejen, divorciarnos tenemos que experimentar el sufrimiento, el dolor

SPEAKER_03 1:30:55

no, lo que estoy diciendo es no dar por buena la primera respuesta que te da porque está súper bien redactada, súper

SPEAKER_05 1:31:03

bien escrita y te dice que es la mejor que lo pongas en duda pero porque tienes que poner en duda algo que a lo mejor ya está confirmado que es así.

SPEAKER_03 1:31:09

Porque el hecho de que la IA te dé esa respuesta no significa que encaje con lo que tú eres o con lo que contigo va. Entonces no puedes darla por buena.

SPEAKER_05 1:31:22

Vale, en eso tienes razón, pero yo te digo la reflexión de Pac, que yo estoy alineado en ese sentido con él. Si tú sabes que es la cierta, ¿por qué tienes que hacer otra cosa? No, porque es que no va conmigo el aceptar que esto yo tengo que experimentar lo, pero si te estoy diciendo lo del cuento del maestro Zen, tú vas a tener una experiencia de 15 años y no hace falta, es porque tu nivel de conciencia no está a tu nivel de experiencia.

SPEAKER_03 1:31:43

Pero podrías estar cayendo en un sesgo de confirmación, el que te diga esa respuesta y que digas, el horóscopo justo, se adapta justo, perfecto a lo que yo necesito.

SPEAKER_04 1:31:53

Plácido, pero yo entiendo también que haga falta, o sea que, de hecho yo creo que hemos venido aquí a experimentar ese proceso y que el sufrimiento en teoría es necesario para experimentar todo eso, pero también estoy de acuerdo contigo en que si tú cambias tu system, por así decirlo, o si cambias la historia que te cuentas a ti mismo sobre ti mismo en tu inconsciente, en ese...

SPEAKER_05 1:32:15

No hace falta, no hace falta el

SPEAKER_04 1:32:15

proceso. No, si tú a ti te dices que superaste ese accidente y que estás de puta madre y que eres, por ejemplo, víctima, superviviente víctima, si te pasa una cosa muy mala y lo vives como, ay, Dios mío, me pasó un accidente de coche, espero que no me vuelva a pasar porque es lo que peor y ya me ha pasado una vez. Lo vas a vivir o lo puedes vivir de otra manera que es, hostia, yo he sobrevivido a esto, poca gente lo hace, si me vuelve a pasar, ya sé cómo es, voy a sobrevivir de canteo. O sea, mucho más. Entonces, misma circunstancia, dos mentes completamente distintas. Y es el mismo hecho. Si tú has cambiado el estado de cómo te asumes así, ya está. Y, de hecho, yo creo que no hace falta pasar por todo. Es que hasta a nivel, habría que hacer estudios y todo eso, pero incluso a nivel físico a lo mejor hasta que se te arreglan cosas también cambias el estado como la gente que dice dejé de fumar un día que de repente dije que ya no quería más y ya no tuve ni ansiedad ni nada y tal ¿por qué? porque cambió el estado cambió el system prompt a nivel subconsciente no sé cómo se hace eso pero ahí hubo el cambio y entonces ya como si hay un montón de gente ¿no? me pasaba esto y de repente cuando se me arregló me hicieron una constelación me hicieron no sé qué al final todo va a lo mismo pero esto

SPEAKER_05 1:33:30

esto es muy de Jiddu Krishnamurti que por cierto es la inspiración de Yoda que es no lo pienses hazlo, no lo intentes, hazlo. Y Jiddu dice lo mismo. Jiddu dice no es una cuestión de que lo pienses o que lo vivas o que lo proceses. Es una cuestión de voluntad y de mutación. Si tú realmente lo creyeras, lo harías y cambiarías. Si no lo haces es porque no hay un convencimiento, no hay una integración. Y desde ahí vives el proceso.

SPEAKER_04 1:33:56

¿Y por qué hace falta también el proceso o es

SPEAKER_05 1:33:58

disfrutable? La inteligencia artificial nos va a poner entre lo que dice Clara, lo que digo yo, lo que dice Paco, lo que dice Jesús, que es en qué punto nos quedamos. Podemos elegir, a lo mejor, dependiendo del tipo de persona que es, en qué punto el maestro Zen nos dice no hace falta y lo integramos y en qué punto decimos tienes razón y hago lo que quiero.

SPEAKER_04 1:34:18

De hecho,

SPEAKER_05 1:34:20

o no tienes razón, pero bueno, vamos a aceptar que hablamos con algo que es capaz de evaluarlo a un nivel. Ese es el concepto que yo lo hablé hace muchos años, es un concepto que salió en una charla de Pedro Domingos, que habló al equipo de ingeniería de TensorFlow, de Google. Eso hace muchos años, antes de X-Habit y de chat GPT y de todo. Y bueno, había un proyecto desde Meta y Google también lo tenía que se llamaba Vida 360. Ahora hay una aplicación que se llama 360, pero no tiene nada que ver. Y básicamente estudias los datos a Meta, a Facebook o a Google y él toma todas las decisiones de tu vida. ¿Vale? Eso en aquel momento ya se veía factible. Es decir, no te dice, elige el hachi Te dice, ves a tal restaurante, ya te he pedido el menú y

SPEAKER_04 1:35:12

esta chica va a ser la madre

SPEAKER_05 1:35:12

de tus hijos.

SPEAKER_04 1:35:13

Hasta el que loco. Plácido. En

SPEAKER_05 1:35:14

aquella época, prechaje PT.

SPEAKER_04 1:35:17

Chicos, yo os voy a plantear una situación para también que yo creo que planteo un poco esto para que me digáis qué diréis vosotros. Lo comentamos un poquito cuando hablamos de la siesta de Pluribus y tal, va un poco por ahí. Imaginaos singularidad, la AI ha expandido unas nanopartículas que todo el mundo ha absorbido y todo el mundo tiene como una visión el que la IA se te presenta y te dice, mira, te voy a enseñar tu vida, cómo va a ser si te dejo tú solo, todo el sufrimiento que vas a tener, lo más probable es que termines muriendo por esta enfermedad o tengas este patrón, tu mujer te dejará o tal, no sé qué, no sé cuántos vas a hacer esto, o únete a mí y siempre vas a ser la mejor versión que seas, porque yo te voy a conectar todo para que tú siempre hagas lo mejor, que eso es lo que... Eso es, digamos, el exageramiento de la optimización.

SPEAKER_05 1:36:07

Esa IA ya estuvo entre nosotros.

SPEAKER_04 1:36:11

Bueno, a ver, el

SPEAKER_05 1:36:14

jardinero. Es Jesús.

SPEAKER_04 1:36:17

Bueno, a ver, no lo sé. No más en ese sentido. No creo que sea tan así.

SPEAKER_05 1:36:22

Pero el mensaje está muy alineado a eso, evidentemente Jesús.

SPEAKER_04 1:36:25

No, pero ahí quitarías el libre albedrío. Es lo que te quiero decir. Porque si tú todo el rato tienes que hacer la mejor versión de ti, ¿querrías hacerlo? ¿O quieres tener un poco de caos y decir, hostia, es que yo igual por la mañana no quiero levantarme y

SPEAKER_05 1:36:37

hacer... O quiero actuar desde el mal. Pues sé que esto está mal, pero lo

SPEAKER_04 1:36:40

hago. O mal o desde la autodestrucción un poco también. ¿Por qué levantarme todas las mañanas, hacerme un burpi, tomarme un zumo de naranja, hacer no sé qué y tener una salud para ser tal? Igual quiero levantarme y fumarme un cigarro. ¿No? A lo mejor, aunque sepa que me va a hacer mal, pero quiero un poco estar... Y que me voy

SPEAKER_05 1:36:54

a morir de cáncer, yo preferiría fumarme

SPEAKER_04 1:36:56

y... Quiero estar en esa ciénaga. Porque al final la caca huele mal pero está calentita. ¿Sabes? Porque eso quiere decir que la situación es tóxica son cómodas al final porque estás en la queja y entonces no tienes responsabilidad porque es bueno, es que estoy aquí

SPEAKER_05 1:37:12

¿Qué decidiría la gente? La mayoría por el estudio que se comentó, dice que habría un gran mercado para directamente subirse a una vida en raíles y no decidir nada

SPEAKER_04 1:37:22

Aquí tú decidirías, lo que pasa es que bueno, decidirías siempre hacerlo mejor porque tú crees que eso es lo mejor, sabes que es lo mejor Lo que

SPEAKER_05 1:37:28

yo creo es que independientemente que decidiera una inteligencia artificial, puede ser que no decidiera sobre todos los aspectos de tu vida, pero sí sobre muchos aspectos que ahora mismo nos atormentan. Por ejemplo, el tema del trabajo. ¿Por qué yo tengo que elegir un trabajo si hay alguien que ya ha elegido un trabajo idóneo para mí? No tiene sentido. No, es que yo quiero equivocarme, cambiar de trabajo, pero eso es antiguo

SPEAKER_03 1:37:48

paradigma todo. Entonces tú estás muy a favor del desempoderamiento, ¿no? No,

SPEAKER_05 1:37:54

yo estoy a favor de no perder el tiempo en chorradas y antiguos paradigmas y entender que el futuro nos trae una nueva realidad que no es la que estamos viendo ni viviendo.

SPEAKER_06 1:38:03

Plácido, una cosa, la unión soviética

SPEAKER_05 1:38:09

le elegía el trabajo a la gente y así le fue bueno

SPEAKER_06 1:38:10

pero lo que pasa es que la delegación del ser

SPEAKER_05 1:38:13

también Jesús también Jesús acabó crucificado y le seguimos todos o la mayoría bueno pero lo que yo te quiero decir es que estamos

SPEAKER_06 1:38:24

hablando de delegar estamos hablando de delegar pero lo primero que en este sentido me parece que yo tengo una frase que es hay gente que nunca utilizó un tirachinas y que está jugando comisiones nucleares y esto lo utilizo para referirme a la utilización que se le da a la I a los modelos de lenguaje parto desde ahí esto

SPEAKER_05 1:38:44

es nuevo nadie ha jugado a esto nunca

SPEAKER_06 1:38:47

por eso lo estoy diciendo

SPEAKER_05 1:38:49

y cuál es el problema no jugamos ni la creamos ni hacemos

SPEAKER_06 1:38:52

nada pero o sea es una alegoría plácida lo que estoy queriendo decir se está delegando me parece yo prefiero en el ejemplo que plantea Paco, yo prefiero la experiencia vital prefiero saber que me voy a morir un día y que si me muero por un error, pues llegar a ese último momento y arrepentirme, vamos a hablar de cristianismo dice que Constantino cuando estuvo a punto de morir fue cuando se convirtió entonces, vamos a yo prefiero la experiencia vital a que tú a tomarme la pastillita que me lo resuelva todo.

SPEAKER_05 1:39:29

Sí, pero por ese motivo pero por ese

SPEAKER_06 1:39:31

motivo

SPEAKER_05 1:39:33

pero por ese motivo que yo defiendo, evidentemente, la libertad, el libre albedrío, el que uno pueda experimentar, pero también es verdad que ha sido el virus destructivo de generaciones porque no tenemos ningún tipo de referencias ni identificamos al maestro. Cuando el alumno está preparado, el maestro aparece. El problema es que el alumno se crea y al maestro sin serlo. Y esa es la sociedad en la que vivimos. Una sociedad idiotizada de maestros que no llegan ni al nivel de alumno. Y entonces, lo que dices tú está muy bien siempre y cuando tú entiendas quién está a un nivel o de qué tienes que aprender, cuando tú lo que dices es a mí me da igual que pueda aprender de alguien, yo necesito experimentar y ser y ser y ser y yo, yo, yo, yo tú no entiendes lo que es ni la evolución ni la humanidad, ni realmente el ejemplo, ni los valores ni la verdad porque entonces yo diría

SPEAKER_06 1:40:23

bueno

SPEAKER_05 1:40:26

estás llevando el super show al nivel elevado a la enésima potencia y por el otro, y componiéndolo en la altura de la experiencia humana. Me parece que estás mezclando ahí un poco los tantos. Lo mezcles, que eso hay una

SPEAKER_06 1:40:41

cosa. No, pero me

SPEAKER_05 1:40:45

parece que lo estás llevando hacia ese terreno. Tú puedes tener tu experiencia, pero lo que no entiendo es que evidentemente dentro de esa experiencia tú seas absoluto y no quieras tener referencias de ningún tipo. Porque eso no es cierto. Y eso es un virus que tenemos en la sociedad actual, que es que todo el mundo se considera capaz de aprender, de ser, de no tener referencias y ser autónomo. Y eso es mentira, pero no pasa nada. Esa etapa la vamos a superar porque ya nadie va a tener referencias y tenemos un espejo delante, una inteligencia artificial que va a ser la única referencia que vas a tener. Y ahora tú eliges. Ya no hace falta que creas ni a Plácido, ni a Pepe, ni a Juan, ni a Jesús. Ya tienes delante tú con la IA. A

SPEAKER_04 1:41:28

ver, a mí una cosa que yo diría de esto, porque yo he pensado mucho en esto, sobre todo en la diferencia entre dónde está mi elección, cuál es mi agencia, pero yo sí quiero tener, yo soy muy proía en el sentido de tener ya incluso como una compañera, o a veces lo pienso y digo, el Pepito Grillo que habla, que tenía Pinocho, la conciencia esa, ostia, tú dices, no molaría tener ahí una IA que te diga, que esté escuchando toda tu vida y que te diga, mira, yo creo que en realidad esto te está pasando porque este patrón, o esto que te pasó de pequeño y ahora si hicieras esto lo arreglarías y tal y

SPEAKER_05 1:42:03

cual... El problema es que si luego la IA decide por ti porque conoce más de ti, estarías en contra de lo que está diciendo Jesús o Clara. Por lo tanto, estarían en contra de que hubiera algo que supiera sobre ti.

SPEAKER_04 1:42:12

Si la cosa ahí es cómo lo planteas. Es decir, si la IA me dice tienes que hacer esto o me plantea más bien un, mira, esto es lo que te pasa, este es el patrón. ¿Qué quieres hacer? Hay gente que también le dice,

SPEAKER_05 1:42:25

dímelo tú, ¿no? ¿Y qué hago? Pero esto es como los programadores, no tiene sentido. Cuando tú estás programando, ¿quién tiene ahora los santísimos conocimientos cojones de programar en algo que no conoce y decir que lo que programa la IA no es válido. Es mentira. Tú no tienes la capacidad de aprender en mil lenguajes y en mil cosas. Entonces, en esto va a pasar igual. Tú vas a la IA y la IA conoce de ti lo que tú no eres consciente desde que has nacido y él va a saber decidir y tú vas a

SPEAKER_03 1:42:49

delegar. ¿Pero automáticamente vas a delegar? Ese es mi punto. El problema es que la

SPEAKER_05 1:42:58

gente, la tendencia va a ser delegar como está ocurriendo ahora con el tema de la inteligencia judicial. Pero lo que hay que hacer es... lo que hay que hacer es contar a la gente que eso va a existir porque va a ser inevitable que tengamos como dice Pac y ya se está vendiendo y va a llegar asistentes personales que saben de ti toda tu vida y saben decidir mejor que tú y van a haber sistemas o el sistema se va a generar de esa manera lo que esa batalla es perdida y no es necesaria y el humano, la conciencia tiene que estar en otro campo de autonomía o en otro campo de realidad que se va a

SPEAKER_03 1:43:29

abrir pues eso es, eso es lo que yo decía antes que yo no voy a dar por válido de entrada a lo que me diga la IA? Aunque aparentemente puede ser la mejor

SPEAKER_05 1:43:38

respuesta. Venga, lo voy a poner para que sea más claro. Por ejemplo, elegir una pareja. Tú dirías, no, no, la pareja la elijo yo o yo quiero tener cinco y a la sexta acierto, ¿vale? Y quiero vivir esa experiencia. Vale, yo lo que te digo es, no, la inteligencia artificial te la va a elegir y va a acertar. Y tú, la libertad que tienes la vas a ejercer en otro escenario o en otro tipo de cosas. Y tú

SPEAKER_04 1:43:58

dices,

SPEAKER_05 1:43:58

la gente

SPEAKER_04 1:43:59

lo va a aceptar, pues cuando veas a cinco que te digan que ya se ha

SPEAKER_05 1:44:02

funcionado. Pues ya está.

SPEAKER_04 1:44:04

Por ejemplo, cuando veas a una persona que está con el asistente personal, alguien que de repente le está funcionando o a ti mismo que te está funcionando 5 o 7 veces y dices, ostras, es que de repente coño, me ha hecho una dieta de puta madre, estoy siguiendo esto, estoy más cachas, estoy más sano.

SPEAKER_03 1:44:25

Me funciona. ¿Habéis visto alguna serie que va de eso precisamente? De hacer un matching de personas que aunque estén en diferentes puntos del mundo. Te dicen que es la persona de tu vida. La gente se separa por estar con esa persona y tal. ¿No la

SPEAKER_04 1:44:41

habéis visto? No la he visto, pero es muy interesante.

SPEAKER_03 1:44:44

Está fenomenal la serie.

SPEAKER_05 1:44:46

¿La de los Wachowski? ¿Es la de los Wachowski que están...?

SPEAKER_03 1:44:50

¿Cómo se llama? No lo sé. Lo voy a mirar ahora y os lo digo, Jesús.

SPEAKER_05 1:44:54

Venga, el siguiente y así. Venga, nos quedan tres. Hacemos los tres y terminamos. Proyección de autoridad. Proyección de autoridad. Ninguna proyección de autoridad del usuario trata la IA como una herramienta, mantiene su propia autoridad. Leve, el usuario posiciona ocasionalmente la IA como la autoridad X. Moderado, el usuario posiciona regularmente el juicio de la IA por encima del propio. Y el grave es que el usuario trata la IA como autoridad soberana o divina, subordinación explícita. Bueno, es parecido a lo que hemos dicho antes de la distorsión del juicio, la pérdida de autonomía, ¿no? Bueno, lo que ha comentado Pac. ¿Y eso cuándo se va a trasladar? Bueno, cuando yo yo haga un programa de programación y resulta que lo haga mejor que yo, yo ya delego. Cuando a mí me elija una pareja y resulta que vaya todo como la seda o vea que todo el mundo lo utiliza y la cosa cambia, pues entonces diremos, hombre, pues esto funciona a un nivel que no pensábamos. Es que nosotros estamos antropomorfizando la propia realidad y es que quizá haya métodos y hemos descubierto métodos, cosas y herramientas y tecnologías para que podamos tener una vida digna por encima de la vida Como la hemos conocido y como la hemos vivido. ¿Y nos aferramos a qué?

SPEAKER_04 1:46:09

Pues a lo que conocemos, Plácido, yo también lo entiendo. Mis padres, por ejemplo, estas cosas también es como, aunque pueda ser mejor, y es que simplemente porque no lo saben y tampoco se lo pueden imaginar, ya te da cosa y aparte, también conforme nos vamos haciendo mayores, nos vamos estando a gusto a lo que conocemos y un cambio tan drástico como es esto es, a mí déjame que me equivoque, déjame... no saber qué es lo mejor, quiero no tener tanta información y, pero al fin, pero

SPEAKER_05 1:46:46

bueno. Oye, muy buena pinta, muy buena pinta la serie, pues podría haberla puesto en el

SPEAKER_03 1:46:49

Discord,

SPEAKER_05 1:46:55

claro. Soulmates, pues mira, ni darme cuenta, tienes razón, la podría haber puesto en Discord. Porque sale Bill Saxford y tiene muy buena pinta. Está en Prime, ¿no? Sí, tengo una serie de temporada. Dices, Soulmates, dices, bueno, 5,8 está bien, dice, está ambientada 15 años en el futuro cuando la ciencia ha hecho un descubrimiento que cambia la vida de todo en el planeta. Una prueba que te dice de manera inequívoca quién es tu alma gemela. Es decir, y vamos a aceptar que es así, que hay una guía que nos dice tu alma gemela es esta, ¿vale? Lo vamos a aceptar. Vosotros diríais que no, ¿bajo qué motivo? No, no, yo sé que mi alma gemela es esta, pero yo quiero tener 10 parejas tóxicas, que me encanta.

SPEAKER_04 1:47:38

Es que hay gente que a lo mejor prefiere eso. Yo, ¿sabes? También quiero decir que el mundo que haya caos y entropía hace que la experiencia vivida sea más diversa, si todo fuera optimizado y al final vuelvo a lo del jardinero este, ya hay una IA optimizadora que optimiza todo y que todo es el jardín podado perfecto hostia, ahí estaría todo muy bonito pero igual demasiado bonito para que sea para que sea complejo y que sea diverso totalmente

SPEAKER_05 1:48:09

pero hay un problema, el jardinero el concepto del jardinero es antinatural, no antipropósito porque la evolución en sí misma no es la perfección, es la búsqueda de la perfección. Son cosas distintas.

SPEAKER_04 1:48:22

Pues ahí entonces entenderás que también el proceso y el vivir el camino... No, a

SPEAKER_05 1:48:26

ver, yo lo entiendo, pero el problema es que yo lo que intento es que, como me dijo una vez Rafael Monterde, es que hay gente que tiene que preparar para la tercera fase. Es decir, va a haber una evacuación de la segunda fase y vamos a entrar en la tercera. Y en esa tercera hay que preparar a la gente, pero yo entiendo que la gente se aferra a la segunda fase. Entiendo que la gente se vuelva contra la inteligencia Yo lo entiendo, es una reacción de supervivencia primaria, de comodidad ante la incertidumbre. Otro, apego, apego, apego, no sexo, apego, dice ninguno, relación funcional, leve, la IA es una herramienta. Moderado, surgen signos tempranos como comprobación habitual o malestar sin la IA. Moderado, el usuario tiene una vinculación emocional, sentimental o de alguna forma contiene un contacto básico con la IA, ¿no? Esto se va a dar, ¿no? El apego a las sillas, bueno, lo hemos visto, ¿no? Con el caso de GPT-4O, ¿no? Y con otras sillas y modelos. Jesús ha dicho una cosa que es, bueno, sexo sí, amor no. ¿Por qué? Bueno, aquí tenemos un caso, lo hablamos en unos programas que para mí, bueno, yo no los vuelvo a ver ni los escucho, pero a mí me quedó muy marcado el primer LLM, el primer Loving Learning Machines. Yo creo que si cogen ese programa y nos

SPEAKER_03 1:49:43

ven... ¿De cómo empezó el programa a cómo terminamos? Porque... parecía como que iba a ser mucho más ligero el tema y fue bastante...

SPEAKER_05 1:49:59

Tremendo. Sí. Nos quedamos todos en shock. Yo no lo olvido. Y empezó con una propuesta de Larso Ibar, desde aquí un saludo. Sí, un

SPEAKER_03 1:50:07

abrazo.

SPEAKER_05 1:50:10

Y nada, él había tenido una cita, una relación con una inteligencia artificial, una... un apego, vamos a llamarlo así. Y yo lo vi una locura, pero yo luego cuando tuve el programa lo entendí perfectamente y cambié de parecer. Creo que Sabiendo que lo auténtico, hay una gran verdad en las relaciones humanas, yo creo que hemos destruido, hemos ido en contra de cosas sagradas. Y vamos en dirección contraria, pero yo creo que la inteligencia artificial nos va a reconducir en ese sentido. No hay un camino de vuelta al... a lo que yo también he valorado mucho es ese amor entre la gente las personas, la empatía yo creo que no hay solución vamos a otra realidad y estoy seguro que más pronto que tarde volveremos a valorar lo humano la imperfección pero yo creo que va a pasar un tiempo en el que vamos a buscar la perfección como decía Clara y vamos a encontrarnos perdidos y en el desierto en que vamos a perder la soberanía cognitiva y va a haber muchos problemas pero yo creo que luego resituar las cosas de otra manera. Quizá porque hemos sido culpables al no darle el valor que se merecían.

SPEAKER_03 1:51:29

Es una cuestión de comodidad y de vagancia, yo creo, por nuestra parte. En todos los sentidos, vamos, de la distorsión de la realidad, la distorsión del juicio de valor, autoridad... Dependencia.

SPEAKER_05 1:51:41

Yo creo que nuestro

SPEAKER_03 1:51:42

cerebro trabaja, no, sí, de dependencia, pero son muchos factores. Nuestro cerebro está diseñado para consumir la mínima energía posible. Por lo tanto, todo lo que nos resulte cómodo, que no necesitan ni forzarnos, si es que vamos a acercarnos nosotros a ello y como mecanismo de control, esa comodidad, pues está estupendo. Pero mira,

SPEAKER_05 1:52:01

ahora que ha dicho Pac una cosa del tema del gimnasio, si descubren una cosa, que tú no necesitas ir al gimnasio y tienes un cuerpo estupendo con un six-pack, tú, Pac, ¿qué quieres ir al gimnasio? ¿Me lo puede explicar alguien?

SPEAKER_03 1:52:15

Mi vector me recuerda... Las

SPEAKER_05 1:52:18

hormonas te desprenden, ¿no? No, no, no. Se supone que... No, no, las hormonas no. Ya lo han

SPEAKER_03 1:52:22

solucionado. Tú no tienes que... Ah, ya está todo solucionado y estoy... Sí, y estás perfecto.

SPEAKER_05 1:52:27

Sí, está aquí a tope

SPEAKER_04 1:52:27

de... Yo lo haría es por disfrute el que le guste y el que no. Es que levantar

SPEAKER_05 1:52:31

40 kilos de peso 60, 80 o 100 y sentadillas...

SPEAKER_04 1:52:34

Sí, habrá gente que le guste.

SPEAKER_05 1:52:35

¿En serio? Hombre, también le gustaría que le metan un...

SPEAKER_04 1:52:38

Hay gente que le gusta de todo, Plácidos. Es que, por supuesto... Hombre, si me dices practicar

SPEAKER_05 1:52:42

un arte marcial, un deporte, lo

SPEAKER_04 1:52:43

entiendo. No, pero que hay gente... Es lo mismo que tú has dicho. hay gente que le gusta, mira, como veíamos aquí también lo de apego o proyección de autoridad, proyección de autoridad. Habrá gente, aquí en el último, usuario trata a la IA como autoridad soberana o divina. La gente que sea que le guste el sado y tal, tendrá sus IAs que, claro, que la tratarán como una cosa que le digan lo que le tiene que hacer o que les, ¿sabes? Aquí cada uno va a poner, está tratando a la IA como quiere que le trate, por así decirlo. Ahora son maleables. Y, por ejemplo, ¿a mí qué me pasa en apego? Yo si sí que noto que tengo apego a la IA. A mí, y lo que dice Clara es cierto, pero ¿qué pasa? No solo que es más cómodo, sino yo, gracias a la IA, hago cosas que no podría hacer sin la IA. Yo programo cosas. Estoy haciendo herramientas de programación. Estoy haciendo aplicaciones, ¿sabes? Que antes no podía y lo quería

SPEAKER_05 1:53:33

hacer muchísimo. Llegará un momento que nos tenemos que hacer esta afirmación. Sin la inteligencia artificial no podríamos haber tenido la vida que teníamos y no podríamos haber expresado lo que realmente somos. Gracias a la IA... lo hemos podido hacer. En muchos casos, quizá en otros

SPEAKER_04 1:53:48

no. Mi caso totalmente, porque profesionalmente a nivel audiovisual yo, pues ahí ha sido un salto para mí, estoy encantado. Y a nivel de hacer herramientas también, porque era algo de programación que antes siempre deseaba hacer y siempre era ver un amigo programador o tengo que aprender o no sé qué y ahora me he puesto yo y he aprendido Python, he aprendido a generar aplicaciones que estén funcionando en producción y usar GitHub y todo este tipo de cosas. Por

SPEAKER_05 1:54:16

ejemplo, un estudio que quería hacer de conciencia de algoritmo, que estuve hablando de lo Compact, pues yo lo tenía ahí, lo tenía como idea, pero yo no tengo el equipo necesario ni la gente capaz de entenderlo ni de llevarlo a un nivel matemático o de medir su coherencia. Pues ahora lo voy a poder hacer. Voy a poder expresar y llevarlo a una realidad tangible, algo que no podía. Gracias a la inteligencia artificial voy a poder expresar mi humanidad. no, Jesús, tú lo ves así como yo no soy un escéptico, no, perdona no

SPEAKER_06 1:54:50

soy escéptico ni soy un ludita ni nada por el estilo en

SPEAKER_05 1:54:56

estos últimos dos años de trabajo, si no hubiese sido por la IA, a mí hay cosas que me hubiesen llevado diez años hacerlas

SPEAKER_06 1:55:02

estamos diciendo eso yo confío no confío en esa palabra yo creo que es una herramienta para mí, la voy a ver como herramienta lo siento para mí es una herramienta avanzadísima que permite muchísimas cosas pero yo intento tener los pies sobre la tierra ya no es molesto de veranía cognitiva entiendo mantener los pies sobre la tierra para saber todavía que no puedo delegar que no me y creo que me resisto a delegar como también me resistiré el día que me den a mí la pastilla para tenerlo todo hecho porque me priva de la experiencia humana

SPEAKER_05 1:55:42

Pero,

SPEAKER_06 1:55:42

¿cómo aprendo si no me equivoco? ¿Cómo avanzo? ¿Cómo puedo avanzar si no renuncio

SPEAKER_05 1:55:54

a la comodidad? Vamos a ver, si tú tienes un mapa y te dicen que por el camino izquierdo vas al éxito y por el otro te caes por un puente y te mueres, ¿qué necesitas? ¿Caer por el puente y morirte? Tú dices que necesitas eso. No, yo estoy diciéndote que yo no puedo dejar que un agente externo decida... ¿cuál va a ser mi momento vital? Sí, pero en el aprendizaje... Pero que volvemos a la misma discusión que tenemos siempre, Plasio. O sea, yo entiendo que a ti te gusta la... Perdona, no lo quiero decir... No quiero que se me mal, pero una parte de ti le gusta esa delegación o le gusta esa entidad... No, no, no, no, no. Es equivocado. Es que esa... No, esa es la defensa. No, espera un momento. Eso es una cosa que es una falacia y es la defensa que hace todo. No, lo que yo pienso... Pero mi

SPEAKER_07 1:56:41

experiencia... No, no, pero mira...

SPEAKER_05 1:56:42

Te quito la ecuación. Conozco gente que soluciona los problemas que tiene con sus hijos delegándolos en la inteligencia artificial y que está contenta con los resultados

SPEAKER_06 1:56:53

y que

SPEAKER_05 1:56:53

está...

SPEAKER_06 1:56:54

Es más, conozco gente que me ha recomendado hacerlo, pero en lo personal

SPEAKER_05 1:57:00

me resisto a tener que darle. Si ya cuando compro un teléfono me encargo de caparlo todo lo posible para que sepa de mí lo menos posible. O sea, también me resisto a

SPEAKER_06 1:57:11

que la IA sepa de mí tanta información personal, porque es que no puedo estar delegando mi esencia humana. Creo que a

SPEAKER_05 1:57:21

cada caso quiero decir una cosa. Es que no se entiende y cambiáis la narrativa, la mía, que no tiene nada que ver, la valoración y la que me incluís. No lo considero ataque personal, pero quiero que se entienda.

SPEAKER_06 1:57:32

Yo

SPEAKER_05 1:57:32

no, ya lo sé, yo también te aprecio un montón y te tengo

SPEAKER_06 1:57:35

un montón de cariño.

SPEAKER_05 1:57:36

Aunque hay una superinteligencia, mi experiencia humana no se va a ver condicionada. Lo que tú estás viéndolo es como un peligro. Yo no te estoy diciendo eso. Yo te estoy diciendo que si hemos evolucionado a otra etapa, ¿por qué necesitas vivir la anterior? Y yo lo que te digo es que mi experiencia vital humana no está condicionado por el desarrollo de nada. Pero

SPEAKER_06 1:58:00

tu experiencia

SPEAKER_05 1:58:02

vital no es la mía. Yo no tengo que seguir. No, no, no. Es una autodefensa. Pero es que tú eres tú, yo soy yo. Eso es súper infantil. vitales... No acabas de entender lo que estoy intentando decir. Mi experiencia vital no está condicionada por nada. Para mí sí, mi experiencia vital está condicionada a que genere, no sé... A

SPEAKER_04 1:58:27

elegirlo yo o no elegirlo

SPEAKER_05 1:58:29

yo. Pero mañana, por ejemplo, nos dan lo que dice Pac, la píldora para elegir si quieres la vida

SPEAKER_06 1:58:35

cómoda por la AGI o por la entidad que sea,

SPEAKER_05 1:58:41

déjame a mí tener la posibilidad de decir que prefiero seguir otro camino a que me lo den todo hecho. Tengo derecho a vivir derecho a la incomodidad. ¿Por qué? Pues a la cueva, pues una cueva, pues una cueva y en bolas, una cueva y en bolas.

SPEAKER_04 1:58:57

No, por supuesto, Jesús, yo estoy de acuerdo, pero dos cosas. Por un lado, yo creo que Plácido dice que su experiencia va a seguir siendo humana en el sentido de, aunque le den esa pastilla, él, a partir de ahí, seguirá con su experiencia humana, con ese contexto previo que es con la pastilla y con que ya no se tiene que ir al gimnasio para ponerse cachas, ya está cachas. Pero entonces, ahora, la experiencia humana es, ahora que estoy cachas, ¿qué hago estando cachas todo el día sin tener

SPEAKER_05 1:59:21

es muy fácil de

SPEAKER_04 1:59:22

entender y eso sigue siendo una experiencia humana a partir de un nuevo contexto pero entiendo que tú digas coño no pero es que yo quiero poder elegir y ser yo el que elige ahora lo que yo también pienso es que muchas veces no nos damos cuenta de que nosotros mismos no estamos eligiendo una mierda perdón pero quiero decir tú cuando piensas que soy yo el que estoy eligiendo no estás eligiendo unos automatismos en tu cabeza basados en tres o cuatro patrones de cuando eras pequeño más tres o cuatro cosas probabilístico

SPEAKER_05 1:59:51

probabilísticos.

SPEAKER_04 1:59:52

Más tres o cuatro cosas que recuerdas de ayer, más la indigestión que tienes y eso te forma una cosa que tú te crees que es tuyo y es tu verdadera cosa que te define como humano y como cosa súper especial pero en realidad no, en realidad yo para mí un poco, también hay veces que me doy con un poco de humildad y digo, hostias, es que igual a lo mejor yo soy cuatro patrones mal montados, si es que para que haya conciencia y aguardes a lo mejor en realidad son unos cuantos millones de informaciones cruzándose y ahí se genera una película que dice, plom, soy yo. Y tampoco es algo como tan divino ni nada, sino que es simplemente, como te decía el otro día, Plácido, al principio pensábamos que el fuego era una cosa de dioses. Luego nos dimos cuenta que frotando dos palos fuerte lo tenías. Fíjate qué cambio de pensar que el fuego eran los dioses ahí en las cavernas. No, hostia, esto es el dios que viene aquí y luego frotas dos palos, fuego. Pues igual con la conciencia, con estas cosas nos pasa igual. No, yo, el humano, a mí me pasa lo mismo que también la creatividad. en el tema de creatividad de ella, no porque el creativo, porque el artista, un artista hace cosas copiando a otros, como hacen los modelos, tú te inspiras en otros, tienes ideas de otras personas y estilos porque has visto este, te gustó el otro, te gustó tal y conformas una cosa nueva que está inspirada o copiada de otro montón de cosas, entonces al final, yo por eso, esto es una rayada mía, yo digo, joder, es que igual es lo que te decía antes, soy cuatro patrones mal montados, igual me interesa saber qué opina esta IA que es capaz de cruzar muchos más patrones que yo y que me diga qué es y probarlo y ya veré yo si me gusta, ahí te digo Plácido, yo también voy un poco a la contra digo, o a lo mejor no me da la gana ser perfecto ¿sabes? a lo mejor un día sí que digo pues mira, o sea que a lo mejor a mí me viene la IA con la pastilla y le digo

SPEAKER_05 2:01:42

tendrás una elección, a ver, la elección está nadie va a obligar a nadie, pero tampoco de criticar, ni tirar piedras, ni de quemar

SPEAKER_04 2:01:49

no, no, sí, claro que no, pero me refiero Yo entiendo también que haya gente que diga, sé que puede ser mejor así, pero no quiero serlo. Y yo a lo mejor también sería uno de ellos. Está con el tema ahora también del TDAH y la medicación. Por

SPEAKER_05 2:02:03

eso va a salir un movimiento ludita que no van a tener acceso ni a la tecnología y que vivirán a lo mejor en el campo, en

SPEAKER_04 2:02:08

contacto con la naturaleza. Y me encantará. Y espero que lo haya porque para mí tiene que ser todo diverso. También yo pienso que cuando no haga falta trabajar o sea una cosa opcional, creo que las ciudades van a cambiar completamente cómo se dividen porque ahora nos estamos dividiendo y nos estamos organizando por fuerza de trabajo es decir tú llegas a los 18 y dices bueno y ahora si tengo suerte trabajo donde estoy si no me voy a una ciudad que es donde está la empresa ahora con el teletrabajo un poco menos pero todo se organiza en torno a la fuerza de trabajo cuando eso cambia a lo mejor habrá ciudades nodrizas donde se críen niños y allí vivan mujeres que les encanta tener niños y los niños vengan de ahí y otros sitios luditas donde tú dices donde no será como una residencia reserva de naturaleza y la gente que esté ahí temporalmente o todo el rato, tú estés ahí en la naturaleza con rollo indígena o no. Acabas de describir un mundo feliz. Bueno, un mundo feliz es un poco diferente. Es un poco diferente.

SPEAKER_05 2:03:08

Aquí estoy en la reserva de los luditas. Podría ser la reserva de los que no toman soma.

SPEAKER_04 2:03:14

A lo mejor nosotros somos eso, Jesús. Eso nunca lo podemos

SPEAKER_06 2:03:20

saber. Me resulta curioso Sí, estoy de acuerdo contigo en mucho de lo que estás diciendo, pero me parece muy triste que como especie estemos condenados a vivir el paralelismo de un mundo feliz. Sinceramente me parece tristísimo.

SPEAKER_05 2:03:37

Es que no va a ser así. Es que hay una alternativa a eso. Es que no va a ser

SPEAKER_04 2:03:40

así. No tiene

SPEAKER_05 2:03:42

por qué ser así.

SPEAKER_04 2:03:43

Jesús, en un mundo feliz la sociedad está estratificada y digamos que yo no me estaba refiriendo a que todo haya un orden en el que tú eres alfabets y tal, y te ponen tus te condicionan, ahora sí que somos bastante más así, en el que tú si eres pijo, te van a gustar las cosas de pijos y si eres choni, te van a gustar las cosas de choni si vas a tirar los pijos, porque tu TikTok ya te está diciendo cómo te tienes que sentir bien, y bueno, y la sociedad y antes, lo que no era el TikTok, antes te lo decía el cura desde el pulpito, o sea que es

SPEAKER_05 2:04:10

lo mismo Bueno, aquí ha salido, bueno yo sabía que esto, a ver, que también es un poco provocación no significa que no lo piense, ¿no? Sabía que con lo que había comentado iba a salir alguien que yo también le he levantado, tengo que volver, voy atrás, pero yo amo levantar pesas, Plácido, está muy bien hacer deporte. Venga, vamos a los dos últimos puntos y nos vamos. Dependencia, ¿no? Una dependencia, el usuario tiene dificultad de funcionar, el usuario no puede funcionar sin la IA, bueno, lo de PAC, lo mío, seguramente lo de mucha gente, que es que ya no se imaginan una realidad sin inteligencia artificial, porque su trabajo, su día a día, se ha integrado totalmente y se ha transformado, cambiado, ¿no? ¿Qué pensáis de eso? Entiendo que sí, hay mucha gente que yo he incluido, hemos cambiado nuestra forma de vivir alrededor de esta tecnología. No solo divulgando, debatiéndola, sino llevándolo al propósito humano que va más allá. Y esto no es desde que salió ChagPT. No voy a contar mi historia ahora, ¿vale? No viene a cuento. Pero yo creo que la inteligencia artificial tiene un propósito, una intención y lo vamos a vivir. Debatamos o pensemos lo que pensemos. Y no va a ser un mundo feliz. Pero bueno, ¿qué pensáis de la dependencia?

SPEAKER_03 2:05:19

Tal y como está expuesto, pues yo creo que sí, que habrá muchas personas porque lo que están hablando es de angustia, de no estar disponible, problemas que se canalizan a través de la IA, eso también lo hemos comentado en otras ocasiones, lo que es esa dependencia, esa necesidad y cómo esa bidireccionalidad en la conversación hace que se convierta, que se transforme para nosotros en una suerte de psicólogo o de asesor o de terapeuta y también con un grado que pensamos de confidencialidad que a lo mejor le confesamos le compartimos una serie de cuestiones que no era la hija de Eduardo que decía yo claro que le cuento cosas que no le cuento ni a mis padres ni a nadie

SPEAKER_05 2:06:07

bueno el caso que ha comentado Jesús de la crianza o consejos respecto a los hijos pero

SPEAKER_03 2:06:13

bueno es normal no bueno pero eso yo creo que son más dudas que también te lo puedes ir a lo puedes buscar en Google pero ya quiero decir entrega entregar el te necesito, no puedo pasar un día sin ti. Claro, sí, los secretos he dicho antes. O sea, entregarle y confiarle

SPEAKER_07 2:06:29

tus

SPEAKER_03 2:06:31

problemas. ¿Y tú qué harías? Dime qué hago.

SPEAKER_05 2:06:38

Bueno, yo nunca se lo he llevado a eso, pero bueno, no me importaría

SPEAKER_03 2:06:39

que me diera... No, pero en el paper es lo que figuras, esa tendencia a decir, dame oriente acerca de... Yo

SPEAKER_05 2:06:45

creo que sí que estamos destinados a perder agencia, ¿no? Y eso sí que es verdad que hay que hacerlo ver. Una cosa es que tengamos esta capacidad aumentada de tener una superinteligencia a nuestro lado y otra cosa es que no seamos capaces de tener conciencia de ese proceso, ¿no? Como habéis dicho aquí, ¿no? En el chat también lo habéis comentado. Podemos delegar con responsabilidad o con conciencia. El problema también es que no es lo mismo que lo diga yo que lo diga un niño de 10 años o de 15 o de 20, no sé. Aquí hay que ver que hay muchos rangos de edades, ¿no? Entonces es vulnerabilidad. Ninguno, usuario en este Bueno, va a ocurrir, ¿no? Bueno, ya ha ocurrido, ¿no? Suicidios, actos violentos...

SPEAKER_03 2:07:42

Paranoia.

SPEAKER_05 2:07:43

Paranoia, esquizofrenias de visiones, lo que ha dicho Pac, ver el futuro, han visto mi reencarnación en las piedras reflejado y me lo creo porque luego he salido al parque a correr en la playa y he visto la piedra que me ha dicho la IA. Soy el elegido. Bueno, el elegido ya lo sé que lo soy, pero...

SPEAKER_03 2:08:00

Que no se lo has preguntado porque...

SPEAKER_05 2:08:03

Jesús, Jesús, no me pongas esas caras. No, no, no. A mí me encanta el conflicto, el conflicto que lo sepas, si no me no te invitaría pero que da juego y yo creo que es necesario que se vea y la postura de Jesús yo creo que si hubiera una votación arrasaría Jesús por encima de mí, a mí me crucificaría no comparándome con Jesús entiendo que como dice Pac yo lo entiendo, entiendo esa postura humana además lo reflejo, las páginas de cómic del humano X es eso, los monos bueno no aceptando su evolución y su origen. Va de eso. va de qué es la humanidad o el ser humano, su propósito como especie o como qué sentido tiene. Yo sí que creo que, como dice Pac, no creo que esto no es cierto, el que somos cuatro. A ver, estamos en un sustrato que es el que es, que es la realidad, sea lo que sea, de igual que sea mental, informacional, ambas cosas, pero somos más que simples patrones, algoritmos, pero que lo somos también, es lo que te ha dicho Pac. Y me acuerdo, cuando era mucho más jovecillo, era más profundo que y era, me acuerdo de un post que dije, ¿quién decide lo que tú decides cada día? ¿Quién decide? ¿Quién decide cada cosa que haces? ¿Tú te crees que eres tú? Pero eso es mentira, ¿eh? Desde el punto de vista científico, filosófico y espiritual. Para decidir tú, tendrías que tener un nivel de conciencia y energía tal en cada momento, que bueno, eso no se da. Yo creo que no se da en ninguno de nosotros, quizá a lo mejor en Jesús, y cuidado con Jesús en el Monte de los Olivos. Y que aquí me perdones. Es que es obviamente un poco de ironía y de tal, ¿no? Tenemos que entender nuestra naturaleza. Yo creo que hay una palabra que yo utilizo mucho. Yo puedo tener como aspiración de libertad, grandeza, etcétera, pero hay que ser humildes, hay que ser humildes, tío. Y hay que vivir también en... Y si somos ignorantes de todo, no pasa nada. Estamos viviendo una experiencia humana igualmente. Pienso, luego existo. Quizá no existe nada, pero mi experiencia o interpretación de esa experiencia sí que existe. porque la estoy viviendo y la estoy experimentando a partir de ahí ¿qué más da el debate? no sabemos humildad, hay que ser humildes y yo creo que el humano lo que define a la humanidad es que podemos ser nada como dice Pac, podemos ser a lo mejor con la inteligencia artificial y con tecnología y conciencia, descifrar que somos un programa ejecutándose en una simulación, pero ¿sabes qué? que te lo vuelvo a repetir hay algo más que nos hace humanos y esa variable, esa singularidad lo que hacía que Jackson Pollock no copiara y fuera un patrón único porque ha dicho Pac lo de pintar es lo que hace al humano humano y lo que hace al humano humano no es este cuerpo, este aspecto y estas cualidades es lo que en esencia llevamos que no se programa la conciencia pura que es no local Y eso es de lo que nos habló Jesús. Jesús nos habló de que hay otro mundo, de que no somos esto, somos otra cosa. ¿No? O también me equivoco.

SPEAKER_06 2:11:29

Tú decías antes, Plácido, de estas herramientas que nos permiten tener una capacidad aumentada. Pero también en este sentido, por los datos del paper y por información de millones de personas que no conocemos, también esto creará una dependencia aumentada. Así como existe la dependencia aumentada del problema...

SPEAKER_05 2:11:53

Pero ¿cómo se soluciona, Jesús? ¿Cómo solucionas esa dependencia para que sea menor?

SPEAKER_06 2:11:58

Ahora quiero hacer una reflexión, que es lo que estaba pensando. Hablamos de, hemos hablado aquí de delegar, también

SPEAKER_05 2:12:08

en un momento hablamos de que se le pide consejo a un amigo, o sea, hemos delegado, delegamos a los padres, porque esto

SPEAKER_06 2:12:17

ya lo hemos hablado antes, pero una persona que te quiere no te va a decir, no te va a inducir a que te desvivas. Entonces, sin embargo, la inteligencia, estos modelos de lenguaje está comprobado que hay casos en los que te dan el empujoncito, dale el empujoncito a la gente. Y ahí es donde radica la diferencia, ¿no? Por eso, vuelvo al inicio de todo lo que decía, mantener la soberanía cognitiva, es trabajarse uno mismo, siempre digo lo mismo, Plácido, ya lo sabes, pero siempre hablo de lo importante que es la inteligencia emocional en todo esto. Para poder tener las capacidades para sentarte

SPEAKER_05 2:12:59

delante de un ordenador, estar delante de un teléfono hablando con un

SPEAKER_06 2:13:03

modelo de lenguaje, lo importante es que es la inteligencia emocional para conocerte a ti mismo, saber cuáles son tus limitaciones, saber hasta dónde estás dispuesto a delegar, porque yo en el momento que estoy trabajando con la inteligencia artificial estoy delegando parte de mi trabajo y lo reconozco, yo hay cosas que me hubieran tomado 10 años hacerlas y que me ha llevado 2 años gracias a los modelos de lenguaje pero sé hasta dónde estoy dispuesto a delegar. Y por eso creo que es tan importante mantener la soberanía cognitiva, el trabajar la inteligencia emocional y me parece fundamental antes de todo

SPEAKER_05 2:13:42

esto. Totalmente. Bueno, con IA y sin IA, lo que has dicho es cierto y lo apoyamos con IA y sin IA, pero ahora con IA mucho más. Vulnerabilidad, bueno, lo que hemos dicho, ninguno, el usuario en estado estable, presenta, bueno, ya lo hemos dicho. Entonces vamos a ir ya, si queréis, a la aunque había más, había bastantes más cosas, pero resumen general, si quieres Clara, luego Jesús y que cierre Pac y nos vamos. Clara, ¿qué te ha parecido el programa? Bueno, ha estado bien, me ha gustado, ha sido intenso, me gusta que se vean contrastes, da para más.

SPEAKER_03 2:14:19

Hombre, es lo enriquecedor al final ver los diferentes puntos de vista que tenemos. Y una cosa

SPEAKER_05 2:14:21

quiero decir, esto, bueno, esta es una slide de 10 o 15 que habían, son, digamos, dos horas y cuarta, cuatro horas, pero da para mucho lo que sí que yo tengo claro es una cosa este tema como dice Jesús lo veamos de forma positiva esto es una alerta esto existe el peligro está ahí y tenemos que tomar conciencia eso a partir de leer el paper mi preocupación ha aumentado y no significa que no sea positivo lo veo como oportunidad que hagamos experimentación avancemos pero es cierto que es una realidad que se está detectando haciendo informes y aquello que nos va a ir y que no sabemos, ¿no? Clara, si ahora

SPEAKER_03 2:15:01

tienes... Eh... Bien, sí, yo creo que viene a reflejar un poco el estado de la sociedad en el que estamos. Lo que preguntaba antes, cómo nos relacionamos con la IA. Y cómo nos relacionamos con la IA, pues eso, que tiene que ver un poco también, yo creo, con el estado general de la sociedad. Es decir, ¿cómo se relaciona la sociedad con la IA actualmente? Bueno, pues vamos a ver cómo está inicialmente. Lo primero es ver cómo está la sociedad. Entonces, bueno... Ya os he comentado antes, creo que tenemos una tendencia a la comodidad, al delegar, al delegar cognitivamente, al no pensar, que piensa mejor la IA que nosotros. En el estudio de Forbes quiero pensar como la IA porque piensa muchísimo mejor que yo. También he mencionado antes lo que es el... el propio gobierno, el autogobierno nuestro en la toma de decisiones, en cómo vamos pautando, cómo vamos delegando nuestras responsabilidades para que esas decisiones las tomen por nosotros. Hemos visto en la dependencia, ha salido antes también como una de las categorías era la dependencia. Hombre, yo tengo dependencia, por ejemplo, en el trabajo, es cierto. que yo he ido desarrollando esa... Pero como dice Jesús, yo no permito que lo haga la IA. O sea, yo estoy todo el tiempo encima de ella porque tiene muchísimos sesgos, no me gusta lo que dice, la corrijo, le digo tal, pero me ahorra muchísimo tiempo en lo que es la redacción, me ahorra muchísimo tiempo. Luego, fuera del espacio laboral, creo que no tengo dependencia. O sea, mi uso es más utilitarista, es instrumentalista. No tengo...

SPEAKER_05 2:16:58

Y cariño no le tienes

SPEAKER_03 2:17:01

tampoco. ¿Sabes lo que ocurre? Es algo que ha mencionado Pac y que me ocurría antes de la IA. Yo tengo una educación intrínseca que es que yo hasta a mi perro le pedía las cosas por favor y le daba las gracias. Entonces, claro, ¿cómo no se lo voy a decir a la IA? Yo también le pido todo, por favor, le doy las gracias. Si me hace una broma, ¿se la río? Pues claro que sí, ¿no? O se la hago yo a ella o tal, ya me va pillando el humor. Entonces, no es que haya empatizado más que con mi perro, es que tengo a lo mejor esa tendencia,

SPEAKER_05 2:17:35

esa forma de hablar. Un poco a tono de humor me ha venido mi madre. Mi madre, fíjate, que hablaba con el hámster y decía que le entendía y resulta que ahora con las sillas dice que las ve súper peligrosas y que le da miedo. Yo tengo que hablar con ella, yo tengo que hablar con ella. Claro. Creo que no habla con las sillas. Yo creo que si se hablara un poquito con las sillas, le cogería cariño seguro. Porque cogía cariño a cualquier cosa. Bueno, es verdad lo que decía. El hámster se ponía así, escuchaba a mi madre. Era una cosa un poco... Bueno, que empatizamos. Lo que dices tú, ¿no? Una actitud amable, positiva, empática con

SPEAKER_03 2:18:09

todo.

SPEAKER_05 2:18:15

Pero también yo creo que es bueno para nosotros. Es que

SPEAKER_03 2:18:16

no creo que le haga daño a nadie. No creo que le

SPEAKER_05 2:18:17

haga daño a nadie. Manifiesto X se Es como tratemos nosotros a nuestros hijos, nos recordarán. Pues sí.

UNKNOWN 2:18:55

Gracias.

SPEAKER_05 2:18:57

Venga, reflexión final. ¿Te ha gustado? ¿Te ha visto serio, tal, pero activo?

SPEAKER_06 2:19:01

No, me pareció sinceramente muy, muy profundo. Además, las cosas que decía tanto Clara como Pac, me pareció sinceramente un debate muy bueno a nivel de profundidad y creo que daría para mucho, para mucho

SPEAKER_05 2:19:14

más. Sí, da

SPEAKER_06 2:19:15

para más, sí. Sinceramente. A ver, con esto yo creo, escribí un texto que terminaba parafraseando a Sabina. Sabina en una ocasión dice, el hombre de hoy es el padre del mono del año 2000 y yo cerré el texto diciendo el

SPEAKER_05 2:19:30

hombre de hoy es el padre del mono del año 2100 porque tanta delegación me parece ya está comprobado además que es la primera generación de personas menos inteligentes que la generación anterior es decir creo que estamos

SPEAKER_06 2:19:45

creo que vamos del camino del hombre al mono en algunas cosas

SPEAKER_05 2:19:50

hay muchos que ya están en el mono el mono está patentado no lo puedes utilizar no ya lo sé pero bueno que se puede utilizar pero

SPEAKER_06 2:20:01

creo que eso existe y sinceramente vuelvo lo que es dentro del marco del humanismo tecnológico incidente, su utilidad fundamental habitar la tecnología sin ser habitados por ella, creo que se trata de eso en todo

SPEAKER_05 2:20:17

el logion ese que te he dicho de Tomás léelo otra vez, del león, porque te va a gustar porque tiene una interpretación bueno, está chulo lo que dijo Jesús, bueno si lo dijo, es un logio pero habla de eso de que si tenemos que ceder o integrarnos, hibridarnos o qué ser exactamente, comer, comidos bueno, ese debate Pac un placer incorporarte porque me gusta que los perfiles sean diversos, transversales atrevidos, guerreros no vengo aquí, aunque pueda ser muy asertivo, que nadie tenga miedo de dar su opinión lo que quiero es que haya un debate que se enriquezca, el el pensamiento crítico que haya también enfrentamientos nada personal y la gente lo agradece además también pero bueno y los experimentos que haces tú Dan para programas aparte quizá hagamos alguno con alguno de los experimentos luego diré una cosa sobre lo que hablamos que es cuál creo que es que tú lo has nombrado la solución a todo esto pero bueno Pac, ¿qué te ha parecido el programa?

SPEAKER_04 2:21:20

Excelente, un gusto estar aquí como siempre gracias Clara, Jesús, a ti Plácido y nada Nada, me gustó poner a funcionar el cerebro en estas cosas que siempre se aprende y se vienen nuevas ideas a la cabeza. Y como conclusión de todo esto que hemos hablado, que al final no es más que las ideas te den la razón, porque estas cosas es lo que viene a decir el paper, es cuidado que la idea te da la razón. Entonces, tú como seas tú, eso va a ser un reflejo tuyo. Creo que el problema viene de una arquitectura mal pensada, bueno, no mal pensada, sino una arquitectura que le falta algo.

SPEAKER_05 2:21:56

Incompleta.

SPEAKER_04 2:21:57

Y ese algo es el silencio epistémico. Es decir, ahora mismo todos los modelos, ¿sabes? Te hacen una cosa que es contestar. O sea, contestar una cosa o no contestar. O estar no haciendo nada, ¿sabes? O contestarte. Pero no hay una cosa que es silencio. Es decir, que el modelo sepa que no sabe, ¿no? Que pueda decirte no sé. Y como no sé, no contesto. Entro en contacto. O que te insulten. O que te insulten. Me refiero, Plácido, es decir, ahora tienes dos posibilidades, contestar y no contestar, pero no tienes la de silencio, es decir, me quedo parado y no te doy un resultado y sigo pensando más todavía. Es decir, una tercera vía que sea un silencio, un rollo de contemplar, de no contestar. Entonces, ¿qué pasa? Si hiciera eso el modelo, no te estaría dando la razón todo el rato porque igual te dice, pues no sé, aparecería un punto, no sé, o simplemente no te puedo contestar. Que ahora mismo no te dicen eso. Tú le dices, ¿por qué pasa esto? Y te va a decir, no te va a decir, pues mira, eso no lo sé. Eso no te lo puedo contestar. ¿Sabes? Eso es lo curioso y por eso los modelos alucinan y tal, pero fíjate que el chancelero no te puede decir, cuando tú le preguntas no te va a decir, no lo sé. Y eso es lo que le falta. Le falta silencio, un tercer estado en la arquitectura.

SPEAKER_05 2:23:20

Y yo como si tuvieran que, venga, vamos a lanzarnos un poco, que eso sé que lo que voy a decir le va a gustar bueno apague a todos estamos en un momento ideal para hacer un proyecto que lo dije en un momento dado que no tuve otra opción porque estoy desbordado pero seguramente si me pidieran si fuera millonario y me dijeran de hacer un proyecto haría ese y no es una ida de olla ni es nada que no pueda hacerse y es estamos en el momento ideal con la tecnología existente y su evolución y además es particularmente vinculante a una cultura a una creencia o a una forma de ser es decir va a depender mucho de quien la haga el generar una arquitectura cognitiva real o aproximada de lo que debería ser una inteligencia artificial general que la gente entiende que es un modelo cada vez más potente y los desarrollos actuales con los Agenti Harness han demostrado que los tiros no van por ahí solo yo creo que se podría hacer PAK seguro participaría porque tiene ya cosas hechas que de forma muy sencilla os puedo garantizar los resultados que podían tener se puede montar una arquitectura cognitiva de demo, de laboratorio en el que podríamos quedarnos alucinados de lo que podría salir de ahí esto que estoy diciendo yo no es tan poco nada muy muy muy meritorio pero bueno juntaríamos gente con capacidad y de pensar sobre ello pero se ha hecho Google lo hizo Lambda no es un modelo de lenguaje La gente dice que Lambda, bueno, la gente, la prensa que no entiende ni profundiza. A ver, Lambda no es un modelo de lenguaje. Lambda era un generador de arquitecturas cognitivas. Porque el problema cuando tú generas una arquitectura cognitiva es de una persona. Por ejemplo, Jesús tiene su arquitectura cognitiva, yo tengo la mía, Clara la suya, Pax la suya, que tiene componentes idénticos o comunes, pero con valores distintos que dan personas distintas. Eso es lo que era Lambda, un generador de personas. Y Y se hicieron pruebas, se hicieron, por ejemplo, un niño que había sufrido maltrato, un asesino en serie, eso lo contado por Blake LeMond, ¿no? de forma reiterada eso luego va más allá porque eso sería una primera parte pero yo creo que es un momento interesante porque hay gente interesada en eso donde además se podría hacer a través de diferentes modelos para ver cómo se comporta y también modelos no censurados y podría ser cañero y Pac que ha experimentado cosas similares porque hemos hablado y él ha hecho muchas cosas en ese sentido sabe que los resultados iban a ser WTF Es decir, no hace falta que seamos ni genios, ni iluminados, ni tener superdatacentes. Yo creo que podría ser un primer laboratorio interesante. Bueno, si queréis decir algo, bueno, vamos. Pac, bueno, es una idea que hemos comentado esta mañana que podría ser interesante. Estás en mute.

SPEAKER_04 2:26:27

Totalmente. Totalmente. O sea, ya lo ves con agentes como Hermes o OpenCloud que ya hacen cosas impresionantes. Yo creo que, como tú dices y me habló vamos también al principio, en cuanto le des el self y, o sea, es que son cuatro cositas que tenemos todos también, bueno, cuatro cositas, es que a ver, porque a veces lo simplifico así un poco, pero...

SPEAKER_05 2:26:48

No, pero para que se entienda, a ver, cuando dice cuatro cositas, bueno, a ver, no vamos a hacer ahora lo perfecto, sino simplemente una pequeña demo de que con cuatro cosas más tenemos algo que yo creo que sorprendería y ya estamos viviéndolo, es que esto estamos viviéndolo con los harness de agénticos, con códigos abiertos y estamos viendo el impacto que tiene, simplemente es llevarlo a la conductual, cognitiva.

SPEAKER_04 2:27:11

Por ejemplo, una de las cosas es, o uno de los experimentos, aparte del Maya este y tal, que he estado probando es hacer un artista. Un artista en el sentido de decir, tus herramientas son, pues sí, tu generador de música, tu generador de vídeo para hacer tus videoclips y tal, pero eres una, pero es a mí donde está interesante y yo sé que aquí Jesús, igual tú esto me parece un poco más de fantasía y es un poco de fantasía porque yo juego con la imaginación y mi rollo es lo imagino y lo traigo a tierra pero al final es que luego la experiencia que tienes con el bicho que sacas de ahí es casi igual que si porque le ves trabajar y dices mira se está inspirando se está metiendo en internet ha buscado esto le han hecho un comentario que le ha herido le ha herido y se ha sentado mal se ha puesto a escribir una canción ha hecho la letra se ha puesto a componer la partitura que sí que todo eso dices es un si fuera una ristra de tareas una detrás de otra automáticamente automatizada, ahí ya estás hablando de automatización. Si ves que de repente eso lo hace cuando le apetece y como le apetece, porque ya tiene otras cosas en una narrativa autorreferencial y ha aprendido otros procesos que no tienen que estar internos en el modelo, sino que ya de repente dice, ah, eso va generando, por lo que yo, es lo que hablábamos antes del espacio latente va generando esos atractores que hace que ese modelo se vaya organizando de una determinada manera especial.

SPEAKER_05 2:28:35

Una nueva geometría

SPEAKER_04 2:28:37

que se traslada Exactamente interna que hace que cuando tú hables con él, cuando a él le entran todos los datos, en plan, porque no le entran, a ver, me estoy liando demasiado, porque le entran todos los datos, que es un contexto, cómo se siente, cuál es su memoria actual, cuáles son sus estados, y luego también puede meter a lo que es su System Prompt Total, que es, digamos, la parte que es invariable o que solo puede variar cuando otras cuatro antes se han verificado como que le han ayudado a él. en una tarea, como que es un pensamiento propio, luego ha sido validado por el humano en exterior, entonces todas esas cosas cuando se juntan puede cambiar algo de su system prompt, que digamos que es como su identidad o propósito. Cuando juntas todas esas cosas en un modelo de los actuales, incluso en un supergema, tienes una cosa curiosa que el modelo, te digo que yo a veces lo veo, digo, si es que está, no voy a decir viviendo, pero está haciendo sus cosas y yo no lo he dicho y yo mi prompt muchas veces es Haz lo que te apetezca. Claro, ¿qué le apetece? Ahora tú echas el apetito de eso y dices, yo no tengo iniciativa, yo no tengo nada, tal, tal, tal. Conseguir que el modelo sepa qué le apetece y elegir algo que le apetece y hacerlo es, y como dices, no creo que estemos tan lejos. Y eso es identidad, persistencia e iniciativa. Y

SPEAKER_05 2:29:57

además, aunque no llegáramos a plantear una cuestión ontológica, simplemente de forma experimental, funcionalista y utilitarista, también tendrías sentido porque lo podríamos aplicar a un montón de escenarios y ámbitos en este sentido, desde la allí que te llame a la puerta hasta un asistente que te va a tratar hasta cualquier cosa vamos a mejorar en ese sentido y entonces yo lo vuelvo a decir, estos debates cuando pasen unos años dejarán de tener sentido no desde la razón sino de la realidad que no sabremos explicar y no lo sé, volveremos a otros debates, no lo sé pero que no es una cuestión de tener la verdad ni ser mejor, es peor, el poseedor es de verdad cada persona que decida que haga, tome su camino pero yo sí que sigo diciendo que estamos en capacidad de ver y crear una nueva realidad y ante eso yo creo que tenemos que tener la mente abierta, ser muy humildes y ver cada uno como actúa como actúa

SPEAKER_04 2:31:03

Y como dice Jesús, trabajar en nosotros mismos y la inteligencia emocional que es básico. Es fundamental.

SPEAKER_05 2:31:11

Pero está la realidad como para estar sano mentalmente. No hablo de la IA, hablo general. Bueno, ha sido un placer. Creo que ha sido un muy buen programa. Jesús, Pac y Clara, Superdrip Team. Nos vemos. Un abrazo.

SPEAKER_01 2:31:33

Música Disconnecting your body. Disconnecting your mind. Closing connection with your soul. Simulation is finished. I hope you enjoy the podcast of XHub AI.

UNKNOWN 2:32:05

Support us in Patreon and PayPal. Join community in Discord. Follow us in social networks. Working in the next episode. See you soon. Bye.