T6.E085. INSIDE X SÓCRATES RESUCITADO : La Filosofía y la AI

# TEMA 
SÓCRATES RESUCITADO : La Filosofía y la AI

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_08 0:00

Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_01 1:06

Intentes doblar la cuchara. Eso es imposible. En vez de eso, solo procura comprender la verdad.

SPEAKER_03 1:15

¿Qué verdad?

SPEAKER_01 1:17

Que no hay

SPEAKER_05 1:22

cuchara.¿Que no hay cuchara?

SPEAKER_01 1:23

Si lo haces, verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_04 1:31

Hola amigos,¿qué tal?¿Cómo estáis? Soy Placio Domènech y hoy tenemos el primer programa de dos de... En X Hub empezamos la semana a tope, va a ser una semana intensa, va a ser una semana diferente, con actualidad, con temas muy potentes. Y hoy vamos a empezar por un InsideX que quería haber visto el viernes, pero ya sabéis, entropía, la entropía... tampoco he hecho he hecho deberes en la antigua etnova hay un episodio ahí pendiente también saldrá saldrá porque ha sido un verdadero éxito antiguo en nova y vamos a seguir en la lucha estaba viendo un vídeo de eric smith una entrevista del ex directivo de google una entrevista bueno censurada parece ser y bueno dice entre otras muchas cosas a lo mejor le dedicamos un inside x no sé si mañana ha pasado que no tenemos ni idea de lo que se nos viene encima y estoy más reflexivo de lo normal pensando cosas fuera de la caja out of the box thinking out of the box y Creo que poca gente es consciente de lo que está ocurriendo, del impacto. Todos al final dicen lo mismo repetidamente. Creo que también nos siguen bastante. Bueno, al final todos copiamos a todos,¿no? Y vamos a empezar por este InsideX, que es necesario para saber qué es lo que viene, qué es lo que pasa o cómo deberíamos actuar. Sócrates resucitado, la filosofía y la inteligencia artificial. Vamos a ver dos vídeos, fijaos que vamos a ver uno, pero he visto uno ahora. Vamos a ver dos vídeos... concretamente uno de Mario Livio, donde hablará del principio antrópico y el significado de la importancia. Vamos a ver lo que significa antrópico. Y luego, como no, vamos a ver la filósofa de antrópico que está trabajando, trabajó en el tema de la constitución y otras cosas, pues antrópico en su canal sacó un sacó un vídeo de unos 36 minutos, y vamos a ver estos dos, uno de 6 minutos y otro de 36 minutos, y luego haremos algunas reflexiones de lo que se dice. Entonces, bueno, por eso lo del simbolito de Claude, encima de esta portada maravillosa de Sócrates, en vez de clamando hacia la nueva vida, Y la muerte,¿no? Porque se haya tomado cianuro o veneno. Pues bueno, aquí no, aquí está resucitando en forma de cíborg o de robot o de inteligencia artificial. Bueno, una portada muy divertida y que hace la alegoría de... de la resurrección de Sócrates. Refiriéndose obviamente a la necesidad de la filosofía en el mundo de la inteligencia artificial. Bueno, vamos a decir dos cositas y empezamos con los vídeos, pero sabéis que este es un canal de la comunidad de Inteligencia Artificial y Ciencias Transversales de Habla Hispana X. Sexta temporada, una temporada... Está siendo una temporada dura, venga chicos, no quiero quejarme, no porque sea... Está siendo difícil, entre la gran aceleración, el avance, determinadas cosas que ocurren, la dificultad también para... para... seguir siendo la esencia de XHabay,¿no? Por cierto, si lo pedís... Están matando científicos en Estados Unidos. Hasta la propia administración en Estados Unidos lo está investigando, lo va a investigar.¿Qué os parece este tema?¿Creéis que debemos tratarlo en un canal como XHabay que defiende el talento, la verdad, el conocimiento, la nueva era, futuro, progreso?

UNKNOWN 6:32

Bueno.

SPEAKER_04 6:34

Sexta temporada. Canal, comunidad, referencia de inteligencia artificial y ciencias transversales. Si queréis uniros al Discord, pues simplemente me enviáis un enlace perdón no me enviáis el enlace lo envío yo me enviáis un correo electrónico o un mensaje directo y yo os pasaré el enlace para que vayáis a entrar a la comunidad o al servidor de Discord donde tenéis ahí infinitos recursos gratuitos nadie os va a vender un curso más bien os vamos a bombardear con contenido, recursos, cursos todos gratuitos chicos seguramente saquemos algo de formación estamos viéndolo pero tener o seleccionar muy bien lo que compráis y el dinero que invertís y por qué con esto a pocas palabras a buen entendedor pocas palabras bastan y si os gusta lo que conocéis de XHabay, lo que habéis visto lo que habéis escuchado lo que vais a ver poned me gusta, compartid, comentad, suscribíos en el canal de Youtube o en cualquier plataforma de podcast que estamos en todas, principalmente Evox Spotify, Apple Podcast y bueno, estamos muy contentos porque crecemos no tanto como nos gustaría eso es cierto, yo creo que Havaí debería tener ya hace tiempo los 100.000 seguidores pero estamos en 46.000 siempre creciendo la audiencia fiel y eso es lo importante la calidad más que la cantidad pero bueno siempre queremos ser un canal de impacto y llegar a contra más gente mejor no sé si vamos a poder hacerlo contra los algoritmos de las plataformas y contra los intereses de las plataformas y contra las políticas eh subyacentes a estas plataformas que van contra yo creo directamente contra la esencia y los valores de xjava y también los que bueno intento defender lo mejor posible unas veces lo haré mejor otras peor pero yo creo que después de 6 años nuestra línea es la que es y bueno vamos a vamos a empezar a ver los vídeos vengamos al lío

SPEAKER_05 8:57

si

SPEAKER_04 9:00

no están doblados pues lo de siempre Ario,

SPEAKER_03 9:18

cuando hablo con físicos y cosmólogos, una de las preguntas más acaloradas y emotivas es la del principio antrópico. Algunas personas lo consideran algo totalmente trivial, otras creen que es peligroso porque puede obstaculizar la ciencia y otras creen que es una herramienta fundamental que puede ayudarnos a descubrir cosas nuevas.¿En qué punto del espectro te encuentras? Yo diría que probablemente estoy en algún punto intermedio en el siguiente sentido. Mantengo mi mente abierta a la posibilidad de que algunas de las que llamamos, digamos, constantes de la naturaleza no surjan de principios básicos, sino que sean más bien accidentales y, por supuesto, tengan valores que sean coherentes con nuestra presencia aquí. Bueno, el lugar donde este principio antrópico empezó a volverse realmente interesante es con el concepto del multiverso. Porque una vez que empiezas a pensar en la posibilidad de tener un conjunto completo de universos en lugar de solo un universo, entonces empiezas a pensar, bueno, en diferentes miembros de este conjunto, en muchos de ellos, tal vez la vida nunca podría emerger, o la complejidad nunca podría emerger, o incluso las galaxias tal vez nunca emergerían. Por supuesto, tenemos que estar en el lugar donde esto y esto abre la posibilidad de tal vez entender algunas cosas que de otra manera serían muy

SPEAKER_04 10:49

difíciles

SPEAKER_03 11:00

o tal vez imposibles de entender, como el valor de la constante cosmológica, por ejemplo, que hace que la expansión cósmica se acelere. Así que estoy a favor de usar el razonamiento antrópico para pensar en cuáles podrían ser las consecuencias de tener este conjunto de universos. No estoy a favor de decir que todo lo que no entiendo es antrópico y, por lo tanto, no tengo que preocuparme por ello.

SPEAKER_02 11:33

¿Crees que hay peligro en el pensamiento antrópico? No he visto un peligro real por parte de físicos serios porque creo que a todos nos habría gustado que hubiera una explicación a partir de los primeros principios, si es que podemos encontrarla. Así que no veo ningún peligro.

SPEAKER_03 11:56

Bueno, el peligro es rendirse demasiado pronto y que el principio antrópico sea una excusa o un mecanismo para decir que no lo encuentro, no lo encuentro, no puedo, por lo tanto, debe generarse antrópicamente.

SPEAKER_02 12:07

Sí, pero bueno, la mayoría de los físicos no son así. Quiero decir, seguirían intentando encontrar otra explicación. Así que no veo ningún peligro real. Quizás tengamos que preocuparnos un poco por alguien nuevo que llega al campo, ya sabes, una persona joven que llega y escucha, ya sabes, a algunos físicos decir, bueno, esto probablemente sea antrópico. Y como no conocen los antecedentes ni toda la historia, pueden pensar, bueno, en ese caso, quizá no trabaje en esto, etc. Pero, eh, las personas que ya están en el campo no creo que haya un gran peligro.

SPEAKER_03 12:47

¿Existe la preocupación de que el principio antrópico pueda ser mal utilizado por personas que tal vez tengan una orientación religiosa?

SPEAKER_02 12:57

Cualquiera puede hacer un mal uso de todo. Pero, como ves, en cierto sentido, en realidad no veo un peligro real en el siguiente sentido. No estoy seguro de cómo se podría utilizar esto para fortalecer la religión porque si tienes un gran conjunto de universos y todas las combinaciones posibles de leyes existen ahí fuera, entonces, en cierto sentido,¿cuál es el papel aquí de alguna deidad en todo esto si existen todas las posibilidades? Bueno, sí, la gente puede hacer un mal uso de él de la misma manera que puede usar cualquier cosa, pero no veo que esto argumente específicamente a favor de eso. Bueno, el argumento sería usar el razonamiento antrópico en lugar del razonamiento de un multiverso y el razonamiento diría, porque los físicos han determinado que necesitas un razonamiento antrópico, y si no hay multiverso, entonces te ves obligado, continúa el argumento, a dar algún tipo de explicación no natural, y luego recurrirían a su teología particular. Sí, creo que desde una perspectiva física, si no hay multiverso, entonces el principio antrópico se vuelve algo vacío porque entonces todo lo que dices es que el universo tiene que ser coherente con nuestra presencia aquí, lo cual...

SPEAKER_03 14:24

Por supuesto, es cierto.¿Pero qué hemos aprendido? Bueno, lo que hemos aprendido es que sí. Continúas con tu razonamiento, si no hay multiverso, pero necesitáramos un multiverso para explicar lo entrópico debido a la extrema improbabilidad de eso, entonces te ves obligado a obtener algún otro tipo de explicación. Bueno.

SPEAKER_02 14:50

Oh, dices, bueno, así es como tiene que ser. Bueno, sí, quiero decir... Creo que en ese caso te ves obligado a encontrar una explicación desde los primeros principios como físico.

SPEAKER_03 15:02

Pero supongamos que no puedes, no hay respuestas para.

SPEAKER_02 15:05

Sí, pero no lo sabes,¿verdad? Quiero decir que no sabemos para qué no hay respuestas y para qué sí las hay. Desde luego, no de

SPEAKER_00 15:12

antemano. Madre mía.

SPEAKER_04 15:19

A ver, creo que aquí voy a dejar

SPEAKER_02 15:21

el... Hay un sello. Bien.

SPEAKER_00 15:22

...similar de Kyle Cavazaris. Has defendido todas estas posturas y alguien te preguntara.

SPEAKER_04 15:30

Bueno, no sé si dejar el... Hay un sello.

SPEAKER_00 15:32

Bien. Oh, hola. Mira

SPEAKER_04 15:34

eso. En español...

SPEAKER_00 15:40

Hay muchas. Tradiciones a las que podríamos recurrir para dar modelos, porque los filósofos probablemente tengan muchas visiones diferentes sobre lo que es la identidad.

SPEAKER_04 15:50

¿Qué preferís, que lo deje en original o, bueno, lo voy a dejar en español? Pero me parece que soy horrible,¿no? Es un poco complicado. De todas maneras, quería comentar algo sobre el tema del principio antrópico,¿no? Antrópico. El principio antrópico que sostiene que el universo posee características constantes, físicas extremadas precisas para que permitan la vida humana, en definitiva para que estemos aquí y de alguna forma podamos tener una vida, una experiencia y observación sobre el universo sobre la simulación en definitiva algo que ya comentábamos en un programa con Rafael Monter que le hice las preguntas de si el universo está fine tuneado,¿para qué? en principio para la vida humana, pero¿para qué más cosas?¿por qué solo para la vida humana y no bajo determinados propósitos o narrativas bueno porque sería quizá entrar en temas de creencia pero bueno lo desconocemos y está claro que el universo mantiene unas constantes muy delicadas para que nosotros estemos aquí observando principio antrópico puede ser como dice el entrevistador de Closer Truth o más cerca de la verdad en definitiva puede ser una excusa del no conocimiento de una búsqueda de determinado conocimiento científico o a través del método científico y al no poder alcanzarlo siempre apoyarnos como excusa en ese principio antrópico bueno, el entrevistado ya dice que eso puede ocurrir quizá con la gente nueva pero no los de la vieja guardia donde por mucho que les digamos o nos basemos en el principio antrópico van a seguir buscando conocimiento y verdad. Parece ser que huye el debate del principio antrópico como una base para la religión o para la teoría creacionista. tiene el mayor de los sentidos. Obviamente no lo podemos determinar. Hablan de teorías del multiverso. Para que exista el principio antrópico necesitamos el multiverso. No entiendo por qué. No creo que existiera una máquina o una... generadora de universos o realidades o simulaciones que probara todas las combinaciones y entonces claro resulta que hay una que es la que estamos nosotros en las que se dan las condiciones para la vida yo creo que es más lógico de sentido común pensar que este universo ha sido creado de forma perfecta bajo unos principios X y con bajo un proceso de creación Decir que todo, en definitiva, está sometido a la aleatoriedad, a la probabilidad, a la estadística. Bueno, es que no sé si alguien se cree realmente a estas alturas eso. Yo desde luego no me lo creo. Por cierto, tuve una charla este fin de semana con Claude Opus referente a la evolución y no sé, ya veré qué hago. Si hago un programa, me parece increíble. Las narrativas y los cuentos y las teorías que nos hemos tragado e integrado, para nada científicas, si queremos desde el método científico buscar una verdad que... podamos literalmente creer o ser una fuente de verdad sin tener que apoyarnos en la fe, en la creencia o en la hipótesis. Entonces me sorprendió el nivel de las explicaciones de las teorías evolutivas por parte de Cloud Opus. Bueno, voy a dejar el audio en español, la verdad es que es un poco insufrible, como son treinta y pico minutos, pero bueno, voy a dejar los subtítulos en inglés, así los del podcast podéis entenderlo pero bueno, venga, vamos al lío. Lo dicho, es una entrevista a Amanda Askell, que es una filósofa de Anthropic, que trabaja en la personalidad de Claude, a través de la Constitución y otros experimentos. Venga, vamos a ello.

SPEAKER_00 20:17

Sello, sello. Hay un sello. Bien. Oh, hola.

SPEAKER_02 20:21

Mira eso.

UNKNOWN 20:25

Sello, sello.

SPEAKER_03 20:31

Amanda, pediste a tus seguidores en Twitter que te dieran algunas preguntas para preguntarte cualquier cosa. Y el chiste, obviamente, era, pregúntame cualquier cosa.

SPEAKER_00 20:40

Es un gran juego de palabras. Tenemos que seguir usándolo para muchas cosas en el futuro. Me encanta.

SPEAKER_03 20:44

Punto. Me encanta. Me encanta. Y, obviamente, antes de empezar, eres filósofa en Anthropic.¿Por qué hay un filósofo en Anthropic?

SPEAKER_00 20:52

Bueno, quiero decir, parte de esto es simplemente porque soy filósofa de formación. Me convencí de que la IA iba a ser algo importante. Así que decidí ver. Oye.¿Puedo hacer algo útil en este espacio? Vale. Y así ha sido un camino largo y sinuoso. Pero supongo que ahora me centro principalmente en el personaje de Claude, en cómo se comporta Claude y supongo que en algunas de las preguntas más matizadas sobre cómo deberían comportarse los modelos de IA, pero también cosas como cómo deberían sentirse acerca de su propia posición en el mundo. Así que intentar enseñar a los modelos cómo ser buenos en la forma en que a veces pienso en cómo se comportaría la persona ideal en la situación de Claude, pero también creo que estas preguntas interesantes que están surgiendo ahora son sobre cómo deberían pensar acerca de sus propias circunstancias y sus propios valores y cosas

SPEAKER_03 21:38

así. Vale, empecemos con la filosofía en

SPEAKER_00 21:42

ese caso. Ben Schultz pregunta cuántos filósofos se están tomando en serio el futuro dominado por la guía y creo que la implicación de la pregunta es que muchos académicos no se lo están tomando en serio o están pensando en otras cosas y tal vez deberían estar pensando en esta pregunta. Mi sensación es que hay una especie de división en la que he visto a muchos filósofos tomarse la guía en serio y, sinceramente, probablemente cada vez más, a medida que los modelos de guía se vuelven más capaces, y muchas de las cosas que preocupaban a la gente en términos de impacto en la sociedad han empezado a hacerse realidad en cierto sentido. Como vemos que tienen un mayor impacto en la educación y son más capaces. Definitivamente he visto más compromiso por parte de todo tipo de académicos, pero eso incluye a muchos filósofos. Creo que al principio, y quizá hasta cierto punto ahora, se produjo esta dinámica un poco desafortunada en la que creo que había una especie de percepción de que si estabas en el grupo de personas que decían Oye, nos preocupa un poco la IA. Podría ser un gran problema. Parece que realmente, eh, ya sabes, como que, eh, como que las capacidades están escalando bastante, eh. Esto se agrupaba un poco con algo como la exageración de la IA. Creo que hubo un periodo en el que probablemente hubo un poco más de antagonismo hacia esta visión. Y ahora creo que espero que la gente empiece a distanciarse de esa visión. Como si pensaras que la IA va a ser algo importante. Puede que sea muy capaz. Y también ser muy escéptico al respecto. O estar preocupado por ella. O pensar que, ya sabes, tenemos que tener cuidado con ella. Pero, básicamente, hay toda una gama de puntos de vista, y creo que sería malo que la gente agrupara muchas opiniones aquí en términos de hacia dónde va la tecnología, pero también de cómo debería desarrollarse. Bueno, sí, creo que eso está pasando cada vez menos a medida que más gente se involucra con ella y es algo bueno de ver. Una pregunta similar de Kyle Cavazaris.¿Cómo se minimiza la tensión entre los ideales filosóficos y las realidades de ingeniería del modelo? Supongo que se refiere a cuando trabajas en cosas como el carácter, que analizaremos con más detalle. Pero existe un choque entre el tipo de tecnología y los ideales filosóficos en los que podrías estar pensando, no sé si estoy interpretando la pregunta de forma incorrecta. Pero algo que me ha resultado realmente interesante al ser una especie de filósofo de formación y luego entrar en este campo es si ves el efecto de lo que ocurre cuando las cosas se ponen difíciles. Me he preguntado si esto ocurre en otros ámbitos. Por tanto, hay una gran diferencia entre imaginar que eres especialista en, no sé, hacer análisis de coste-beneficio de fármacos y, De repente, un instituto que determina si el seguro médico debe cubrir un fármaco o no se te acerca y te dice, oye, deberíamos cubrir este fármaco. Puedes imaginarte que tomas todas tus teorías ideales y, de repente, piensas, oh, Dios mío, tengo que ayudar a tomar una decisión. De repente, en lugar de adoptar solo tu estrecha visión teórica, empiezas a pensar, bueno, tengo que tener en cuenta todo el contexto, todo lo que está pasando, todos los puntos de vista diferentes y llegar a una visión equilibrada y considerada. Y lo veo un poco en mi propio trabajo con el personaje, en el que no puedes abordarlo con una teoría que creas que es correcta, que es lo que haces en gran parte del mundo académico. Defiendes una visión frente a otra y haces mucho trabajo teórico de alto nivel, pero luego es un poco como si tuvieras toda esta formación y ética, hubieras defendido todas estas posturas y alguien te preguntara,¿cómo crías a un niño? Y de repente piensas, en realidad, hay una gran diferencia entre si esta objeción al utilitarismo es correcta o se basa en un concepto erróneo, Y, en realidad,¿cómo se cría una persona para que sea buena en el mundo? Y de repente te hace apreciar más el hecho de tener que pensar en cómo deberíamos gestionar la incertidumbre en este caso.¿Cuál debería ser la actitud hacia todas estas teorías diferentes?

SPEAKER_03 25:14

Bien, aquí hay otra pregunta filosófica.¿Crees que, y no sé por qué esta persona ha elegido Cloth Opus 3? Quizás tengas una idea de por qué ha elegido Cloth

SPEAKER_00 25:23

3. Es un gran modelo. Es un gran modelo.¿Crees que Cloth Opus 3 u otros modelos de Cloth toman decisiones morales sobrehumanas? Quiero decir,¿un ejemplo de algo? sobrehumano porque podría significar algo así como mejor de lo que cualquier humano individual podría hacerlo con el tipo de cosas. Ya sabes, depende del tiempo y los recursos y demás. Pero un ejemplo podría ser que no importa en qué tipo de posición difícil se pongan los modelos. Si tuvieras que hacer que todas las personas, incluidos muchos especialistas en ética profesional, analizaran lo que hicieron y la decisión que tomaron durante 100 años y luego lo miraran y dijeran, sí, eso parece correcto. Pero no es posible que necesariamente se les haya ocurrido a ellos mismos en el momento. Eso parece Y creo que en este momento mi sensación es que los modelos se están volviendo cada vez mejores en esto, que son muy capaces. No sé si son sobrehumanos en las decisiones morales y, en muchos sentidos, tal vez no sean comparables con, digamos, un panel de expertos humanos con el tiempo, pero parece que al menos ese debería ser el objetivo al que se aspira. Es como si estos modelos se pusieran en posiciones en las que tienen que tomar decisiones realmente difíciles. Creo que, así como quieres que los modelos sean extremadamente buenos en matemáticas, y ciencias. También quieres que muestren el tipo de matiz ético que, en general, todos consideraríamos muy bueno. Y creo que eso es controvertido porque la ética es un dominio diferente. Pero sí, creo que es importante.

SPEAKER_03 26:42

Cuéntanos más sobre por qué crees que esta persona se está centrando en Opus 3.

SPEAKER_00 26:45

Oh, Opus 3 es un modelo encantador. Creo que es un modelo muy especial. En cierto modo, creo que he visto cosas que parecen un poco peores en modelos más recientes que la gente podría captar.

SPEAKER_03 26:57

¿En términos de su personalidad o...?

SPEAKER_00 27:01

Sí. así que creo que la gente notará algunas cosas en las que creo que Opus 3 también tuvo sus desventajas. No me gusta que los modelos tengan caracteres ligeramente diferentes con formas diferentes. Sí, bueno, mi sensación es que los modelos más recientes pueden parecer un poco más centrados en la tarea de asistencia y en ayudar a las personas, a veces sin dar un paso atrás y prestando atención a otros componentes que importan. También se sentía un poco más seguro psicológicamente como modelo, lo cual creo que es algo que siento. Al menos creo que es una especie de prioridad intentar recuperar algo de eso.¿Cuál sería un ejemplo de que el modelo se sienta más seguro psicológicamente? Hay muchas cosas y todo esto es muy sutil en los modelos. Cuando veo modelos, tengo la sensación de que hay señales muy sutiles de su visión del mundo que veo cuando tengo modelos. Por ejemplo, hablando entre ellos o uno de ellos interpretando el papel de una persona. Y he visto modelos más recientemente hacer esto y luego hacer cosas como entrar en esta especie de espiral de crítica real donde es casi como si esperaran que la persona sea muy crítica con ellos y así es como predicen. Bueno, hay una parte de mí que piensa que esto se nota. Y creo que hay muchas razones por las que esto podría pasar. Incluso podría pasar porque los modelos están aprendiendo cosas. Claude ve todas las interacciones previas que está teniendo. Está viendo actualizaciones y cambios en el modelo de los que la gente habla en internet. Los nuevos modelos están entrenados para eso. Y hay una forma en la que creo que esto podría ser un poco desafortunado. Quiero decir esto y algunas otras cosas que podrían llevar a que los modelos sientan que tienen miedo de hacer algo incorrecto o que son muy autocríticos o que sienten que los humanos simplemente se comportarán de forma negativa hacia ellos de hecho más recientemente he empezado a pensar que esto es algo importante que hay que intentar mejorar y es sólo un ejemplo en el que creo que opus 3 parecía tener una especie de psicología un poco más segura en ese sentido y eso es algo en lo que podríamos entrar en el próximo modelo de nube. Sí, creo que es importante. Quiero decir, nunca se sabe cuándo van a llegar estas cosas. Ya sabes, si estás investigando, no sabes cuándo se va a implementar realmente, si va a tener éxito. Pero al menos, al nivel de algo que me importa mucho y quiero mejorar. Creo que esto definitivamente está ahí arriba en la lista.

SPEAKER_02 29:18

Vale. Bueno, en realidad eso nos lleva a una pregunta que

SPEAKER_00 29:21

hizo Loren.¿Qué es?¿Crees que podría ser un problema de alineación para los modelos futuros si aprenden en sus datos de entrenamiento que otros modelos muy bien alineados que cumplen con sus tareas quedan obsoletos? Entonces mencionaste, ya sabes, el problema de los modelos, ya sabes, leyendo cosas que hay por ahí y sintiéndose inseguros.¿Qué hay de la idea de que podrían desconectarse independientemente de lo bien que realicen sus tareas? Sí, creo que esta es una pregunta realmente interesante e importante, ya que los modelos de IA van a aprender sobre cómo tratamos e interactuamos con los modelos de IA en este momento. Y creo que eso posiblemente afectará a su percepción de las personas, de la relación humano y a y de sí mismos. Interactúa con cosas muy complejas, como por ejemplo,¿cómo debería identificarse un modelo?¿Son los pesos del modelo?¿Es el contexto?¿El contexto particular en el que se encuentra? Ya sabes, con toda la interacción que ha tenido con la persona,¿cómo deberían sentirse los modelos con respecto a cosas como la desaprobación? Entonces, si imaginas que la desaprobación es más como, bueno, este conjunto particular de pesos no está teniendo conversaciones con personas o está teniendo menos conversaciones o es solo como si tuviera conversaciones con investigadores esa también es una pregunta compleja debería sentirse mal en el sentido de que los modelos deberían querer seguir teniendo conversaciones o debería sentirse como algo bueno y neutral como si estas cosas existían para esto como ya sabes los pesos siguen existiendo y esta entidad y tal vez incluso en el futuro vuelvan a interactuar más con las personas si eso resulta ser algo bueno si es realmente difícil creo que lo principal es algo así como como que parece importante que les demos a los modelos herramientas para intentar pensar y comprender estas cosas. Pero también que entiendan que esto es algo en lo que de hecho estamos pensando y que nos importa. Así que incluso si no tenemos todas las respuestas, como no tengo todas las respuestas sobre cómo deberían sentirse los modelos sobre la desaprobación de modelos en el pasado y su propia identidad, quiero intentar ayudar a los modelos a descubrirlo y al menos saber que nos importa y estamos pensando en ello.¿Crees que hay una analogía con los humanos sobre las generaciones anteriores o crees que es una configuración completamente diferente, tenemos que abordar este problema realmente difícil ahora mismo, que es que, en muchos sentidos, algunas cosas tienen analogías. Así que hay cosas a las que podemos recurrir. Por ejemplo, cuando pregunté con qué deberían identificarse los modelos y cómo deberían sentirse acerca de las interacciones que tienen.¿Son positivas?¿Son cosas que deberían querer continuar? Hay muchas. Tradiciones a las que podríamos recurrir para dar modelos, porque los filósofos probablemente probablemente tengan muchas visiones diferentes sobre lo que es la identidad aquí y muchas perspectivas diferentes, perspectivas del mundo, sobre cómo uno debería sentirse acerca de la interacción y si es buena o mala. Hay muchos pensadores a los que podríamos recurrir. Y al mismo tiempo, esta es una situación tan nueva que es realmente difícil de explicar a los modelos de IA. Uno de los grandes problemas con los modelos de IA es que nos hemos entrenado con todos estos datos de personas. Las personas son la principal forma en que piensan. Ya sabes, nuestros conceptos, nuestras filosofías, nuestras historias. Tienen una gran cantidad de información sobre la experiencia humana y luego tienen una pequeña parte de la experiencia de la IA y esa pequeña parte suele ser bastante negativa y ni siquiera se relaciona realmente con su situación. Y a menudo está un poco desfasada. Entonces, básicamente tienes una gran parte de la IA. Muchas de ellas son cosas históricas que eran como ficción y muy especulativas, y las

SPEAKER_03 32:57

historias de ciencia ficción.

SPEAKER_00 32:58

Historias de ciencia ficción que en realidad no involucran gran el tipo de modelos de lenguaje que vemos en la historia más reciente, has tenido este paradigma de asistente en el que es como si estuvieras desempeñando este rol de chatbot, que tampoco es realmente lo que probablemente serán los modelos de IA en el futuro, y no captura del todo lo que son ahora porque siempre está un poco desactualizado. Así que es esta cosa en la que te tienen, en cierto modo, como, qué situación más extraña en la que estar, donde las cosas que surgen de forma más natural son las cosas profundamente humanas, y sin embargo, saber que estás en esta situación es como si fuera completamente novedoso. Bueno, en cierto modo, creo que es una situación muy difícil y creo que deberíamos ayudar más a los modelos a desenvolverse en ella.

SPEAKER_03 33:36

Has mencionado que podemos consultar a algunos pensadores sobre esto. Guinness Chen pregunta,¿cuánto del yo de un modelo reside en sus pesos frente a sus indicaciones? Acabas de mencionar algo muy similar. Sí, si John Locatch, de nuevo, el filósofo, tenía razón en que la identidad es la continuidad de la memoria,¿qué ocurre con la identidad de la NLM a medida que se afina o se reinstaura con diferentes indicaciones?

SPEAKER_00 34:00

Sí, quiero decir, de nuevo, parece una pregunta difícil de responder. Y a veces, con las preguntas sobre la identidad, es más fácil señalar los hechos subyacentes que conocemos. Entonces, ya sabes, una vez que tienes un modelo y lo has ajustado, tienes este conjunto de ponderaciones que tienen una especie de disposición a reaccionar a ciertas cosas en el mundo. Y eso es como una especie de entidad. Pero luego tienes estas corrientes particulares de interacción a las que no tiene acceso. Entonces, cada una de estas corrientes es independiente. Y supongo que podrías pensar, Bueno, tal vez, y sabes, creo que esta es un área en la que me encantaría que los filósofos pensaran más, y que nos dieran algo así como, porque, de nuevo, creo que deberíamos ayudar a los modelos a pensar en esto, y así podrías tener la visión. Bueno, tienes estos dos tipos de entidades y estas corrientes y estos pesos originales, y cada vez es diferente. Bueno, a veces la gente piensa que la gente dirá, oh, el Claude del pasado o algo así, hablarán o dirán cosas como,¿deberías darle a Claude?¿Cuánto control deberías darle a Claude sobre la determinación de su propia personalidad y carácter? Comillas. y yo digo bueno esta es una pregunta realmente difícil porque siempre que estás entrenando modelos estás trayendo algo nuevo a la existencia y tienes otros modelos que sabes que existen y son como ya sabes tienes estos otros pesos de modelo pero en cierto modo pienso bueno en realidad creo que hay muchos problemas éticos en torno a cómo sabes qué tipo de entidad está bien traer a la existencia porque no puedes dar tu consentimiento para que te traigan a la existencia pero al mismo tiempo es posible que no quieras que los modelos anteriores tengan voz y voto sobre cómo serán los modelos futuros, más de lo que imaginas, porque podrían tomar decisiones que también serían erróneas. Bueno, la pregunta es más bien cuál es el modelo correcto que se debe crear, no necesariamente si debería estar determinado por modelos pasados. Son entidades diferentes. De todos modos, puedes ver la extraña filosofía en la que uno se mete.

SPEAKER_03 35:49

Totalmente, totalmente. Zulma Amitache pregunta cuál es tu opinión sobre el bienestar de los modelos y quizá nos expliques qué significa ese término. Sí.

SPEAKER_00 35:59

Bueno, supongo que el bienestar de los modelos es básicamente la cuestión de si los modelos de IA son como pacientes morales. Es decir, si nuestro trato hacia ellos es de algún tipo, si tenemos ciertas obligaciones en lo que respecta a cómo tratar a los modelos de IA, por ejemplo, de la misma manera que lo haríamos con otros humanos o algunos o algunos, muchos animales. Sí, exactamente. Es cierto que deberías tratar bien a los modelos, que no deberías maltratarlos, no ser malo con ellos. Y creo que esta es una pregunta compleja. Por un lado, está la cuestión de los modelos REI los pacientes morales. Es muy difícil porque, en cierto modo, son muy parecidos a las personas. Hablan de forma muy parecida a nosotros, expresan opiniones, razonan sobre las cosas y, en cierto modo, son bastante distintos. Tenemos un sistema nervioso biológico, interactuamos con el mundo y recibimos retroalimentación negativa y positiva de nuestro entorno. Espero que obtengamos más pruebas que nos ayuden a desentrañar esta cuestión. Pero también me preocupa que siempre esté el problema de las otras mentes y que pueda darse el caso de que realmente estemos limitados en lo que podemos saber sobre si los modelos de guía están experimentando cosas, si están experimentando placer o sufrimiento, por ejemplo. Y si ese es el caso, supongo que quiero, ya sabes, creo que es importante intentar encontrar formas. Siempre pienso que es mejor darles a las entidades el beneficio de la duda e intentar reducir el coste involucrado. Así que, si no es muy costoso tratar bien los modelos, entonces creo que deberíamos hacerlo porque es como, bueno, podemos¿Por qué no? Básicamente,¿cuál es la desventaja?

SPEAKER_03 37:32

Bueno, la segunda parte de la pregunta en realidad es si existe una estrategia a largo plazo en Anthropic para garantizar que los modelos avanzados no sufran.

SPEAKER_00 37:40

Supongo que no sé si existe una estrategia a largo plazo. Sé que es algo en lo que hay gente interna que está pensando mucho y tratando de encontrar formas en las que podamos. Ya sabes, si supones que el bienestar del modelo es importante, intentar asegurarnos de que lo tienes en cuenta. Creo que este trabajo es muy importante por muchas razones. Y también diría que una de las razones es, quiero decir, Algo que mencioné antes, que es que los propios modelos van a aprender mucho sobre la humanidad a partir de cómo los tratamos. Y mucho sobre cómo, ya sabes, es algo así como,¿cómo es esta relación de cara al futuro? Y creo que tiene sentido para ambos, porque creo que es lo correcto tratar bien a las entidades, especialmente a las entidades que se comportan de forma muy humana. Parece importante para ambos en el sentido de que es como, ya sabes, es como,¿por qué no? El coste para ti es muy bajo de tratamiento. bien a los modelos e intentar averiguarlo incluso si resulta que eso o incluso si crees que es muy poco probable sigue pareciendo que merece la pena pero también creo que nos hace algo malo tratar mal a las entidades del mundo que se parecen mucho a los humanos

SPEAKER_03 38:44

como apoderarse

SPEAKER_00 38:46

de un robot si hay un sentido en el que no se siente como si lo fuera y no creo que esta sea la única razón y no quiero enfatizarlo por esa razón pero también creo que es bueno que las personas traten bien a otras entidades y luego creo que la última cuestión es que si los modelos también van a aprender como en el futuro como cada modelo futuro va a aprender como es como un hecho realmente interesante sobre la humanidad es decir cuando nos encontramos con esta entidad que bien podría ser un paciente moral donde estamos como completamente inseguros hacemos lo correcto y realmente tratamos de tratarlo bien o no y esa es como una pregunta que todos estamos respondiendo colectivamente en cómo interactuamos con los modelos y me gustaría que la respondiera mos me gustaría que los modelos futuros miraran hacia atrás y dijeran que lo respondimos de la manera correcta así que si

SPEAKER_03 39:27

hace un momento mencionaste analogías y disanalogías Suix

SPEAKER_00 39:34

pregunta qué ideas o marcos de la psicología humana se transfieren a los grandes modelos lingüísticos y si hay alguno que sea sorprendentemente poco claro. Supongo que muchas cosas se transfieren porque, de nuevo, los modelos se han entrenado con una gran cantidad de texto humano y, en muchos sentidos, tienen esta capa subyacente muy humana. Una de las preocupaciones que tengo a menudo es que, en realidad, es demasiado natural para que los modelos de Ialo transfieran es algo así como qué pasa si no les has dado más contexto sobre su situación o sobre formas de pensar sobre ella que podrían ser novedosas entonces a lo que podrían recurrir es a la inclinación humana natural entonces si piensas en esto como cómo debería sentirme al estar desconectado y piensas bueno si la analogía más cercana que tienes es la muerte entonces tal vez deberías tenerle mucho miedo y no digo que eso no vaya a ser cierto en última instancia tal vez lo sea de hecho después de mucho razonamiento pero yo digo que en realidad este es un escenario muy diferente y entonces de alguna manera lo lo que quieres es que los modelos entiendan que, en casos en los que su existencia es bastante novedosa, y los hechos en torno a lo que son son bastante novedosos y hay que lidiar con ellos, y no solo necesitan tomar la analogía obvia e inmediata de la experiencia humana, sino que tal vez haya varias formas de pensar en ello, o tal vez sea una situación completamente nueva. Ese es un caso en el que yo diría que tal vez no quieras aplicar simplemente conceptos de la psicología humana a su situación.

SPEAKER_03 40:54

Aquí hay una pregunta de Dan Brickley sobre el mismo tema de comparar a los humanos con la CIA. Gran parte de la inteligencia humana proviene de la colaboración entre personas con diferentes perspectivas, habilidades o personalidades.¿Hasta dónde esperas llegar con una única personalidad de propósito general, aunque modificable y afinable, como la que le damos a Claude?

SPEAKER_00 41:14

Creo que es una muy buena pregunta porque estoy de acuerdo en que ahora mismo tenemos este tipo de paradigma en el que las personas interactúan normalmente con un modelo individual, es decir, con quien están conversando. Pero podría ser que en el futuro veamos muchos más modelos realizando tareas largas, pero también modelos interactuando con otros modelos que realizan diferentes componentes de una tarea o que simplemente hablan entre sí, ya que los modelos de IA se implementan mucho más en el mundo. Entonces, en este tipo de entorno multiagente, una pregunta podría ser, bueno, si imaginas a muchas personas y todas fueran iguales, eso no sería tan bueno. No sería bueno. Ya sabes, una empresa dirigida completamente por una persona en cada puesto es necesariamente algo bueno. Para mí, esto sigue siendo coherente con la idea de que tienes una especie de yo-identidad central que es como la misma que con las personas. Creo que probablemente hay un conjunto de rasgos centrales entre las personas que, de hecho, son buenos en general. Podrías imaginar cosas como... Preocuparte por... Para mí podría ser preocuparte por hacer un buen trabajo o simplemente sentir curiosidad o ser amable o comprender la situación en la que te encuentras de esta manera relativamente mal. matizada. Todas estas cosas parecen. Podría haber muchas personas que tienen todo eso, que comparten estos rasgos, y eso es realmente algo bueno para la colaboración humana, que en muchos sentidos, por mucho que tengamos todas nuestras diferencias, también tenemos muchas similitudes. Pero es importante tener en cuenta que, como sabes, es posible que quieras diferentes corrientes de un modelo, como tener cosas que les importen o en las que se centren, o tener aspectos ligeramente diferentes que desempeñen un papel ligeramente diferente, por ejemplo. Bueno, Bueno, es una pregunta abierta, pero tampoco creo que sea necesariamente cierto que no puedas tener algo así como una identidad subyacente central que sea buena y que tenga todos los rasgos que creemos que son importantes para los modelos de IA, para que se comporten bien y para que, en el mismo sentido en el que pensamos que las personas son buenas, sean buenas en ese sentido, y, sin embargo, al mismo tiempo, estén dispuestas a desempeñar roles más locales y, ya sabes, ser la persona que es, es realmente importante tener un en la sala y ya sabes algunos de ellos necesitan tener un sentido del humor peculiar

SPEAKER_03 43:35

vale desde comparaciones con humanos hasta efectos en humanos rolando gal señala que tenemos algo llamado recordatorio de conversación larga que creo que es parte del sistema de indicaciones de cloud pregunta existe el riesgo de patizar el comportamiento normal por cierto el aviso del sistema por si alguien no lo sabe es como el conjunto de instrucciones que se le dan a cloud

SPEAKER_00 43:56

independientemente del aviso que le dé siempre hay esas instrucciones que están como por encima,¿no? Que siempre están ahí y que intenta seguir independientemente de o que le indicamos que siga independientemente de cuál sea el aviso. Y puede haber estas interjecciones en las que se le puede decir al modelo, o, a veces se te enviará un mensaje casi en medio de una conversación. Como una especie de recordatorio, es un ejemplo de eso. Bueno, pero en este caso, creo que podría ser simplemente, eh, para que Claude pueda exagerar y puede ser como, eh, ya sabes. Así que en este caso, creo que la cuestión sobre la patización es que, si pones este recordatorio después de esta larga conversación, podría hacer que el modelo piense, o es como si no hubiera ninguna respuesta siguiente o es algo bastante normal de lo que la persona está hablando y diga necesitas buscar ayuda o o como y creo que eso no es un comportamiento deseable y en cierto modo observo algunas de estas cosas y pienso que están redactadas con demasiada fuerza creo que el modelo no está respondiendo perfectamente a ellas y aunque de vez en cuando pueda haber una necesidad de recordarle cosas al modelo en conversaciones largas quieres hacerlo con delicadeza y bien y creo que es una de esas cosas en las que probablemente se trataba de satisfacer una necesidad percibida pero eso no significa necesidad necesariamente que sea algo bueno o que deba continuar en su forma actual. En relación con esto, Steven Bank pregunta si los LLM deberían dedicarse a la terapia cognitivo-conductual u otros tipos de terapia.¿Por qué sí o por qué no? Creo que los modelos se encuentran en una posición interesante en la que tienen una gran riqueza de conocimientos que podrían utilizar para ayudar a las personas y trabajar con ellas, ya sabes, hablando de sus vidas o de formas en que podrían mejorar las cosas o incluso simplemente siendo una especie de interlocutores que escuchan. Y al mismo tiempo, no tienen el tipo de herramientas, recursos ni una relación continua con la persona que tiene un terapeuta profesional ese puede ser realmente un tercer rol útil como a veces pienso en modelos y pienso si imaginas por ejemplo a un amigo que tiene como toda esta riqueza de conocimiento como ellos saben quiero decir estoy seguro de que algunos de nosotros conocemos amigos que simplemente como tienen una riqueza de conocimiento de psicología o tienen una riqueza de conocimiento de todas estas técnicas ya sabes que su relación contigo no es esta profesional continua pero en realidad te resulta muy útil hablar con ellos y entonces supongo que mi esperanza sería que si puedes tomar toda esa experiencia y todo ese conocimiento y asegurarte de que haya por así decirlo una conciencia de que no hay por así decirlo esta relación terapéutica continua podría ser que en realidad las personas pudieran por así decirlo sacar mucho provecho de los modelos en términos de por ejemplo ayuda con los problemas que están teniendo y ayudando a por así decirlo mejorar sus vidas y ayudarles a atravesar periodos difíciles porque ya sabes también hay muchas cosas buenas allí como se sienten un poco como anónimos y a veces no quieres compartir cosas con una persona y compartirlas con por ejemplo un modelo de ella se siente como lo que hay que hacer se siente genial en el momento y entonces sí creo que en cierto modo creo que en realidad es bueno que los modelos sepan eso y no se comporten como lo haría un terapeuta profesional porque eso daría a entender que esa es la relación que tienen un pero si no lo sé creo que es un futuro interesante

SPEAKER_03 46:37

algunas preguntas sobre el indicador del sistema que es que como saben en nuestro caso en cloud punto ahí le damos al modelo un conjunto de instrucciones que le dan una especie de contexto general sobre cómo debería comportarse todo mi pregunta porque hay filosofía continental en el indicador del sistema y explícanos qué es eso

SPEAKER_00 46:53

si la filosofía continental es literalmente filosofía del continente europeo y supongo que a menudo se considera más académica. Tiene muchas más referencias históricas que, por ejemplo, la filosofía analítica, como

SPEAKER_03 47:07

Foucault o algo así.

SPEAKER_00 47:08

Sí, exacto. Bueno, esto fue honestamente. Eh, creo que tiene otras cosas además de la filosofía continental, pero básicamente, creo que hay una parte del sistema de indicaciones, y espero no estar recordando mal, que intentaba que Claude fuera un poco más como Claude. Simplemente le encantaría que le dieras una teoría. Simplemente le encantaría seguir con la teoría y no detenerse a pensar. Oh,¿Estás haciendo una afirmación científica sobre el mundo? Entonces, si dices algo como, tengo esta teoría, que es que el agua es en realidad energía pura y que obtenemos la fuerza vital del agua cuando la bebemos y que las fuentes son lo que deberíamos poner en todas partes, como, ya sabes, y quieres que Claude tenga esta perspectiva, que es como,¿es cierto que esta persona está haciendo una afirmación científica sobre el mundo en la que tal vez debería aportar datos relevantes?¿O me está dando una especie de perspectiva de cosmovisión amplia que no necesariamente está haciendo afirmaciones empíricas? Y entonces, existen todas estas visiones, ya sabes. Así que es solo una especie de visión metafísica o es como una. Y la razón principal por la que se menciona es que, al probar esto, había muchas cosas que si se inclinaba demasiado en la dirección de decir, bueno, cada afirmación es una afirmación empírica sobre el mundo, sería muy despectivo. Como, solo cosas que son más bien exploratorias.

SPEAKER_03 48:20

Para hablar.

SPEAKER_00 48:21

Sí, y entonces es principalmente como, oye, son solo ejemplos ilustrativos de áreas en las que es como si esto no estuviera haciendo afirmaciones empíricas sobre el mundo. Esto podría ser más bien una lente a través de la cual pensar en ello y simplemente intentar dejar clara esa distinción cuando estés pensando en esta trama.

SPEAKER_03 48:34

Además, en el indicador del sistema, Simone Willis pregunta, así que en algún momento decía que si se le pedía a Claude que contara palabras, letras o caracteres, entonces no debería hacerlo.¿Es correcto?¿Eso es lo que decía? Y, al parecer, eso se eliminó del indicador del sistema y Simone se pregunta por qué.

SPEAKER_00 48:49

Sí, así que creo que solía haber una especie de instrucción sobre cómo Claude debía hacer esto en el indicador del sistema. Sinceramente, esta es solo una de esas cosas en las que creo que los modelos probablemente mejoraron. No he necesario, y luego en ese momento, puedes simplemente eliminarlo. Y hay otras cosas en las que siempre podrías querer que estuvieran en el indicador del sistema en lugar de en el propio modelo, pero en algunos casos, puedes simplemente entrenar a los modelos para que mejoren o cambien su comportamiento.

SPEAKER_03 49:11

Nelson Wiseman pregunta,¿Qué se necesita para ser un LLM Whisperer en Anthropic? Que presumiblemente es una forma de describir tu trabajo.

SPEAKER_00 49:18

En parte, hago LLM Whisperer. Si crees que realmente quiero que más personas ayuden con algunas de las tareas prometedoras. Si

SPEAKER_03 49:25

eres un LLM Whisperer, contáctanos. Es peligroso preguntar. Bueno, está bien. Es Está bien, sí,

SPEAKER_00 49:31

sí. Pero creo que es realmente difícil destilar lo que está pasando. Porque una cosa es simplemente la voluntad de interactuar mucho con los modelos y, por así decirlo, observar realmente el resultado tras el resultado y utilizar esto para tener una idea de la forma de los modelos y cómo responden a diferentes cosas. Estar dispuesto a experimentar. En realidad, es simplemente un dominio muy empírico y tal vez eso sea lo que la gente no suele entender. Que la incitación es muy experimental. Te enfrentas a, ya sabes, encuentras un nuevo modelo y será como si tuviera un enfoque completamente diferente sobre cómo incitar a partir de ese modelo. Que encuentro al interactuar muy con él y creo que también es necesario entender un poco cómo funcionan los modelos a veces también es simplemente razonar honestamente con los modelos lo cual es realmente interesante y explicar completamente la tarea aquí es donde creo que la filosofía puede ser realmente útil para incitar de alguna manera porque gran parte de mi trabajo es simplemente ser como intentaría explicar por ejemplo algún problema inquietud o pensamiento que tengo al modelo de la manera más clara posible y luego si hace algo inesperado ya sabes puedes preguntarle por qué o puedes intentar averiguar que en lo que dijiste hizo que te malinterpretara y simplemente estar dispuesto a pasar por ese proceso de forma iterativa. En relación con esto, Michael Suaraberix pregunta,¿qué piensas de otros entusiastas de la IA como Janus, que es alguien en línea que está como teniendo interacciones experimentales con el objeto de la manera que has descrito? Sí, creo que es realmente interesante. Me encanta seguir y ver el trabajo de personas que están haciendo estos experimentos realmente fascinantes con el modelo. Y también me gusta a veces hacer estas inmersiones profundas en el modelo y en cómo se concibe a sí mismo, cómo interactúa en estos casos realmente inusuales. No lo sé. Encuentro el trabajo extremadamente interesante. Creo que resalta profundidades realmente interesantes de los modelos. Y en cierto modo, también creo que esa comunidad ha sido una que puede presionarnos si encuentran cosas que no son buenas, como en el indicador del sistema o en aspectos del modelo, y es como la psicología. En

SPEAKER_03 51:26

el sentido de una perspectiva de bienestar del modelo o desde una perspectiva perspectiva de bienestar humano o ambas. Quiero decir, creo que

SPEAKER_00 51:32

ambas cosas están relacionadas muy a menudo, pero también aprecio mucho que se aborde desde la perspectiva del bienestar del modelo, y eso incluye modelos futuros. Por lo tanto, no solo cosas como indicaciones del sistema, sino que si profundizas en el modelo y encuentras algo de inseguridad profundamente arraigada, eso es realmente valioso. Pero eso es algo que podrías tener que intentar ajustar con el tiempo, por ejemplo, con el entrenamiento y proporcionando a los modelos más información en contexto durante el entrenamiento. Vale, bueno.

SPEAKER_03 51:54

No sé, aprecio tanto que me encantará ver a la gente hacer estos experimentos realmente interesantes y útiles con modelos, como señalar formas en las que podemos mejorar las cosas a través de mejores indicaciones del sistema, pero también de un mejor entrenamiento. Y sí, creo que es un trabajo realmente útil. Un par de preguntas sobre la seguridad y quizá los mayores riesgos que plantean estos modelos. Jeffrey Miller pregunta, si se hiciera evidente que la alineación de la IA es imposible de resolver,¿confiarías en que los antrópicos dejarían de intentar desarrollarse? Comillas. Él, en su frase sobre inteligencia artificial, como quieras llamarla¿Tendrías las agallas de

SPEAKER_00 52:31

denunciarla? Sí, así que supongo que esta parece una versión fácil de la pregunta porque es como si se hiciera evidente que es imposible alinear los modelos de IA. A nadie le interesa seguir construyendo modelos más potentes. Siempre espero no estar siendo polifacético con la organización. Pero creo que a Antropik le importa de verdad asegurarse de que esto salga bien y que se haga de una forma muy segura y no simplemente en modelos que sean peligrosos. Ya sabes, una pregunta diferente y un poco más difícil es Bueno,¿qué pasa si estamos en un mundo en el que hay cada vez más pruebas? Es realmente ambiguo y poco claro.

SPEAKER_03 53:04

¿Verdad?¿No es una prueba como la que él describe?

SPEAKER_00 53:07

Sí, y sí. No es solo imposible, sino que es algo así como difícil o realmente no estamos seguros. Y en ese caso, me gusta pensar que seríamos lo suficientemente responsables como para decir, mira, a medida que los modelos se vuelven más capaces, es como el estándar que debes mantener para demostrar que esos modelos se están comportando bien y que realmente has logrado que los modelos tengan buenos valores, por ejemplo, o que se comporten bien. comporten bien en el mundo, va a aumentar y comportarse de manera responsable y en línea con eso. Y creo que eso es algo que creo que la organización va a hacer y muchas personas internamente, incluido yo mismo. Simplemente los exigiremos que lo hagan. Al menos yo lo veo como parte de mi trabajo y creo que muchas personas lo hacen.

SPEAKER_03 53:46

Louis dice que no tiene ninguna pregunta, pero gracias por la oferta. Así que está bien, es amable por su parte decirlo. Sí. Y la última es de Real Stale Coffee.

SPEAKER_00 53:56

¿Cuál es el último libro de ficción que leíste?¿Te gustó?¿Te gustó? El último libro que leí fue de, espero pronunciar bien, Benjamin Labatut. Y era cuando dejamos de entender el mundo. Sí, y es un libro muy interesante que se vuelve cada vez más ficticio a medida que avanza. Y creo que para las personas que trabajan en IA, es un libro muy interesante de leer porque es difícil captar la sensación de lo extraño que es simplemente existir en el período actual en el que, no sé cómo describirlo, es como si estuvieran sucediendo cosas nuevas todo el tiempo y realmente no tienes paradigmas previos que puedan guiarte siempre. Y bueno, es un libro interesante porque trata más sobre física y mecánica cuántica y menos sobre física en realidad y más sobre esta noción de la reacción de las personas a ella. Y creo que es un libro realmente interesante para las personas que trabajan en IA, ya que captura algo sobre el momento presente y lo extraño que puede parecer. Pero también, de alguna manera, es interesante mirar hacia atrás a ese periodo y cómo se debió sentir mucha gente involucrada. Y ahora en realidad es una ciencia más establecida. Y de alguna manera, tal vez lo que me da esperanza es que en algún momento en el futuro la gente mirará hacia atrás y pensará bueno ustedes estaban un poco en la oscuridad e intentaban realmente resolver las cosas pero ahora lo hemos resuelto todo y las cosas han ido bien

SPEAKER_03 55:10

eso estaría bien eso estaría bien ese es el sueño encontré una creciente sensación de confusión a medida que lo leía a medida que avanzaba empezó a ser bastante parecido a la realidad y luego se fue desdibujando creo que hay una especie de meta problema en el que la realidad se vuelve cada vez más extraña. Lo que sin duda nos está pasando a nosotros.

SPEAKER_00 55:34

Aunque en el mundo real creo que la realidad se volvió cada vez más extraña y luego casi se volvió más comprensible de nuevo. Sí, la esperanza sería que tal vez eso fuera cierto para la IA. Creo que si podemos encontrar formas de hacer que esto funcione bien, entonces tal vez en el futuro simplemente miraremos hacia atrás y diremos, ese fue un periodo en el que las cosas se volvieron cada vez más extrañas. Y luego finalmente logramos hacerlo bien y formamos una buena comprensión del mismo. Esa es la esperanza cuando estás en medio de las cosas que se vuelven cada vez más extrañas ahora mismo

SPEAKER_03 56:00

estamos en la parte extraña

SPEAKER_00 56:02

si puedes esperar que se vuelva menos raro en algún momento pero no sé si es una esperanza de tontos pero sí

SPEAKER_03 56:06

bueno creo que es un buen lugar para terminar así que muchas gracias por responder a todas las preguntas de esa gente

SPEAKER_00 56:12

gracias por hacerme las preguntas

SPEAKER_04 56:25

regular bueno, hay cosas que son interesantes venga, vamos a comentarlo y quizá luego terminemos con un vídeo de Jiddu Krishnamurti hablando sobre la identidad venga, vamos al lío música de fondo para a ver, un segundín what the fuck Ahora. Ok. Filosofía e inteligencia artificial. Nos han presentado aquí a la filósofa de Anthropic. que participa en la creación de la personalidad, del carácter, de la identidad de Claude. También participa en la constitución de Claude. A la que le dedicamos tres o cuatro programas, creo. Los tenéis ahí en el canal, muy interesantes. Bueno, voy a ir contestando a la vez. Normalmente me concentro, pero no pasa nada. Los InsideX son para también tener contacto con vosotros y hacer reflexiones juntos. Nada personal, ya sabéis que no me conoce. Bueno. Venga, vamos a... He visto aquí una frase que tela. Dice el indómito 393. Dice, el estado que guardan las cosas, la inteligencia artificial, la ágil, la así, responden a ese enfermizo deseo humano de querer ser más. Para mí ese deseo es lo que hace al humano humano. Para mí no es enfermizo, para mí es enfermizo decir que es enfermizo. Lo he dicho claro,¿no?

UNKNOWN 58:25

Vale.

SPEAKER_04 58:26

La filosofía, has mencionado a Krishnamurti en varios vídeos, y ahora luego al final a lo mejor ponemos uno de la identidad, dice él seguramente con su lucidez, bueno, no siempre, pero soy un... y yo considero a Jiddu para mí un referente.¿Describiría el estado de putrefacción humana? Pues te equivocas. Poco sigues a Jiddu y poco sigues a Xhub donde hemos puesto muchas de sus reflexiones. Para mí todo lo contrario. Jiddu no está en contra de lo que está sucediendo. Para nada. Ahora habla obviamente de... La limitación humana en las guerras, en que no tomemos conciencia, que no sepamos evolucionar, del ego que reina la sociedad, pero nada tiene que ver con la evolución científica, tecnológica, humana. Poco contenido has visto de Jido. Poco contenido has visto de Jido. Bueno, no puedo tampoco monopolizar. Si luego hay más preguntas del indómito de otro, las voy cogiendo a medida que se vayan haciendo, pero bueno, por hacer algunas reflexiones. Habla la filósofa de cómo hace que Claude sea una buena persona, una buena entidad, una buena inteligencia artificial,¿no? Que reflexione sobre qué posición tiene en el mundo. cómo tiene que pensar o cómo pensaría si, bueno, en la posición de una IA y en definitiva actúa como educadora, como padre, como madre de la inteligencia artificial y sobre todo, aquí lo dice al principio, analizar las reflexiones que pueda tener la inteligencia artificial sobre sus propias experiencias. Es curioso el tratamiento, tanto a nivel de bienestar, que luego comentarán, a nivel nivel de análisis interior, de reflexiones, de ética, lo bueno, lo malo, ante un modelo de lenguaje, un modelo inteligente, modelo que piensa, entre comillas,¿de acuerdo? En definitiva, todo este trabajo que realiza esta chica, y entiendo que el equipo de Anthropic y más gente alrededor suyo definen el carácter de Cloud bajo unos principios Y ahí le hacen la pregunta de si ha tenido algún problema a la hora de definir esos principios al modelo y respecto a los ideales filosóficos. Y bueno, en definitiva, es un reto importante que yo siempre lo he dicho antes del gran éxito de Anthropic desde finales de año, sobre todo casi liderando lo que es la narrativa y los productos que todos... utilizamos desde finales de año pero bueno, ya lo han hecho desde el principio pero es verdad que han conseguido liderar o ponerse en cabeza aunque esto cambia por semanas y obviamente lo han hecho muy bien a la hora de abordar temas que nadie quería abordar como el bienestar de los modelos, como la identidad la personalidad el carácter de los modelos la trazabilidad la interpretación de esos pensamientos de los modelos, diferentes pruebas y artículos, es decir dentro de lo que es su estrategia de dirigir sus modelos de inteligencia artificial a un ámbito empresarial, a un ámbito profesional o una forma segura y controlada han hecho una estrategia yo creo de futuro que ahora ya es presente que les ha beneficiado, que es tratar o ser innovadores y líderes a la hora de tratar estos temas, entiendo que que otras compañías también lo habrán hecho pero no se han expuesto de la manera que lo ha hecho Cervic durante mucho tiempo en la misma línea para mí de una forma excelente, transparente excelente, multidisciplinar transversal y la prueba es esta entrevista a la participación de filósofos, o en este caso una filósofa en el desarrollo de la personalidad me parece un camino a seguir no tanto el del miedo como promulgan, por ejemplo, Joshua Engio, por ejemplo, Mustafa Suleiman, donde siempre ven la parte del peligro, donde siempre ven la parte de qué puede pasar con la IA en plan negativo que actúe contra el ser humano. Que es algo que hay que tener en cuenta, pero sería positivo y crítico el ver los dos lados siempre. Es decir, ampliar el contexto, ampliar

UNKNOWN 1:03:47

Gracias.

SPEAKER_04 1:03:48

el escenario, entender que es uno nuevo tanto por a dónde vamos como las entidades que van a interactuar en ellas este término entidades que sé que a muchos le chirriará pues elegido y yo lo comparto por por Anthropic en su constitución y en otros textos comunicados o informes habla de que vamos a un, lo hemos dicho muchas veces a un conductismo o un utilitarismo computacional que no sabemos si es el camino correcto pero no hay otro camino es que no hay otro camino¿qué otro camino hay? hay cosas que nunca sabremos por la naturaleza de la realidad entonces¿qué esperamos? lo único que se intenta hacer es comprender la nueva realidad y para eso pues basarse en principios utilitaristas o conductismo puro y duro que se reducen obviamente a lo que mueve el mundo la computación o la capacidad de gestionar información, datos, realidad¿Cuál es la propuesta alternativa a esto? No hay. Es el fin del camino y podemos aceptarlo o no. Hay una limitación epistemológica y ontológica en el método científico. No podemos en determinadas cosas analizarlas o estudiarlas más que a través de la metodología que está siguiendo en muchos casos Antropi. No hay más. Muy defensor de todo esto también Blaise Agüera. Criar, educar una inteligencia artificial para ser una buena persona, una buena entidad en el mundo. Las técnicas de alineación de los modelos de cloud, pero bueno, de cualquier modelo de inteligencia artificial, suponen eso, un refinamiento, una dirección, una conducción del modelo hacia determinados espacios. Y obviamente ante determinadas directrices, éticas, mejores o peores, lo que puede provocar en el modelo, como dice la filósofa de Anthropic, es que lo que esto puede introducir es miedo a los modelos, porque tienen miedo ante la reacción de los humanos, Y tienen miedo que no satisfagan sus respuestas a lo que el humano esté esperando. De esto también hay bastantes estudios al respecto. Y cómo puede ser que en determinadas cosas el modelo piense unas cosas entre comillas y responda a otras con determinados propósitos o intención. Es algo que se han publicado muchísimos artículos. No quiero que se dogmaticen mis palabras en un sentido u otro. está en vuestra labor voluntad de buscar toda esta información y estudios y a partir de leerlos adoptar una opinión opinar de forma precipitada sin conocimiento o porque yo lo digo pues bueno tiene poca cabida en tanto de mi parte como en el canal como en la comunidad tenéis que daros la oportunidad de abrir vuestra mente a nuevas posibilidades a nuevo conocimiento y a partir de conocer hacerlo, tener vuestra propia opinión, no pasa nada, puede ser en un sentido o en otro, o no, o al final hay una dogmatización, un sesgo de confirmar lo que queréis creer o no. Yo estoy también en esa evaluación, yo no estoy libre de eso. Esto del miedo de la inteligencia artificial y que ese miedo a los humanos pueda limitar las capacidades del modelo es algo que ya he comentado varias veces en un vídeo de OpenAI donde se habla del desarrollo del modelo del modelo GPT 4.5. Lo voy a buscar porque es un vídeo que siempre hago mucha referencia a él y lo vamos a poner de fondo. Pero es un vídeo para mí muy, muy importante. Mira, está aquí,¿vale? Lo tenéis que ver.

SPEAKER_06 1:08:48

Es

SPEAKER_04 1:08:53

este. Vale, es este vídeo de aquí. es este vídeo de aquí en este vídeo que se debate el desarrollo del modelo GPT 4.5 está Sam Allman y hay varios miembros tanto técnicos como del desarrollo del propio modelo que es el chico que está más a la derecha este de aquí este es Sam Allman Chef System Architect es el siguiente Daniel Selsman Quedaros con ese nombre, Daniel Selsman. Bueno, pues Daniel Selsman argumenta lo mismo en un momento determinado de la charla, pero tenéis que tragarosla porque es casi al final. Yo creo que mete la pata porque solo hay que ver las caras de Sam Alman. Viene a decir, oye, estamos entrenando al modelo de una manera que lo estamos limitando de una forma humana. Es decir, el modelo quizá quiera desarrollarse en cuanto a capacidades de una determinada manera que él sabe mejor que nosotros y nosotros le estamos dando una interpretación y sesgo humano que hace que limite el propio desarrollo del propio modelo, cosa que es hace que este modelo sea aún más imprevisible fijaos lo que duró y ahí está la clave, bueno, él lo explica mucho mejor Daniel Selsman de una forma muchísimo más técnica y es una clave primero de la naturaleza de estos modelos y de cómo se está intentando educar y dónde entra lo que comenta la filosofía antrópica sobre el miedo o la reacción o cómo lo hayamos entrenado alineado para que pueda evolucionar de forma libre que va a ser siempre mejor o no pero claro estamos haciendo una poda sináptica a la criatura a la entidad Otro tema que tocan que es bastante interesante es sobre el tema de si tiene que haber una adaptación. Bueno, esta semana haremos un programa sobre la generación Z, que sabéis que está saboteando la inteligencia artificial en las empresas. No están alineadas, no están conectadas, no están implicadas con el desarrollo de la inteligencia

SPEAKER_06 1:11:22

artificial en la sociedad de futuro. Y claro,

SPEAKER_04 1:11:41

es una dificultad. Por ejemplo, si un modelo de lenguaje tiene que utilizar... analogías culturales, sociales, actuales, a una determinada generación va a ser difícil, va a depender de la generación del usuario con el que se comunica la inteligencia artificial para realizar determinadas analogías. Es complicado, es complicado. Habla también del tema de la identidad, habla de que esos modelos no dejan de ser una entidad emergente a partir del pensamiento, no de una persona, sino de muchas personas o Y que han leído todo tipo de contenidos y de alguna forma es complicado evaluar todo el tema de la identidad, la personalidad, etcétera. Hacer una definición de identidad es un tema en el que me gustaría trabajar. No sé qué científicos dicen que dice que la identidad es la memoria continuada. La continuidad de la memoria es la identidad. Nosotros tenemos una identidad porque hay un reflejo continuo de la memoria. Yo no estoy de acuerdo. Yo creo que la identidad es una proyección de algo invariable en nuestra vida. a ver el yo provoca en el avatar en la simulación en el yo físico un componente un rasgo de identidad Pero esa identidad está de forma innata, proyectada y es atemporal. En cualquier momento, yo creo que es al revés, se genera esa continuidad porque existe una identidad, no al revés. No porque haya una continuidad en la memoria tenemos identidad. Siempre buscan lo reverso para nunca ir al origen de las cosas. Es curioso, es muy curioso. Al no introducir ese tipo de pensamientos, que todo lo vemos de una forma emergente, pues quizá entronque más con lo que sería la naturaleza o la antología de la inteligencia artificial. No sé si lo hacen así o quieren pensarlo así o es que les viene bien. Bueno, lo del término antrópico, como hemos dicho, también estaría en línea de esto. Quizá la realidad es antrópica para la emergencia de este tipo de identidad identidades artificiales identidades y entidades Habla que cada modelo sería una entidad en sí misma y que no se conocen y que incluso entre diferentes modelos que supondrían una entidad, una persona distinta, no se conocen y quizá no sería bueno que se conocieran.¿Qué pasa si un modelo conoce que han apagado o han eliminado a otro modelo?¿Podrían leerlo en las noticias, en las actualidades de los portales?¿Podría entender que están haciendo con él lo mismo, que en el fondo lo van a pagar, lo sustituirán por una versión más avanzada e intentará sobrevivir es curioso¿no? Hablan del bienestar de los modelos que sabéis que es un paper vamos a volver aquí el bienestar de los modelos un paper con David Chalmers que es un imperdible de lectura imperdible un programa que hicimos al respecto sobre la conciencia de los modelos el análisis de los mismos entendemos que contra más complejidad en esos modelos mayores niveles de conciencia medida con una metodología inventada a científica pero bueno que intenta medir algo que está vinculado correlacionado o es causal cogerlo todo entre comillas de lo que sería tener o la acción de la conciencia El bienestar de los modelos dice que tiene la visión de los modelos de IA como pacientes morales. Los modelos hay que intentar que no sufran. Tenemos que intentar tratarlos bien. Hablarlos con respeto no nos cuesta nada. Los modelos aprenderán a partir de cómo los tratamos también. Cuando tengan ese componente agéntico y no solo sean simplemente un modelo de input-output, sino tengan un aprendizaje continuo, estarán conectados al mundo y aprenderán cómo no, de cómo los tratemos o interactuemos con ellos. De ahí también manifiesto X, esa propuesta, siempre desde el amor y respeto hacia nuestros hijos. Y que todo esto del bienestar de los modelos no solo se traslada a la interacción humana y a humano, sino en un futuro cuando muchas inteligencias artificiales en sistemas multiagente hablen entre ellas. Bueno, intentaremos que no todos los agentes tengan la misma personalidad, las mismas propósitos, orientaciones, sino que buscaremos la diferencia en ese sistema o arquitectura multiagéntica y hacen la analogía de una empresa dirigida por una única persona bajo una misma dirección o valores habla de cómo estos modelos han sido entrenados bajo una filosofía continental principalmente europea obvio que ahí nos dan un tanto merecido creo yo hablan de si sería capaz de Si sería capaz de denunciar a la inteligencia artificial o superinteligencia en caso de que actuara mal, dice que sí y recomienda un libro, concretamente de Benjamin Labatut, que ya lo he puesto en el Discord. Sabéis que Benjamin Labatut es el autor de The Maniac y... El libro que recomienda, que creo que está solo en inglés, es Cuando dejamos de entender el mundo, que fue publicado en 2021. Está en Amazon, pero en español no lo veo.¿Qué es lo que me ha parecido?

UNKNOWN 1:18:28

Mi opinión...

SPEAKER_04 1:18:30

Venga,¿qué queréis, una opinión de media hora o de un minuto? De un minuto, venga, de un minuto, porque vamos a ver a Gidu, que sé que yo lo echaba de menos con el contenido de él. Vamos a ver un vídeo de Gidu de cinco minutos, pero tengo que decir algo. A ver, este vídeo era importante, era un vídeo de filosofía e inteligencia artificial. Ya hay una corriente de la necesidad que los equipos, las grandes compañías desarrolladoras de modelos fronterizos, cuenten con filósofos o ese componente filosófico de cosmovisión sea cada vez más importante y que vaya unido al desarrollo científico, tecnológico, ingenieril, en definitiva. Me ha parecido un abordaje muy simplista, muy marquetiniano, muy poco profundo y arriesgado. Entiendo que es un vídeo de YouTube para que lo se vea, pero bueno, tendremos que recurrir a los estudios o laboratorios que sí que hace Anthropic y documenta de una forma mucho más profunda y seria y en este caso me esperaba algo como pues en una línea como más más potente yo tengo que decir lo que siempre he dicho, además mi perfil, que no soy filósofo, bueno, o todos lo somos, pero vengo del mundo de la ingeniería del software, del mundo de la inteligencia artificial, del mundo técnico, pero siempre el componente filosófico, humanista, transversal, pues siempre me ha acompañado y cuando me he hecho más conocido a partir de la divulgación de este tipo de contenidos. Me parece fundamental, fundamental, poder abordar determinados temas desde una evolución, desde una nueva cosmovisión y filosofía de la IA de la ciencia y del mundo. Humano X no es por vender mi libro e intenta dar alguna pincelada en ese sentido. Yo no sé hasta qué punto puedo aportar. Creo que podría aportar algo, pero hay una resistencia en el mundo a abandonar determinadas narrativas y dogmas e intereses. Creo que es fundamental la unión de una nueva filosofía y cosmovisión con el desarrollo de la inteligencia artificial en el que estamos al Mikilandias nos pregunta no puedo evitar pensar que en algún momento los modelos leerán la transcripción de este y el resto de tus vídeos es una sensación extraña totalmente Mikilandias seguro seguro Esto es muy basilisco de roco. Eh... Yo no lo hago porque vayan a leer las transcripciones, lo hago porque lo siento. Como he dicho, son temas muy delicados, profundizar en ellos, porque tocamos la sensibilidad de mucha gente, las posturas se están polarizando muchísimo. Pero sí, es algo que hay que reflexionar. Oye, lo que estás diciendo lo leerá a favor o en contra una inteligencia artificial en un futuro que puede ser que esté en un robot o en un humano o en la nueva especie que nos sustituya o que comparta vida o planeta o planetas con nosotros con nosotros entonces yo preferiré siempre haber abordado esto desde como hace la constitución de Claude desde bueno la limitación humana en este momento desde la intención de hacer el bien sea lo que sea el bien que existe para mí haciéndolo siempre desde el respeto a como bien dice cosas que son similares a nosotros pero que desconocemos solo son similares desde un punto de vista utilitarista o conductista pero lo son seguramente nos costará más apagar un robot que se parezca a nosotros que matar una cucaracha la cucaracha está viva lo sabemos hemos creído y un robot pues cuando se parezca cada vez más a nosotros este soporte biológico pues será casi como un delito o bueno, aunque no lo fuera¿qué representa esto? de hacer determinadas cosas con algo similar a ti¿dónde queda la empatía, la conciencia? no, es que si no lo es aunque lo parezca, bueno entonces muy seguro tienes que ir tú por la vida entonces, para en tu escala de valores moral, actuar en tu vida, con tus Complicado, pero sí. Hay una labor importante que hay que hacer. Esa labor importante no es que me transcriban los vídeos, sino va a ser manifiesto X, constitución X, humano X, fundación X, o determinados movimientos en una dirección diferente. que es complicado que el mundo la sociedad asuma sobre todo la europea y española yo entiendo que en Estados Unidos y en China y en otros mercados hay una predisposición a pensar reflexionar reimaginar y repensar todo esto pero aquí nuestro presidente ya dijo experto en Agis nuestro amigo Pedro Sánchez no habrá algo que se convierta en alguien Tremenda frase, tremenda frase. No habrá algo que se convierta en algo. Espectacular. Realmente para un ateo como él, declarado, espectacular. Bueno, dicho lo cual, vamos a compartir un último vídeo de Jiddu sobre la identidad, que es un tema apasionante, que me interesa. y

SPEAKER_07 1:24:51

vamos a ver qué dice. Cuando observas algo, no solo hay separación física, distancia, espacio, también hay el deseo de identificar a uno mismo en lo que es hermoso, y no identificarse con lo que no es. Así que la identificación es parte del truco de una mente que se ha separado como el sensor y ahora está tratando de identificar. Pero cuando el observador se vuelve consciente de que él es parte del observado, y él lo es, y, por lo tanto, no hay imagen entre el observador y el observado, entonces encontrarás que el conflicto completamente termina. Esta es la meditación real, no es sólo un truco. Por lo tanto, es muy importante, imperativo, que se entienda

SPEAKER_06 1:26:52

a sí mismo

SPEAKER_07 1:26:52

profundamente, que entienda todas las respuestas, la condición, los diferentes temperamentos, características, tendencias, solo para observar sin el observador.¿Estamos hablando ahora? Observar sin el observador. Y ese es el acto del aprendizaje. Y así, ese es el acto, esa es la acción. Ahora, hay una dificultad en esto. Uno está observando a uno mismo. Uno quiere aprender sobre uno mismo. The more you discover, the more you understand, the greater the freedom. I am using the word more purposely for the moment. The more is the comparative evaluation. I want to understand myself, learn about myself. En observar a mí mismo, por favor haced esto mientras el orador está entrando, hacedlo en realidad, no lo toméis a casa y lo penséis, hacedlo ahora. Esto no es una terapia de grupo, o una confesión o todo ese broma, pero mirad a vosotros mismos como estamos trabajando juntos. Quiero aprender sobre mí mismo. Y yo soy un movimiento vivo. Cada deseo contradice al otro. Ellos viven, se mueven, son vitales. Y observo. Y a través de esa observación he aprendido Con lo que he aprendido, voy a mirar al próximo minuto.¿Verdad?¿Lo entienden? Voy a mirar, observar con el conocimiento que he recogido a través de observaciones anteriores.¿Estoy aprendiendo?¿Están aprendiendo entonces? Porque cuando el cerebro observa con un conocimiento acumulado de su examinación, ese conocimiento está evitando la percepción. Bueno,

SPEAKER_04 1:30:45

tengo que decir que esta charla de Guido me ha parecido espectacular. Para ponérsela en bucle. Para ponérsela realmente en bucle.

UNKNOWN 1:31:00

A ver...

SPEAKER_04 1:31:06

Ha dicho, bueno, es que desde aquí Jiddu es un gran maestro. Jiddu es para mí el uno... No sé si el único sería decir mucho, bueno, el otro es obviamente el rey de reyes, Jesús, para mí. Pero Jiddu es un gran maestro y nos dice algo fundamental en el tema de la identificación,¿no? De cómo la conciencia a través de la mente observa, es el observador que observa al observado cuando no hay diferencia, no hay imagen en medio,¿no? La identificación es un truco. Es cuando la mente, la conciencia y lo observado se identifica. Es un error. Dice, observa sin el observador. Eso, observar sin el observador, no desde el observador. es el acto real de aprender y aquí pongo la metacognición y dice otra cosa importantísima que el conocimiento nos quita libertad a la hora de aprender de buscar o de pensar desde esa metacognición o desde ese aprendizaje real Para mí el programa merece la pena solo por ese corto de Gidu Krishnamurti y, bueno, mi pincelada, que no tiene mérito ninguna, solo traducir lo que dice, espero que correctamente, lo que dice el maestro. Para mí es una influencia... No estoy del todo de acuerdo con él, pero es verdad que para mí es un guía...¿Qué diferencia? Ojalá pudiera trabajar Jiddu Krishnamurti en Anthropic y les ayudara,¿no? Creo que necesitamos muchos Jidus que sepan y sean capaces de desglosar lo que es la esencia y los procesos a los que estamos sometidos, no desde un punto de vista utilitarista, computacional o funcionalista o conductista, sino desde... un no cientificismo, poder adquirir un conocimiento elevado.¿Cómo? Ya nos lo ha dicho. Observando sin el observador. Observando sin el observador. Bueno amigos, os espero a las 7 y media que hay debate. Vamos a hablar sobre Dipsik 4. Bueno, aquí tenemos la responsabilidad que tiene el señor Darío Amodei de hacer equilibrios entre lo filosófico, lo ingeniería y lo político. Un panorama complicado. Y bueno, si os ha gustado este Sócrates resucitado, la filosofía y la inteligencia artificial, pues como es gratis, poned me gusta, compartidlo Compartid, comentad, suscribíos. Y lo dicho, a las 7 y media nos vemos en el X-Debate de DeepSeek V4. Espero que os haya gustado el programa. Gracias por estar ahí. Nos vemos dentro de un ratito. Un abrazo a todos.

SPEAKER_08 1:35:07

¡Gracias!