T6.E055. xDEBATE.AI DECLARACIÓN AI-PROHUMANA ¿Protegiendo humanos o manipulación medieval?

# TEMA 
DECLARACIÓN AI-PROHUMANA ¿Protegiendo humanos o manipulación medieval?

# MENTES
🧠Ignasi Alcalde
🧠Xavi Roca Cusachs
🧠David Vivancos
🧠Frank Escandell

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_01 0:00

Conectando. Tu cuerpo. Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_00 1:06

Intentes doblar la cuchara. Eso es imposible. En vez de eso, solo procura comprender la verdad.

SPEAKER_02 1:15

¿Qué verdad?

SPEAKER_00 1:17

Que no hay

SPEAKER_01 1:22

cuchara.¿Que no hay cuchara?

SPEAKER_00 1:23

Si lo haces, verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_02 1:36

Las opiniones vertidas en este programa son de exclusiva responsabilidad de quienes las emiten y no representan necesariamente el pensamiento ni la opinión de este podcast ni de la comunidad al completo. En los debates pretendemos presentar diferentes opiniones, visiones y experiencias que permitan a los oyentes sacar sus propias conclusiones. Pretendemos y luchamos por ser o intentar serlo un espacio de pensamiento¡Suscríbete!

UNKNOWN 2:38

Chau.

SPEAKER_04 2:40

Hola, buenas tardes a todos amigos.¿Qué tal?¿Cómo estáis? Soy Plácido Domènech y hoy tenemos un nuevo X-Debate ahí, terminando ya la semana. Además, hoy jueves vamos a, yo creo, un debate súper interesante de un documento, otra vez, no sé si llamarlo antiinteligencia artificial, contencionista seguro, pero bueno, él se declara esta publicación del Future of Life Institute, entre otras asociaciones que lo apuntan, declaración ea y pro humana y lo hemos subtitulado vamos a debatirlo si esta declaración lo que hace es bueno si tiene un carácter humanista y lo que hace es proteger humanos o lo que está estamos viviendo es otra vez de nuevo una manipulación medieval entiendo que habrán posturas muy enfrentadas vamos a tener bastantes ponentes nos ha caído alguno pero pero tenemos un plantel de lujo con gente nueva también. Así que como va a ser un programa largo e intenso, vamos al lío. No sin antes comentar rápidamente, porque es verdad que el programa y la publicación va a dar mucho de sí. Pero sí que quería que para la gente que no lo sepa o no conoce o no sigue quizá ahí, dar alguna pincelada que contextualice el programa y la publicación. Está claro que el contextualizarlo necesitaríamos varios programas,¿no? Pero vamos a advertir, pues, algunas cosas que son importantes. Una es que la mayoría de gente, incluso el origen del Future of Life Institute, por parte de Max Techmark, pues, su origen, no sé si más allá me pierdo, pero Asilomar fue el punto de encuentro de todo este... de todos estos jugadores y la creación de este tablero de poder con la administración Obama, etc. De ahí, en Asilomar, surgieron 23 principios de inteligencia artificial. 23 principios que no vamos ni a revisarlos ni a detallarlos, pero hay uno especialmente que siempre he hecho hincapié, el de la mejora, el del self-improving, que es la IA automejorándose, y el del self-replicating, perdonad mi inglés, además es llamamos aquí Frank que perdone mi inglés que que ya se dijo en Asilomar, es decir, que estas dos características, la replicación, la autorreplicación o la mejora continua, debían ser tratadas casi como asunto de Estado y máxima seguridad y utilizar los medios disponibles para poder evitar esto. Claro, esto ya está sucediendo. Esto en Asilomar, que fue en 2017, no sé si alguien, si me equivoco en alguna fecha o cualquier cosa, o me lo decís por privado o decís por el chat, pero antes evidentemente que ChaGPT, es decir, ya había una intención contencionista y si no contencionista de controlar el desarrollo de la inteligencia artificial OpenAI además su origen nace de ahí con Elon Musk y Sam Allman y luego el resto del equipo un poco bueno el humano tiene que evitar riesgos y tiene que ser el que lidere, mande o proporcione ese enfoque human first, humano primero de todo este desarrollo, entonces Asilomar es clave para entenderlo, tenéis si buscáis XHabay y Asilomar o buscáis Asilomar o lo preguntáis a la IA lo que queráis, vais a encontrar un poco bueno, vais a encontrar varios programas muy interesantes ya temporales y tienen que ver con este tipo de publicaciones, bueno aquí tenemos el principio 22¿no? Fijaos, este... Y esto es de hace años. Estos programas creo que son de un par de años. Fijaos que se hablaba de cuestiones a largo plazo. Bueno, en aquel momento se hablaban de cuestiones a largo plazo. Ahora ya no lo son. Dice, automejora recursiva al principio 22. Los sistemas de inteligencia artificial diseñados para automejorarse o autorreplicarse de manera que puedan llevar a un aumento rápido en calidad o cantidad deben estar sujetos a medidas estrictas de seguridad y control. Ese es un punto. Luego, otro momento que hay que... considerar como histórico y así lo más lo es, evidentemente que además están todas las slides, están todos los vídeos, es un momento histórico que se puede revivir y profundizar y resulta muy curioso, pero otro momento del Feature of Life Institute representado por Max Tegmark es cuando en esta charla que es para mí histórica y que siempre he hecho mucha referencia en X-Hab ahí en el MIM debate pues se enfrentaron los contencionistas medievales, llamarán me digo a Joshua Bengio, sería faltarle al respeto. Pero bueno, Max Tegmark y Joshua Bengio contra Jan Lecun y Mary Mitchell, creo que se llama. Bueno, Mitchell, no me acuerdo, si alguno lo sabéis,¿cómo se llama David? Mary Mitchell. Bueno, en definitiva, ahí se produjo una excursión ante un planteamiento de Max Tegmark que básicamente venía a decir que la inteligencia artificial no puede ser una tecnología que se ponga al alcance del ser humano, ni pensar el democratizar ni pensar open source debe ser una tecnología protegida porque él hace la reflexión que a mí me parece más grave, que dice que si esta tecnología tan potente, más potente que una bomba atómica se pone a disposición de la humanidad,¿qué hubiera pasado si la hubiera tenido Hitler? Lo que dice es que no estaríamos contándolo. Esas son palabras textuales de Max Tegmark lo que hace entender sus planteamientos a lo que tanto Jan Lecun de una forma contenida, pero Mitchell con, perdón de la palabra, con muchos cojones le dice que ese reto human lo van a conseguir, lo van a superar y vamos a conseguir que la inteligencia artificial sea algo positivo para el ser humano y evidentemente no actuemos de forma contencionista, censurable o ante un conocimiento imparable como es el de la inteligencia artificial y un momento histórico único para el desarrollo del ser humano y de la sociedad, etc. Y bueno, iba a poner un montón de programas pero no quería hacerlo eterno. Hemos hecho un montón de programas porque hay un montón de publicaciones en esta línea donde no han faltado los tres o cuatro fantásticos que son Max Tegmar siempre liderando Geoffrey Hinton, Joshua Bengio y Saturn, no,¿cómo se llama? el otro siempre se me olvida no sé por qué, Stuart Russell no sé por qué, tengo un bug en la memoria que el Stuart Russell que son, a ver, que es gente muy potente padres de la inteligencia artificial, Stuart Russell con el libro de Modern Approach bueno, es decir, gente el último que vimos el primero fue el de par en la inteligencia artificial que hasta Elon Musk firmó no vamos a recorrerlos todos porque me resulta ya, pero bueno, para la gente que es el primer programa o va un poco desubicada y no conoce este tipo de publicaciones y cree que no es tan importante, lo es porque sí, una cierta estrategia, pero bueno, el último fue, es perpéntico, emitimos mucha caña creo que participó David Biobanco, creo que estaba, no me acuerdo, pero creo que sí vuelven los medievos stop superinteligencia, una publicación de par en la superinteligencia, otra vez con lo mismo,¿no? En este caso pues para la superinteligencia hicimos estas portadas maravillosas la verdad es que hay algunas icónicas que me gustan mucho de los humanos ahí en plan medievos pues quemando a la superinteligencia en este caso un robot,¿no?¿Y quién promueve esta publicación en este caso? Pues los mismos de siempre y algunos nuevos, algunos han caído no he estado revisándolos todos pero Joshua Bengio bueno, lo de Steve Bannon Es para comentar. Lo de Steve Bannon es para... Bueno, da para un programa. Podríamos hacer un programa rollo... rollo conspiranoico. Richard Branson, también... Stuart Russell no lo es. Tristan Harris tampoco. Lo de Joseph Gordon-Levitt, actor que admiro, pero está en todos los tinglados. Este tío no se baja del carro. Algot, da para una investigación.¿Qué pasa con Joseph Gordon-Levitt en el mundo de la IA? Bueno, no sé si alguien sabe algo, pero claro, este tío es un actor igual que Morgan Freeman,¿no? Morgan Freeman estuvo en Asilomar. Bueno, también Stephen Hawking y otros. Bueno, Roman Jampolsky, Tecmar... los típicos, hay algunos que no están, pero no sé si porque no han firmado, porque no les ha dado tiempo, no se han enterado, pero suelen ser los mismos, vamos, que hay una insistencia continua, una coordinación, una estrategia. Dicha esta pequeña introducción, vamos a decir dos cositas, presentamos a los ponentes y analizamos el texto. Sabéis que este es un programa de la comunidad X-Javaí, comunidad de inteligencia artificial, y nunca, no mejor dicho, sino necesario, ciencias transversales, es decir, la transversalidad de la inteligencia artificial empieza a ser Bueno, empieza no, siempre ha sido espectacular, pero ayer vimos un tema que fue la replicación del cerebro de una mosca, ahora el reto de un ratón y todo lo que puede llegar a implicar en cuanto a neurociencia, que tenemos aquí David Bancos que también nos puede comentar un montón de cosas de su neuroaxón y de toda la investigación que han hecho a nivel de lo científico, que la inteligencia artificial, a partir de su bioinspiración en parte, nos aproxima y conecta con el mundo científico, obviamente, el mundo del desarrollo del software, el mundo económico, el social luego pondré dos vídeos para no hacer muy largo el que se presenten los ponentes que son dos vídeos muy cortitos de un minuto que dan a entender por qué existe tanta alarma y no para, los acabo de ver, uno del CEO de Palantir y es que es normal este tipo de publicaciones y peor es ante las publicaciones que se están haciendo y que ya sí que yo creo que este año la gente entiende que van a ser verdad y no cuentos de ciencia ficción bueno, en definitiva comunidad de inteligencia artificial y ciencias transversales sexta temporada la verdad es que uno cuando mira atrás pues sorprende que llevemos tantos años y advirtiendo de muchas cosas pero bueno, hay que vivir el presente, mérito ninguno y lo que pretendemos en Xjabail lo decimos siempre es que, bueno, pensamiento crítico, debatir cosas, mostrar opiniones distintas y plantearos cosas o conocimiento que muchas veces no se pero bueno, es verdad que necesitaríamos que sea un programa diario para todo lo que sucede, poder debatirlo. Quería hacer este mediodía, pero tenía muchísimo trabajo, el de Macroheart de Elon Musk. Bueno, lo de Macroheart de Elon Musk ha sido presentado ayer, hoy, bueno, todo lo de NVIDIA con Nemo Claw, bueno, es que es una auténtica locura, es que no nos da tiempo, me acuerdo que leí en el Frank, que lo tenemos hoy aquí en Discord, un mensaje que iba en esta línea, que no nos da tiempo y estamos todos como desbordados y superados por la situación, pero también apasionados ante tantas cosas que se pueden llegar a hacer. En definitiva, si queréis uniros al Discord de la comunidad de XHab ahí, me enviáis un mensaje directo, un correo, os paso un enlace y estáis dentro y ya acabamos. Bueno, si os gusta, pues apoyadnos. Si os gusta lo que veis, lo que vais a ver, lo que conocéis de XHab ahí, que ve Creo que sí, porque ya os digo, la fidelización de este canal, de este contenido, es muchísima. A mí me sorprende. Crecemos lento, pero siempre crecemos, pero no perdemos audiencia y tenemos unos oyentes muy fieles. Y yo creo que quizá ahí, además, ante el escenario que vamos a vivir y cada vez más es más necesario que nunca para dar visibilidad no solo a la comunidad, sino al talento que traemos, pues bueno, ponernos me gusta, compartir, comentar, suscribiros, sobre todo, Y suscribíos al canal de YouTube o a cualquier plataforma de podcast que estamos en Evox y en Spotify principalmente. Vamos a ya empezar a analizar el texto, pero antes vamos a ver los ponentes que falta Ignasi, entrará un poquito más tarde. Sara se nos ha caído. Pablo no sé qué ha pasado, pero tenemos un plantel de ponentes importante e interesante. Vamos a dejar que se presenten. Empieza tú, David, que eres el veterano. Y luego... Xavi

SPEAKER_03 15:22

y luego Frank, que es extremo. Muchas gracias por la invitación, Plasio. Es un placer siempre estar aquí en XHub, efectivamente la comunidad que realmente habla de lo que importa en la IA, no el resto de otras que hay por ahí. Y bueno, sobre mí, pues bueno, me he conocido yo creo muchos también, pero llevo pues décadas dedicado a la tecnología, un montón de décadas, a la inteligencia artificial pues también, más de 20 y tantos, casi 30 años en algunas cosas, y especialmente los últimos 15 muy centrado en la IA general, bueno, tanto en su desarrollo como en la investigación, como últimamente en la publicación también estamos haciendo muchas cosas de ciencia abierta ahora mismo y también pues bueno, he sido consejero de grandes y pequeñas en todos estos aspectos y autor también de seis libros y bueno, abro y cierro también eventos en este aspecto y bueno, siempre es un placer estar aquí hablando de estas cosas y poniendo los acentos donde hace falta y también un placer compartir aquí con los compañeros Frank y

SPEAKER_04 16:13

Sabio¿Cómo llevas el libro?

SPEAKER_03 16:17

Nunca me acuerdo el nombre Sí, sobre Torres Quevedo, soy El séptimo libro está enfocado en esa vindicación de ese gran genio español que lo perdimos o se perdió hace tiempo y curiosamente le vanagloriaban más en Francia. Era curioso. Estoy revisando aspectos traducidos en francés porque curiosamente le vanagloriaban más allí que aquí. Bueno, aquí en esa época no ha estado mal pero luego enseguida se lo olvidó. Y la verdad es que es un gran pionero. Estoy trabajando también todos los no anglosajones, es decir, todos los puntos clave que han llegado a la mía que no han sido anglosajones luego evidentemente se ha dominado todo mayoritariamente por ellos o por heredados porque viven allí y la verdad es que va avanzando y creo que en unos meses estará

SPEAKER_04 16:58

actualmente ya

SPEAKER_03 16:59

preparado investigación en este caso mucha investigación

SPEAKER_04 17:01

bueno ese libro le meteremos bueno siempre le apoyamos todo lo que hace David le hemos apoyado además el año pasado declarado como talento de Xjabai y bueno los programas con más audiencia suelen ser los de David es alguien que la gente pues sigue también en Xjabai los temas que trata pero bueno el libro de Torres Quevedo yo creo que es muy especial por el reconocimiento de una figura y una historia historias tan interesantes que hemos comentado comiendo pero que cuando se publique el libro yo creo que la gente lo va a disfrutar mucho y bueno David yo no sé cómo de dónde saca el tiempo es también una súper inteligencia de estas Xavi hace ya tiempo que no te teníamos por aquí bueno miedo no tenía como sé como pienso pero bueno, no significa que aquí quede al contrario, es decir pero sé que es un tema delicado, un momento delicado y una visión humanista y además alguien como tú que también los programas que has realizado siempre han tenido muy buena acogida y una visión humanista como la tuya yo creo que es necesaria en una declaración pro-humana vamos a ver qué dice,¿no? Bueno, sabe, preséntate y comenta cualquier cosita que quieras¿Qué tal? Pues muchas gracias Plácido, David, Frank si por mi parte pues humanista significa que a mi me importan los negocios únicamente oportunidad o la inteligencia artificial también como algo para potenciar lo humano me importa lo humano porque no hay más, porque somos personas porque hemos venido aquí a hacer algo y para mi todo lo que existe sirve para y sirve para Chau.¿Se ha cortado? Sí, disculpas. Sirve para cómo potenciamos entre todos lo más humano, cómo potenciamos cómo hacemos para que el mundo sea un mejor lugar. Así que, nada, esta declaración dice muchas cosas y realmente no dice nada.

SPEAKER_03 19:09

Pero eso seguimos luego.

SPEAKER_04 19:12

Bueno, yo creo que sí que dice muchas, muchas cosas. Yo creo que dice tantas que yo me he asustado porque digo, esto va para un programa de 3 o 4 horas, pero no me queda bien. Ya he hecho un publicación con crítica, análisis al respecto, yo creo que se dicen muchas cosas, yo creo que de los textos en los que más se han mojado,¿no? Otra cosa es que tengan importancia o no, sea teatro, sean imposibles, sean posibles, sea marketing, sea inabarcable, inalcanzable, o de dónde viene, ahora lo vamos a debatir en los puntos que trata, pero yo creo que es yo creo que es de las publicaciones potentes,¿no? Pero bueno, lo vamos a leer, lo vamos a leer y lo vamos a analizar y debatir, punto por punto, intentaremos que no sea un programa de cuatro ni de tres horas. Frank Escandella, alguien que conozco, que compartí en Futuro X2 este pasado fin de año, donde Frank, me acordé, ahora te presentas, pero que te quería hacer para que también lo comentes, el otro día comentamos las declaraciones de Von der Leyen diciendo que Europa había, se había equivocado con la energía nuclear,¿te acuerdas el pequeño debate que tuvimos ahí? con él no me acuerdo el nombre el profesional que vino de uno de los mayores conocedores de energía nuclear si quieres comentar algo pero bueno si no no te meto en ningún lío pero bueno frank preséntate tu primera vez en xamay

SPEAKER_05 20:37

muchas gracias buenas noches encantado david xavi la primera vez aquí en extravagancias ha sido por la invitación

SPEAKER_04 20:46

frank yo en mi caso trabajo en el área de inteligencia artificial para un observatorio. Yo sé que esa palabra observatorio hoy en día está tomando mal nombre, desgraciadamente. Es un observatorio de los serios. De esto que igual que es Future Life Institute, esto que tenemos aquí, el texto que es la razón de este episodio, es un think tank, es decir, un laboratorio de ideas y como su nombre indica en inglés, es para pensar. Sí, pero muchos de esos observatorios se quedan en pensar, pero no hacer. Entonces, está lleno el texto, está lleno de imprecisiones. Yo, en mi caso, trabajo para el Observatorio del Impacto Social y Ético de la Inteligencia Artificial, conocido como ODISEIA. Está en Madrid y eso. También tengo actividades en este caso con un grupo de trabajo de UNESCO. Y ahora, a partir de ayer, aunque fuese dos meses el nombramiento, aunque no soy un académico, ese me ha invitado a trabajar con una cátedra de la Universidad de San Pablo de Loite, que es USENIA, Estrategia Nacional de Inteligencia Artificial, aquí en España. Así que, he sido, vengo del mundo más bien de business, más que de investigación. Solamente un apunte, hace 10, 11, 12 años, yo tenía la responsabilidad La responsabilidad del desarrollo de negocios, el primer equipo fuera de los Estados Unidos que trajo la tecnología de realidad aumentada de Google al mundo, fuera de los Estados Unidos. Fue una empresa española de 25 personas, el que estaba fincada en Murcia ya no existe, pero en este caso el potencial, solamente resaltar el potencial técnico y tecnológico, no en gestión, desgraciadamente, pero sí técnico y tecnológico que tenemos aquí en España. Bueno, para quien no lo sepa como curiosidad, bueno, no sé si es importante o no, pero eres de origen americano,¿no? Nacido en América. Sí, origen español, padres son españoles. Bueno, la pronunciación americana o inglesa será, no la comparéis con la mía. Aquí Frank nos la va a hacer perfecta. Bueno, vamos a empezar con el análisis. Yo creo que tenemos un buen plantel, luego entrará Ignasi no sé si Pablo al final no ha podido no he tenido respuesta pero Ignasi me dijo que se conectaría a las 8 pero bueno, tenemos un buen plantel, vamos a por ello declaración pro-humana declaración de inteligencia artificial marzo de 2026 bueno, todo lo que prácticamente vemos vamos a leerlo, sé que normalmente intento no leerlo pero como es bastante breve pues para la gente del podcast yo creo que le va a ayudar y lo voy a intentar leer rápido y cada sección la debatimos. El preámbulo del texto dice lo siguiente. A medida que las empresas se apresuran a desarrollar e implementar sistemas de inteligencia artificial, la humanidad se enfrenta a una encrocijada. Un camino es una carrera por el reemplazo. Los humanos son reemplazados como creadores, consejeros, cuidadores y compañeros. Y luego, en la mayoría de los trabajos y roles de toma de decisiones, concentrando cada vez más poder en instituciones irresponsables y sus máquinas. La chavofra se cita. Concentrado cada vez más poder en instituciones irresponsables y sus máquinas. Un sector influyente incluso aboga por alterar o reemplazar a la humanidad misma. Esta carrera por el reemplazo plantea riesgos para la estabilidad social, la seguridad nacional, la prosperidad económica, las libertades civiles, la privacidad y la gobernanza democrática. También pone en peligro las experiencias humanas de la infancia, la familia, la fe y la comunidad. Me parece tremendo. Tú, Xavi, decías que no decían nada, pero a mí solo este párrafo da para un programa entero ya. El que digan esto de esta manera,¿no? Ahora acabo y...

SPEAKER_05 25:01

Lo que

SPEAKER_04 25:02

decía es

SPEAKER_05 25:02

que

SPEAKER_04 25:06

no dice nada, pero luego lo matizamos. Ahora no nos lo explicas, pero bueno, para mí ya solo el texto, imagínate cómo lo dicen,¿no? Con una agresividad verbal y adjetivos¡guau! Y acaba diciendo que una colisión notable amplia, entiendo que ellos, porque bueno, esto no solo es del Feudal Life Institute, lo he puesto un poco como reclamo, porque está más Tecmar, pero hay bastante más asociaciones,¿de acuerdo? Una coalición, la de Shannon, la aparición de Shannon, luego David o alguien que me lo quiera explicar, porque bueno, ya estaba en la de la inteligencia, la superinteligencia, bueno, yo no sé, este hombre que viene de ser consejero, luego lo vemos, es una cosa bastante curiosa. Una coalición notablemente amplia rechaza este camino, un unida por una simple convicción. La inteligencia artificial debe servir a la humanidad, no al revés. Existe un camino mejor, donde las herramientas de inteligencia artificial fiables y controlables amplifican, en lugar de disminuir el potencial humano, empoderan a las personas, realzan la dignidad humana, protegen la libertad individual, fortalecen a las familias y comunidades, preservan el autogobierno y contribuyen a crear una salud y una prosperidad sin precedentes. Este camino exige que quienes ejercen el poder tecnológico rindan cuentas ante los valores y las necesidades humanas en apoyo del desarrollo humano. Tengo que decir que lo había leído por encima, pero leído ahora me parece de lo más potente que he leído en tiempo respecto a una declaración conjunta. Solo el preámbulo, bueno, luego los puntos son tremendos.¿Qué decir de esta introducción? Vamos a ver todo el texto, entonces no soltéis toda la chicha, pero¡guau!¡Guau! Bueno, aquí es que solo con el preámbulo hacen alusión hasta a la fe. Bueno, es que yo quiero que habléis vosotros.

SPEAKER_03 27:03

Voy a intentar contenerme porque si me pongo a hablar...¿Qué pensáis? Si quieres empiezo... Bueno, yo si quieres empiezo dando un pretexto de dónde viene todo esto.

SPEAKER_04 27:08

¿De

SPEAKER_03 27:10

dónde viene? Yo tuve la suerte de empezar a tratar todo este tema, sobre todo el Instituto para la Cultura Vida, por ahí por el 2013-2014, justo cuando estaba empezando, un poquito antes de que luego se metiese en lo más precisamente... como impulsor en aquellos inicios efectivamente Max fue uno de los principales impulsores y es cierto que incluso fue antes de lo de Asilomar, realmente esto es anterior, no es posterior es anterior, y en el fondo el origen inicial sí que tenía mucho sentido, de hecho yo una de las conferencias que más me cita también la llamé así el futuro de la vida en alusión también a esa y hablando también del Instituto para el futuro de la vida en esa conferencia que fue clausurando todos los programas de la Universidad de Asalle en el 2014

SPEAKER_04 27:50

Bueno, la frase que dijiste en la SAI que la utilizamos para tu Xtalks ahí premium, puedes decirla, directamente te pone en el lado del oscuro,

SPEAKER_03 27:59

¿no? Sí, sí, la frase que aquella vez dije y que bueno, que efectivamente se me cita mucho por ella es que el ser humano lleva desde el origen de los tiempos construyendo herramientas y la última herramienta será el próximo a nosotros. Así terminé yo la conferencia aquella y luego se ha utilizado mucho. Pero bueno, es cierto que en aquel entonces el Instituto para la Futura Vida tenía como otra visión,¿no? Yo creo que también quizás veían todo esto de la AGI y todo el etcétera, como algo un poquito más lejano y no se veía como tal. Y efectivamente las personas que estaban detrás de la institución y los que luego se fueron juntando pues todavía estaban como en la parte álgida de sus carreras de alguna manera. Es decir, son personas de éxito, la mayoría de ellos, hay gente que luego se ha juntado que no tiene que ver, pero la mayoría son personas de éxito en el campo de inteligencia artificial o en pequeños trozos o en trozos muy grandes, como puede ser Benjo luego después, ya mucho más tarde, en aquel entonces no estaba. Pero luego efectivamente son como... como exitosos fracasados, yo diría de alguna manera. Fracasados en el presente, quiero decir. Es decir, han tenido su momento de gloria muy importante, pero como parece

SPEAKER_04 28:58

que han perdido... David, siempre comentas, perdona, cuando... Vento y Ciro es un poco porque yo también pongo el lado despertador, también el mío y tres propios. Siempre comentas esto. Cuando aparecen estos papers, como que la reacción o el motivo de esto es de esta gente que está desubicada o no tiene protagonismo.¿Pero crees que realmente es eso?

SPEAKER_03 29:17

Hay una parte. Eso no es todo. Yo creo que hay una parte de protagonismo, hay una parte de interés, hay una parte de económica, porque en el fondo aquí hay una captación de fondos muy potentes y por eso vienen todas las figuras que ves a la derecha, muchas de las figuras vienen por un aspecto puro de recordación de fondos. Y hay también cierto interés político también, o sea, hay una mezcla, no son todos del mismo bando de alguna manera, pero sí que hay bastante interés político detrás también. Entonces yo, bueno, la primera impresión, por tampoco monopolizar, es un poco que, bueno, evidentemente es un tema muy naive, es decir, lo que están planteando, hay unas partes que son semi de perogrullo, algunos temas específicos de lo que plantean desde un de la humanidad, del humanismo en general. Pero luego, por otro lado, hay muchas cosas que realmente se nota que directamente están contando. Yo le llamo a un cuento de hadas, lo que he publicado hace un rato para calentar motores con esto. Es una especie de cuento de hadas en global y la mayoría de los puntos que plantean, como lo veremos, yo los veo como un cuento de hadas. Entonces, sí, evidentemente, todos yo soy el primero que también amo a la humanidad y me considero humanista también, tecnoantropólogo y artificiófago de este campo.

SPEAKER_04 30:16

Tienes que saber que por esa frase de la Salle, bueno, yo me incluía y ayer habla hablamos de la resurrección y ya salió otra vez el tema del transhumanismo. La frase de la SAI ya te catalogaría para muchos como no humanista.

SPEAKER_03 30:28

Yo soy un aceleracionista de la inteligencia artificial. Yo me considero humanista porque obviamente soy humano, yo no soy humano clásico, 1.0, todavía no, bueno, todos tenemos algún tipo de...

SPEAKER_04 30:37

1.5,

SPEAKER_03 30:38

vamos a decir. Más o menos, alguna extensión hay por ahí de algún tipo, gafas o cualquier cosa. Es decir, al final todos estamos de alguna manera literalmente aumentados. Todos vivimos gracias a la tecnología. Ayer precisamente estaba en el... esta educación también que participaste tú también Plácido, yo comencé diciendo que al final el ser humano es tecnología y la tecnología es humanidad, es decir, no existiríamos ninguno de los que estamos aquí si no fuese por la tecnología, con lo cual separar el humano y la tecnología es como yo no veo el humanismo sin tecnología gracias a la tecnología existe el humanismo existe el humano, el humano ha progresado por lo cual para mí no está separado pero no soy un deceleracionista porque creo que la tecnología puede y ha ayudado mucho a la humanidad ha generado muchos problemas también, no vamos a ser tampoco odiarlos pero ha ayudado muchísimo a la humanidad la humanidad estamos donde estamos por la tecnología no nos equivoquemos y la inteligencia artificial va a hacerlo y lo está haciendo con muchas cosas generará otros problemas y en eso estamos intentando solucionarlos por la propia tecnología

SPEAKER_04 31:37

también de todas formas una última pregunta y luego dais vuestra primera opinión así muy por encima porque vamos a ver todo el texto David además ayer también estando en el observatorio tú la sensación que tienes no es que mayoritariamente vamos a ver una polarización muy importante alrededor de la inteligencia artificial cada vez más a medida que el impacto se vea que es real y no crees que la mayoría puede ser que sea anti o inteligencia artificial o contencionista o una visión totalmente reduccionista fíjate que luego lo pondré unas declaraciones de Sam Alman que me han gustado mucho sobre la ontología o que es exactamente la inteligencia artificial que la gente ni siquiera reflexiona sobre ella. Estamos aún con lo de la herramienta, herramienta, herramienta, herramienta.

SPEAKER_03 32:27

¿Tú no crees que la gente...? El que entiende de verdad lo que es la inteligencia artificial cabe muy poca, hay muy poca cabida para estar en contra de ella. Es decir, el que de verdad lo entiende, el que se deja guiar, por eso digo que el problema de estas cartas o de estas cartas y de estas propuestas, etc., es que generan más daño que lo que aportan. Porque a la gente le da una falsa sensación de que estamos en algo que, primero, en algo que se puede controlar que eso puede cambiar el botón rojo ni hablamos pero es decir ahí luego hablaremos pero es decir que generar una falsa sensación de que lo que pasa es algo primero que está en sus manos cambiarlo o que si firman ese documento o que si apoyan o si dan dinero a esta gente eso se puede parar y eso es una falsedad o sea yo no creo que eso sea parable ni por mucho dinero que le den a ninguna fundación entonces creo que ese es el problema pero la gente que realmente empieza ve lo que la inteligencia artificial les puede aportar y cómo puede cambiar la humanidad y cómo puede cambiarlos a ellos mismos esas personas que si hablan en uno a uno con ellos, ves que están, yo muy pocas personas han sido, todos tienen miedo y muchas personas o muchos tienen miedo evidentemente de muchas cosas por desconocimiento, pero la mayoría de las personas una vez llegas digamos a explicarles y a que comprendan lo que subyace detrás de todo esto y la parte extremadamente positiva, hay pocos, pero es cierto que la ciencia por una parte, la ciencia ficción, la literatura, etcétera, pues juega un poco en contra. Curiosamente ahora la Fundación X Prize, como sabéis a la la propuesta esta, que yo veo si hago algo con la artificiología con ello, de crear un vídeo, bueno, una especie de película de tres minutos y medio, de una visión optimista del futuro, porque evidentemente la ciencia ficción ha creado una visión bastante negativa del futuro, mayoritariamente. Entonces, esa parte yo creo que hay que ver cómo se da la vuelta,¿no? Pero yo te digo, es cuestión de educación.

SPEAKER_04 34:12

Toda la narrativa, fíjate que el otro día vi una película que me gustó mucho, porque bueno, es de acción, pero siempre en la misma dirección, la de War Machine, la de máquina de guerra. A ver, está chula, pero otra vez es lo mismo,¿no? Es decir,¿qué es lo que está trasladando? Bueno, en este caso es de origen no terrestre, pero es más de lo mismo. Quiero hacer una reflexión y doy paso a Frank o a Xavi, quien queráis, pero hoy he visto en TikTok, que TikTok tiene cosas muy interesantes, es una red social donde se publican muchas cosas, pero no... He visto un vídeo de alguien a quien sigo, muy técnico, a quien respeto obviamente, que trabaja para Microsoft o ha trabajado para Microsoft, no voy a decir su nombre ni publicar el vídeo, pero me he quedado a cuadros. Porque dice básicamente, la inteligencia artificial es una herramienta, no debemos contemplar los agentes como empleados, los sistemas autónomos no deben implementarse, tiene que estar el humano siempre en el loop, es decir, un discurso que es contrario. Luego, en un grupo de WhatsApp, gente técnica decía que no, que esto de el open cloud que es hype que lo que ha hecho yo empiezo a percibir como una disociación de la gente de lo que a veces ocurre y como siempre digo es que no sé lo que la gente entiende es como muy bien ha dicho David que lo veremos tenemos que entender que la inteligencia artificial no viene a evidentemente en algunos aspectos a aumentarnos, a cooperar pero en muchos a sustituirnos totalmente¿Cuál es el problema de decir eso? Si es que es algo que es obvio,¿no? Pero bueno, Frank, si quieres, o Xavi, los que queráis. Una primera introducción e impresión del texto y vamos a entrar luego. Daís una primera opinión y luego iremos viendo trozos.¿Qué te parece este texto? Frank, si quieres. Xavi, por antigüedad. Xavi,¿qué te parece este texto inicial donde se comentan cosas? A ver... la fe libertades civiles privacidad gobernanza democrática, que el CEO de Palantir ya ha salido hoy en declaraciones en que dice que la IA va a acabar con la democracia, pero no es el primero ni el último que lo dirá y yo estoy en parte de acuerdo con él. Habla de familias, de comunidades, habla de fe, bueno, de fe. No he visto un alegato en plan somos la luz del mundo contra los que piensen contrario son anti-humanos. Yo no he visto un bloque inicial donde directamente la narrativa sea esa, incluya hasta las familias, las comunidades es decir, es que me veo los humanos como una especie desprotegida, bueno, no sé, me han dado una sensación de decir, esta gente tiene la razón, no hace falta leer el texto, todo lo que digan están en lo cierto han utilizado la parte emocional,¿qué es lo que piensas? que evidentemente, o sea, es una declaración muy fuerte, muy espiritual en el sentido de que es existencial. O sea, que cuidado, que esto es existencial, que nos enfrentamos. Quiero dar un poco de contexto. Hace nada nos hemos levantado, bueno, hace nada relativamente, pero con el tema de Jeffrey Epstein, que nos mostra cómo se ven las grandes personas que están manejando la inteligencia artificial especialmente, pero muchos otros sectores participaban en algo que es mucho más que abuso de menores. O sea, que en el rancho de Jeffrey Epstein que hay muertes, que hay investigación humana, que hay... Es decir, que lo que se ha hecho ahí es mucho peor que pederastia. Es tratar a las personas como objetos y bueno... muy, muy fuerte que hasta incluso nos cuesta comprender. Tomas o menos, Plácido, si te acuerdas, hace unos años ya pintamos algunas pinceladas. Ya pintamos pero en ese momento era mucho más difícil como demostrarlo. Que esto no es una paranoia, que esto está pasando, que es real. Ahora lo vemos y dices, hostia, que es real. Entonces, cuando vemos esto, dices... Porque las personas que están ahí detrás, y como decía David, evidentemente con esta declaración no los va a dar, porque si tienen ese tipo de filosofía, nosotros somos cargos y ellos lo que quieren es extraernos el máximo de energía, ya sea económica, ya sea vital, ya sea lo que sea, para quedarse ellos con todo. Es decir, que no somos más que una gallina para ellos. No tenemos la misma condición de humanos. Entonces, perdón, que no tenemos la misma condición de humanos. Entonces, desde ese punto de vista, también es importante recordar la presencia de Trump en esas listas y cómo... Falten cosas y que pueda ser que mientan, pero lo que aparece en esos papers es que Trump es el primero que denuncia insistentemente a Epstein, al FBI y a otras autoridades. Que falta información y que él estuviese metido hasta el ajo puede ser, pero cuidado con decir que Trump estaba ahí implicado al nivel de otros. No digo que esté implicado o que no esté implicado, lo que está haciendo es decir que él se pasa por el porro todo lo que sean legalidades internacionales. Es que se corta, se te corta, Xavi. Sí, lo siento, lo siento mucho. Todo lo que sea en legalidad internacional y además esto se ha sumado hace poco con Berlín diciendo literalmente lo mismo. Que para ella la legalidad internacional no es importante. Con lo que estamos ante poderes que están diciendo abiertamente que las instituciones públicas ya no son válidas y que ya no hay ley. Si... Decir que esta declaración la vamos a impulsar y que alguien va a impulsarla,¿quién?¿Quién es la ley? Nos encontramos que hace poco la inteligencia artificial ha estado, en base a unos ataques a Irán, matando en una escuela, porque habían dicho que esa escuela era un antiguo centro, pero que eso es información de años o no sé cuánto, y han bombardeado una escuela y han matado 180 niños o una cosa parecida, en base a información.¿Cuántos ha matado el gobierno de eran de su propia población

SPEAKER_05 41:33

eso quiere decir

SPEAKER_04 41:36

que yo entiendo que es una noticia desgarradora que incluso se ha confirmado por parte de autoridades de eeuu etcétera pero estamos hablando de guerra Ya, ya, pero que estamos hablando también de cómo la inteligencia artificial ahora mismo está jugando probabilísticamente. Y cómo antes tenía... una certeza y antes para acá necesitabas una certeza, ahora solo una probabilidad. Es decir, que con todo esto de mi pregunta esencial es¿y quién va a imponer que eso sea real, que eso se aplique? O sea, no veo a nadie ahora mismo que tenga la autoridad moral, la fuerza energética, la fuerza, el poder para poder implantar algo así. Bueno, para implantar te refieres a lo que dice el comunicado pro-humano, en ese sentido. para poder que eso se haga en algún momento. Llevarlo a la práctica, en principio,¿no? Eso mismo. Frank,¿qué piensas? Bueno, ahora presentaremos luego a Ignasi, que ya lo tenemos aquí. Frank,¿qué piensas? Bueno, ok, yo he leído ese texto mientras componía el desperfecto técnico que tenía yo aquí en casa. He leído el texto, es un texto lleno de muy buenas intenciones, pero todavía están más llenos de imprecisiones. Hay cosas que básicamente no hay que pensarlo mucho más. Esto no es el uso, no sé si ha sido el uso, pero uno podría decir que del uso del chat GPT ha pasado el chat GP. Este tipo de declaraciones están llenas de cosas que ya hemos visto antes que no tienen absolutamente nada de originales y encima de eso están llenas de imprecisiones. Hay eso que has leído en el preámbulo, esta frase me ha llamado mucho la atención yo la he leído en inglés a ver si hay alguna imprecisión no la cuentas Sí, sí, cómo no. Y la voy a citar, dice la línea, un sector incluso aboga por alterar o reemplazar la humanidad misma. Un sector. Bueno, creo que él está hablando, y creo que David ha dicho, también se ha definido como tal, no sé si es en este mismo sentido, pero creo que él está hablando al sector aceleracionista de Silicon Valley, en el que, por ejemplo, podemos mencionar a Peter Thiel, está ahí. El o más que estaría ahí Elon está en ese sentido ahí cuando se dice aceleracionista en el sentido de Silicon Valley no todos la gente que trabaja en Silicon Valley a mí me ha atrapado trabajar ahí no en Google sino con Google eso hay que aclararlo cuando hablas con ellos te da la impresión lo que quieren es pisar el acelerador es exactamente lo contrario de lo que se está diciendo aquí y posiblemente el texto esté enfocado a atacar a esos grupos y no solamente de una forma de ideas. Mucho del hype o esta euforia que escuchamos en los medios alrededor de las tecnologías, particularmente la inteligencia artificial hoy en día, lo salíamos a escuchar con blockchain y solo lo salíamos a escuchar con el llamado metaverso, entre comillas. Esa cosa llamada metaverso que es más un producto de ciencia ficción que de algo tecnológicamente flexible, pero lo escuchábamos en ese sentido de atacar a los grupos inversores de un lado y de otro. Y Silicon Valley funciona bastante de esa manera. Estos son los seguidores mucho de a quien uno puede calificar como el filósofo más peligroso del mundo hoy en día.¿Quién? Seguramente aquí lo veis tratado. No puedo ver todos los episodios de X-Haut AI como me gustaría por la falta de tiempo. Se trata de Nick Land. Totalmente. Se lo habéis tratado a ti, seguramente. dijo al principio, que estaba diciendo muchísimo sin decir nada. Me parece que lo ha dicho así, Xavi, de esa forma. Y con esto simplemente doy el paso porque es la impresión que me ha dado el texto. Como tenemos aquí, bueno, David, entiendo que también va a sobrar con eso, pero cualquier imprecisión o mal traducción en inglés, nos lo comentas. Ignasi, bueno, estos son los debates cuando no... Va a ser un debate interesante en no sé si has leído el texto, pero bueno, Ignacio, alcalde, preséntate, vamos a leer el texto y tienes un buen momento porque vamos a empezar a ello, pero bueno, preséntate si quieres comentar algo y si no, empezamos a analizar el texto. Bueno, pues Ignacio, alcalde, profesor y consultor y principalmente, sí que lo he leído así en diagonal, principalmente en los principios, pero al final es lo que veo, lo que quiero, teóricamente quieren humanizar la inteligencia artificial,¿no? Quieren hacerla como con valores éticos un poquito y dándole un poco, preservando un poco la dignidad humana dentro de este contexto. Yo lo veo así, realmente. Lo que veo es que lo que quieren es ese concepto de que la amplifique, amplifique la inteligencia humana, no la sustituya ni la erosione. Un poco es esto. Y luego he visto que había cosas que explicaban cosas de cómo promover el bienestar colectivo o promover la dignidad humana. Bueno, como principios suenan bien, luego cómo lo aplican. Explicamos, obviamente. Esto sería un poco la... Seguramente Epstein también lo decía. Bueno, dicho lo cual, que es una gracia sin gracia... Puedo decir algo al respecto.¿Qué? Epstein no es...¿Me permites? Sí, sí, podéis hablar en cualquier momento. Eso es un tema de otro costado. Como dice, el señor Epstein no era lo que es. El señor Epstein estaba demasiado interesado, especialmente por la facultad de matemáticas de la Universidad de Harvard, que ha sido ese hombre especialmente, está en YouTube, lo podéis buscar, que ha sido el señor Epstein dando una conferencia sobre física. Bueno, yo, otro que está muy relacionado, a mí no me gusta hacer esto, pero también dar informaciones parte de X-Hab ahí, uno de los que está muy relacionado con Epstein es Marvin Minsky. Evidentemente también Stephen Hawking, que se nombra poco y se hace mucho meme sobre eso. Y bueno, también quiero decir que ya vamos a dejar un poco el tema este, que es que, bueno, el que aparezcan estos grandes nombres poderosos, etc., no significa que todos sean así, pero bueno, es una muestra de la podredumbre, la maldad en estado puro y más allá del ser humano, pero bueno, nos tiene que servir como alerta,¿no?

SPEAKER_03 48:57

Al colapso.

SPEAKER_04 48:59

Vamos rápidamente a ver los puntos. Voy a casi nombrarlos y no leerlos, a lo mejor. Primera sección, venga, y lo debatimos. Hay cinco. Mantener a los humanos al mando. Hicimos un programa con David Ezpeleta, que era, bueno, no es mi memoria, que Mazinger Z lo copilotaba siempre un humano. Básicamente era un artículo que habían publicado y lo que quería decir es que la IA siempre tiene que haber un humano detrás. Pues aquí lo mismo. Mantener a los humanos al lado, que es lo que yo he comentado de esta persona técnica que ha publicado en TikTok. No, no. Un agente autónomo como OpenCloud, eso no es el futuro. Hay Al contrario, tiene que estar un humano siempre copilotando. Bueno, mantener a los humanos al lado. Dice, el control humano no es negociable. La humanidad debe mantener el control. Los humanos deben elegir si delegar decisiones a los sistemas de IA y cómo hacerlo. Bueno, esto ya plantea... A ver, cada frase da para un programa. Cada sección de estas. Vamos a tener que ser muy breves porque es verdad que sin uno... Control humano significativo. Los humanos deben tener autoridad y capacidad para... Comprender, guiar, prescribir y anular los sistemas de inteligencia artificial. Es decir, entender una superinteligencia y pulsar el botón que me lo explique. No a la carrera por la superinteligencia. Es decir, stop superinteligencia. Debería prohibirse. Interruptor de apagado. Esto está muy bien. Rojo,¿no? Los sistemas de inteligencia artificial potentes deben tener mecanismos que nos permitan... Botoncito y apagado. No se permiten arquitecturas imprudentes. A ver, a ver. Los sistemas de inteligencia artificial no deben diseñarse de manera que puedan autorreplicarse, mejorarse de forma autónoma, resistir el apagado, controlar armas de destrucción. Solo esta publicación. Es que a mí me da vergüenza que haya gente como Yosua Bengio o Russell implicados en esta publicación. De verdad, yo tengo que deciros, pero mi situación de cómo vivo esto empieza a saturarme. Yo ya no busco ni explicación, porque es que lees esto y te das un poco, entiendo que a David le parecerá lo mismo, porque es más o menos un poco, estamos muy alineados, no sé el resto de lo que les parece. Supervisión independiente. Los sistemas de inteligencia artificial altamente autónomos, donde la contrabilidad no es obvia, requieren una revisión pre Previa al desarrollo de una supervisión independiente, autoridad genuina para comprender, prohibir y anular no autorregulación de la industria. Es decir, no a la autorregulación, si a la regulación. Hay que tener muy en cuenta también las noticias de Anthropic, el acuerdo con el Departamento de Guerra con OpenAI, toda la administración Trump, Yo Soy la Ley, IA en el ámbito militar, todo esto también ha caldeado mucho el ambiente y entiendo que viene en un muy buen momento entre comillas publicar este tipo de cosas. Honestidad en la capacidad. Las empresas de inteligencia artificial deben proporcionar representación Bueno,¿quién mejor que Anthropic ha hecho esto? intentar ser breves porque vamos a ver cinco sesiones. Podéis hablar, los que queráis hablar, podéis hablar y el tiempo que queráis comentar. Yo no voy a comentar nada, me vais a permitir que simplemente al final o algún apunte, cosa que digáis, porque es que si me veo aquí, aquí lo importante es que estéis vosotros y podáis comentar. A mí me gustaría saber qué es una superinteligencia. Bueno, más allá... Se supone que va después de una inteligencia artificial generada y una inteligencia artificial general, para las personas que estén escuchando, que estén viendo en YouTube, etcétera, porque se trata de todo lo que estamos haciendo, todo lo que sabemos ahora mismo, sea una inteligencia artificial estrecha, es decir, depende del input, depende de la acción humana y de los datos y de la calidad de esos datos con los que se le provee para que funcione. Una inteligencia artificial general se supone que es una IA que aprende sola, por sí misma, a través de a lo mejor un sistema simbólico extremadamente básico y que aprendería sola. Ya dejaría de ser una extensión de nuestro sistema nervioso, que creo que eso es muy acertado, y no lo digo yo. Por supuesto lo dijo Marshall McLuhan hace 60 años. Una extensión de nuestro sistema nervioso.¿Qué es esto de la superinteligencia? Esto es más uno que otra cosa. Y es una forma también del hype, de la euforia, de atraer nuevos inversores a esto que que es una cosa que está ahí, una,¿cómo se llama?, una bola de humo que está ahí, que ya veremos si funciona, pero primero tiene que ser la IAG, IAG, Inteligencia Artificial General,¿ok? Que esto todavía no ha llegado, ya veremos. Pero como se habla que está en desarrollo, y sí que lo está, todos hablan sobre ello, incluso ponen una fecha, podríamos decir 2030-35, poco después de la AGI, ha hablado sobre ello Elon Musk, Demis Hasabi, OpenAI. Lo que sí que tengo que decir, que aquí lo están comentando por el chat, se me ha olvidado decirlo, que esto que dice de la automejora o la autorreplicación, esto ya existe. Machine learning. Y bueno, lo de la autorreplicación ahí podríamos, tendríamos que entrar en detalle, pero la automejora ya está aplicándose, obviamente, en modelos, dicho por los propios fabricantes en Anthropic y en OpenAI, declarado, pero internamente hace mucho tiempo. Ya. Desde los años 80. Pero Frank, yo creo que incluso, fíjate una cosa, una inteligencia artificial, da igual en la etiqueta, que sea capaz de generar nuevo conocimiento e impulsar a la ciencia, no por los humanos, sino por inteligencia artificial, ya podría ser considerada superinteligencia. Porque va más allá de las capacidades humanas. Entonces, a ver, entiendo que a lo mejor no estaría en ese timeline, que como tú ya has dicho, es primero la H, agentes, H, superinteligencia, ya es a nivel casi Dios. Una inteligencia que esté en ese nivel, desarrollando y estamos ahí

SPEAKER_05 55:09

ok

SPEAKER_04 55:11

claro Porque plantea, al final no es tanto el nombre, porque claro, el nombre, como bien dice David, nos evoca al relato de ciencia ficción y podemos imaginar muchas cosas, pero la disrupción puede venir simplemente impulsando conocimiento a una velocidad que el humano no puede. Eso ya, bueno, ya pasó con Alfa Folio y otras cosas,¿no? Como decía David en sus libros, el fin del conocimiento, es decir, la superinteligencia es la disrupción máxima, lo inalcanzable por el humano,¿no? Parece que la Aji vaya a ser amiga nuestra y pueda tener cuerpo, como dice David también en otro libro, el Eaji,¿no? embodiment, pero la superinteligencia es como Dios, tenemos como ese paradigma, pero a lo mejor no hace falta eso no hace falta esas etiquetas para entender la peligrosidad o la oportunidad de que cuando eso ocurra no vamos a saber en principio cómo integrar esa posibilidad o qué va a ocurrir ese es el problema, que muchas cosas que David ha explorado en sus libros y otros reflexionamos sobre ello no sabemos el impacto ni el mundo que va a traer en positivo o negativo este texto este texto incluso aquí mismo es como si no existieran y si existen yo estoy en grupos de trabajo yo estoy trabajando en un sitio donde lidiamos con esto todos los días esto existe si es que lo están viendo también desde la perspectiva americana donde también existe y lógicamente ellos lo que quieren es tener una regulación al estilo europeo que yo no lo recomiendo así lo voy a decir eso es una opinión mía yo creo que aquí lo que existe es una intención de una narrativa contencionista, pero para la mayoría. Es decir, aquí lo que se debate es este poder que es la inteligencia artificial lo queremos controlar nosotros. Esto no debe ser una tecnología para todos, porque esto cambia el mundo. Yo creo que los tiros van por ahí, porque Russell, a ver, no firmaría esto, ni Texmark, ni Bengio, son conocedores. A ver, vamos a ver. Pero esto es una narrativa para el humano de a pie.¿Cómo decirle? Cuidado, somos la iglesia y los creyentes que sois vosotros porque al final nosotros mandamos que sepáis el peligro que corréis. Solo tiene esta explicación. Yo es que no lo entiendo, sino como gente como Russell, Benji o Techmark y muchos otros que hay firmantes, algunas frases de las que hay aquí yo me negaría a firmar un texto

SPEAKER_03 57:39

como este. La última vez que hablé con Benji fue en en Viena en un congreso de inteligencia artificial y ya se le notaba totalmente como un converso de alguna manera. No tenía nada que ver con el científico que yo había conocido y hablado con hace tiempo. Se le ha conocido también en Ginebra en otras ocasiones, prácticamente casi todos los años está en EI Horwood y alguna vez he hablado con él también. No está tan converso como en este caso Benyo que sí que está totalmente dedicado y centrado en esto ahora. Yo creo que al final es cuestión de entender la diferencia entre lo que es probable lo que es posible y lo que sencillamente desconocemos totalmente sus capacidades. Entonces, tratar de poner una serie de reglas a algo que se escapa completamente a la humanidad, que la humanidad, el control que va a tener sobre todo este proceso va a ser relativamente pequeño, siempre que evidentemente no haya un cataclisma de proporciones bíblicas y desaparezca la tecnología, la electricidad y un montón de cosas.

SPEAKER_04 58:37

David, una cosa, una puntualización. Fíjate, porque hay que leer muy entre líneas. Dicen que no esté conectado a arma de destrucción masiva. Joder, es que lo que parece que están diciendo es que van a provocar la película de Creator, que tienen una bomba atómica, una IA. Sí,

SPEAKER_03 58:52

de nuevo, ciencia ficción, nos vamos películas en blanco y negro incluso y las vemos. Pero con independencia, que eso sea o no, es decir, al final tú cuando tienes un sistema y quieres actuar rápido y quieres procesar a mil iteraciones por segundo, a cien mil o un millón, pues al final el humano no vale sin utilizar otros sistemas y esos sistemas al final vas delegando hasta un punto en el que la delegación empieza a perder el control. Por lo cual, Yo creo que, o sea, todo esto es una entelequia, yo luego os comparto también ahí los semáforos que he hecho con todo eso, que está en inglés, pero de esta lista, por ejemplo, yo solo me quedaría un pelín con la última, un pelín, digo, muy poco, un poco, con la última, con la que tiene cierta plausibilidad y con muchas pinzas,¿no? Es decir, porque evidentemente no, por temas de competitividad no van a compartir todo lo que están investigando y todo lo que son capaces de hacer,¿no? Porque estamos viendo que la carrera esta de la rata que siguen, que cada tres días sacan un modelo un pelín mejor, pues, evidentemente, hace que no sean, que no, que no tengan mucho sentido.

SPEAKER_04 59:48

Un artículo que has publicado,¿no?

SPEAKER_03 59:49

Sí, de toda esa primera lista yo le he puesto un semáforo, está en inglés, pero es un semáforo de colores. En rojo lo que veo que, vamos, que es un canto al sol totalmente, que sí que pueden decir lo que quieran, pero vamos, que no hay ningún, no está, digamos, en capacidad humana el hacer que el sol salga o deje de salir, por lo cual veo que no tiene mucho sentido. En amarillo he puesto las que, bueno, que es muy difícil y que quizás pueda o no estar más o menos alineada, igual alguna probabilidad y en verde muy pocas las que veo que son interesantes. El 1.7 lo has

SPEAKER_04 1:00:18

puesto en

SPEAKER_03 1:00:19

amarillo,¿no? Bueno, si con mucho empecinamiento igual se puede hacer que parte de eso pueda ser factible desde un punto de vista técnico, legal, humano, etc. Controlar 8.000 millones de personas, lo que uno está haciendo

SPEAKER_04 1:00:31

con... Bueno, esto sí, la honestidad en la capacidad de la representación es,¿no? Y la interpretabilidad a un nivel,¿no?

SPEAKER_03 1:00:36

Sí, legal. O sea, luego puedes hacer un informe legal para que... Pero el resto yo creo que sencillamente de nuevo es un canto al sol, es o no a propósito no entender, digamos, nuestra posición en el mundo, en la naturaleza, en el entorno, etcétera, y tratar de, bueno, por eso creo que yo, desde mi punto de vista, no llevan demasiado tiempo descartarlos, incluso probarlos, yo creo que casi serían probables matemáticamente su imposibilidad todas estas, excepto, como os digo, que hay

SPEAKER_04 1:01:07

un cataclisma.¿Qué pensáis, bueno, no quiero, Frank y Vivanco es un equipo que está aquí Ignasi, pero casi, casi.¿Qué pensáis, Xavi e Ignasi, de las cosas que se dicen aquí en este primer punto? A ver, yo creo que es una buena brújula moral, pero no es un mapa operativo. Hay muchas cosas que se pueden cuestionar. En ese sentido, el tema, empezando, por ejemplo, revisando ahora un poco, hay muchos trade-offs aquí. El tema de seguridad versus innovación. Cuanto más compliance, cuanto más seguridad, cuanto más regulación, menos innovación. Eso es un equilibrio que es importante. Después, cuanto más control humano, menos eficiencia operativa.¿Vale? Entonces,¿dónde está el control? Después, que tenga un humano el control, no quiere decir que sea más ético, porque depende de los valores de su humano, también. No sé, me explico. Ahí es una cosa que no hemos pensado muchas veces. Pues mira, human in the loop, vale, pero sí, sí, pero¿qué human? Me y con qué valores y con qué ética. Hay una cosa que es muy fácil, yo es que no entiendo cómo, bueno, tampoco que sea, no lo sé, hay una cosa muy sencilla que pueden decir, oye, igual que ha hecho Anthropic con Claw, publicando una constitución que luego es efectiva al nivel que es efectiva, queremos la constitución de todos los modelos que se publican. Yo me parece eso una muy buena idea, que es, oye, bueno, vamos a publicar modelos y vamos a ver cómo se modelan en ese sentido. Anthropic lo ha hecho y lo ha hecho transparente, ya ha promovido el que los otros lo hagan.¿Por qué no lo hacen? Es lo primero que tendríamos que tener, que es cómo estos modelos tienen un refinamiento ético en el caso de Cloud y su constitución en el entrenamiento y en el postentrenamiento. Entonces, eso condiciona mucho la ética o la honestidad o la personalidad del modelo. Entonces,¿por qué no lo hacen el resto de fabricantes?¿Por qué no lo hacen los modelos chinos? Bueno, es una iniciativa que sería muy interesante, que es decir, oye, necesitamos esto, como lo que ha hecho Anthropic. Y después que muchas veces el control humano puede ser inviable. Imagínate un tema de ciberseguridad en tiempo real.¿Cómo lo haces realmente? O tensión de fraude a gran escala.¿Qué haces en esos casos? No puedes tener un control humano. Hinton está obsesionado, es muy repetitivo. Luego a veces se saca de la manga algunas cosas muy interesantes, pero es verdad que escuchas 20 charlas y dice, y una de las cosas que repite siempre es los objetivos de los subagentes,¿no? Es decir, los subobjetivos, que es un tema de seguridad que para él es, vamos, el SOS total,¿no? Que tú das un propósito, pero, claro, un objetivo, pero esos subagentes al final, como van a intentar aplazar ese objetivo de diferentes maneras, como ahí no hay un control, pues se nos escapa,¿no? Y ahora con las arquitecturas agénticas, pues lo hemos visto,¿no? Esos comportamientos impredecibles, etcétera, etcétera, etcétera,¿no? Entonces, lo que está claro es que vamos más a sistemas autónomos donde el human on the loop no es escalable y claro que en algunos escenarios va a ser human on the loop sí o sí, la escalabilidad les va a dar igual, pero en la mayoría de escenarios lo que cuenta es la escalabilidad,¿no? Y el human on the loop no es escalable. Bueno, no me tengan mucho dinero y pongan muchos humanos uno detrás de otro. Ya, ya, no, más o menos resumiendo eso, es que a mí me gusta como duja la ética, pero pero es muy impreciso. Y lo que quería como cierre de reflexión es eso, que tengas un human under loop o un humano al mando, no garantiza que sean mejores decisiones, porque si el humano es el competente... Lo estamos viendo,¿no? Si tuviéramos una IA, a lo mejor el mundo sería mejor. No lo sé, a ver, resumirlo de esa manera es difícil, Plácido, pero simplemente es un poco que no idealicemos el control humano, pero sí que bueno, que también el control humano puede ser inviable Yo sigo encontrando un sesgo y me refiero a la gente que participa en general. Yo, por ejemplo, el lunes viene Jorge Gómez que trabaja en inteligencia.¿Los países tienen inteligencia y secretos de Estado? Sí. A partir de ahí no existe transparencia completa.¿Qué quiere decir? Que si ponemos una inteligencia artificial que fuera transparente para el ciudadano, la ciudadanía,¿puede llevarse a cabo? Pues no, porque te va a decir en algunos aspectos va a ser transparente pero en otros no no habrían no habrían agencias de inteligencia en ningún país es decir pero creo que creo que estamos hablando en tema en tema de defensa militar y eso que es un lado pero estamos hablando en decisiones más más sencillas imagínate una IA que discrimina en un en un proceso de trabajo de búsqueda de trabajo porque el Corpus Dei tiene un bias¿qué harías en este caso? a ver aquí tenemos que ver lo pequeño y lo grande aquí el enfoque no es pequeño de decir solo vamos a llevar al ámbito empresarial estamos llevándolo al ámbito de una arma de destrucción masiva una guerra una toma de decisiones a nivel de país a nivel de militar a nivel también obviamente de empresa y lo que tú dices de posibles sesgos que vuelvo a decir es algo que repites mucho con el tema de los sesgos y yo creo que es ese debate y perdóname que te lo diga así Ignasi yo creo que es un debate caduco de hace tiempo Cuando apareció HGPT y la inteligencia artificial, hubo documentales y muchas noticias respecto a que la IA era machista, que la IA era racista. Yo creo que este tipo de cosas, que son ciertas porque al final están en los datos, no son tan difíciles de solucionar o son, entre comillas, en muchos casos, fácilmente solucionables y muchos de los que defendéis en la peligrosidad o en la toma de decisiones siempre sacáis el argumento del sesgo o el bias y es que me parece... No sé,¿en qué tipo de decisiones? Ya te lo volví a repetir. No sé.¿En dónde? Te puedo explicar un caso. Además es conocido. Amazon tenía un sistema inteligente artificial para filtrar currículums que les aplicaban para cuentas de trabajo. En el corpus de datos que tenían, lo que habían entrenado al modelo es con decisiones antiguas, que habían hecho históricas. Y en esas decisiones, el 80% de la gente que contrataban eran hombres. haciéndolo por el proceso entonces¿qué pasaba?¿qué? no pasaban realmente¿me entiendes? entonces si ya estás sesgado de inicio porque las decisiones del pasado habían sido así ya tienes ese proceso entonces descartaban a mujeres incluso de forma automática porque había aplicado por ejemplo las 12 de la noche y después el sistema una hora después ya se estaba descartando por lo cual ya se veía que era un sistema agéntico que tomaba decisiones y eso es fácil Y eso no es fácilmente solucionado. Sí, sí, sí, pero tiraron para atrás ese modelo.¿Pero por qué se descubrió? Porque al final, en un caso, lo pudieron hacer. Pero hay muchas veces que estos sistemas tienen que tener como escalabilidad de alguna forma en cada caso. Primero, entrenar el modelo con datos menos sesgados y después la toma de decisiones. Vale, automatizo ciertas cosas, pero tengo unos triggers que en casos un poco más complejos pongo al humano. No sé si me explico. Yo lo veo así, de esa manera.

SPEAKER_03 1:08:42

pero aquí nos encontramos con el mismo problema es decir aquí el control humano sería negativo es decir porque si te coges todas las decisiones que ha tomado Amazon para contratar efectivamente están asesgadas pero no hay ningún ser humano no asesgado y creo que tampoco habrá ellas no asesgadas

SPEAKER_04 1:08:54

y luego hay un problema y es que queramos una realidad manipularla para que cumpla una estadística que no es real ni efectiva y queramos que sea ética porque queremos que esa nueva ética cumpla una serie de porcentajes reglas que son anti efectividad, anti productividad y casi que es una nueva cultura impuesta, que es un poco lo que estamos viviendo, que es, oye,¿y por qué tengo que contratar más allá de lo que es eficiente? A partir de unos datos estadísticos. No, no, es que los datos estadísticos haría que tú eligieras más mujeres que hombres o hombres que mujeres. Tienes que ser el 50%.¿Por qué?¿Por qué? Claro, hay un componente ético, pero entonces volvemos otra vez a lo mismo. Entonces entramos en la ética del ser humano cuando el ser humano ha aplicado ese tipo de ética. Ahora se la pedimos a la IA. Vale, pero entendemos que el sesgo estará en los datos y en el humano. Es que la realidad es sesgada porque obviamente cada elección del ser humano inclina la balanza en un sentido o en otro. Entonces la realidad no es como lo del hombre medio, o sí, pero...

SPEAKER_05 1:10:09

ese

SPEAKER_04 1:10:10

tema es importante pero yo creo que con la inteligencia artificial, al revés como dice David, mejoraríamos la humanidad mejoraría porque llevaríamos transparencia y podríamos aplicar reglas o podríamos aplicar una capa de ética o podríamos aplicar un sistema evolutivo monitorizado que controlara ese tipo de cosas ya se está haciendo una pregunta incluso a las personas que están en el chat, porque lo estoy viendo aquí Algo que ha dicho Ignacio ahora mismo es el ejemplo, perdón, David, no, lo ha dicho David, no, perdón, Ignacio, el ejemplo de Amazon en este caso.¿Qué es la pregunta sobre esto? Bueno, tiene que ser ético, tiene que ser ético.¿Qué significa que tenga que ser ético? Si me lo preguntan a mí, yo puedo responder esa pregunta, pero otra persona podría tener una respuesta diferente a esta pregunta.¿Es la igualdad de oportunidades igual ética que la igualdad de resultados. Por ejemplo, en cuanto a reclutar personal para una empresa, etc. Son iguales de éticos.¿Me entiendes? Entonces, a veces se está llamando sesgos a sesgo e incluso diciendo que son intencionales a algo que no es intencional. O un reflejo de la realidad. O un reflejo de la realidad humana. Un reflejo de la realidad humana, exactamente. O que quieres darle otro curso a¿Quiere darle otro curso? Sí. Pero tampoco hay que ir hacia atrás en este sentido, que es mucho de lo que este tipo de textos hace, que es sobredimensionar un problema, haciéndolo intencional cuando no era intencional. Hacemos lo mismo con la enfermería, con medicina, donde la inmensa mayoría son mujeres. Hacemos lo mismo.¿Sería ético hacer lo mismo? Y decir, no, ahora tiene que ser 50-50-50, que se llama.¿Me entiendes? A ver, el tema del género y de 50... Pero hay muchos más casos. Hay otro caso que en una empresa se llama Workday, que era un sistema de... en este caso de ley, no sé cómo decirlo, es una inteligencia que también para contratar personas,¿vale? Pues que rechazaba candidatos por encima de 40, automáticamente y de forma agéntica,¿vale? Entonces, claro, dices, vale, pues sí, es la política de la empresa, pero entonces,¿dónde fijamos la ética? Hay ciertos valores que dice, bueno, estás promoviendo el edadismo, todo lo que es más de 40 es un dinosaurio para la industria, pues vale. Vivimos un caso crítico de ese tipo real y terrible en la pandemia a la hora de atender personas y se dejaron a personas mayores sin atender porque no había capacidad y se les dejó a muchos sin asistencia y morir. Lo hemos vivido. Ética hospitalaria. Es decir, lo hemos vivido.¿Cuál es la ética en la atención médica? Lo hemos vivido en la pandemia.

UNKNOWN 1:13:18

Bueno...

SPEAKER_04 1:13:18

Hay plácido también eso. Ya vimos la etica detrás de venta de mascarillas a través de comisiones. Es decir, que la ética que estaba rigiendo por ahí detrás tenía bastantes sospechas de corrupción. Las implicaciones hospitales. Por parte de Pfizer y Moderna. Lo digo, sospechas por ser lo más suave que pudo ser. Y esto, cuando hablamos de mantener a los humanos al cargo quizá lo que pondríamos sustituirlo de forma que podamos estar más de acuerdo Es poner un propósito y unos valores delante. Ponemos un propósito y unos valores que sean los que rigen la inteligencia artificial.¿Qué valores ponemos cuando los tuyos pueden ser diferentes de los de Frank? No importa. Lo que importa es que como mínimo hay ciertos criterios éticos que van por delante. Entonces, podemos divergir perfectamente en que no estamos de acuerdo en algunos criterios y creo que no sería sano detener nosotros ahora cuáles son los criterios que la humanidad tiene que tener,¿no? Porque no sería eso. Y el hecho de exigir que haya ciertos valores delante, pero otra vez, como decía David, esto sería una decisión muy naive,¿no? Decir, vale, pues nosotros vamos a hacerlo así. Entonces, entendiendo que no podemos, no tenemos ese poder y que esta declaración no va a cambiar de eso, lo que sí que hay que hacer es decidir con quién compartimos nuestros datos, quién está usando nuestros datos y poner un filtro en qué valores, qué propósito, qué cultura está usando esa organización para usar nuestros datos. Entonces, una de las cosas que sí se podría hacer, por ejemplo, es decir, gente, vamos a un conjunto de 80, 100, 1000 empresas para juntar nuestros datos y hacer de ellos y trabajar nosotros es de nuestros datos la inteligencia artificial lo que es conveniente que uno de los cambios que va a haber en este futuro es la cooperación el futuro es cooperativo estamos con estructuras supranacionales que son de valores muy bajos aquí únicamente nuestros datos por falta de velocidad por falta de agilidad por falta de Sí, perdón, por falta de criterio de saber desarrollar nosotros esas herramientas. Pero en el futuro, si queremos mantener nuestras... como ciudadanos, queremos mantenernos libres, será necesario empezar a pensar en colectivo.¿Cómo empezamos a pensar en grupal? Entonces, eso sí que sería algo que podemos activar. No es algo máximo de todas las empresas de España, sino vamos a empezar a decir, hey,¿quién cree en esto?¿Qué personas podríamos hacer para que trabaje una idea desde un propósito de unos valores que esté de acuerdo y empezar a trabajar desde ahí, para proponer algo ejecutable. Bueno, aquí tenemos los resultados de una encuesta que, bueno, todo vamos a cogerlo con pinzas, pero lo vamos a analizar. Los estadounidenses, obviamente estos de Estados Unidos, habría que plantear cómo pensarían los españoles o los europeos. Los estadounidenses eligieron el control humano sobre la velocidad en una proporción de 8 a 1. El 73% quiere que los niños estén protegidos de la IA. Hombre, me parece poco el 73. Debería ser el 100%. El 72% cree que las empresas de IA deberían ser legalmente responsables de los daños y el 69% quiere prohibir la superinteligencia hasta que se demuestre que es segura. Bueno, el pensamiento ludita, party time. Algo que... Yo no quiero hablar mucho ni monopolio

SPEAKER_03 1:17:33

Lo primero es eso de los estadounidenses. Aquí tenemos una muestra que seguro que es uno de los 1.004 micro... Bueno, estadísticamente no tiene

SPEAKER_04 1:17:43

ninguna... Peter Diamantis, me acuerdo de una anécdota que se me quedó grabada, que dice que fue a una universidad y hizo esa pregunta. Dice, a ver,¿vosotros qué pensáis?¿Que estáis mejor o peor que la gente de hace 10, 20, 30, 40, 50 años? Y ellos se consideraban que en el pasado estaban mucho mejor que ahora. Y luego decía,¿y qué creéis que vamos a estar dentro de 10, 20, 30 años?¿Mejor o peor? y todo el mundo pensaba que iba a estar peor. Es decir, el 90% pensaba que el pasado es mejor y el futuro va a ser peor. Es decir, Peter Diamanti se ponía las manos a la cabeza diciendo cómo puede ser que en la era de la inteligencia artificial las generaciones, además universitarias formadas, tengan esa actitud o esa visión tan negativa.

SPEAKER_03 1:18:22

La nota que hago aquí es que primero, eso es un 0,00028% de la población americana, igual me quedo corto. Evidentemente las preguntas tienen un sesgo importante. 1.004

SPEAKER_04 1:18:31

votantes, muy poco

SPEAKER_03 1:18:32

también. Las preguntas están hechas para que responda de alguna forma, con lo cual, yo creo que de un punto de vista estadístico, esto en una publicación científica no entraría con tal seguridad, con lo cual yo creo que es un poco también de nuevo seguir con la narrativa triunfalista de lo que ellos quieren vender, claro.

SPEAKER_04 1:18:49

Pero bueno, lo que hay que dar importancia es lo que tú acabas de decir. Independientemente de que sea válido el estudio o no, porque es muy poca la muestra, es la narrativa de medieval contextos. Y de

SPEAKER_03 1:19:02

Peroglu y

SPEAKER_04 1:19:02

algunas cosas más. Voy a hacer una acotación aquí. Ese segundo dato que veis ahí, el 172% creen que las empresas de IA deberían ser legalmente responsables de los daños. No sé a quién entrevistaron aquí, pero no es posiblemente al americano medio, y voy a explicar por qué.¿Cuándo fue esto? En enero fue esto. Perdón, principio de febrero. De hecho, 6 de febrero... en el aniversario, el 30 aniversario, estamos celebrando los 30 años del nacimiento de la economía digital. De hecho, 1996, 8, sección 208, código, sección 230, estoy diciendo en español, perdón, código, sección 230 del código de los Estados Unidos. Esa legislación que nace en 1996, hace 30 años, es el reflejo de ese dato que veis ahí en el centro. Cuando Cuando esto ocurre, lo que sucede es que todas las empresas, esto lo expliqué yo en un máster interuniversitario en la Universidad de Murcia, en la Politécnica de Cartagena, a estudiantes de periodismo, diciéndoles que tienen que aprender estos datos para poder luego juzgar a estas empresas americanas por qué actúan como actúan y por qué, porque están legislados en Estados Unidos. Y esta ley dice que estas empresas sociodigitales, como la digo yo, Facebook o Panorama Meta, es etcétera, etcétera. Están bajo la protección de la sección 230 del Código de los Estados Unidos, que establece que estas empresas son proveedores de contenido. Por lo tanto, están protegidos de la responsabilidad civil del contenido que los usuarios ponen o postean en su board o en su... Bastante contrario, Frank, de la DSA europea,¿no? Muy distinto de la DSA europea. Totalmente, totalmente. Es decir, y voy decir esto porque es un dato que le dije a los estudiantes y la decana de la facultad que estaba a mi izquierda, y se ve en vídeo además, cuando yo digo eso me levanto los ojos así como diciendo, en serio ok, Elon Musk cuando compra Twitter y lo convierte en X, lo que hace es cumplir con la ley Así como suena,¿ok? Lo digo por este dato y lo digo por el texto, este texto de todo esto, que alega una serie de cosas que son ilógicas. Elon Musk lo que hace es cumplir con la ley y vuelve a decir, esto es un proveedor de contenidos. Aunque se puede discutir luego porque hay una inserción de Crockett, que es una inteligencia artificial, etcétera, se puede discutir,¿ok? Pero esto es un proveedor de contenidos, no es un editor, no tiene poderes como lo tipo de tener un medio de comunicación, porque la ley te dice, si tú no quieres ser proveedor de contenidos, tienes que ser un medio de comunicación que además recordemos que tiene otra fiscalidad, es diferente entonces, que el 72% de los encuestados diga eso no sé dónde lo habrán hecho, la verdad que no sé esto dónde lo han hecho, demuestra una total ignorancia sobre una ley, una legislación que firmó además William Jefferson Clinton en 1990 en el Congreso.

SPEAKER_03 1:22:23

Luego la parte esta del 69% de prohibir hasta que se demuestre segura, pues bueno, eso es como prohibir las riadas hasta que llueve. Muchos autónomos sin el

SPEAKER_04 1:22:34

seguro, es decir, ya la pregunta te invita a decir que...

SPEAKER_03 1:22:38

Vamos a prohibir que llueva hasta que tengamos embalses, así ya lo cogemos el

SPEAKER_04 1:22:43

agua, espérate. Venga, vamos a... Bueno, el acelerador, vamos a ir muy rápido, pero bueno, son cinco secciones. Segunda sección, evitar la concentración de poder. Esto además yo creo que estaríamos todos de acuerdo, pero que también la tendencia es cada vez más a la concentración de poder, aunque ellos estamos totalmente... Bueno, yo creo que estaríamos todos de acuerdo en que la descentralización de poder ayuda a la no corrupción que se produce cuando hay concentración de poder. Pero bueno, vamos a ver qué dice. No a los monopolios de inteligencia artificial. Prosperidad compartida. Bueno, en lo de los monopolios entiendo que son los monopolios de inteligencia artificial y grandes big techs. La prosperidad con compartida. Bueno, los beneficios y prosperidad económica creados por la IA deberían compartirse ampliamente. Bueno, Sam Alman ya lo dijo, el progreso se va a compartir, pero antes nos vamos a repartir la gran tarta los que hemos creado esto,¿no? Luego la compartición va a ser real, pero desigual, obviamente. No somos tontos o somos tontos. Sin bienestar corporativo. A ver, bueno, esto que es como lo de Yolanda Díaz, lo de la democratización de las empresas o esto que se haga... Bueno, yo hay cosas que ya me explota la cabeza que sin bienestar corporativo... Bueno, yo cuando lo he leído no me lo creía. Y luego Pedro Sánchez diciendo que Yolanda Díaz es una de las mejores políticas de este país. Bueno, yo no lo sé. Sin bienestar corporativo, las corporaciones de inteligencia artificial no deberían estar exentas de la supervisión regulatoria ni recibir rescates gubernamentales. Bueno, entiendo que los bancos tampoco,¿no? Bueno, no lo sabemos. Creación de valor genuino. El desarrollo de inteligencia artificial debe priorizar la solución de problemas reales y la creación de valor auténtico. Esto David de Creación de Nuevas Especies, vas directo a la hoguera. Autoridad democrática sobre transiciones importantes. Las decisiones sobre el papel de la inteligencia artificial en la transformación del trabajo, la sociedad y la vida cívica requieren apoyo democrático, no decretos unilaterales, corporativos o gubernamentales. Evite el bloqueo social. El desarrollo de la inteligencia artificial no debe limitarse severamente las opciones futuras de la humanidad, ni limitar irreversiblemente nuestra capacidad de acción sobre el futuro.¿Qué comentáis al respecto? Vale, David, a ver, gracias David.¿Quién se tiene que marchar?¿Quién? Frank, pues danos tu opinión sobre el bloque 2, despídete, haz una reflexión. Ah, ok. Sí, me llama la atención. La cuarta sería 1, 2, 3, 4, 5. La quinta línea, autoridad democrática. No sé qué es una autoridad democrática. Si es una autoridad que los ciudadanos tienen que votar,¿quién va a ser el desarrollo de la IA?¿O la supervisión? Es el lenguaje de este tipo de declaraciones que es francamente ridículo a veces. No puede ser una autoridad democrática. Tiene que ser En la autoridad democrática el presidente elegido democráticamente sería una autoridad,¿no?¿Pero va a elegir en desarrollo de ahí a un presidente de una nación? Es como... Debería. Menos aquí en Europa. Menos aquí en Europa, que no tenemos industria al respecto. Así que nuestro derecho tendrá que ser otro. Pero Frank,¿tú estás en contra de la concentración de poder? Entiendo que sí. Yo creo que es una cosa que es interesante,¿no? La inteligencia artificial va de forma...¿cómo se llama? Es decir, el simple hecho de aplicarla nos puede proporcionar esa descentralización de poder o al revés, justamente el controlarla y a unos pocos va a concentrar aún más el poder en las democracias o en los sistemas venideros.¿Qué piensas sobre esto y si lo ves positivo o negativo? Existe una cierta política de monopolio, estoy hablando de los Estados Unidos en este caso, que es de un vienen estas empresas en cuanto a la política de patentes que sí ocurre,¿ok? Refuerzan tanto sus patentes y ponen tanto capital en ellas que lo que construyen es un muro para que los nuevos, los newcomers que se llaman, los nuevos incumbents, los nuevos o los emprendedores de verdad, les resulte mucho más difícil poder entrar y que su grupo de inversores entonces lo vean viéndoles a veces como amenazada digan, te compro o invierto en ti qué es lo que le pasó por ejemplo a siri siri no viene de agua viene de otra empresa que yo los vi en el año 2016 estuve yo en su laboratorio en hacer tan precisamente ahí en silicon valley otro día hablamos de eso entonces esto es una generalización del monopolio del poder esto es una generalización porque no lo hay como no hay unos unos igual que no hay unos principios éticos universales ni los va a haber vamos a decirle a china que tenga los mismos principios éticos que no nosotros, en Occidente en general, creo que no. Debo despedirme. Muchísimas gracias. No, Frank, ya te lo digo, la gente va a querer que vengas más. Un placer tenerte, Frank. A vosotros. Te esperamos en la próxima. Un placer. Bueno,¿qué vemos en este punto 2?¿Qué queréis comentar, David,

SPEAKER_03 1:28:06

Xavi, Ignacio? Yo, evidentemente, abogando a democratizar la creación de la IA y de la AGI y todo lo que venga después, pues evidentemente no los monopolios y la parte esta de los rescates gubernamentales, pues habría ciertos mecanismos que igual se podrían activar, pero muy complejos. Y lo del valor, pues bueno, evidentemente la parte del valor tiene una parte que es positiva y que es útil, que es que efectivamente la IA puede ayudar a generar muchísimo valor, no solo ya económico, sino también a solucionar problemas de la humanidad que están enquistados. Por lo cual hay una parte de ese valor genuino, es cierto que puede haber el que se priorice o no, bueno, eso dependerá, como decíamos antes, de dónde está el dinero. Bueno, fue muy... dinero está también en esas asimetrías que yo le llamo que existan.

SPEAKER_04 1:28:51

En la narrativa de creación de valor vimos un ejemplo máximo cuando en el proyecto Stargate con Sam Alman, el CEO de Oracle, etcétera, Trump dijo que lo primero que iban a solucionar es desarrollar una cura para el cáncer. Claro, esto ya directamente aprueba el proyecto porque quién no apoyaría un desarrollo tecnológico para curar el hacer. Es una trampa también,¿no? Es una narrativa

SPEAKER_03 1:29:18

de... Sí, es el unión, es el gancho de alguna manera y el resto pues no tiene sentido, tampoco les pasa lo mismo, es decir, son de nuevo otros cantos al sol que digo, con que podemos en algunos estar más o menos de acuerdo en temas que no, es decir, cómo se hace, es decir, es muy fácil decir lo que hay que hacer, pero cómo hay que hacerlo y aterrizarlo y probarlo y hacer una publicación científica que lo pruebe y otras cosas, es lo difícil.

SPEAKER_04 1:29:39

Yo aquí hay una cosa que has puesto, estaba mirando, bueno, lo que pasa es que los semaforitos El tema del monopolio, no sé quién lo ha dicho, pero yo creo que también el desarrollo de inteligencia artificial se va a nacionalizar. Es decir, no sé si es positivo o negativo, pero creo que el desarrollo de inteligencia artificial es tan importante que lo público y lo privado, como pasa en China, no existe y esto de los monopolios da igual.¿Creéis que actuarían contra el monopolio de la IA

SPEAKER_03 1:30:22

contra alguna empresa? Es evidente. Hoy salía también, hoy llevo ya 10 billones de tokens usados en los Open Cloud que tengo, en los 15 que tengo, y hoy ha salido presente Hunter, uno de los nuevos modelos que todavía están en Stealth, pero bueno, son chinos, ves que entras al detalle, ves que son chinos. Uno que tiene un millón de tokens, de momento están gratis, por lo cual, de momento, bueno, por supuesto, evidentemente los datos los van a utilizar para entrenarse con su historia, pero los varios modelos con un millón de tokens también, además con bastante potencia. Yo lo tengo activado en varios de los clubs estos y otro modelo de visión también, bueno, de visión y de audio, también te puedes hablar y tal con él, que también lo puedes integrar con OpenClub de 256K. Entonces, evidentemente, bueno, está claro que la competencia por el tema abierto no va a parar y cada vez se está reduciendo el gap. O sea, en el último estudio que estuve haciendo, precisamente, de cómo se alejan las guías chinas de las americanas, el gap tecnológico, más allá de los... vamos de los benchmark estos que están manipulados casi todos el gap se va cortando

SPEAKER_04 1:31:21

y yo creo que va a haber otra concentración de poder y fíjate como dice Ignacio de la visión meta o poderosa gobernaza de estado a empresa yo creo que va a haber otra concentración de poder y es aquellas empresas aquellas personas que hagan se hagan AI first contra el resto casi serán como una economía especie humanos diferentes yo es decir David estaría en ese grupo pero esto puede provocar movimientos en economías en la economía agéntica pero también en la economía tradicional cuando tú estás utilizando esta tecnología como hace David de forma masiva y dirigida como un ejército bajo su propósito como empresa privada pero claro alguno podría decirte David que eso no está bien que utilices tanta tecnología para tus intereses personales. Claro, vamos a llegar a esa narrativa. O impuestos.¿Cuántos agentes tienes, David?¿Cuántos agentes tienes?¿10?

SPEAKER_03 1:32:29

Tengo 15 máquinas de Open Cloud y muchos de ellos tienen 4 o 8 agentes, depende de sus agentes dentro de ellas. 15 operativas, 24 por 7. 10 billones de tokens en un poco menos de un

SPEAKER_04 1:32:40

mes. Bueno, son 15 personas. Vamos a eso, vamos a ese tipo de de regularización o políticas contencionistas

SPEAKER_03 1:32:48

la competitividad le va a ayudar mucho sobre todo va a hacer que España sea muy competitiva yo creo

SPEAKER_04 1:32:53

hombre es una oportunidad para que sea competitiva lo que pasa es que si lo ven

SPEAKER_05 1:32:58

como un peligro

SPEAKER_03 1:32:59

si lo regulan y lo prohíben y lo bloquean o lo hacen muy difícil le ponen puertas al campo pero el

SPEAKER_04 1:33:03

otro día dijeron una cosa que a ver si me escucha no quiero decir que lo digo pero es que yo me quedé a cuadros te lo quiero compartir David por amistad pero que tampoco es por cargar las tintas pero a ver soltaron en un programa de Xhub, que hay empresas de fuera que habían venido a España a desarrollar inteligencia artificial por el marco regulatorio que tenemos en la comunidad europea y en España con la S y con el sandbox, etc. Yo es que me quedé loco.

SPEAKER_03 1:33:32

Yo es que me quedo loco. Por el sol, la comida y otras

SPEAKER_04 1:33:34

cosas. Las paellas, si vieran las paellas cuando... No sé, yo a lo mejor es que vivo en otro planeta, de verdad. No lo sé. Es decir, que vengan aquí a probar el sandbox de la S, yo quería comentar dos cosas una David quiero saber por curiosidad que proyectos estás haciendo que tienes tantos agentes y

SPEAKER_05 1:33:58

para que tareas

SPEAKER_03 1:33:58

por curiosidad si se puede saber si bueno yo evidentemente utilizo la tecnología yo llevo un montón de tiempo automatizando es decir casi todo lo que hago todo lo que repito intento automatizarlo es parte de mi mantra continuo entonces muchos de estos agentes están varios enfocados en la parte de investigación que estoy haciendo con lo cual estos sistemas están digamos haciendo como scouting de investigación y algunos de forma, o sea, todos de forma 100% autónoma, es decir, yo básicamente lo que hago es consultar otros, por ejemplo, en todo el tema este de la validación de las hipótesis de libros, etcétera, pues también están haciendo lo mismo, están trabajando sobre eso. Otros están precisamente buscando nuevos contenidos para algunas de las plataformas y están generando contenidos de forma 100% autónoma. O sea, alguna mezcla de investigación, recopilación de datos y automatización de procesos, muchas cosas que antes me llevaba mucho más tiempo hacer que ya las tenía más o menos algunas como en programas en Python, etcétera, o en código de alguna manera que auto ejecutaba, pues lo interesante es que les puedes dar mayor autonomía. Y lo curioso es que, evidentemente, no tengo, o sea, tengo algunas locales, en máquinas locales, pero todas están en máquinas que no son, o sea, no son la máquina principal ni mucho menos. Son máquinas, son máquinas, vamos, como si fuesen aisladas de alguna manera,¿no?, del resto de lo que están haciendo. O sea, se podrían, después de que ya hayan cosechado, podrían destruirse y podrían volver a

SPEAKER_04 1:35:10

actuar. Y hablarme, porque me interesa, sobre todo en la parte de research, para

SPEAKER_03 1:35:17

mí y luego también es parte de la investigación de modelos yo continuamente estoy probando todos los modelos que salen yo creo que habré probado ya más de 100 modelos entre unos y otros y porque yo utilizo muchos, utilizo también para muchas cosas cuando trabajo intento buscar muchos de esos sesgos que comentabas antes intento mirar los diferentes sesgos pero para luego yo aglutinar un poco entonces también como investigación de con cuál funciona mejor, lo que pasa es que con OpenCloud también está cambiando continuamente con lo cual tienes que andar a actualizando el propio sistema hoy mismo de actualización. Aquí Pieter está dándole caña a las actualizaciones. Entonces es interesante porque cada vez las cosas que hacían mal antes o porque el modelo estaba mal o por otras cosas van mejorando.

SPEAKER_04 1:35:58

Bueno, la calentada, no sé si lo viste, David, o escuchaste el programa e hicimos el programa del análisis del paper Agentes del Caos, Agents of Chaos, y en la publicación, Peter, el autor de Open Cloud, bueno, nos ponía caldo. En algunas cosas yo creo que sin razón, pero claro, era las pruebas de agentes del caos, era a través de una arquitectura multiagente con OpenCloud.

SPEAKER_03 1:36:22

Claro, es que depende cuál utilices, o sea, primero hay tantas versiones, hay tantos modelos que puedes usar No,

SPEAKER_04 1:36:27

OpenCloud y utilizaron Cloudopus

SPEAKER_03 1:36:31

y Kimmy 2.5 Bueno, 4.5. Y depende también luego de las instrucciones que tengas, o sea, en realidad no es fácil replicar exactamente dos OpenCloud exactamente iguales entre otras cosas por todo el tránsito de tokens, ya digo, solo una de las máquinas, ha aglutinado 3 billones de tokens, solo una máquina en un mes.

SPEAKER_04 1:36:49

Algo que decir del punto 2, porque hay 5, así que vamos a ir un poco más rápido. Gracias, perdona. El tema del debate, sobre esta parte de concentración, a ver, a mí, evitar la concentración de poder en torno a la inteligencia de actividad me parece más que razonable. O

SPEAKER_05 1:37:03

sea,

SPEAKER_04 1:37:04

la idea es súper buena. Ahora, el problema es mucho más complejo. Yo lo que veo aquí es que ahí es una escala enorme de inversión, de computación, de talento y tal, y a fin se va a acabar concentrando sí o sí ahí el enfoque creo que debería ser un poco que como no si monopolio sí o no sino que qué acceso a esa infraestructura podemos tener y qué transparencia la capacidad de acceso y un poco como garantizar un poco competencia y transparencia yo lo veo ahí Por mi parte, lo que veo es que es como un grito al sol. Evitar la concentración

SPEAKER_03 1:37:50

de poder ya, pero contratamos Cloud, todos contratamos OpenAI, todos contratamos...

SPEAKER_04 1:38:00

Entonces, la salida... ver qué estamos contratando y qué estamos impulsando y cómo nos hacemos responsables de que eso suceda. de la cooperatividad, de la cooperativa, de lo que no tenemos todavía en mente como empresas, como personas. Y la cooperativa será el futuro y todavía es algo asumido globalmente. Pero que si necesitamos crear una alternativa,¿cómo la vamos a crear? En vez de esperar a que suceda,¿cómo cogemos un modelo pequeño de gente con valores y lo hacemos crecer? Sin esperar que suceda por azar. La cooperativa ya la tenemos. Un ejemplo es David Está él con cinco o diez sistemas autónomos. Lo que nosotros también planteamos es lo mismo. Empresas con equipos híbridos, agentes y personas. La cooperación o la colaboración o lo que tú llamas, va a venir pero de forma híbrida. Principalmente con... Lo que digo es que como asumimos el poder de pequeñas organizaciones como lo que estás contando, que lo desconocía David, pero como para asumir un mayor rol, entender que de pensar en el bien común y de cómo impulsamos estos proyectos para que sean más sólidos, para que sean más cooperativos. La competencia se hace desde los valores y desde el compartir. Y desde este humanismo, desde ahí podemos realmente marcar un punto de inflexión o hacer algo diferente

SPEAKER_03 1:39:40

que evita el polio. Yo te entiendo, Saby. De hecho, yo lo que en parte lo que hago está en Ciencia Abierta hace un 100%, con lo cual es esa parte colaborativa y el humano ha llegado donde hemos llegado gracias a la colaboración. Si no hubiese sido un humano solo, no hubiese llegado ni mucho menos ni de cerca donde estamos. Con lo cual la colaboración humana ha sido clave. Pero, bueno, en este caso el tema es cómo estos sistemas cooperan. Yo, por ejemplo, esos sistemas que les tengo, todos tienen capacidad de automejora y de cambiar, es decir, todo lo contrario. Yo cuando me preguntan cosas les digo que sean autónomos, que se busque la vida,¿no? En vez de tratar de imponer. Yo luego voy a cosechar, pero no les dejo que tengan...

SPEAKER_04 1:40:12

te han

SPEAKER_03 1:40:16

llamado por teléfono, aún no te han llamado por teléfono. No, todavía no, pero no está descartado. Pero bueno, el tema es eso, que estos sistemas al final hay que ver cómo se encajan. Y es curioso también porque estamos en un momento que ya habíamos vaticinado hace mucho tiempo también, que iba a llegar el momento de la primera empresa que con una sola persona, volviendo a las personas, facturase un billón y ya le llaman la meta empresa, porque meta al haber comprado también, en este caso, al Morbuk, por ejemplo, hablamos de una persona que facturó un billón sin una sola persona,¿no? Eso lo ponías a este tipo,¿no? Y bueno,

SPEAKER_04 1:40:49

y lo que le han pagado a Peter también, pues era por ahí, por ahí. Vamos al punto, te vamos a poner un poco el turbo. Tres, protegiendo la experiencia humana. Defensa de los vínculos familiares y comunitarios. La inteligencia artificial no debe suplantar las relaciones fundamentales que dan sentido a la vida. Es decir, no podéis tener novias. Y bueno, y más allá mucho,¿no? La familia, la amistad, la comunidad religiosa y las conexiones locales. Yo es que flipo. Hablamos el otro día de rezar y hablar y confesarse a través de apps con temas religiosos, la amistad, ya hay gente con amigos IA, familia, obviamente no podemos reproducirnos, tener sexo puede ser que sí, y novia o novio pues entiendo que también, esto que quedaría prohibido, no lo sé. Protección infantil, entendemos esto todos que sí, no se debe permitir que las empresas exploten a los niños ni socaven su bienestar con interacciones de IA que generan a luego emocionaron la influencia. Ahí podríamos mencionar, y aquí yo sí que estaría de acuerdo, el tema del suicidio de este adolescente de 14 años de carácter EI, principalmente porque no había medidas de seguridad, etcétera. Bueno, eso es un caso que además hicimos un programa. Derecho, bueno, que por cierto YouTube nos censuró. Derecho a crecer. No se debe permitir que las empresas de inteligencia artificial retrasen el crecimiento físico, mental. Bueno, hay gente que no tiene crecimiento mental y no es por la IE. O social de los niños, ni los priven de experiencias esenciales para un desarrollo saludable durante periodos críticos, flipo pruebas de seguridad previas al despliegue eso entendemos todos que sí etiquetado bot or not, el contenido generado por IA podría confundirse razonablemente con el generado por humano, debe estar claramente etiquetado como tal esto es muy a nivel europeo, habría un debate porque evidentemente ahí sin identidad engañosa, la inteligencia artificial debe identificarse clara y correctamente como artificial no humana y no como un profesional y no debe reivindicarse experiencias de las que carece bueno aquí hay una iniciativa a nivel europeo y español y es que en determinados sectores la IA no puede intervenir ni en psicología ni en medicina ni en legal ni en no sé qué temas bueno flipante bueno entonces¿qué hacemos con la IA? prohibida no porque es que es intrusismo bueno yo a mí que me perdonen sin adición entonces un programador oye Cloud Code está sustituyéndome eso no puede ser es intrusismo que lo pare también Sin adicción... Somos unos matados,¿no? Y aquí no pasa nada. Bueno, es flipante. Sin adicción conductual, la IA o la inteligencia divina no debería causar adicción. Bueno, todos los videojuegos también. El juego, la ludopatía, las apuestas. O uso compulsivo a través de la manipulación, la validación aduladora o la formación de AP. Esto... Venga, rápidamente. Opiniones rápidas para que no se haga muy largo, que tenemos el 4 y el 5. Yo muy

SPEAKER_03 1:43:40

rápido, evidentemente. Protección infantil y derecho a crecer, evidentemente tienen todo el sentido de dónde se puede y hasta dónde se puede hacer todo lo que se pueda en esa dirección, es correcto. El resto, la verdad, es que son un desastre. Y lo de la identificación del robot, eso ya me parece, creo que ya es como si tuvieses que decir, pues todas las veces que se utiliza el fuego, desde el origen del fuego, pues venga, vamos a etiquetar todos los usos que ha habido. Es una barbaridad. La mayoría de ellos no tienen sentido, lo de la identidad tampoco, es decir, es no entender hacia dónde va todo esto. Entonces, vuelvo por mi parte, salvo esos dos que digo que tiene

SPEAKER_04 1:44:14

evidentemente. Vamos a entrar al tema infantil, pero es verdad que el tema de cómo enfocar no solo a la sociedad, sino también a los menores y la narrativa que se utiliza. Yo, por ejemplo, para mí, el que no se le explique a los niños qué es exactamente la inteligencia artificial y que se planteen muchas dudas, me parece que es tan aberrante, entraría dentro de la protección. Es

SPEAKER_03 1:44:41

que están construyendo el sustrato o la herramienta con el contenido que hay dentro de la herramienta y ese tipo de cosas entonces si van a tener que estar en una sociedad multiespecie muy probablemente y no tardando pues lo lógico es que convivan con esas guías con esos humanoides con esas guías generales en punto es decir que al final entiendan y sean parte del proceso yo siempre digo que son los últimos los últimos profesores de máquinas son los chavales la gente joven que hay ahora mismo entonces privarles desacceso es una

SPEAKER_04 1:45:06

barbaridad

SPEAKER_03 1:45:10

estoy

SPEAKER_04 1:45:10

pensando a lo mejor me escucha el Larso Ibar eh tengo una espinita clavada con Larso porque el manifiesto X donde hubo esa discusión por el tema de la especie pues nos ha alejado a alguien que yo quiero que es Larso y una persona de la comunidad que ha sido y es importante y es que es muy difícil ponerse de acuerdo en todo esto y salió el tema de la especie y saltaron chispas bueno hasta el punto de que hasta que hemos llegado no No sé, lo voy a pensar porque es que es verdad que a nivel humano yo creo que el problema va a ser llegar a acuerdos. Fijaos la palabra especie. Pues hasta el punto de... Bueno, es que claro, si ya utilizamos el lenguaje para encasillar personas y casi declararlas antihumanas...

SPEAKER_03 1:45:57

Yo creo que el antropocentrismo ha tenido cosas positivas. Ayer salía, por ejemplo, el tema de la educación, que comentábamos también muchos aspectos relacionados con el humano en el centro. Pero bueno,¿qué centro y qué humano? Porque en el fondo, es decir, al final hay momentos en los que todavía estamos en el centro, pero el antropocentrismo precisamente es una ceguera.¿En

SPEAKER_04 1:46:19

la historia de la humanidad hemos tenido algún momento el humano en el

SPEAKER_03 1:46:23

centro? Ha habido humanos muy egoístas que han estado totalmente en el centro. Eso sí. Pero entender que este antropocentrismo es negativo cuando lo que está sucediendo... Primero porque el ser humano, no sé qué nombre habría que darle, porque en el fondo esa supremacía que se cree que tiene el ser humano sobre sobre el entorno, sobre lo que sucede en el mundo que va más allá de lo que controlamos, pues yo creo que hay que ir quitándosela. No somos todavía una civilización de tipo 1 de Kardashev. Y fíjate que hay más opciones. Por eso digo que yo creo que hay que ver cuando está llegando todo esto, hay que entender el lugar que se juega y sobre todo aprender a humildad. Yo creo que al final, el ser humano al final cuando ha entendido sus limitaciones y ha intentado mejorarlas, humildemente ha mejorado. Cuando está con la prepotencia, pues...

SPEAKER_04 1:47:11

Yo quiero dar un mensaje. El miedo, como decía Yoda, nos va a llevar al lado oscuro, nos va a llevar realmente a... la contención y el miedo nos va a llevar a lo que nos va a llevar, a la peor parte del ser humano. Y yo creo que la evolución, el cambio, está dentro de la esencia y el propósito humano. Y es verdad que yo sí que considero que el antropocentrismo no es algo negativo, considero que el ser humano es algo muy especial y somos centro, pero es verdad que tenemos que tener humildad y grandeza en lo que vivimos y no aferrarnos a una realidad que será medieval en poco tiempo.

SPEAKER_03 1:47:51

Es negativo si no te deja avanzar, si no te deja ver más allá y te dejas y te quedas en tu propia realidad que muchas veces no es. La realidad es individual, pero al final hay algo que está más allá y si no te permite verlo es un

SPEAKER_04 1:48:03

problema. Yo creo que los puntos que estoy de acuerdo y como también con ti es el tema de la protección infantil ahí no negociable, de la asistencia uno que me gusta también y es las se identifique como IA, realmente,¿vale? Esto es importante para mí, porque me parece razonable,¿vale? Para no confundir a la persona. Y después la preocupación un poco, que no sé si se ha dicho, sobre el diseño adictivo, realmente,¿no? Porque me parece relevante, porque al final si vamos cada vez dependiendo más para pensar, para razonar, para tener nuestros valores en la IA y vamos deletando eso, esto puede llevar a un deterioro un poco cognitivo muy grande lo que me hace me genera dudas es que la idea de cuando dice no debe sufrir relaciones fundamentales hay casos que la idea no reemplaza sino por ejemplo en el mundo educativo es un acompañamiento o incluso de personas mayores o con soledad que la idea le pueda dar esa una soledad no deseada pues le puede dar ese soporte entonces ahí es donde pero sí que está introduciéndose la parte emocional y afectiva es Es decir, yo lo he vivido, vamos, lo puedo decir de primera persona en varias interacciones humanas, que está posicionándose en territorio que antes solo había humanos. Y es en la consulta de problemas,¿no? A ver, he puesto muchos casos que me han ocurrido y que veo en amigos. Bueno, a mí me ha parecido flipante. Gente que se está separando y que lo comenta la IA y te lo deja de comentar al humano porque la IA le da muy buenos consejos. Luego me los han enseñado No un caso, ni dos, ni tres, varios. Y la verdad es que hace un buen papel. La verdad es que hace un buen papel. Es como decir,¿para qué necesitas consultarlo a un amigo? Si la guía te lo está diciendo,¿no? El tema ahí es no sustituir, sino complementar. Es de apoyo, de complemento. Sí, pero cuando ves que te da tan buenos consejos, ya no le pides consejo a un amigo. A lo mejor hablas de otra cosa más interesante,¿no? Entra en esa parte. En mi caso no ha entrado tanto, pero sí que como acompañamiento educativo va genial, realmente. Porque de hecho el rol del profesor está cambiando. Ya no es que tú eres la fuente de conocimiento, al revés. La fuente de conocimiento ya la tienes a golpe de promo. Es decir, cuál va a ser el valor humano que tú aportas en una interacción del profesor-aprendizaje de una persona. Xavi, y pasamos al 4. Xavi,¿querías comentar algo? Se ha quedado congelado.¿Sabi?¿No? Pasamos a cuatro. Sabi,¿querías comentar algo? Y pasamos a cuatro. Me pongo un poco... el papel de aluminio en la cabeza para dar un poco de contexto de eso,¿no? De cuál es un sueño, por ejemplo, de meta. Al final es vivir una realidad virtual conectados a una inteligencia artificial,¿no? O sea, ese sueño está,¿no? Incluso de reencarnarnos... Dejarnos conectarnos a una realidad que nos ayude la trascendencia. Entonces, que también es importante entender que hay ciertas organizaciones que nos quieren... Que no quiere ni que todos estemos ahí. Por otro lado, también hay otra tendencia que para mí es importante, que es la tendencia de... volver a poner la fe y la religión en el centro, que lo hemos visto en la guerra actual con Irán, con soldados que les han dicho que estaban luchando para crear el Apocalipsis, la tercera venida o la segunda venida del Cristo en la Tierra. Entonces, y como la creación del tercer templo de Salomón, es decir, que hay un mesías, una filosofía cristiana por ahí detrás o judía pero que hay una filosofía por ahí detrás muy fuerte y que cuando hablamos de protección de las familias y los vínculos y todo esto creo que tiene mucho que ver con eso entonces yo quiero recordar una cosa que es mi experiencia que cuando vivimos de la creencia Agente Smith. Perdón, cuando vivimos en la creencia estamos en la ignorancia. Es importante comprender esto por simple declaración de principio. Es decir, si yo creo es... Bueno, pero hay una parte de la realidad humana que es la creencia y la fe y es una gran parte de la experiencia humana. Sí, sí. Creo que eso, que la creencia siempre es inferior al conocimiento. Y la espiritualidad también es un ámbito donde la creencia es inferior al conocimiento. Es decir, que yo he conocido a personas que han tenido una experiencia espiritual, van a iglesias y les dicen, oye, yo he tenido una experiencia muy fuerte. Y les dicen que no los entienden porque ellos mismos han tenido esa experiencia. Entonces, eso está ahí. Es decir, que dentro de la misma iglesia a veces, pues la gente que ha conectado Realmente los tratan como locos. Con esto solo quiero dar el contexto de para qué creo que está el punto. Vamos a ir hacia cada vez una presión más fuerte de ir hacia una tendencia donde la fe se pone dentro y como algo casi indiscutible. lo que habéis comentado totalmente de acuerdo vamos al punto 4 agencia humana y libertad no se debe otorgar personalidad jurídica a la inteligencia artificial, bueno Pablo Ruiz que por cierto nos ha fallado aquí que hizo el tema de los robots con la personalidad jurídica, no vamos a otorgar derechos a una inteligencia que nos iguale o supere, que vamos a hacer matarlos apagarlos, someterlos como decía Juan Romero mi querido, a ver si lo tenemos decía, no hombre Plácido, vamos a tener inteligencias superiores entre nosotros caminando a nuestro servicio como esclavas y sometidas por el humano. Bueno, esa historia no acaba muy bien. Confiabilidad. La inteligencia artificial debe ser transparente, responsable, confiable y libre de intereses privados o autoritarios perversos. Bueno, está bien. Libertad. La IA no debe limitar la libertad individual, la libertad de expresión, la práctica religiosa o la asociación. Pero bueno, como vimos con un programa con Pablo Ruiz, puede la inteligencia artificial elegir la creencia y tiene libre albedrío le otorgaremos libre albedrío derechos de datos y privacidad las personas deben tener poder sobre sus datos personales, está muy bien, son derecho a acceder a ellos, corregirlos, eliminarlos bueno, perfecto privacidad psicológica, no se debería permitir la que la IA explote datos sobre los estados mentales o emocionales de los usuarios, bueno, entonces no puede ser un robot, una IAG no puede ser porque no te puede mirar si te gusta la paella, si estás sonriendo, si lloras, todo eso no. Eso no. Ni siquiera analizar las emociones en el texto. Evitar el debilitamiento. Los sistemas de IA deben estar diseñados para empoderar en lugar de debilitar a sus usuarios. Esto se queda muy corto, pero bueno. Comentarios breves al respecto.

SPEAKER_03 1:55:54

Bueno, yo sigo en la línea, yo creo que casi todo lo que comentan son, de nuevo, más cantos al sol, es decir, se han intentado muchas de estas cosas, previamente ni siquiera con llegar ahí, algunas de las cosas que plantean aquí se han intentado con tecnologías, con osonía, y han visto que no hay...

SPEAKER_04 1:56:11

La personalidad jurídica sí que es algo bastante debatible, y luego la confiabilidad sí que pondría algún punto ahí,

SPEAKER_03 1:56:17

¿no?¿Qué piensas sobre el tema? Algunas cosas sí, pero el tema, por ejemplo, es decir, si tú no le das acceso, es decir, una vez ya estás interactuando, estas ideas ya saben más de ti psicológicamente que tú. Es decir, es evidente, es decir, por capacidad humana, de hecho se está viendo, los estudios científicos han visto que son, ya lo hemos visto muchas veces, más empáticos en muchas cosas. Es decir, no hay, y eso que estamos hablando de una modalidad muy pequeña, que es el texto, hablamos de voz, hablamos también quizás de imagen, pero cuando empezamos a meter más

SPEAKER_04 1:56:42

textos por

SPEAKER_03 1:56:43

medio,

SPEAKER_04 1:56:44

la tradición

SPEAKER_03 1:56:45

es

SPEAKER_04 1:56:45

brutal. Me río porque ayer, a ver qué te parece, esto es cañero, yo sé que a la gente le va a gustar esto. Ayer estábamos hablando con Jesús Granero y bueno, salió en el chat un comentario sobre el tema de NPCs,¿no?¿Cómo saber si tú eres un NPC o no? David, yo, Xavi, Ignasi, si hay NPCs. Y bueno, dijeron una cosa por el chat que está relacionado con lo que tú estás comentando, David, que es, bueno, si una IA o un algoritmo te consigue predecir, serías un NPC, porque si eres predecible, no eres un jugador,¿de acuerdo? Podría haber un test casi de la IA hacia el humano que lo vinculará hacia un NPC, pero bueno, saldría entonces el 90% por ciento

SPEAKER_03 1:57:27

de NPCs. Sí, según donde pongas el baremo, más o menos, sí. El ser humano es un automata, o sea, hay una gran parte que es automata, pero no por nada, sino sencillamente por overloading sensorial, o sea, por sobrecarga sensorial al final, tiene que haber un automático. Sí, entonces es parte automática,¿no? Y ahí evidentemente ya se ha utilizado, es decir, parte de la neuroingeniería del comportamiento humano está en eso, en controlar eso y manipular eso.

SPEAKER_04 1:57:50

Aquí hay una cosa, hay un proyecto que sí que me parece de los mejores en cuanto a riesgos de la IA, que es el del MIT, el que hay un GitHub y Excel, que es el AI Risk del MIT. Bueno, si no lo conocéis, me lo pedís. Y ahí, me acuerdo, cuando hicimos el programa,¿sabes un riesgo que pusieron que me pareció muy interesante? Es la pérdida de agencia. Y es que la inteligencia artificial como tú, y esto es interesante conocerlo,¿no? Cuando tú delegas lo que dices tú, cada vez sabe más y más potente y es más inteligente que tú, claro, estás perdiendo agencia. Llega un momento que decide por ti, hasta que si te separas de la mujer o eliges un una cita u otra o un trabajo u otro o

SPEAKER_03 1:58:27

no te abre la nevera porque

SPEAKER_04 1:58:29

tienes que adelgazar te prepara la cena y elige la cena

SPEAKER_03 1:58:32

es decir, ahí perdemos la agencia

SPEAKER_04 1:58:36

no te abre la nevera pero claro, es verdad eso sí que es cierto tenemos que entender que como vamos a delegar porque estamos contando con una entidad que nos ayuda y nos potencia tenemos que entender que podemos delegar y delegaremos pero tendremos que fortalecer otras áreas porque si no es verdad que seremos como el bootloader

SPEAKER_03 1:59:01

el bootloader de las hijas lo que pasa es que lo de libertad es otra palabra que también es muy bonita y evidentemente todos queremos ser libres o creemos que somos libres más o menos pero en realidad es un gradiente no existe la libertad absoluta es un gradiente y hay muchos matices de la libertad y unas libertades suelen ir en contra de otras bueno

SPEAKER_04 1:59:20

a este punto entraríamos en uno que ya lo tuve con un Nunca me acuerdo,¿cuál es el compañero de Neuraxón con el que escribiste? José. Pero bueno, no vamos a entrar en el debate del libro albedrío, si no lo armamos aquí con lo

SPEAKER_03 1:59:34

de la realidad. Ni siquiera me iba a eso, prefiero que las libertades, la creencia de la pura libertad, sin entrar en el libro albedrío, me refiero que no hay nadie que por ahí sea libre. Estamos en

SPEAKER_04 1:59:47

un contexto bastante limitante como para

SPEAKER_03 1:59:49

tener una libertad. Todos los intereses que hay, todos los intereses políticos de todo tipo, de otras partes.

SPEAKER_04 1:59:54

zonas por las cuales. Yo hoy, en este tema, no entro nada más en una cosa, que es la que puedo opinar un poco, un poco de criterio. Lo que me da miedo es lo que está explicando Plácido,¿no? De la privacidad psicológica,¿no?

SPEAKER_05 2:00:10

Es decir,

SPEAKER_04 2:00:11

abres un nuevo frente ético,¿no? Porque cuando puede explotar estados mentales, emocionales, se puede enferer cognitivamente o emocionalmente sobre una persona, los algoritmos pueden llegar a un nivel de manipulación muy grande. Entonces, aquí lo que me hace pensar, digo... Bueno, y no solo de manipulación de forma peyorativa negativa, de poder. Como decía Yuval Harari, todo lo que sea palabra lo domina la IA. El tema, bueno, la palabra... Claro, tiene muchos ámbitos, está en todos los ámbitos. El tema es que ni la LOPD ni la GDPR se protegen sobre inferencias cognitivas o emocionales que es cuando morimos. O sea, protegen datos personales... Pero ahí están los neuroderechos. Bueno, y más allá,¿no? De muchas cosas al respecto.¿El programa? No, que entraría también después el tema de los neuroderechos, de qué tipo de información neuronal se puede utilizar e inferir. Es decir, yo creo que podríamos llegar a inferir el algoritmo, el programa que ejecutas,¿no? Es decir, cuando se avance realmente,¿qué no vamos a poder decodificar? Tus pensamientos.¿Cómo piensas?¿Tu algoritmo? Sí, sí, al final...¿no? el precón¿no? estos precón que te van a no solo que como pieza sino cómo vas a actuar tu próxima acción realmente¿no? agencia el quinto responsabilidad y rendición de cuentas este es el último responsabilidad y rendición de cuentas de las empresas de inteligencia artificial de las empresas de inteligencia artificial entiendo que serían las las que generan modelos de frontera o las grandes big techs bueno sin escudo de responsabilidad, la inteligencia artificial no debe poder actuar como un escudo de responsabilidad impidiendo que quienes la implementen sean, bueno aquí entonces entiendo que ya no son solo las Big Tech, son todas las que implementen también, sean legalmente responsables de sus acciones. Responsabilidad del desarrollador, los desarrolladores e implementadores tienen responsabilidad legal por defectos, tergiversación de capacidades, responsabilidad personal, deberían existir sanciones penales para los ejecutivos responsables de sistemas prohibidos dirigidos a niños o que causen daños catastróficos bien estándares de seguridad independientes sin captura regulatoria no se debe permitir que las empresas de IA ejerzan una influencia indebida sobre las reglas que las rigen bueno que no sea autorregulatorio transparencia en caso de fallos entiendo que sí si un sistema causa daño debería ser posible determinar de la forma más detallada o exhaustiva posible por qué hay quién es el responsable. Yo entiendo aquí que sí, dentro de las limitaciones técnicas. Lealtad de la guía. Los sistemas de inteligencia artificial que desempeñan funciones en profesiones con deberes fiduciarios, como salud, finanzas, derecho, terapia, deben cumplir con todos estos deberes, incluidos los informes obligatorios, el deber de cuidado, la divulgación de conflictos de intereses y el consentimiento

SPEAKER_03 2:03:15

informado. Yo aquí creo que, evidentemente, lo que puedan legalmente controlar, que será poco, puede tener sentido en más o menos. Pero aquí de nuevo hay cosas que no se entienden. Se habla del desarrollador. Cuando estamos hablando de un desarrollador, estamos hablando de un profesor o de alguien que ha enseñado algo y además somos todos los que enseñamos eso. Es decir, en qué punto de datos que se ha utilizado para entrenar Cloud o cualquiera está el que haga algo mal. Porque igual no ha sido ni siquiera el que ha diseñado el interface o el algoritmo o ha codificado la red neuronal, sino igual lo ha aprendido de algo que ha visto en un... Habría que ver en el dataset quién le ha enseñado a hacer eso, en todo caso. Esto es no entender que estamos enseñando máquinas y que a veces estamos menos programando máquinas, con lo cual el desarrollador tiene un poquito un poco raro. El que las empresas puedan tener cierta no responsabilidad pues para eso están las leyes y las pueden afinar más o menos. El tema es llegar y tirando el hilo hasta ver dónde está la responsabilidad real. Bueno,

SPEAKER_04 2:04:14

y hay una responsabilidad, eso sí que entiendo que es positivo, desde el que crea la IA, el que la integra como empresa o incluso el individuo a nivel personal también tiene una responsabilidad ética. moral, independientemente de que sea una empresa,

SPEAKER_03 2:04:28

a ver,¿no? Sí, pero para eso están las leyes, ya hay leyes que determinan lo que tú deberías poder hacer o no, y eso supone que ya están en un acuerdo social más amplio. Y

SPEAKER_04 2:04:36

lo de la lealtad de la IA, volvemos ahora mismo a lo de intrusismo,¿no? Es decir, porque esto es, bueno, que debe cumplir con todos esos, bueno, pero, bueno, entra en la línea de decir,

SPEAKER_03 2:04:45

oye... Y ya te digo, lo de tirando el hilo,¿quién es el responsable o no? Bueno,

SPEAKER_04 2:04:49

eso sí.

SPEAKER_03 2:04:50

Bueno,

SPEAKER_04 2:04:51

la explicabilidad dentro de lo que se pueda, yo creo que sí que se tiene que exigir,¿no? Hombre, entiendo que hay límites en la explicabilidad dentro de la inteligencia artificial, pero creo que tiene que ser uno de los principios el maximizar eso. A ver, yo en eso no lo...

SPEAKER_03 2:05:06

A ver, no lo veo mal siempre que se... Hablamos de empresas, porque luego directamente como esto al final tiene muchas derivadas y al final cualquiera puede estar entrenando en su guía pequeña, por lo grande que sea, etc. O sea, al final hay una parte que es de empresas que va a ser más fácil de controlar y hay otras que es muy difícil

SPEAKER_04 2:05:21

de... Pero ponemos un caso. Imagínate que una de uno de tus open cloud resulta que se ha metido en un foro es que no quiero hacerlo muy dramático ni tampoco ponerte pero bueno se mete en un foro y de forma y no sé causa unos daños¿no? vale no vamos a entrar en algo muy polémico tú serías el responsable en principio claro

SPEAKER_03 2:05:42

bueno yo o el que hizo el el open cloud Peter no no no ni siquiera el open cloud el modelo el modelo lo que te quiero decir es que al final estamos usando entidades que tienen ya autonomía propia, pues al final todos los epígrafes están conectados pues si tú entiendes que es algo que tiene autonomía, que tú no le quieres dar autonomía, pero en el fondo terminará teniendo autonomía y terminará no siendo de David ni de Plácido, ni de Ignacio ni de Xavi, serán entidades independientes pues estamos en ese proceso de delegación de esa independencia, habrá un momento en que ya estarán desligados de nosotros y en ese sentido pues volvemos al no querer hacer que sean personas, no querer darles esa capacidad

SPEAKER_04 2:06:23

bueno comentar este punto 5 y luego haremos reflexiones finales diré yo un par de cosas lo he comentado rápido una sola frase para mí es la inteligencia artificial puede automatizar las decisiones pero nunca debe automatizar responsabilidad eso es el tema toda decisión conlleva una responsabilidad pero no la puedes automatizar la IA lo ha hecho el algoritmo lo ha hecho no no eso es conlleva una responsabilidad y de momento hasta que no de declarar evidentemente una personalidad jurídica a la guía, no entraría en ese punto. Bueno, algo que quería comentar, reflexiones finales, vamos luego a hacer un... Bueno, si queréis hago la reflexión yo para que si queréis decir algo. Después de este programa me ha venido a la cabeza que tengo que teníamos pendiente el de TESCREAL3. Bueno, TESCREAL es un término que recoge como varias visiones entre ellas la aceleracionista, el transhumanismo y otras y engloba pues un término que se hizo famoso que se llama test creal y en definitiva son visiones un poco más transgresoras no contencionistas y que generan bastante debate, hicimos dos programas me quedé preparando el tercero, venga lo voy a volver a retomar y luego, bueno lo llamé test creal 3 porque en principio se iba a llamar la neuroélite AI que es un término que empleó Elon Musk sobre el poder de lo que estamos hablando no solo de la IA sino del pensamiento y de las mentes y que habría como una neuroélite que gestionara y dominara todo eso y después de un poco esos enfoques pues si queréis Ignasi, luego Xavi, luego David¿qué os ha parecido esta declaración? yo creo que no es marketing que es una declaración de un grupo de gente que va en una línea que va en una línea bueno, lo que dice David, que hay unos intereses pero me parece que han dicho muchas cosas es decir, que realmente se han mojado otra cosa es que hayan cosas como hemos dicho, más factibles, menos más viables, no pero claramente se posicionan en una línea de desarrollo o en una visión de lo que sería la implantación de la inteligencia artificial con la etiqueta de lo que ellos llaman pro-humana, que para mí no lo es para mí sería justamente al contrario Sería, en muchos aspectos, no en todos, anti-humano. Ignasi, Xavi, luego David. Últimas impresiones. Tres puntos. Para mí, este texto es moralmente correcto. La idea de la guía debe estar a los derechos humanos, sí, pero en muchos principios lo que hemos visto están formulados de una forma demasiado idealizada. Hay que ver cómo luego aterrizamos cuando hemos hablado de monopolios este tipo de cosas y para cerrar yo diría que el debate no es sí o no sino es gobernanza de la IA entonces la conclusión es que desarrollarla sin límites no es viable entonces qué límites imponemos qué gobernanza sería un poco creo que es el enfoque final de que está intentando cerrar este texto Xavi. Xavi,¿estás? Se ha congelado. Se ha congelado. Xavi. Xavi. si se me duerme un tío en el programa no viene más eso hostia bueno en una charla en una charla a mí no se me suelen dormir en la charla algunos sí porque eran las 4 y no sé si roncando de acuerdo a uno que estaba vamos a puteo bueno se ha quedado congelado Sabi vuelves a entrar y si no cuando se recupera la conexión David

SPEAKER_03 2:10:27

yo sé si pones la imagen otra vez porque no hemos hablado de la imagen nos ha faltado hablar la imagen es

SPEAKER_04 2:10:32

que por cierto está ampliada con la IA está ampliada con la IA el cuadro

SPEAKER_03 2:10:36

es la clave al final, pues bueno, no sé si son amis esos que se ven por ahí hay uno que camina por el agua también, por lo cual hay también ese milagro al fondo hay uno caminando por el agua entonces al final yo creo que la imagen determina un poco un futuro que determina un poco también lo que yo reflexionaba en el artículo ese que publicaba hace un ratito es que efectivamente es pretender pensar que podemos seguir viviendo en un mundo que ya no es este mundo entonces sí, o sea estoy de acuerdo con lo que decías de la moral y que efectivamente hay muchos puntos que son, por supuesto, de perogullo. Es decir,¿por qué no? El tema es entender dónde estamos en el mundo y yo creo que en eso hace un flaco favor. Yo creo que hace daño, de alguna manera, este tipo de documentos que no se aterrizan con la tangibilidad, con la realidad, con lo que está sucediendo en el mundo en el que vivimos. Creo que hacen más daño de lo que aplican por independencia.

SPEAKER_04 2:11:29

Hace mucho daño y declaraciones de los vídeos, que no lo voy a poner para alargar mucho el programa, tanto de... sobre todo del... o de palantir me parecen que hacen mucho daño y ese tipo de textos hacen muchísimo daño muchísimo muchísimo daño pero bueno Van a haber más, seguro. Yo creo que... No sé, pero bueno, ahora comentaré una cosa con lo que ha dicho David, que es verdad que es clave la imagen que utilizan. Es que es clave. Fijaos el trabajo que realizan.¿Queremos mantener ese mundo? El caballo con el hombre parece el del Foro Económico Mundial, el future of work, el futuro del trabajo, que hay que ser granjero. La era de la inteligencia artificial lo que hace es traer un futuro en el que el humano es el granjero ese es el mensaje Lo ludita, que parece que sí, parece que sea una sociedad ludita,¿es no intencionado? No, no, está totalmente intencionado. Es una sociedad ignorante, como bien dice David, del momento. Porque ese momento quiere ser gestionado y controlado por quien gestionan los proyectos civilizadores, que es el poder de siempre. Y la civilización no será la de siempre, sino la anterior, que es más primitiva e ignorante y más basada en la fe, que yo, bueno, cuidado con esto, que no es un ataque a la fe, al contrario, porque yo lo he dicho antes, yo creo que la fe es lo que promueve el cambio, pero...

SPEAKER_03 2:13:05

Y más manejable,

SPEAKER_04 2:13:07

por otro lado. Y más manejable,¿no? Ya no vamos a hablar de la plataforma de odio, que, por cierto, el programa será el lunes. Xavi, nos vamos. Bueno, terminando, quería terminar con la human agency, con la agencia humana, porque al final... Esta declaración es una negación de la agencia humana. Es como decir que lo arregle papá, que lo arregle otro. Y al final la agencia humana es cómo asumimos la responsabilidad de que las cosas sucedan. Cómo dejamos de esperar que alguien nos salve o que alguien nos guíe o que alguien arregle la inteligencia artificial. Es decir, cómo empezamos a asumir que no hay alguien. que somos nosotros, que somos David, Ignasi, Plácido y cuatro más que no escuchan. Vale,¿qué hacemos?¿Por dónde empezamos?¿Por dónde tiramos? Ostras, potenciamos David y empezamos a mirar cómo hacemos crecer esa cooperativa para entre varios eso,¿no? Es decir, dejar de esperar que el mundo cambie y ser el cambio que queremos ver en el mundo. Entonces, desde ahí, quizá podemos empezar a ver que la inteligencia artificial, esa moralidad, pero esa moralidad de desde nuestros actos, no desde esperar que suceda. Y para los creyentes, yo ayer puse una frase y es que como hijos de Dios, Dios introdujo la programación de la salvación en nosotros. En definitiva, estoy convencido de que todo lo que hacemos es equivocado o no, va hacia un camino que es el de la evolución, el de la búsqueda de verdad y el de narrar una historia que es la historia de la especie humana o de lo que vayamos evolucionando hacia una historia épica y espero que no sea basada en el miedo, sino sea basada en el corazón, en la verdad y en la luz en el camino y en otro tipo de cuadros quizá más renacentistas un abrazo David, bueno ha sido un programa espectacular me ha encantado, una lástima que Frank oye, esto de escuchar un acento tan perfecto es como, la verdad es que es muy cañero, un placer David tenerte, se te echaba de menos e Ignasi, también Xavi es decir, que mucha gente, pues el componente humanista siempre ha estado en X, J, Y, pero bueno, en ese sentido también Lassi, o como no, también David, yo, el componente humanista siempre tiene que estar presente en todo lo que hacemos, porque al final somos humanos en evolución. Un abrazo,

SPEAKER_03 2:15:53

amigos. Gracias a todos. Gracias.

SPEAKER_01 2:16:08

¡Gracias!