T6.E068. INSIDE X SAM ALTMAN ¿Podemos confiar en él? (Episodio 1)

# TEMA 
SAM ALTMAN ¿Podemos confiar en él?
+Análisis noticia The New Yorker

# PRESENTA Y DIRIGE 
🧠Plácido Doménech Espí
⭐Creador de xHUB.AI
🏢CEO MXND.AI : Software + AI
✉️placido.domenech@mxnd.ai

# xHUB.AI
xHUB.AI es una comunidad de Inteligencia Artificial y Ciencias transversales de habla hispana.

# REDES SOCIALES
🌐 youtube : xhubai
🌐 X  :   xhub_ai | placidodomenech
🌐 twitch :   xhub_ai | placidodomenech
🌐 instagram :   / xhub_ai | placidodomenech
🌐 discord : Pídenos acceso mediante DM en redes sociales.

# PODCAST
🎧 buzzsprout : https://xhubai.buzzsprout.com/
🎧 spotify : https://open.spotify.com/show/2SPqvrGGvZkALTy6jSokxI?si=1927a4d04b5145c4
🎧 apple : https://podcasts.apple.com/es/podcast/xhub-ai/id1576725819
🎧 amazon music : https://music.amazon.com/podcasts/e4ff4e8c-4efb-4aed-907e-09b2b1d7aa86
🎧 ivoox : https://go.ivoox.com/sq/1337641

# APÓYANOS
Si te ha gustado nuestro contenido, apoya a la comunidad y el canal de xHUB.AI:
❤️BuyMeACoffe : https://www.buymeacoffee.com/xhubai
❤️Paypal : pladoes@gmail.com
❤️ivoox Podcast : https://www.ivoox.com/support/1337641

# CONTACTAR
¿Quieres anunciarte, alguna propuesta interesante o consulta? Envíanos un correo.
✉️ Correo : xhubai.spain@gmail.com💬

Transcript

SPEAKER_02 0:00

Conectando.

UNKNOWN 0:06

Tu cuerpo.

SPEAKER_02 0:07

Conectando. Tu mente. Sincronizando. Tu alma. Entrando en la simulación. Bienvenidos al podcast de X-Hub AI. Bienvenidos a la nueva era de la inteligencia artificial. Ingeniería de la humanidad. Creación de la humanidad X. La nueva está llegando.

SPEAKER_01 1:06

¿Qué verdad?

SPEAKER_00 1:15

¿Que

SPEAKER_01 1:18

no hay

SPEAKER_02 1:18

cuchara?

SPEAKER_01 1:23

Si lo haces, verás que no es la cuchara la que se dobla, sino tú mismo.

SPEAKER_00 1:31

Hola amigos,¿qué tal?¿Cómo estáis? Soy Placio Doménech y hoy tenemos un nuevo y sorprendente programa en X-Hawaii hablando de una noticia publicada el 6 de abril, ayer, en The New Yorker. Ahora la veremos Sam Alman podría controlar nuestro futuro.¿Podemos confiar en él? Así titula esta noticia de New Yorker que está corriendo como la pólvora por X, por Internet, por Reddit, por las redes sociales en general.¿Y cuántos programas le hemos dedicado al amigo Osama, al niño de la bomber de Asilomar? Pues muchos,¿no? Muchísimos... Ahora ya está comiéndole terreno... Darío Amodei... De Anthropic... Pero esta noticia me impactó... Por lo que incluía... Por lo que decía... Solo he leído los titulares... Vamos a leerla completa... Por el interés que causa... Aunque es de pago... Vamos a poder leerla... De forma completa... Traducida y leída por mí... Es extensa... No sé lo que durará el programa... Pero yo creo que es muy interesante... Pretendo y pretendía, bueno al revés, pretendía y pretendo realizar un programa del Imperio de la Inteligencia Artificial, un libro donde se cuenta la historia de OpenAI, de Sam Alman... y bueno su carrera por dominar el mundo el imperio de la guía Sam Alman y su carrera por dominar el mundo de Karen Howe lo estoy leyendo me parece un libro imperdible y pensaba hacer un programa al respecto y este artículo yo creo que va a complementar pues todo lo que lo que lee el libro es casi que sería como un spin-off una segunda parte un complemento entonces bueno súper interesante y no hemos dejado pasar un día para bueno Podría haberlo leído solo, pero vamos a leerlo juntos y vamos a ver qué dicen. Incluido, pues parece ser que unos memos o unas notas de Ilia... sobre Sam Alman y sobre todo lo que ocurría en OpenAI. Bueno, es tremendo. Realmente tremendo. Así que poneros cómodos. Con o sin café. Yo sin café. Luego iré a por él. Y vamos a por ello. Bueno, no sin antes enseñar la portada original que luego viene con la animación que luego la veremos. Luego la veremos.

UNKNOWN 4:34

Eh...

SPEAKER_00 4:34

Está pendiente también este programa de Anthropic contra OpenAI. Las AG Wars puede ser que lo hagamos mañana, si no pasa nada. Si no pasa nada, mañana vamos a ver qué está pasando o ha pasado. No paran de pasar cosas en Anthropic. Lo último, la alianza aún más firme con Google. comprando hardware para desplegarlo en 2027. Entonces, alianza potente Google Anthropic. Bueno, Anthropic está triunfando. Alianzas también con Microsoft. Yo creo que está desplazando a OpenAI. Pero, bueno, OpenAI también tiene muchísimas cosas. Bueno, todo el tema de la filtración de código. En OpenAI todo el tema de Open Cloud. Bueno, haremos los timelines de AGI de uno y de otro. Bueno, hay un montón de cosas que comentar. Los últimos trabajos, los últimos papers, las últimas declaraciones de unos, de otros. Da para un programa infinito o para varios. Entonces, bueno, intentaremos hacerlo mañana. En principio iba a hacerlo en un InsideX, pero si podemos lo hacemos debate y lo hacemos a las siete y media. Depende de la gente, pero bueno. Vamos a decir dos cositas rápidas y empezamos con el programa. Este programa es un programa de XABAI, la Comunidad de Inteligencia Artificial y Ciencias Transnacionales. transversales de habla hispana, sexta temporada. Llevamos, esta mañana hemos publicado el podcast, 66 episodios este año y estamos en 7 de abril. Bueno, no está mal el ritmo de cantidad y calidad, tanto por lo que pienso yo, pero también por las audiencias. si queréis uniros a la comunidad de Discord me enviáis un mensaje directo o un correo electrónico y os paso un enlace y estáis dentro y accedéis a todos los recursos gratuitos todos que ofrece la comunidad noticias papers cursos formación contenido en YouTube debates comentarios un montón de cosas que no os podéis perder y si os gusta lo que estáis viendo lo que habéis visto lo que conocéis de mi trabajo el de la comunidad, el de XHabay, de la gente que participa, pues poned me gusta, compartid, comentad, suscribíos, sobre todo, bueno, el me gusta que es gratuito, el comentar es lo que más me gusta, una de las cosas que más me gustan, y bueno, suscribís a YouTube o a cualquier plataforma de podcast. También recordaros que tenéis tres episodios disponibles de mi análisis de Anticuadnova, esa nota de la Iglesia Católica que nos cuenta la relación sobre la inteligencia artificial y la inteligencia humana, un texto imprescindible, al que le seguirá el de Qoadis de transhumanismo, pero bueno, nos lo hemos tomado con mucha calma, íbamos generando episodios, esta semana pasada, Semana Santa, tres episodios, y pues esta semana presente, pues a ver si podemos hacer también uno o dos mínimo,¿no? Antigua etnova, con portadas pues súper atractivas, sobre todo, la verdad es que me gusta muchísimo. Y esta tarde a las 7 y media tenemos hoy programa doble, tenéis este InsightX del amigo Sama y esta tarde tenemos una Xtalks ahí con Roberto Augusto hablando de su último libro, La decadencia de la humanidad. Una Xtalks ahí imperdible, imperdible, que seguramente si no pasa nada la hagamos en tres partes, pero bueno, esta primera parte, esta primera toma de contacto con Roberto va a ser yo. creo que apasionante además una portada muy interesante bueno vamos vamos al lío amigos vamos a bueno mucha gente en el discord me dijo Plácido¿qué portada has hecho con Samalma? yo dije no no sé esta portada sí con el montaje de Ilya Suskever y el logo de OpenAI sí pero dice que terrorífica es que la original ya era así bueno vamos a verla bueno aquí la tenéis no con el vídeo no Pues sí, es un poco terrorífica. Es un poco terrorífica y dice Sam Alman puede controlar nuestro futuro. Podemos confiar en él. Nuevas entrevistas y documentos salen a la luz ante las dudas sobre la cabeza de OpenAI. Y han cogido lo de la cabeza de OpenAI y la han puesto en plan maquia de limo. Bueno, vamos. Este es el enlace de la noticia de Dini New Yorker la voy a poner allí la voy a poner aquí y vamos a vamos a leer no lo voy a mostrar el texto directamente lo voy a leer así que me escucháis y aunque luego salen algunas imágenes pero Bueno, tampoco creo que pase nada. Vamos a... Vamos a compartirlo, ya está, porque salen algunas imágenes y bueno, es interesante que salgan, aunque no creo que nos digan nada, no creo que nos digan nada ante el interés de una noticia y un contenido histórico que es imprescindible analizar y ver. Venga, en otoño de 2023, es un texto largo, no sé lo que va a durar la lectura, hay agua por aquí... si tengo que parar a beber venga, lo dicho, poneros cómodos y vamos por ello En otoño de 2023, Ilya Suskever, científico jefe de OpenAI, envió memorandos secretos a tres miembros del Consejo de Administración de la organización. Durante semanas habían mantenido conversaciones discretas sobre si Sam Allman, director ejecutivo de OpenAI, y Greg Brockman, su segundo al mando, eran idóneos para dirigir la empresa. Suskever había sido amigo de ambos. En 2019 ofició la boda de Brockman en una ceremonia celebrada en las oficinas de OpenAI donde un portador de anillos fue una mano robótica pero a medida que se convencía de que la empresa se acercaba a su objetivo a largo plazo era una inteligencia artificial capaz de rivalizar o superar las capacidades cognitivas humanas sus dudas sobre Sam Allman aumentaban como suskever le comentó a otro miembro del consejo en aquel momento no creo que Sam sea la persona adecuada para estar al mando. A petición de sus compañeros de la Junta Directiva, Suskever trabajó con colegas afines para recopilar unas 70 páginas de mensajes de Slack y documentos de recursos humanos, acompañados de texto explicativo. El material incluía imágenes tomadas con un teléfono móvil aparentemente para evitar ser detectado en los dispositivos de la empresa.

UNKNOWN 12:19

Suskever,

SPEAKER_00 12:20

Imágenes tomadas, fijaos, capturas... Suskiver trabajó con colegas afines para recuperar unas 70 páginas de mensajes de Slack y documentos de recursos humanos acompañados de texto explicativo. El material incluía imágenes tomadas con un teléfono móvil aparentemente para evitar ser detectados en los dispositivos de la empresa. Envió los memorandos finales a los demás miembros de la Junta como mensajes que se borran automáticamente para asegurarse de que nadie más los viera. Estaba aterrorizado, recordó un miembro de la Junta que los recibió. Los memorandos que hemos revisado no se habían divulgado íntegramente hasta ahora. Alegan que Alman tergiversó los hechos ante los ejecutivos y los miembros de la Junta y los engañó sobre los protocolos de seguridad internos. Uno de los memorandos sobre Sam Alman comienza con una lista titulada Sam muestra un patrón constante de mentir. Muchas empresas tecnológicas hacen declaraciones vagas sobre cómo mejorar el mundo para luego centrarse en maximizar sus ingresos. Pero la premisa fundacional de OpenAI era que debía ser diferente. Sus fundadores, entre los que se encontraban Allman, Suskever, Brockman y Elon Musk, afirmaron que la inteligencia artificial podría ser el elemento más poderoso y potencialmente peligroso de la historia de la humanidad y que, dado el riesgo existencial, tal vez se requeriría una estructura corporativa inusual. La empresa se constituyó como una organización sin ánimo de lucro cuyo consejo de administración tenía el deber de priorizar la seguridad de la humanidad por encima del éxito de la empresa o incluso de su supervivencia el director ejecutivo debía ser una persona de una integridad excepcional según sus que ver cualquier persona que trabaja en el desarrollo de esta tecnología que transformará la civilización soporta una gran responsabilidad y asume una carga sin precedentes pero quienes terminan en este tipo de puestos suelen ser personas con cierto perfil personas interesadas en el poder, políticos, personas a las que les gusta. En uno de los memorandos parecía preocupado por confiar la tecnología a alguien que simplemente les dice a las personas lo que quieren oír. Si el director ejecutivo de OpenAI resultaba no ser confiable, la junta directiva compuesta por seis miembros tenía la facultad de despedirlo. Algunos miembros, entre ellos Helen Toner, experta en política de inteligencia artificial, y Tasha McCauley, empresaria, recibieron los memorandos como una confianza de lo que ya sospechaban. El cargo de Altman le confiaba el futuro de la humanidad, pero no era digno de confianza. Altman se encontraba en Las Vegas asistiendo a una carrera de Fórmula 1 cuando Suskever lo invitó a una videollamada con la junta directiva y leyó un breve comunicado explicando que ya no era empleado de Open AI. La Junta, siguiendo el Consejo de Asesores Legales, emitió un comunicado público en el que solo indicaba que Alman había sido despedido por no ser consistentemente sincero en sus comunicaciones. Muchos de los inversores y ejecutivos de OpenAI quedaron conmocionados. Microsoft, que había invertido unos 13.000 millones de dólares en OpenAI, se enteró del plan de despedir a Alman justo antes de que ocurriera.«Me quedé muy atónito», declaró posteriormente C.O. de Microsoft Otros socios comerciales también se vieron sorprendidos cuando Alman llamó al inversor Ron Conway para decirle que le habían despedido. Conway le mostró el teléfono a la representante Nancy Pelosi con quien estaba almorzando. Será mejor que te vayas de aquí cuanto antes, le dijo ella a Conway. OpenAI estaba a punto de cerrar una importante inversión de Thrive, una firma de capital riesgo fundada por Josh Kushner, hermano de Jared Kushner, a quien Allman conocía desde hacía años. El acuerdo valoraría a OpenAI en 86.000 millones de dólares y permitiría a muchos empleados obtener millones en acciones. Kushner salió de una reunión con Rick Rubin, el productor musical, y recibió una llamada perdida de Allman. Enseguida entramos en guerra, dijo Kushner más tarde. El día que Allman fue despedido, voló de regreso a su mansión de 27 millones de dólares en San Francisco que cuenta con vistas panorámicas de la bahía y que alguna vez tuvo una piscina infinita en Voladizo arriba entiendo y estableció lo que él llamó una especie de gobierno en el exilio. Conway el cofundador de Airbnb, Brian Chesky y el famoso y agresivo gerente de comunicaciones de crisis Chris Lehan se unieron a veces durante horas al día por vídeo y tele teléfono. Algunos miembros del equipo ejecutivo de Alman agamparon los pasillos de la casa. Los abogados se instalaron en una oficina en casa junto a su dormitorio. Durante los episodios de insomnio, Alman pasaba junto a ellos en pijama. Cuando hablamos con Alman, recientemente describió las consecuencias de su despido como una extraña fuga. Ante el silencio de la junta, los asesores de Allman elaboraron un argumento público para su regreso. Lehan insistió en que el despido fue un golpe orquestado por altruistas eficaces, rebeldes, seguidores de un sistema de creencias centrado en maximizar el bienestar de la humanidad, que habían llegado a ver la inteligencia artificial como una amenaza existencial. Hoffman le dijo a Nadella que el despido podría deberse a la locura del altruismo eficaz. Leján, cuyo lema, según se informa, inspirado en Mike Tyson, es todo el mundo tiene un plan hasta que le das un puñetazo en la boca, instó a Altman a emprender una agresiva campaña en redes sociales. Chesky se mantuvo en contacto con la periodista tecnológica Cara Switzer, transmitiéndole críticas a la Junta.

UNKNOWN 19:41

Tenemos ahí...

SPEAKER_00 19:47

Bueno, sigue diciendo, aquí tenéis, a ver, buenas tardes, saludos a todos, Morales, Francisco Angulo, a ver, seguimos. alman interrumpía su sala de guerra a las 6 de la tarde con una ronda de negronis relájate recuerda haber dicho lo que tenga que pasar pasará pero añadió sus registros telefónicos muestran que estaba en llamadas durante más de 12 horas al día en un momento dado alman le comunicó a mira murati quien había proporcionado a sus que ver material para sus memorandos y ejercía como directora como directora ejecutiva interina de opening hay en ese periodo que sus aliados estaban haciendo todo lo posible y buscando cosas malas para dañar su reputación así como la de otros que habían actuado en su contra según una persona con conocimiento de la conversación alman no recuerda este intercambio a las pocas horas del despido trip suspendió su inversión prevista y sugirió que el acuerdo se concretaría y que los empleados recibirían indemnizaciones sólo si alman regresaba Mensajes de texto de este periodo muestran a Alman coordinando estrechamente con Nadella.¿Qué tal si Satya y yo tenemos la máxima prioridad de salvar OpenAI? Sugirió Alman mientras ambos trabajaban en un comunicado. Nadella propuso una alternativa, garantizar que OpenAI siga prosperando. Microsoft pronto anunció que crearía una iniciativa alternativa para Alman y cualquier empleado que abandonara OpenAI. Una carta pública exigiendo su regreso circuló en la organización. Algunos personas que dudaron en firmarlo recibieron llamadas y mensajes implorantes de sus compañeros finalmente la mayoría de los empleados de OpenAI amenazaron con irse con Alman la junta directiva estaba acorralada Control Z, esa es una opción, dijo Toner. Deshacer el despido. O la otra opción es que la empresa se hunda. Incluso Murati acabó firmando la carta. Los aliados de Alman trabajaron para convencer a Suskever. La esposa de Brockman, Ana, se le acercó en la oficina y le suplicó que reconsiderara. Eres una buena persona, Ilia, puedes arreglar esto, le dijo. Suskever explicó más tarde en una declaración judicial Sentí que si seguíamos por el camino en el que Sam Alman... nos llevaba, no regresaríamos OpenAI quedaría destruida una noche Alman tomó un Ambien pero su marido, un programador australiano llamado Oliver Mulherin lo despertó diciéndole que sus que ver estaba dudando y que le estaban diciendo que hablara con la junta directiva me desperté en una especie de neblina de Ambien y estaba muy desorientado, nos contó Alman pensé, no puedo hablar con la junta directiva ahora mismo En una serie de llamadas cada vez más tensas, Alman exigió la renuncia de los miembros de la Junta que habían intentado despedirlo.«¿Tengo que recoger los pedazos de su desastre mientras estoy en esta loca nube de sospecha?», recordó Alman haber pensado inicialmente sobre su regreso.«Pensé, absolutamente no». Finalmente, Suskever, Toner y Macaulay perdieron sus puestos en la Junta. Adam D'Angelo, fundador de Quora, fue el único miembro miembro original que permaneció. Como condición para su salida, los miembros salientes exigieron que se investigaran las acusaciones contra Altman, incluyendo que enfrentó a las que enfrentó a los ejecutivos entre sí y ocultó sus vínculos financieros. También presionaron para que se creara una nueva junta que pudiera supervisar la investigación externa con independencia. Pero los dos nuevos miembros, el expresidente de Harvard, Lawrence Summers, y el exdirector de tecnología de Facebook, Brett Taylor, fueron seleccionados después de conversaciones cercanas con Allman.¿Harías esto? Le envió Allman un mensaje de texto a Nadella. Larry Summers, Adam como la junta directiva y yo como director ejecutivo y luego Brett se encarga de la investigación McAuley testificó más tarde en una declaración jurada que cuando Taylor fue considerado anteriormente para un puesto en la junta directiva le había preocupado su deferencia hacia Alvin Menos de cinco días después de su despido, Altman fue readmitido. Los empleados ahora llaman a este momento el blip, en referencia a un incidente en las películas de Marvel en el que los personajes desaparecen y luego regresan, sin cambios, a un mundo profundamente alterado por su ausencia. Pero el debate sobre la confiabilidad de Altman ha trascendido la sala de juntas de OpenAI. Los colegas que facilitaron su destitución lo acusan de un grado de engaño insostenible para cualquier ejecutivo y peligroso para el líder de una tecnología tan transformadora. Necesitamos instituciones dignas del poder que ostentan, nos dijo Murati. La Junta solicitó comentarios y yo compartí lo que estaba viendo. Todo lo que compartí era cierto y lo respaldo por completo. Los aliados de Alman, por otro lado, han desestimado las acusaciones desde hace tiempo. Tras el despido Conway envió un mensaje de texto a Chesky y Lehan exigiendo una ofensiva de relaciones públicas. Esto afecta la reputación de Sam, escribió. Declaró al Washington Post que Alman había sido maltratado por una junta directiva deshonesta. Desde entonces, OpenAI se ha convertido en una de las empresas más valiosas del mundo. Según se informa, se está preparando para una oferta pública inicial con una valoración potencial de un billón de dólares. Altman está impulsando la construcción OpenAI está obteniendo contratos gubernamentales de gran alcance y estableciendo estándares sobre cómo se utiliza la inteligencia artificial en el control de la inmigración, la vigilancia interna y el armamento autónomo en zonas de guerra. Altman ha impulsado el crecimiento de OpenAI pregonando una visión en la que, según escribió en una entrada de blog de 2024, triunfos asombrosos, la solución del cambio climático, el establecimiento de una colonia espacial y el descubrimiento de toda la física se convertirán en algo común. Su retórica ha contribuido a mantener uno de los ritos de gasto más acelerados de cualquier startup en la historia. dependiendo de socios que han contraído enormes deudas. La economía estadounidense depende cada vez más de unas pocas empresas de inteligencia artificial altamente apalancadas y muchos expertos, en ocasiones incluido Allman, han advertido que el sector se encuentra en una burbuja. Alguien va a perder una cantidad de dinero increíble, declaró la prensa el año pasado. Si la burbuja estalla, podría sobrevenir una catástrofe económica. Si sus proyecciones más optimistas resultan ser correctas, podría convertirse en una de las personas más ricas y poderosas del planeta. En una tensa llamada, tras el despido de Alman, la Junta lo presionó para que reconociera un patrón de engaño. Esto es una auténtica barbaridad, repitió varias veces, según personas presentes en la llamada. No puedo cambiar mi personalidad. Alman afirma no recordar la conversación. Es posible que quisiera decir algo como intento ser una fuerza unificadora, nos comentó, añadiendo que esta cualidad le había permitido dirigir una empresa de enorme éxito. Atribuyó las críticas a una tendencia, sobre todo al principio de su carrera, a evitar demasiado los conflictos. Pero un miembro de la Junta ofreció una interpretación diferente de su declaración. Lo que quería decir era, tengo esta manía de mentir a la gente y no voy a parar. Los colegas que despidieron a Alman actuaron movidos por el alarmismo y la animosidad personal. O tenían razón al pensar que no era de fiar. Una mañana de este invierno nos reunimos con Alman en la sede de OpenAI en San Francisco para una de las más de 12 conversaciones que mantuvimos con él para este artículo. La empresa se había mudado recientemente a dos torres de cristal de 11 pisos, una de las cuales había sido ocupada por Uber, otro gigante tecnológico, cuyo cofundador y director ejecutivo Travis Kalanick parecía un prodigio imparable hasta que renunció en 2017 presionado por los inversores quienes alegaron preocupaciones sobre su ética Kalanick ahora dirige una empresa de robótica en su tiempo libre según comentó recientemente utiliza chat GPT de OpenAI para llegar a los límites del conocimiento en física cuántica un empleado nos hizo un recorrido por la oficina En un espacio amplio y luminoso, lleno de mesas compartidas, había una pintura digital animada del científico informático Alan Turing. Sus ojos nos seguían mientras pasábamos. La instalación es una referencia irónica a la prueba de Turing, el experimento mental de 1950, sobre si una máquina puede imitar de forma creíble a una persona. En un estudio de 2025, Chag-GPT superó la prueba con mayor fiabilidad que los propios humanos normalmente se puede interactuar con la pintura pero el sonido estaba desactivado nos dijo nuestra guía porque no dejaba de escuchar a escondidas a los empleados e interrumpir sus conversaciones en otras partes de la oficina placas folletos y artículos promocionales mostraban las palabras feel de allí siente la allí Esto es tremendo. La frase se asoció originalmente con suskever, quien la usó para advertir a sus colegas sobre los riesgos de la inteligencia artificial general, el umbral en el que las máquinas igualan las capacidades cognitivas humanas. Tras el blip de Thanos, se convirtió en un eslogan optimista que anunciaba un futuro superabundante. Nos reunimos... Bueno, una lectura apasionante. Por cierto, vamos, viendo lo larga que es... Tremendo, bueno. Nos reunimos con Alman. A ver si estáis diciendo... Dice que aquí... Dice Natola Gess... Alman es un mentiroso y manipulador. Yo creo que termina en la cárcel por sus negocios. Vamos a seguir leyendo. Nos reunimos con Alman en una sala de conferencias de aspecto genérico en el octavo piso. La gente solía hablarme de la fatiga por tomar decisiones y no lo entendía, nos dijo Alman. Ahora uso un suéter gris y jeans todos los días e incluso elegir qué suéter gris sacar de mi armario pienso ojalá no tuviera que pensar en eso. Alman tiene una apariencia juvenil, es delgado, con ojos azules, muy separado y cabello despeinado, pero ahora tiene 40 años y él y Mulherin tienen un hijo de un año nacido por gestación subrogada. Estoy seguro de que ser presidente de los Estados Unidos será un trabajo mucho más estresante, pero de todos los trabajos que creo que podría hacer razonablemente, este es el más estresante que puedo imaginar. dijo haciendo contacto visual con uno de nosotros y luego con el otro la forma en que se lo he explicado a mis amigos es este era el trabajo más divertido del mundo hasta el día en que lanzamos ChagPT estábamos haciendo descubrimientos científicos trascendentales creo que hicimos el descubrimiento científico más importante en no sé muchas décadas bajó la mirada y luego desde el lanzamiento de ChagPT las decisiones se han vuelto muy difíciles Allman creció en Clayton, Missouri, un suburbio acomodado de San Luis, siendo el mayor de cuatro hermanos. Su madre, Connie Gibson, es dermatóloga, su padre Jerry Allman era agente inmobiliario y activista por la vivienda. Alman asistió a una sinagoga reformista y a una escuela preparatoria privada que según él no era el tipo de lugar donde uno se atrevería a hablar abiertamente sobre su homosexualidad. En general, sin embargo, los círculos familiares de clase alta en los suburbios eran relativamente liberales. Cuando Alman tenía 16 o 17 años contó que salió de noche a un barrio predominantemente gay de San Luis y fue víctima de una brutal agresión física e insultos homófobos Allman no denunció el incidente y se mostró reacio a dar más detalles públicamente alegando que un relato más completo lo haría parecer manipulador o buscando compasión rechazó la idea de que este suceso y su sexualidad en general fueran significativos para su identidad pero según dijo probablemente se deba a algún problema psicológico muy arraigado que creo haber superado pero no es así relacionado con no querer más conflictos. Según contó su hermano, The New Yorker, En 2016, la actitud de Alman durante su infancia era, tengo que ganar y yo controlo todo. Estudió en Stanford, donde participaba regularmente en partidas de póker fuera del campus. Creo que aprendí más sobre la vida y los negocios allí que en la universidad, declaró más tarde. Todos los estudiantes de Stanford son ambiciosos, pero muchos de los emprendedores abandonan sus estudios. El verano de después de su segundo año, Alman se fue a Massachusetts para unirse a la primera promoción de emprendedores de eCombinator, una incubadora de startups cofundada por el renombrado ingeniero de software Paul Graham. Cada participante se unió a YC con una idea para una startup. Entre los compañeros de Alman se encontraban los fundadores de Reddit y Twitch. El proyecto de Alman, que finalmente se llamó Loopt, era una protorred social que utilizaba la ubicación de los teléfonos móviles para informar a sus amigos de dónde se encontraban. La empresa reflejaba su ímpetu y su tendencia a interpretar situaciones ambiguas a su favor. Las normas federales exigían que las operadoras telefónicas pudieran rastrear la ubicación de los teléfonos para los servicios de emergencia. Alman llegó a acuerdos con las operadoras para aprovechar estas capacidades en beneficio de la empresa. Aquí un dibujo. Estas cifras indican que alguien tiene alma de poeta. Entiendo que en referencia a PNI. Bueno, sigue diciendo. La mayoría de los empleados de Allman en Loop lo apreciaban, pero algunos comentaron que les sorprendía su tendencia a exagerar, incluso sobre cosas triviales. Uno recordó que Allman presumía a viva voz de ser un campeón de ping-pong, como el campeón de ping-pong de la escuela secundaria de Missouri, para luego demostrar ser uno de los peores jugadores de la oficina. Allman dice que probablemente estaba bromeando. Como Mark Jakobstein, un empleado veterano en Loop a quien los inversores le pidieron que hiciera de cuidador de Allman, le dijo más tarde a Kitsch Hagey, para el optimista, una biografía de Allman, dice, hay una confusión entre creo que tal vez pueda lograr esto y ya lo he logrado, que en su forma más tóxica conduce a Teranos, la empresa emergente fraudulenta de Elizabeth Holmes. Según Hagey, grupos de empleados de alto rango, preocupados por el liderazgo de Alman y su falta de transparencia, solicitaron en dos ocasiones a la junta directiva de Lupt que lo despidieran como CEO. Sin embargo, Alman también inspiraba una lealtad inquebrantable. Un ex empleado escuchó que un miembro de la junta respondió, esta es la empresa de Sam, vuelve al trabajo. Un miembro de la junta negó que los intentos de destruir de destituir a Altman como CEO fueran serios. Loop tuvo dificultades para captar usuarios y en 2012 fue adquirida por una empresa de tecnología financiera. Según una persona familiarizada con el acuerdo, la adquisición se había orquestado principalmente para ayudar a Altman a salvar las apariencias. Aún así, cuando Graham se retiró de E-Combinator en 2014, ya había reclutado a Altman para que fuera su sucesor como presidente. Se lo pregunté a Sam en nuestra cocina, contó Graham a The New Yorker y sonrió como si hubiera funcionado. Y sonríe como si hubiera funcionado. Nunca había visto una sonrisa tan espontánea en Sam. Era como cuando tiras una bola de papel a la papelera al otro lado de la habitación. Esa sonrisa... El nuevo rol de Alman lo convirtió a los 28 años en una figura clave. Su trabajo consistía en seleccionar a los emprendedores más ambiciosos y prometedores, conectarlos con los mejores programadores e inversores y ayudarlos a convertir sus startups en monopolios que definieran la industria, mientras que Y Combinator se quedaba con un porcentaje del 6 o el 7%. Alman supervisó un periodo de expansión agresiva aumentando la cartera de startups de Y Combinator de decenas a cientos sin embargo varios inversores de Silicon Valley llegaron a creer que su lealtad estaba dividida un inversor nos comentó que Allman era conocido por realizar inversiones personales de forma selectiva en las mejores empresas bloqueando a los inversores externos Allman niega haber bloqueado a nadie Altman había trabajado como explorador para el fondo de inversión Sequoia Capital como parte de un programa que implicaba invertir en startups en fase inicial y quedarse con una pequeña parte de las ganancias. Cuando Altman realizó una inversión ángel en Stripe, una startup de servicios financieros, insistió en una mayor participación lo que irritó a los socios de Sequoia, según una persona familiarizada con el acuerdo. La persona Es una política de Sam primero. Alman es inversor, según sus propias estimaciones, en unas 400 empresas. Alman niega esta descripción del acuerdo con Stripe. Alrededor de 2010 realizó una inversión inicial de 15.000 dólares en Stripe, una partición del 2%. La empresa ahora está valorada en más de 150.000 millones de dólares. Tremendo,¿no? bueno es apasionante esta lectura es apasionante un segundo vamos a seguir para 2018 varios socios de YC estaban tan frustrados con el comportamiento de Alman que se acercaron a Graham para quejarse Graham y Jessica Livingstone su esposa y cofundadora de YC aparentemente tuvieron una conversación franca con Alman después Graham comenzó a comentar que si bien Alman había accedido a dejar la empresa en la práctica se resistía Alman les dijo a algunos socios de YC que renunciaría a la presidencia pero que en su lugar pasaría a ser presidente del consejo de administración en mayo de 2019 una publicación en un blog que anunciaba que YC tenía un nuevo presidente incluía un asterisco Sam está en transición a presidente del consejo de administración de YC unos meses después la publicación se editó para que dijera Sam Alman se ha apartado de cualquier cargo formal en YC Posteriormente, la frase se eliminó por completo. Sin embargo, tan recientemente como en 2021, un documento presentado ante la Comisión de Bolsa y Valores, el SEC mencionaba a Allman como presidente del Consejo de Administración de Y Combinator. Allman afirma que no se enteró de esto hasta mucho después. Allman ha sostenido a lo largo de los años, tanto en público como en declaraciones recientes, que en Y nos dijo que no se resistió a irse. Este relato del tiempo de Alman en Y Combinator se basa en conversaciones con varios fundadores y socios de YC, además de documentos de la época, los cuales indican que la separación no fue del todo mutua. En una ocasión, Graham les dijo a sus colegas de YC que antes de su destitución, Sam nos había estado mintiendo todo el tiempo. Era un mentiroso patológico. vamos a seguir en mayo de 2015 Alman le envió un correo electrónico a Sam Alman perdón, a Elon Musk, Sam Alman a Elon Musk, quien por entonces ocupaba el puesto número 100 en la lista de personas más ricas del mundo. Al igual que muchos empresarios prominentes de Silicon Valley, Musk estaba preocupado por una serie de amenazas que consideraba existencialmente urgentes, pero que para la mayoría de la gente habrían parecido hipótesis descabelladas. Debemos tener muchísimo cuidado con la inteligencia artificial, potencialmente más peligrosa que las armas nucleares esto de Elon Musk Allman había sido generalmente un tecno optimista pero su retórica sobre la inteligencia artificial pronto se tornó apocalíptica en público y en su correspondencia privada con Musk y otros advirtió que la tecnología no debía estar dominada por una megacorporación con fines o con ánimo de lucro he estado pensando mucho en si es posible impedir que la humanidad desarrolle la inteligencia artificial le escribió a Musk si de todos modos va a suceder parece que sería bueno que alguien que no sea Google lo hiciera primero retomando la analogía con las armas nucleares propuso un proyecto Manhattan para la inteligencia artificial describió los principios generales que tendría dicha organización la seguridad debe ser un requisito de primera clase obviamente cumpliríamos con todas las regulaciones y las apoyaríamos activamente y él y Musk acordaron un nombre Open AI historia viva de la inteligencia artificial y de Open AI el señor Sam Alman de Elon Musk A diferencia del proyecto Manhattan original, una iniciativa gubernamental que condujo a la creación de la bomba atómica OpenAI se financiaría con capital privado, al menos inicialmente. Allman predijo que una superinteligencia artificial, un umbral teórico que supera incluso la inteligencia artificial general, en el que las máquinas eclipsarían por completo las capacidades de la mente humana, acabaría generando suficientes beneficios económicos como para capturar el cono de luz de todo el valor futuro en el universo pero también advirtió de un peligro existencial en algún momento las implicaciones para la seguridad nacional podrían volverse tan graves que el gobierno estadounidense tendría que tomar el control de OpenAI tal vez nacionalizándola y trasladando sus operaciones a un búnker seguro en el desierto A finales de 2015, Musk se convenció. Deberíamos decir que empezamos con un compromiso de financiación de mil millones de dólares, escribió. Yo cubriré lo que nadie más aporte. Altman integró OpenAI en la rama sin fines o sin ánimo de lucro de Ecombinator presentándolo como un proyecto filantrópico interno. Entregó acciones de YC a los nuevos empleados de OpenAI y canalizó las donaciones a través de cuentas de YC. En un momento dado, el laboratorio recibió apoyo de un fondo de YC en el que él tenía una participación personal. Posteriormente, Altman describió esta participación como insignificante. Nos comentó que las acciones de YC que les dio a los nuevos empleados eran suyas. La analogía del proyecto Manhattan también se aplicaba a la contratación de personal, al igual que la investigación sobre fisión nuclear. El aprendizaje automático era un campo científico pequeño con implicaciones trascendentales dominado por un grupo de genios excéntricos. Musk y Allman junto con Brockman, quien se unió procedente de Stripe estaban convencidos de que solo existían unos pocos científicos informáticos capaces de lograr los avances necesarios. Google contaba con una enorme ventaja financiera y una ventaja inicial de varios años. Nos superan en personal y recursos por un margen ridículo, escribió Musk más tarde en un correo electrónico. Pero si con el tiempo logramos atraer a las personas más talentosas y nuestra dirección está bien alineada, entonces OpenAI triunfará. Uno de los principales objetivos de reclutamiento era Suskever, un investigador intenso e introvertido, a quien a menudo se le consideraba el científico de inteligencia artificial más brillante de su generación. Suskever, nacido en la Unión Soviética en 1986, tiene entradas, ojos oscuros y la costumbre de hacer pausas sin parpadear al elegir sus palabras. Otro objetivo era Darío Modey, un biofísico rebosante de energía que suele retorcerse el pelo con nerviosismo, Y responde a correos electrónicos breves con extensos ensayos. Ambos tenían trabajos lucrativos en otros lugares, pero Alman les prodigaba atención. Más tarde bromeó a Cosé Ailia. Musk era el nombre más conocido, pero Alman tenía un trato más sutil. Le envió un correo electrónico a Amodei y organizaron una cena privada en un restaurante indio. Alman, mierda, mi Uber se estrelló, llego con unos 10 minutos de retraso. Amodei, vaya, espero que estés bien. Como muchos investigadores de inteligencia artificial, Amodei creía que la tecnología solo debía desarrollarse si demostraba estar alineada con los valores humanos, es decir, si actuaría de acuerdo con los deseos de la gente sin cometer un error potencialmente fatal por ejemplo seguir la instrucción de limpiar el medio ambiente eliminando a su mayor contaminador la raza humana Allman se mostró tranquilizador reflejando estas preocupaciones de seguridad Amodei quien posteriormente se unió a la compañía tomó notas detalladas sobre el comportamiento de Allman y Brockman durante años bajo el título mi experiencia con OpenAI subtitulado privado no compartir una colección de más de 200 páginas de documentos relacionados con Darío Amodei incluyendo esas notas correos electrónicos internos y memorandos que han sido difundidas por colegas de Silicon Valley pero que nunca antes se había hecho pública en sus notas Amodei escribió que el objetivo de Alman era construir un laboratorio de inteligencia artificial que se centrara en la seguridad quizás no de inmediato pero tan pronto como sea posible en diciembre de 2015 En diciembre de 2015, horas antes del anuncio en público de OpenAI, Alman le envió un correo electrónico a Musk sobre un rumor de que Google iba a hacer contraofertas millonarias a todos en OpenAI al día siguiente para intentar acabar con el proyecto. Musk respondió, Ilia ha respondido con un sí rotundo, Alman le aseguró que sus kever se mantenía firme, Google le ofreció a sus kever 6 millones de dólares al año, una cifra que OpenAI no podía igualar, pero alardeó Alman, desafortunadamente no tienen de lado OpenAI. de su lado la ética y allí otra otra caricatura dice sólo digo que si rompemos las almohadas y destrozamos el colchón tal vez nuestra casa parezca más habitada bueno más proporcionó a open y hay un espacio de oficinas en una antigua fábrica de maletas en el distrito Misión de San Francisco. Según nos contó Susquever, la promesa a los empleados fue«Van a salvar el mundo». Si todo salía bien, creían los fundadores de OpenAI, la inteligencia artificial podría dar paso a una utopía de post-escasez, automatizando el trabajo pesado, curando el cáncer y liberando a las personas para que disfrutaran de una vida de ocio y abundancia. Pero si la tecnología se descontrolaba o caía en las manos equivocadas, la devastación podría ser total. China podría usarla para construir una nueva arma biológica o una flota de drones avanzados cansados. Un modelo de inteligencia artificial podría burlar a sus supervisores replicándose en servidores secretos para que no pudiera ser desactivado. En casos extremos podría tomar el control de la red eléctrica, el mercado de valores o el arsenal nuclear. No todos creían esto, por decirlo menos, pero Alman afirmó repetidamente que él sí. En 2015 escribió en su blog que la inteligencia artificial sobrehumana no tiene por qué ser la versión intrínsecamente malvada de la ciencia ficción que nos mata a todos, un escenario más probable es que simplemente no le importemos mucho pero en un esfuerzo por lograr algún otro objetivo nos aniquile. Los fundadores de OpenAI se comprometieron a no anteponer la velocidad a la seguridad y los estatutos de la organización establecieron el beneficio de la humanidad como un deber legalmente vinculante. Si la inteligencia artificial iba a ser la tecnología más poderosa de la historia era lógico que cualquier individuo con control exclusivo sobre ella se convirtiera en un poder excepcional, un escenario al que los fundadores se referían como una dictadura de inteligencia artificial general. Altman les aseguró a los primeros empleados que OpenAI seguiría siendo una organización sin ánimo de lucro y que los programadores aceptaron importantes recortes salariales para trabajar allí. La empresa aceptó donaciones de incluyendo 30 millones de dólares de lo que entonces se llamaba Open Philanthropy, un centro del movimiento de altruismo eficaz cuyos compromisos incluían el apoyo a la distribución de mosquiteras a las personas más pobres del mundo. Brockman y sus kever gestionaban las operaciones diarias de OpenAI mientras que Musk y Alman, aún ocupados con sus otros trabajos, pasaban por ahí aproximadamente una vez por semana. Sin embargo, en septiembre de 2017 Musk se había impacientado. Durante las discusiones sobre si reconstruir OpenAI como una empresa con ánimo de lucro exigió el control mayoritario. Las respuestas de Alman variaban según el contexto. Su principal exigencia, con No obstante, parecía ser que si OpenAI se reorganizaba bajo el control de un director ejecutivo, ese puesto debería recaer en él. Suskever parecía incómodo con esta idea. Envió a Musk y Alman un correo electrónico largo y lastimero en nombre de Brockman y suyo con el asunto Reflexiones Sinceras. Escribió el objetivo de OpenAI es construir un futuro mejor y evitar una dictadura de inteligencia artificial general continuó dirigiéndose a Musk así que es una mala idea crear una estructura donde puedas convertirte en un dictador le transmitió preocupaciones similares a Alma no entendemos por qué el título de CEO es tan importante para usted sus razones declaradas han cambiado y es difícil comprender qué es lo que realmente le motiva Chicos, ya he tenido suficiente, respondió Musk, o emprenden algo por su cuenta o continúan con OpenAI como una organización sin ánimo de lucro. De lo contrario, solo estoy siendo un tonto que en esencia le está proporcionando financiación gratuita para que creen una startup. Así es. Renunció, bueno, una startup, imaginaos. Renunció de forma muy conflictiva cinco meses después. En 2023 fundó una empresa competitive con ánimo de lucro llamada XAI al año siguiente demandó a Alman y a OpenAI por fraude e incumplimiento de la obligación fiduciaria alegando que había sido manipulado astutamente por la estafa a largo plazo de Alman es decir que Alman se había aprovechado de sus preocupaciones sobre los peligros de la inteligencia artificial para estafarle la demanda que OpenAI ha impugnado enérgicamente sigue en curso Tras la marcha, a ver cómo vais por aquí. Tras la marcha de Musk, Amodei y otros investigadores se mostraron descontentos con el liderazgo de Brockman, a quien algunos consideraban un directivo conflictivo y con el de sus que ver generalmente visto como una persona íntegra pero desorganizada. En el proceso de convertirse en CEO, Allman parece haber hecho promesas diferentes a distintas facciones de la empresa. Aseguró a algunos investigadores que la autoridad directiva de Brockman se vería reducida, pero sin que ellos lo supieran también llegó a un acuerdo secreto con Brockman y sus Kever. Allman obtendría el título de CEO a cambio. Se comprometió a dimitir si los otros dos lo consideraban necesario. Él refutó esta descripción afirmando que aceptó el cargo de director ejecutivo solo porque se lo pidieron. Los tres hombres confirmaron la existencia del pacto aunque Brockman dijo que era informal. Nos dijo unilateralmente que renunciaría si alguna vez ambos se lo pedíamos. Nos opusimos a esta idea, pero él dijo que era importante para él. Fue un acto puramente altruista. Más tarde, la Junta se alarmó al enterarse de que su director ejecutivo había nombrado en esencia su propia Junta Directiva Paralela. los registros internos muestran que los fundadores tenían dudas en privado sobre la estructura sin ánimo de lucro ya en 2017 este año después de que Musk intentara tomar el control Brockman escribió en su diario no puedo decir que estemos comprometidos con la organización sin ánimo de lucro si tres meses después estamos haciendo una B Corp entonces todo lo que hicimos fue una mentira Amodei en una de sus primeras notas recordó haber presionado a Brockman sobre su prioridades y que Brockman respondió que quería dinero y poder Brockman lo niega Sus anotaciones de este periodo sugieren instintos contradictorios. Una nota dice, me alegra no enriquecerme con esto siempre y cuando nadie más lo haga. En otra pregunta, entonces,¿qué quiero realmente? Entre sus respuestas está, financieramente que me llevara a los mil millones de dólares. En 2017, Suskever estaba en la oficina cuando leyó un artículo que investigadores de Google acababan de publicar en el que proponían una nueva arquitectura de red simple, el Transformer. Saltó de su silla, corrió por el pasillo. Y les dijo a sus colegas, bueno, esto no lo conocía, dejen todo lo que están haciendo, esto es todo. Suskéver vio en el transformer una innovación que podría permitir a OpenAI entrenar modelos mucho más satisfactorios o sofisticados. De este descubrimiento surgió el primer transformer generativo preentrenado, la semilla de lo que se convertiría en ChagPT. Bueno, tremenda la historia de Suskéver ante el descubrimiento. del attention is all you need desde la arquitectura transformers 2017 y el origen de echa gpt es tremendo según el chat Dice,¿con este texto se puede hacer una serie de Netflix? Sí, van a hacer una en Prime,¿no? Entre este texto, bueno, este texto, bueno, todo lo que salió a partir del despido. Pero bueno, con la historia de OpenAI, sí. Según supimos, a medida que la tecnología se volvía cada vez más potente, una docena de los ingenieros más destacados de OpenAI celebraron una serie de reuniones secretas para debatir si se podía confiar en los fundadores de OpenAI, incluidos Brockman y Allman.

UNKNOWN 1:01:34

Dice,

SPEAKER_00 1:01:34

En una de ellas un empleado recordó un sketch del dúo cómico británico Mitchell y Webb en el que un soldado nazi en el frente oriental en un momento de lucidez pregunta¿Somos nosotros los malos? Para 2018 Amodei había comenzado a cuestionar más abiertamente los motivos de los fundadores. Todo era una serie de estrategias para recaudar fondos, escribió más tarde sus notas. Sentía que OpenAI necesitaba una declaración clara de lo que haría, lo que no haría y cómo su existencia mejoraría el mundo. OpenAI ya tenía una declaración de misión, garantizar que la inteligencia artificial general beneficie a toda la humanidad. Pero a Amodei no le quedaba claro qué significaba esto para los ejecutivos y es que significaba algo. A principios de 2018, según ha declarado Amodei, comenzó a redactar los estatutos de la empresa y y tres tras semanas de conversaciones con Alman y Brockman, abogó por su cláusula más radical. Si un proyecto alineado con los valores y centrado en la seguridad se acercaba a construir una AGI antes que OpenAI, la empresa dejaría de competir con ese proyecto y comenzaría a ayudarlo. Según la cláusula de fusión y asistencia, como se la denominaba, si por ejemplo los investigadores de Google lograban primero crear una inteligencia artificial general, OpenAI podría disolverse y donar sus recursos a Google. Desde cualquier perspectiva empresarial normal, prometer esto era una locura, pero OpenAI no se suponía que fuera una empresa normal. Esa premisa se puso a prueba en la primavera de 2019 cuando OpenAI negociaba una inversión de mil millones de dólares con Microsoft. Aunque Amodei, quien dirigía el equipo de seguridad de la empresa, había ayudado a presentar el acuerdo a Bill Gates, muchos miembros del equipo estaban preocupados temiendo que Microsoft incluyera cláusulas que anularan los compromisos éticos de OpenAI. Amodei le presentó a Alman una lista de exigencias de seguridad priorizando la preservación de la cláusula de fusión y asistencia. Alman aceptó esta exigencia, pero en junio, cuando se cerraba el acuerdo, Amodei descubrió que se había añadido una cláusula que otorgaba a Microsoft el poder de impedir cualquier fusión con OpenAI. El 80% de los estatutos se había traicionado, recordó Amodei. Confrontó a Alman, quien negó la asistencia de dicha cláusula. Amodei la le Leyó en voz alta señalando el texto y finalmente obligó a otro colega a afirmar su existencia directamente a Alman. Alman no recuerda esto. Las notas describen encuentros cada vez más tensos, incluyendo uno meses después en el que Alman lo convocó a él y a su hermana, Daniela, quien trabajaba en seguridad y políticas en la empresa, para decirles que tenía información fidedigna de un alto ejecutivo de que habían estado conspirando para dar un golpe de estado. Daniela, continúan las notas, perdió los estribos y llamó a ese ejecutivo, quien negó haber dicho nada como recordó una persona informada sobre el intercambio alman negó entonces haber hecho la afirmación ni siquiera dije eso Dijo, lo acabas de decir, respondió Daniela. Alman dijo que esto no era exactamente lo que recordaba y que solo había acusado a los Amodei de comportamiento político. En 2020, Amodei, Daniela y otros colegas se marcharon para fundar Anthropic, que ahora es uno de los principales rivales de OpenAI. Altman siguió pregonando el compromiso de OpenAI con la seguridad, especialmente cuando había posibles candidatos cerca. A finales de 2022, cuatro científicos informáticos publicaron un artículo motivado en parte por la preocupación sobre la alineación engañosa, en la que modelos suficientemente avanzados podrían simular un buen comportamiento durante las pruebas y luego, una vez implementados, perseguir sus propios objetivos. Es uno de los varios escenarios de inteligencia artificial que parecen ciencia ficción, Ya está ocurriendo. Semanas después de la publicación del artículo, uno de sus autores, un estudiante de doctorado de la Universidad de California, Berkeley, recibió un correo electrónico de Allman, quien le dijo que estaba cada vez más preocupado por la amenaza de una inteligencia artificial no alineada. Añadió que estaba pensando en destinar mil millones de dólares a este problema, que muchos expertos en inteligencia artificial consideraban el problema sin resolver más importante del mundo, posiblemente mediante la creación de un premio para incentivar a los investigadores. de todo el mundo a estudiar aunque el estudiante de posgrado había escuchado rumores vagos sobre la supuesta astucia de sam nos dijo la muestra de compromiso de alman lo convenció solicitó una excedencia académica para incorporarse a opinar pero durante varias reuniones en la primavera de 2023, Alman apareció o pareció dudar, dejó de hablar de crear un premio, en cambio abogó por establecer un equipo de superalineación interno. Un comunicado oficial refiriéndose a las reservas de capacidad de computación de la empresa prometió que el equipo recibiría el 20% de la capacidad de computación que hemos asegurado hasta la fecha, un recurso que potencialmente vale más de 1.000 millones de dólares. Según el comunicado, este esfuerzo era necesario porque si el problema de la anidación seguía sin resolverse la inteligencia artificial general podría conducir a la pérdida de poder de la humanidad o incluso a su extinción Jan Leike quien fue designado para dirigir el equipo con sus kever nos dijo fue una herramienta de retención bastante eficaz sin embargo el compromiso del 20% se esfumó Cuatro personas que trabajaban en el equipo o estaban estrechamente vinculadas a él afirmaron que los recursos reales representaban entre el 1 y el 2% de la capacidad de procesamiento de la empresa. Además, un investigador del equipo declaró la mayor parte del procesamiento de superalineación se realizaba en el clúster más antiguo con los chips de peor rendimiento. Los investigadores creían que el hardware superior se estaba reservando para actividades que generaban beneficios Leike se quejó a Murati, entonces directora de tecnología de la empresa, pero ella le dijo que dejara de insistir en el tema ya que el compromiso nunca había sido realista. Saltó de mi vida como un salto, un salto, un salto, un salto... vamos a tendremos que hacer varias partes porque el texto es enorme el texto es enorme madre mía esto todo es buff esto vamos a meter aquí con madre mía pues Venga, un poquito más y mañana seguiremos. Por esa época, según nos contó un ex empleado, Suskever estaba obsesionado con la seguridad. En los inicios de PNI consideraba que las preocupaciones sobre un riesgo catastrófico eran legítimas pero remotas. Ahora, al creer que la inteligencia artificial general era inminente, sus inquietudes se agudizaron. Hubo una reunión general, continuó el ex empleado, donde Ilya se levantó y dijo... Oigan, en los próximos años llegará un momento en que prácticamente todos en esta empresa tendrán que centrarse en la seguridad o estaremos perdidos. Pero el equipo de superalineación se disolvió al año siguiente sin haber completado su misión. Para entonces, según muestran mensajes internos, los ejecutivos y miembros de la junta directiva habían llegado a creer que las omisiones y engaños de Allman podrían tener repercusiones en la seguridad de los productos de OpenAI. En una reunión en diciembre de 2022, Alman aseguró a los miembros de la Junta que varias características de un modelo futuro GPT-4 habían sido aprobadas por un panel de seguridad. Toner, miembro de la Junta y experta en políticas de inteligencia artificial, solicitó documentación. Descubrió que las características más controvertidas, una que permitía a los usuarios ajustar el modelo para tareas específicas y otra que lo implementaba como asistente personal no habían sido aprobadas cuando Macaulay, miembro de la junta y empresaria salía de la reunión un empleado la apartó y le preguntó si sabía sobre la filtración en India Allman durante muchas horas de información a la junta había omitido mencionar que Microsoft había lanzado una versión preliminar de CGPT en India sin complementar la revisión de seguridad requerida hostia Simplemente se ignoró por completo, dijo Jacob Hilton, investigador de OpenAI en ese momento. Aunque estos fallos no provocaron crisis de seguridad, Carl Weinbreit, otro investigador, afirmó que formaban parte de una tendencia creciente a priorizar los productos sobre la seguridad. Tras el lanzamiento de GPT-4, Leike envió un correo electrónico a los miembros del Consejo. OpenAI se ha desviado de su misión, escribió. Estamos priorizando el producto y los ingresos por encima de todo. Macaulay en un correo electrónico a sus compañeros escribió, creo que definitivamente hemos llegado a un punto en el que la Junta debería aumentar su nivel de escrutinio. Los mismos miembros de la Junta intentaron abordar lo que consideraban un problema creciente, pero no pudieron hacer nada. Había un montón de gente de empresas conjuntas que nunca habían hecho nada para ser francos, dijo Su Yun, ex miembro de la Junta. En 2023, la empresa se preparaba para lanzar su modelo GPT-4 Turbo, como detalla suskever en los memorandos. Allman aparentemente le dijo a Murati que el modelo no necesitaba aprobación de seguridad, citando al asesor legal general de la empresa Jason pero cuando ella le preguntó a Kawon por Slack él respondió uff no entiendo de dónde sacó Sam esa impresión un representante de OpenAI donde Kawon sigue siendo ejecutivo dijo que el asunto no era importante y vamos a leer el último bloque el último bloque Poco después, la junta directiva decidió despedir a Allman y el mundo presenció cómo él revocaba su decisión. Una versión de los estatutos de OpenAI aún se encuentra en el sitio web de la organización. Sin embargo, personas familiarizadas con los documentos rectores de OpenAI afirman que se han diluido hasta el punto de perder su significado. En junio pasado, en su blog personal, Alman escribió refiriéndose a la superinteligencia artificial. Hemos superado el horizonte de sucesos. El despegue ha comenzado. Según los estatutos, este era posiblemente el momento que OpenAI podría dejar de competir competir con otras empresas y empezar a colaborar con ellas pero en esa publicación titulada la singularidad suave adoptó un nuevo tono sustituyendo el terror existencial por un optimismo exuberante todos obtendremos mejores resultados escribió construiremos cosas cada vez más maravillosas para los demás reconoció que el problema de la alineación seguía sin resolverse pero lo redefinió en lugar de ser una amenaza mortal era un inconveniente como los algoritmos como los algoritmos que nos tientan a perder el tiempo navegando en Instagram. Bueno, me parece, lo vamos a dejar aquí. Mañana seguiríamos, porque es verdad que quería que fuera un programa corto, porque tenemos a las 7 y media.

UNKNOWN 1:15:11

Tenemos a las 7 y media.

SPEAKER_00 1:15:12

Tenemos a las siete y media la decadencia de la humanidad. Bueno, es un texto que parece sacado del libro del Imperio de la Inteligencia Artificial. Cuenta muchas cosas igual, otras las profundiza. Es un texto muy extenso, me parece interesante leerlo para ver un poco la esencia del personaje que parece ser que lo que es muy adaptativo... Y mentiroso,¿no? En muchos casos. Algunas publicaciones que están haciendo referencia aquí, sorprendente ese cambio, ya lo dije, que era una veleta. Yo creo que podría hablar mucho de Samanman. Hemos hecho muchos, muchos programas. Yo creo que seremos el canal que más programas hemos hecho de Samanman. Analizando un montón de cosas. Incluido cuando estuvo aquí en España, que lo recibió nuestro amigo Pedro Sánchez.

UNKNOWN 1:16:11

Eh...

SPEAKER_00 1:16:12

¿En manos de quién estamos?¿Podemos confiar en Sam Allman? Obviamente no. yo creo que la mayoría de gente diría no, es un perfil de CEO pero claro¿qué CEOs tenemos en las grandes compañías? Iria Suskever que no es CEO de una compañía ahora mismo notoria, veremos lo que propone Choyet me parece un buen tipo un excelente científico, Demis Hassabis pero no es CEO, bueno es CEO de Mustafa Suleiman Satya Nadella Darío Amode¿En manos de quién estamos? Yo del único que pondría la mano en el fuego sería de Ilia Susquebra. Yo para mí es el líder de esta era. Pero algo ha pasado con Ilia. Yo creo que se lo ha comido el mundo de los intereses, el mundo capitalista, el mundo del poder, el mundo imperialista de Estados Unidos, no lo sé. Muchas cosas,¿no? Pero yo creo que Ilia... Sí que tiene claro muchas cosas y tiene una esencia que quizá tenga clara la narrativa y no sea ese líder que nos gustaría que fuera o sí. El tiempo dirá. Lo que está claro es que Sam Allman se asemeja más a esa imagen de un CEO con múltiples caras que se adaptan o que dicen lo que uno quiere escuchar para luego siempre actuar bajo su propio interés, poco el de la humanidad. Es un texto muy extenso, me parece interesante leerlo, yo lo voy a leer y seguiremos leyéndolo mañana. hasta que lo terminemos yo creo que con un día más o otro más tres pero bueno al menos tenéis me ha parecido también interesante el capítulo de la alineación de la super alineación y como pasan del tema de la seguridad absolutamente y ese es preocupante viendo la potencia de los modelos y el impacto hacia que mundo vamos también la desigualdad entre Europa China Estados Unidos nos lleva a una competición desigual donde nosotros no estamos jugando ni compitiendo a nada creemos que sí pero la historia que subyace es mucho más real y seguro que los buenistas reguladores, legisladores de ese mundo se rasgarían las vestiduras ante la lucha de poder de estas grandes compañías pero bueno es que en China no sabemos lo que ocurre pero será igual o peor entonces la historia del mundo es la que es la inteligencia artificial es una irrupción advenimiento inevitable¿cómo nos adaptamos o qué postura adoptamos? pues habrán varias posturas como individuo como sociedad como país como Europa como continente como cultura como proyecto civilizatorio no lo sé pero sigo diciendo que nos están contando el cuento de Jamelín aquí en Europa y en España que estamos perdiendo muchísimo tiempo y que cuando nos demos cuenta será demasiado tarde, quizá ya lo es quizá ya lo es, fijaos que lo fue o la sensación ya lo fue para OpenAI respecto a Google, pero bueno ya da hora OpenAI, mirar Anthropic mirar Iliasuskever¿qué pasará? bueno, más Mañana si no pasa nada, amigos, seguimos leyendo el texto. Os espero esta tarde. Os espero esta tarde con... os espero esta tarde con La decadencia de la humanidad, con Roberto Augusto, que no veía el título. No os lo perdáis, va a ser una primera parte, yo creo que haremos tres, si el autor quiere. A las siete y media tenemos Xtalks ahí. Así que, bueno, gracias por acompañarme en este café, en este InsightX. Yo os espero a todos esta tarde a las siete, en un ratito. Hasta ahora, amigos.

UNKNOWN 1:20:59

¡Vamos!

SPEAKER_02 1:21:17

¡Suscríbete al canal!