Pepe Pérez Plano

Imagen generada por Stable Difussion.

La inteligencia artificial (IA) está generando, durante el primer trimestre de 2023, intensos debates. Tras la puesta a disposición al público de herramientas como ChatGPT o las opciones que la competencia de OpenAI se ha apresurado a distribuir, como Bard o similares,  se han despertado miedos ancestrales.

Ya durante 2021 y 2022 las nuevas versiones de Dall-e o Stable Difussion habían generado debate en el mundo de la fotografía y la ilustración, con menor nivel de difusión, pero similar intensidad.

He llegado a oír de expertos estos días frases literales como que “está en peligro la democracia” o que “puede socavar los cimientos de nuestra civilización”. No en programas milenaristas o esotéricos en los que se habla de cosas “inquietantes”, sino en programas serios e informados de medios respetables.

Cualquier tecnología, aprovechando las ideas que ya Neil Postman nos dejó en la muy recomendable “Tecnópolis”, se expandirá hasta ocupar todos los espacios posibles, muy por encima de los que los propios creadores hayan imaginado. Esto no es nuevo en nuestra historia, pasó con el reloj, la imprenta, el motor de combustión, el teléfono móvil, la comprensión de archivos y cientos de otros ejemplos.

Los seres humanos en general y los gobiernos en particular no pueden detener este proceso, aunque si pueden encauzarlo ya sea para mejorar el bien común o para tratar de evitar desastres como ha sido el caso de tecnologías con un claro potencial destructor como la tecnología nuclear o la edición genética de armas biológicas. Ya en mis tiempos mozos por 1990 leíamos con preocupación artículos en la lamentablemente recién desaparecida Investigación y Ciencia que nos revelaban el poder devastador de los nuevos desarrollos de armas nucleares o de neurotoxinas que pueden matarte con entrar en contacto con la piel en pocos segundos. ¿Tiene la IA un potencial tan devastador?

Hay que tener un debate sosegado, profundo y extenso sobre estos temas en los que las moratorias de 6 meses, Pause Giant AI Experiments[1], que no van a poder ser globales (¿Cuántos científico o líderes chinos han firmado la carta solicitando la moratoria?…). no van a ofrecer soluciones, lo que me pone en contra de 1100 reputados especialistas. Comparto con ellos y ellas su reflexión final “La humanidad puede disfrutar de un futuro próspero con la IA. Tras haber logrado crear potentes sistemas de IA, ahora podemos disfrutar de un «verano de la IA» en el que cosechemos los frutos, diseñemos estos sistemas para el claro beneficio de todos y demos a la sociedad la oportunidad de adaptarse”.

En los ejemplos de los miedos ante la tecnología, comprensibles pero no por ello defendibles y menos aún magnificables, y su regulación tenemos ejemplos exitosos, pero también podemos traer a la memoria ejemplos como la legislación que obligaba a una persona a caminar delante de los primeros vehículos de motor sen el reino unido, la «Red Flag Act», promulgada en 1865 y que exigía que una persona que llevara una bandera roja caminara delante de cualquier vehículo autopropulsado. Se mantuvo en vigor durante 31 años hasta 1896.

En una reciente entrevista que Lex Fridman le hizo a Sam Altman[2], CEO de OpenAI, y que recoge también Jordi Pérez Colomé en su newsletter de tecnología en el País, Altman tiene un visón algo más naíf pero que comparto más que la de los premonitorios apocalípticos al estilo Skynet. Me parece muy reveladora su reflexión sobre el ajedrez: tras 25 años de la victoria de Deep Blue sobre Kasparov, la gente no ha dejado de jugar, aunque nunca más un ser humano podrá ganar a una máquina.

Los debates sobre la IA abarcan muchas esferas de nuestra existencia, como los son por ejemplo los debates sobre internet, y no ayudan los fuegos artificiales de tinte milenaristas para reflexionar sobre ellos. Tres ejemplos para abrir boca aunque cada uno de ellos necesitaría un artículo completo.

El empleo: Es verdad que el potencial de la IA para destruir empleo es enorme debido a su capacidad para automatizar trabajos rutinarios y no tan rutinarios. Sobre este foco he venido advirtiendo a propios y extraños cuando hasta hace poco el mensaje era de “si, bueno , pero creara muchos otros”. No. La IA será un destructor neto de empleo. Pero esto ya lo hemos vivido antes con otros procesos de introducción tecnológica (mecanización del campo, sector textil, agencias de viaje, discográficas…) y caminamos hacia una sociedad de ocupación sin empleo, pero este es otro debate en el que la IA solo está acelerando algunas tendencias.

Los sesgos: Está también todo el problema de los sesgos que se debe a los modelos de entrenamiento, occidental, blanco, etc., aunque sólo hay que ver los perfiles de los 10 primeros firmantes de del citado manifiesto para apreciar también el nivel de diversidad que se está dando en los líderes de la IA. Desastroso cómo afecta por ejemplo al mundo de los seguros de salud en USA a la hora de discriminar sectores de la población. Sin embargo creo que es algo detectable y corregible y que obedece a otros intereses.

La propiedad de los datos y la propiedad intelectual. Bienvenidos a “la era del capitalismo de la Vigilancia” que nos ha ofrecido Shoshana Zuboff. No es algo nuevo. Los desarrolladores de la IA están avanzando por el camino que como un cortahielos fueron abriendo Facebook, Google, Amazon y similares.

Y así podríamos ir desgranado más y más temas que no son exclusivos de lo que representa la IA y que deben ser tratados en su conjunto con una visón menos catastrofista, más eficaz y esperanzadora.

 Uno de los efectos positivos que va a tener la IA es una nueva puesta en valor de referentes personales, de gente honesta y profesional que haga bien su trabajo y que le da la vuelta como un calcetín a la frase de cabecera. “Es mejor que me crea a mí, un ser humano que aun con mis defectos puedo gozar de credibilidad y que he trabajado a fondo un tema, que a sus propios ojos”. Esto pone el foco en el buen periodismo, con más trabajo profesional claro, o la ciencia excelente, que no necesitó del IA para que se propagaran conspiraciones de microchips en las vacunas por poner dos ejemplos.

El efecto en el periodismo creo que es uno de los motivos por lo que han tenido tanta repercusión las novedades en la IA, ya que ha hecho de importante caja de resonancia, a mi entender con mucho miedo y poco criterio. Photoshop, el conocido software de edición de imágenes, se lanzó en 1990 y ya entonces se podían manipular y crear nuevas realidades. Algunos estudios dicen que el 90% de los profesionales de la imagen lo utilizan en 2022. Sin necesidad de la IA tenemos el debate sobre la manipulación de imágenes en artículos científicos[3]. Una vez más es la honestidad de la persona la que va a marcar la diferencia. ¿Cuál es la diferencia fundamental para que nos rasguemos las vestiduras en marzo de 2023 con las fotos del Papa o la falsa detención de  Donal Trump?. “Ahora cualquiera puede hacerlo y cada vez va a ser más difícil detectar el engaño” me dirán. Bienvenidos a la era de “nometragotodoloquemellegaporWhatsApp”. Si sirve para eso, sea bienvenido el sano escepticismo, el juicio racional  y el trabajo profesional bien hecho.

También podemos recordar los debates sobre el fin de la privacidad con la llegada de las cámaras de fotos a los móviles o la debacles del fotoperiodismo que se iba a producir ahora que todo el mundo tiene una cámara en la mano. Los mejores siguen ahí, con esfuerzo y más trabajo, pero siguen.

Y para colofón lo que me contesta el chat de Bing ya con la tecnología de GPT3 inside: “La frase “¿A quién vas a creer: a mí o a tus propios ojos?” es una de las frases más famosas de Groucho Marx. Aunque se le atribuye a Groucho Marx, en realidad la dijo Chico Marx disfrazado de Groucho en la película Sopa de ganso. La frase se ha utilizado para referirse a situaciones en las que alguien intenta convencer a otra persona de algo que es claramente falso”.

Aprovecho para hacer una actulaización con la carta publicada el 31 de marzo de 2023 por Distributed AI Research Institute y de la que destaco sólo este apartado (traducido por DeepL que es también un sistema de IA): «Esos riesgos hipotéticos son el centro de una peligrosa ideología llamada largoplacismo que ignora los daños reales derivados del despliegue de los sistemas de IA en la actualidad. La carta no aborda ninguno de los daños actuales de estos sistemas, incluyendo 1) la explotación de los trabajadores y el robo masivo de datos para crear productos que benefician a un puñado de entidades, 2) la explosión de los medios sintéticos en el mundo, que reproduce los sistemas de opresión y pone en peligro nuestro ecosistema de información, y 3) la concentración de poder en manos de unas pocas personas que exacerba las desigualdades sociales.(…) Lo que necesitamos es una normativa que imponga la transparencia. No sólo debe quedar claro en todo momento que nos encontramos ante medios sintéticos, sino que también debe exigirse a las organizaciones que construyen estos sistemas que documenten y divulguen los datos de entrenamiento y las arquitecturas de los modelos.»

---

[1] https://futureoflife.org/open-letter/pause-giant-ai-experiments/

[2] https://lexfridman.com/sam-altman/

[3] Opinion | Science Has a Nasty Photoshopping Problem – The New York Times (nytimes.com)

Aprovechando que me tocó tomar el relevo en #LecturasMasDemo @mas_demo con el “Peso de la Responsabilidad”, recojo y extiendo aquí un poco el hilo.

La obra recoge unos ensayos que Tony Judt realizó a finales de los años 90 para la Universidad de Chicago sobre Albert Camus, Raymond Aron y Léon Blum y que Taurus editó en español en 2014.

Nos ofrece las reflexiones del autor sobre tres pensadores franceses caracterizados por defender sus convicciones en contra de las posiciones dominantes en la izquierda de su época.
No es la primera vez que nos encontramos con la influencia francesa y de sus intelectuales en las #lecturasmasdemo. Vaste recordar los hilos sobre «Le gran Recit» o “La historia olvidada del liberalismo”.

En el caso que nos ocupa, en un momento de incertidumbre y desasosiego a nivel social, los análisis de Tony Judt iluminan algunas sombras de nuestra época animándonos a todos, pero especialmente a la clase política e intelectual, a mantener nuestra integridad e independencia a la vez que el rigor en el análisis. Además de proponer una mirada bien documentada sobre los perfiles de los tres personajes y su época, sus debates morales y sus posicionamientos, el autor nos ofrece reflexiones que podemos traer a nuestros días y aplicar a nosotros mismos.
Ya en la introducción Judt es contundente “Hay un tipo de irresponsabilidad característicamente intelectual (…)”, tiene que ver “con el auténtico cometido de un intelectual :las cosas sobre las que estudiosos, escritores, novelistas, periodistas y otros eligen pensar y en las que invierten sus energías para comprender”
Su reflexión, relacionada con la primera mitad del siglo XX, impacta de lleno en algunas dinámicas de comienzo del XXI. La contribución de los intelectuales a los debates de la época “fue a menudo inversamente proporcional a su conocimiento del tema sometido a discusión. (…) Sea cual fuere el conocimiento especializado que pudieran haber aportado (…) quedó neutralizado por las expectativas de que, en calidad de intelectuales, tenían que ser capaces de hablar sobre cualquier cosa”. “La solvencia ocupaba un segundo lugar respecto a la afiliación política o ideológica”.
Nos define la irresponsabilidad en su escrito como “la propensión en varias esferas de la vida pública a descuidar o abandonar la responsabilidad intelectual, moral o política”, responsabilidad que a su entender “incluye el deber de estar callado cuando no tienes nada que decir”.
Blom, Arón y Camús comparten según Judt que los tres eran anticomunistas, algo que en sí mismo no era ni distintivo ni garantía de una conducta responsable. El ensayo se centra en ver cómo fue su modo de ser anticomunistas lo que les hizo útiles para comprender su país y su tiempo. Especialmente en una época en la que “Los intelectuales franceses hablaban de libros que no habían leído, propugnaban doctrinas que no comprendían y criticaban políticas de sus gobernantes en tanto que carecían de cualquier alternativa razonable que proponer por su parte”.
Afortunadamente, en estos años que nos toca vivir y trasladando la reflexión a nuestro país estamos en otra posición y estas reflexiones no nos interpelan… ¿o sí?

El intento ninja de Zuckerberg de hacer desaparecer la crisis reputacional de Faceboock con el humo de Meta no reduce el interés de valorar que puede dar de si esta apuesta de una empresa con miles de millones de dólares en caja y miles de millones de usuarios en las distintas plataformas de su propiedad.

La tecnología, tanto en su capacidad computacional como en su ubicuidad, ha dado avances considerables desde que Second Life en 2003 ofrecía su tanatoverso y que fue derivando en una comunidad virtual sólo para adultos en muchos de sus espacios en declive.

Tenemos pues precedentes poco halagüeños sobre lo que nos puede deparar este nuevo universo virtual. Por un lado, las prácticas de los actores del capitalismo de la vigilancia como Faceboock / Meta. Por otro el incremento general de la desigualdad en ingresos y los retrocesos en la confianza de jóvenes y no tan jóvenes sobre lo que depara el futuro y la búsqueda de nuevos asideros existenciales.

El discurso que parte de la premisa de “las herramientas son neutras”, es decir no son ni buenas ni malas en sí mismas sino en función de su uso, olvida que en este caso la neutralidad se ha abandonado desde el inicio, en el diseño. Podríamos retrotraernos a Aristóteles y tratar de definir que es un buen “metaverso”, cómo responde a su función, cómo alcanza la virtud que le es propia. Mis cinco predicciones van en este sentido.

En 2030 revisaré estas predicciones, animando también a que algún lector interesado las recupere y valore.

Primera: el uno por mil de las empresas que inviertan en el metaverso se llevarán el ochenta por ciento de los ingresos (0,1% = 80% de ingresos).

Segunda: existirá un nuevo término para referirse al deterioro de salud producido por la ansiedad que generar la imagen propia en el metaverso de los adolescentes.

Tercera: habrán aparecido varios escándalos sobre el uso de los datos y la intimidad en el metaverso. Las empresas implicadas entonarán el mea culpa y reconocerán el error que será debido a “malentendidos”, “fallos puntuales” o “técnicos poco competentes” poniendo parches que no resuelven el problema de origen que viene, de nuevo, desde el propio diseño.

Cuarta: existirá un metaverso chino/ asiático, controlado y dirigido no tanto por las empresas como por el gobierno chino. Estar o no, ser o no en el metaverso chino dependerá de ser un buen ciudadano según los patrones del estado.

Quinta: el metaverso moverá miles de millones de dólares generando tan sólo un 5% de empleos que negocios similares producen en el universo real. Por contra la valoración en bolsa de estas iniciativas tendrán 10 veces más valor que las que generan 20 veces más empleo.

Traerá también ventajas en temas como la formación, el ocio, incremento de la productividad de cierto tipo de empresas, mejora en las reuniones virtuales… pero todas estas ventajas, si no se trabaja ahora para revertir o al menos mitigar algunos de los aspectos comentados, difícilmente ayudarán a crear una sociedad mejor para la mayoría de nosotros.

Mientras tanto en Europa podemos sentirnos orgullosos de que existan iniciativas legislativas, de las que el Reglamento Europeo de Protección de datos es un ejemplo, que tratan de encauzar la tecnología en búsqueda de impactos positivos en las personas o al menos de tratar de evitar los negativos.

En el muy recomendable libro “La vida contada por un sapiens a un neandertal” de Juan José Millás y Juan Luis Arsuaga (Alfaguara 2020) hay un breve apartado al final ya del libro, cuando se trata el tema de la posteridad, en el que los autores visitan la tumba de Ramón y Cajal.

Mi primera recomendación es leerse el libro. Divulgación científica de tono ligero y ameno. Engancha y es una muy buena lectura sea en verano o en cualquier ocasión.

Cuando llegues a la última parte seguro que te surge la misma inquietud que a mí. Arsuaga habla de la figura de Ramón y Cajal, su relevancia en el progreso científico que lo sitúa a la altura de Newton o Darwin, y en su visita al Cementerio de la Almudena contempla el mal estado de su tumba y habla del poco éxito que tuvo el propio Arsuaga en convencer para que se pudiera mantener la casa en la que vivió el Nobel en Madrid.

Con los comentarios sobre el estado del lugar de último descanso de nuestro ilustre laureado lo primero que aparece en la mente inquieta es el interés por ver si a tumba sigue así o precisa de atención.

Tras alguna búsqueda por internet, al menos con mi habilidad, uno no acaba de saber si sigue en mal estado o se ha invertido en su mantenimiento desde la salida del libro. Dado que es de 2020 creo que la conversación de Arsuaga y Millás será de al menos un año antes, tiempo suficiente para que se haya hecho algo, más aún con la repercusión del libro.

Segunda recomendación: Visita al cementerio de la Almudena. No había estado nunca y mereció la pena una breve excursión, aunque por sus dimensiones puedes perder un par de días en visitar todos sus recovecos. Lo mejor es el plan con dos amigos incondicionales para poder, una tarde de agosto, acercarnos a ver con nuestros propios ojos la tumba de Don Santiago y de paso reflexionar sobre la posteridad, el recuerdo , la vida y la muerte.

La tumba no está muy lejos de la entrada principal y , aunque en el mapa que ofrecen fija la manzana del emplazamiento, hay que darse un pequeño paseo hasta localizarla en una de las esquinas. Y está bien mantenida. Mi agradecimiento a quien se haya tomado la molestia. Los tres amigos nos hemos citado para octubre de 2034, a los 100 años de la muerte del célebre catedrático para comprobar si sigue bien en su descanso.

Con la sensación de que hay cosas que funcionan, aunque sea tras mucho esfuerzo, mis amigos y yo nos fuimos de cena casera y ligera. Luego un buen ron , unos puros y una larga conversación sobre la vida, la muerte de los seres queridos, las sorpresas agradables que a veces te surgen y de como ratos así, de conversación sin prisa, nos renuevan las esperanzas sobre la humanidad, nos ayudan a digerir y compartir experiencias personales que nos marcan y quien sabe si mantendrán nuestro recuerdo en los amigos cuando ya no estemos.

Tercer y última recomendación. Búscate excusas para compartir ratos así con gente a la que aprecies de verdad. Cualquier excusa es buena; un libro, un reencuentro, probar un buen ron o la tumba de una Nobel. Ya ves que excusas no te van a faltar.

Como cada verano los medios de comunicación se llenan con noticias sobre el número de inmigrantes, sin papeles, refugiados… que se agolpan en las fronteras de Europa.

Hay una necesidad creciente de reflexionar sobre ello de manera pausada y sin las prisas que marcan los titulares. Se necesita valorar las políticas que afectan a estos flujos y los mecanismos más efectivos para revertir las causas que impulsan a personas y familias a buscar un futuro mejor, o al menos distinto, desarraigándose.

Sin embargo  me interesa lanzar algunas ideas sobre esta realidad más centrada en el plano humano y sobre el impacto en empresas y organizaciones. Le he dado unas vueltas antes de decidirme a publicar algo, ya que es un tema que rápidamente  ofrece salidas laterales a  lugares comunes y debates encendidos.

Antes de empezar, sólo una mención un criterio básico que no se puede dejar pasar en este tipo de análisis: el respeto a la dignidad humana y lo que esta representa , “Lo decía Schiller con claridad meridiana: “Cada ser humano constituye en sí mismo el conjunto de la humanidad”.Cada ser humano, indistintamente de sus capacidades diversas y características únicas. “. Esta concepción es un acicate para buscar soluciones razonables en el corto plazo.

Seguir leyendo «La energía del futuro… ¡y lo sabes!» →