. Por lo general, nuestras tecnologías dan con una mano y nos dan una palmada en la parte posterior de la cabeza con la otra.

Es difícil de recordar, pero en 2011, muchos de nosotros nos sentimos bastante bien con nuestros señores de Silicon Valley. El iPhone iba completamente convencional, Facebook se sentía como un lugar divertido para compartir ideas, y Twitter nos iba a liberar de alguna manera de los tiranos.

Ese fue también el año Black Mirror debutó en el Reino Unido ( llegaría a Netflix en los Estados Unidos cinco años después ) y ofreció un punto de vista diferente: ¿Qué pasaría si todas estas cosas nuevas y brillantes no fueran buenas para nosotros?

Desde entonces, hemos tenido un cálculo real sobre la tecnología — o, como mínimo, nuestros puntos de vista sobre la tecnología se han vuelto mucho más complicados.

Que resulta, es el camino de Black Mirror,  el creador Charlie Brooker siempre se ha sentido acerca de estas cosas: “ Me encanta la tecnología, me encantan las computadoras, ” me dijo esta semana en el Recode Media podcast. “ Pero también soy un preocupado natural. Soy alguien que se catastrofiza en un abrir y cerrar de ojos. Y, por lo tanto, a menudo me preocupa cuando algún nuevo desarrollo o artilugio nos dará poder y la responsabilidad que conlleva. Y cuán fácil es usar mal eso, o las consecuencias no deseadas o las obvias consecuencias torpes. ... Por lo general, nuestras tecnologías dan con una mano y nos dan una palmada en la parte posterior de la cabeza con la otra. ”

Brooker a menudo obtiene crédito por crear guiones que parecen inquietantemente proféticos sobre los problemas que estamos a punto de enfrentar, y lo logró nuevamente con la última temporada de Espejo negro, que debutó a principios de este verano. Su primer episodio, que se emitió en Netflix justo cuando los escritores y actores comenzaron a preocuparse de que Hollywood quisiera reemplazarlos con AI, presenta a un ejecutivo de tecnología que descubre que su vida se ha convertido en un programa al estilo de Netflix que ha sido creado en su totalidad por una IA.
Brooker, como era de esperar, no está muy interesado en usar IA para ayudar a crear sus shows. Pero como discutimos, hay un poco de matiz allí: la tecnología de IA generativa actual utiliza imágenes y texto existentes para ayudar a crear cosas nuevas, o al menos nuevas. Y escritores como Brooker siempre han usado el trabajo de otras personas para inspirar el suyo. O en sus palabras: “ aspirando parasiticamente algo ” que alguien más escribió. Pero no esperaría una versión de ChatGPT de Espejo negro pronto.

Puede leer extractos de nuestra conversación, editados para mayor extensión y claridad, a continuación, y puede escuchar todo aquí.

Peter Kafka
¿Cómo te sientes sobre el hecho de que las personas usan Black Mirror como abreviatura de “ distopía tecnológica ”?

Charlie Brooker
Por un lado, estoy encantado, obviamente. Es publicidad gratuita para el espectáculo. Pero igualmente, a menudo es deprimente a nivel humano que esas sean las cosas que estamos viendo y confrontando la mayor parte del tiempo.

Pero no siempre se trata de tecnología. Cuando la gente dice eso, a veces hablan de hablar de una situación jodida. La gente a menudo dirá “ espejo negro ” como abreviatura de una situación jodida. Si miras nuestro primer episodio con el primer ministro y el cerdo, esa es la definición misma de una especie de situación jodida.

Peter Kafka
¿Qué opinas del hecho de que has estado haciendo este espectáculo durante más de una década, y es muy popular, por lo que claramente la gente en Silicon Valley lo ha visto. Y estás diciendo, “ Esta visión del futuro que tengo es mala. Esto no es bueno. ” Y luego [ los ejecutivos de tecnología ] salen y dicen: “ Creemos que esto es gran. Vamos a producir esto. ” Ya sean gafas de realidad virtual o personas generadas por IA o lo que sea. ¿Qué opinas de esa desconexión?

Charlie Brooker
Una cosa que diría es que a veces, claramente en el programa, estoy destacando algo y diciendo: “ Esto es malo. ” Por lo general, sin embargo, la tecnología no es en realidad el villano. Hemos hecho un episodio con perros robot asesinos autónomos que andan matando gente.

Peter Kafka
No es positivo.

Charlie Brooker
No es realmente una lectura positiva sobre eso. Pero todavía fueron presumiblemente creados por un humano en esa historia.

Pero la mayoría de las veces, cuando un episodio es clásico Espejo negro, tienes algo que en realidad es bastante milagroso. Que como espectador, puedes ver la conveniencia de ello. Puede ver por qué sería útil, puede ver por qué sería transformador y de muchas maneras extremadamente positivo. Y generalmente son los seres humanos, los seres humanos desordenados los que están usando estas cosas en la historia, quienes logran mejorar las cosas.

Y supongo que eso refleja lo que siento por muchas cosas. En la vida real, soy bastante geek y techie. Solía ser periodista de videojuegos y me encantan todas estas cosas. Amo la tecnología, amo las computadoras.

Pero también soy un preocupado natural. Soy alguien que se catastrofiza en un abrir y cerrar de ojos. Puede no ser una sorpresa para cualquiera que haya visto el programa. Y, por lo tanto, a menudo me preocupan algunos cuando el nuevo desarrollo o artilugio nos dará poder y la responsabilidad que conlleva. Y cuán fácil es usar mal eso, o las consecuencias no deseadas o las consecuencias torpes obvias. Y lo vemos una y otra vez con las cosas. Por lo general, nuestras tecnologías dan con una mano y nos dan una palmada en la parte posterior de la cabeza con la otra.

Pero ese ha sido el caso con la imprenta, ha sido el caso con todo. No me gustaría eliminar estas cosas de la existencia necesariamente.

Peter Kafka
Tu show comenzó en 2011. En aquel entonces, éramos enormemente optimistas sobre la tecnología del consumidor, ya fueran iPhones o redes sociales. Las personas serias pensaron que Twitter podría traer democracia a Medio Oriente. Las cosas han retrocedido dramáticamente en la dirección opuesta. ¿Crees que eso siempre fue inevitable?

Charlie Brooker
Lo estábamos mirando claramente a través de gafas extremadamente rosadas en ese momento. Esa era la cosa de alguna manera, estaba aprovechando mi cabeza, ciertamente en algunos de esos primeros episodios. La mayoría Apple los anuncios me parecían — has visto Verde Soylent?

Peter Kafka
Por supuesto.

Charlie Brooker

Hay un poco en el que alguien es sacrificado — un viejo es sacrificado. Y lo llevan a una especie de clínica de eutanasia y lo último que muestra son imágenes del mundo natural que ahora ha sido destruido. Y de alguna manera lo hace llorar y luego lo matan y se convierten en comida, básicamente.

Peter Kafka
cual alguien en Silicon Valley pensamiento sería un buena marca.

Charlie Brooker
Bueno, ahí tienes. Quiero decir, ese es el último tipo de ejemplo. Pero las imágenes allí — el tipo de imágenes agradables que este tipo se mostró en este contexto negro extremadamente distópico — que era la sensación que siempre obtenía de una especie de anuncios de Apple en el momento. Simplemente parecían mostrar a todos divirtiéndose, bailando y sonriendo. Y solo piensas, “ Bueno, espera un minuto. Las cosas generalmente no son tan positivas. ”

Y si de repente tenemos herramientas extremadamente poderosas a nuestra disposición, haremos cosas increíbles. También haremos jodidos increíbles. Así que eso me pareció una preocupación bien fundada que sentía que no se reflejaba en ese momento.

Y recuerdo la positividad alrededor del Primavera Árabe y la gente siente que Twitter estaba trayendo democracia al Medio Oriente. Y ahora que todo parece extremadamente ingenuo. Creo que siempre fue inevitable que íbamos a arreglar un poco las cosas.

Pero no quisiera ser completamente cínico. La analogía que siempre uso es que — especialmente algo así como las redes sociales — es como si de repente hubiéramos crecido una extremidad extra, lo cual es sorprendente porque significa que puedes hacer malabares y desplazarte por tu iPhone al mismo tiempo. Pero también significa que todavía no estamos seguros de cómo controlarlo.

A veces me siento frustrado cuando las personas caracterizan el programa como “ la tecnología es un mal espectáculo ”. Y creo que a veces reacciono a eso probablemente demasiado.

Peter Kafka
Mencionaste IA al comienzo de esta conversación. En el lapso de un año que pasamos, “ Mira este interesante arte de IA, ¿no es genial o trippy? ” a, “ Oh, AI podría escribir un guión con Chat GPT ” a, “ Ahora tal vez AI va a hacer una película completa o un programa de televisión.” ¿Piensas en la IA como herramienta y / o como una amenaza?

Charlie Brooker
Creo que es algo de ambos. Lo que realmente me deprime casi más que cualquier otra cosa es — Tengo dos hijos y uno de ellos tiene 9 años y se está metiendo en el dibujo y es bueno. Muy bueno, especialmente para su edad. Está orgullosamente dibujando, garabateando. Y estaba mirando esto, y alentándolo, bien hecho. Y luego, el siguiente pensamiento que llegó fue: “ Sí, pero quiero decir, ser un ilustrador, eso no es una carrera en estos días, ¿verdad? ”

Y luego nuestro más antiguo está realmente interesado en la codificación. Y estoy pensando, sí, pero ¿estás aprendiendo? ¿Es esto como aprender matemáticas, y ahora las calculadoras aparecen y lo hacen como ... una máquina solo va a hacer los pedazos de codificación asquerosos para usted.

Así que me preocupa mucho cuál será el impacto en el empleo en general.

Jugué con todas esas cosas, Midjourney y esas cosas, como cualquier otra persona. Y está diciendo — las imágenes que se vuelven virales, ese tipo de cosas; Las cosas que son atractivas son todo tipo de mashups, ¿no? Todas son combinaciones de cosas. Entonces escribiría, “ Muéstrame Jack el Destripador en el Gran tienda británica Bake Off” o algo así. “ Muéstrame a Boris Johnson dándose la mano con Paddington Bear en el set de Seinfeld. ” Porque es parasitariamente aspirando cosas que los humanos hemos hecho o creado o somos. Muy rápidamente, con el arte de la IA, había algo genérico al respecto. O era un riffs en la IP existente o era bastante hábil, como un vocal autoajustada.

Peter Kafka
Sí, puedes verlo.

Charlie Brooker
Y cosas como Chat GPT, puedo ver totalmente el valor de usarlo como una especie de hiperpotencia Google. “ Oh, rápido: Lista 10 trabajos que alguien en la Inglaterra victoriana podría haber hecho. ” Me lo imagino como una herramienta de escritura. Y lo que da miedo es que puedo imaginar a las personas que lo usan para generar algo que luego dicen poseer, que no es lo suficientemente bueno como para pasar, que tendrías que contratar a un humano, a bajo precio, para que se ponga en forma.

Debería ser como las herramientas en Photoshop. No me asustan la mayoría de las herramientas en Photoshop. Creo que son súper útiles para los artistas.

Esperemos que un resultado sea que nos inventa nuestro juego. Es interesante en este momento, que hayamos tenido mucha fórmula películas y esas cosas. No para películas de superhéroes leves — es solo que hay muchas de ellas.

Peter Kafka
Y la audiencia parece agotada.

Charlie Brooker
Agotado. Porque lo creo hace siente que podrías decirle a Chat GPT, “ Elimina los ritmos de una película de superhéroes [ ]. ” Sabes cuál será la historia.

Peter Kafka
¿Te imaginas usarlo? He hablado con personas que dicen: “ Sí, es bueno hacer un primer borrador terrible, porque prefiero mirar un primer borrador malo que una página en blanco, ” o, “ Puedo dar vueltas a ideas y cien ideas serán malas, pero una será buena. Y eso es útil para mí. ”

Charlie Brooker
No creo que sea en el punto en que podría escribir un servicio uniforme borrador de vómito. No sé si confío en su capacidad para generar una idea. ¿Ahora te estás riendo de una idea que tienes tú mismo? Potencialmente puedo ver eso.

Pero porque está aspirando las cosas de otras personas ... Otra cosa que hice [ con Chat GPT ] fue escribir, “ Dame una idea para un Espejo negro episodio. ” E inmediatamente volvió con cosas que ... eran bastante genéricas. Eran la idea del software de emulación de qué Espejo negro La historia es. Y eso me hizo sentir un poco parasitario.

Es solo que me estoy quitando. Y estaría bastante enfadado si alguien más lo estuviera usando para desprenderme. Probablemente se haya visto en alguna parte que Espejo negro es un poco como La zona de Crepúsculo, por lo que probablemente esté desprendiendo a Rod Serling. Probablemente se esté escapando RoboCop, Troopers de nave espacial — todas estas cosas brillantes que encontré muy influyentes …

Peter Kafka
E hiciste [ que ] como humano. Tomaste todas esas cosas …

Charlie Brooker
Entonces, sí, quiero decir, también puedo ver ese argumento. Ciertamente, hay episodios de Espejo negro que están directamente inspirados ... Hicimos un episodio llamado “USS Callister, ” que es una especie de Star Trek historia. Y está muy directamente inspirado en un episodio de La zona de Crepúsculo llamado “Es una buena vida,” donde hay un niño ultra poderoso de 6 años que puede …

Peter Kafka
Es aterrador.

Charlie Brooker
Es aterrador y todavía se mantiene hoy, y es absolutamente escalofriante y aterrador. Y estaba tratando de pensar, extrañamente, en una idea de historia muy diferente que tiene que ver con personas en el lugar de trabajo, puesta en un musical, como un musical virtual, como Engrasa el musical. Y no sabrían cuáles eran sus roles. Entonces podría ser Sandy y tú podrías ser Danny, pero no sabríamos — que los verdaderos no sabríamos. Estaba jugando con esa idea, y luego pensé, “ Dios, podrías hacer tantas cosas poderosas. ” Y tan pronto como pensé — “ Bueno, ¿y si esta es una historia sobre un tirano? recuerdo eso Zona Crepuscular episodio ... ”

Así que ahora ese es un ejemplo de mí, supongo, aspirando parasiticamente algo que Rod Serling escribió, sometiéndolo a través de mi pequeña IA en mi cerebro. Supongo que simplemente lo llamas “ I. ” No hay nada artificial al respecto. Solo mi yo.

Peter Kafka
Y creaste algo completamente nuevo. Es uno de tus mejores episodios, el más aclamado.

Charlie Brooker
Estoy muy orgulloso de ese episodio. Pero espero que sea un proceso diferente porque digo que le debo una deuda a Rod Serling allí. Hubo una gran influencia. Supongo que [ AI ] parece que esto lo está haciendo a escala industrial.

Peter Kafka
Y retrocedes en eso. Como saben, en este momento hay un debate, con la huelga de actores y escritores, sobre cuánta IA vamos a permitir en nuestro entretenimiento. ¿Crees que es un miedo real para los escritores y actores — que los estudios realmente quieran usar IA para reemplazar gran parte de lo que hacen?

Charlie Brooker
Creo que es un miedo real. Creo que el temor a la escritura es que el estudio podría usarlo para generar borradores de vómitos de cosas, y luego contratar escritores humanos para reescribirlo de manera deprimente. Y hacerlo humano. Y ese es un estado de cosas muy deprimente.

Peter Kafka
Pero déjame jugar al abogado del diablo por un segundo. Porque es muy estándar en su negocio que alguien escriba un borrador, y luego despida a esa persona y luego traiga a varias personas, varias veces, para que vengan y mejoren ese borrador. O a menudo peor.

Charlie Brooker
Eso es muy cínico! He crecido en la vieja Gran Bretaña, donde es bastante diferente aquí — ¡el despiadado tipo de escritura de Hollywood me parece aterrador! He tenido una existencia muy afortunada como escritor. Tal vez tengo una vista demasiado teñida de rosa.