Los tecnólogos actualmente ejercen un nivel de influencia política que recientemente se consideró impensable. Mientras que el Departamento de Eficiencia del Gobierno de Elon Musk cut back los servicios públicos, Jeff Bezos lleva a las celebridades al espacio en Blue Origin y los CEO de las compañías de IA hablan abiertamente de la sociedad radicalmente transformadora. Como resultado, nunca ha habido un mejor momento para comprender las concepts que animan la visión explicit de estos líderes del futuro.
En su nuevo libro, Más todo para siempreel periodista científico Adam Becker ofrece una inmersión profunda en la cosmovisión de los tecnópianes tecnológicos como el almizcle, uno que está respaldado por las promesas de dominio de la IA, colonización espacial, crecimiento económico ilimitado y, finalmente, la inmortalidad. La premisa de Becker es reforzada: las visiones más salvajes de los oligarcas tecnológicas del mañana equivalen a una teología secular moderna que es fascinante y, en su opinión, profundamente equivocada. La preocupación central del autor es que estas grandes ambiciones no son excentricidades benignas, sino ideologías con consecuencias del mundo actual.
¿Qué imaginan estas personas? En su vibrante utopía, la humanidad ha aprovechado la tecnología para trascender todos sus límites: la edad ilegal y los límites finitos del conocimiento sobre todo. La inteligencia synthetic supervisa una period de abundancia, automatiza la mano de obra y genera riqueza de manera tan efectiva que las necesidades de cada persona se satisfacen instantáneamente. La sociedad está impulsada por completo por la energía limpia, mientras que la industria pesada se ha trasladado al espacio, convirtiendo la Tierra en un santuario prístino. Las personas viven y trabajan en todo el sistema photo voltaic. Los avances en biotecnología han conquistado enfermedades y envejecimiento. En el centro de este futuro, una AI amigable, alineada con los valores humanos, guía la civilización sabiamente, asegurando que el progreso permanezca estrechamente junto con el florecimiento de la humanidad y el medio ambiente.
Musk, junto con personas como Bezos y el CEO de Openi, Sam Altman, no simplemente imaginan los futuros de ciencia ficción como un pasatiempo de lujo: los están financiando, proselitizando para ellos y, en un número creciente de casos, tratando de reorganizar la sociedad a su alrededor. En opinión de Becker, los ricos no solo persiguen la utopía, sino que priorizan su visión del futuro sobre las preocupaciones muy reales de las personas en el presente. Impedible investigación ambientalpor ejemplo, tiene sentido si crees que la vida humana continuará existiendo en un extraterrestre en otro lugar. Más todo para siempre Nos pide que tomemos estas concepts en serio, no necesariamente porque son predicciones creíbles, pero porque algunas personas en el poder creen que lo son.
Becker, en prosa que es ágil si a veces predecible, resalta la naturaleza cuasi-espiritual del utopismo de Silicon Valley, que se basa en dos creencias muy básicas. Primero, esa muerte es aterradora y desagradable. Y segundo, que gracias a la ciencia y la tecnología, los humanos del futuro nunca tendrán que tener miedo o hacer algo desagradable. “El sueño es siempre el mismo: ir al espacio y vivir para siempre”, escribe Becker. (Una razón para el interés en el espacio es que las drogas de longevidad, según el investigador tecnológico Benjamin Reinhardt, solo se pueden sintetizar “en un entorno de cero-G prístino”.) Este futuro superará no solo la biología humana sino una ruptura elementary entre la ciencia y la fe. Becker cita a la escritora Meghan O’Gieblyn, quien observa en su libro Dios, humano, animal, máquina que “lo que hace que el transhumanismo sea tan convincente es que promete restaurar a través de la ciencia, los trascendentes, y esencialmente religiosos, las ciencias que la ciencia misma borró”.
Becker demuestra cómo ciertos tecnólogos contemporáneos coquetean con trampas explícitamente religiosas. Anthony Levandowski, el ex jefe de la división de autos autónomos de Google, por ejemplo, fundó una organización para adorar la inteligencia synthetic como una diosa. Pero Becker también revela los precedentes en gran medida olvidados para esta cosmovisión, dibujando un linaje de pensamiento que conecta los videntes de Silicon Valley de hoy con los profetas futuristas anteriores. A fines del siglo XIX, el filósofo ruso Nikolai Fedorov predicó que la misión divina de la humanidad period resucitar físicamente a todas las personas que habían vivido y establecidas en todo el cosmos, logrando la vida eterna a través de lo que Fedorov llamó “la regulación de la naturaleza por la razón y la voluntad humana”.
El éxtasis una vez predicado y hecho señas en las iglesias ha sido reempacado para tiempos seculares: en lugar de almas que ascenden al cielo, hay mentes preservadas digitalmente, o incluso cuerpos mantenidos vivos, por la eternidad. Los visionarios de Silicon Valley son, desde este punto de vista, no todos los racionalistas fríos; Muchos de ellos son soñadores y creyentes cuyas fijaciones constituyen, en opinión de Becker, una narrativa espiritual tanto como una científica: una nueva teología de la tecnología.
Reduzcamos: ¿por qué exactamente es una mala concept? ¿Quién no querría la “salud perfecta, la inmortalidad, yada yada yada”, como el investigador de IA Eliezer Yudkowsky resume brezcamente el objetivo de Becker? El problema, muestra Becker, es que muchos de estos sueños de trascendencia private ignoran el costo humano potencial de trabajar hacia ellos. Para la élite tecnológica, estas son visiones de escape. Pero, Becker escribe puntualmente: “No prometen escapar para el resto de nosotros, solo las pesadillas se acercan”.
Quizás la versión más extrema de esta pesadilla es el espectro de una superinteligencia synthetic, o AGI (inteligencia basic synthetic). Yudkowsky predice a Becker que una IA suficientemente avanzada, si desalineada con los valores humanos, “nos mata a todos”. Los pronósticos para este tipo de tecnología, una vez marginado, han ganado una tracción notable entre los líderes tecnológicos, y casi siempre tendencia a los asombrosamente optimistas. Sam Altman es ciertamente preocupado por las perspectivas de Rogue Ai—Disitó haber almacenado “armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras de gasoline de la Fuerza de Defensa Israelí y un gran parche de tierra en Large Sur a la que puedo volar”, pero estas preocupaciones no lo impiden planeando activamente un mundo resaltado por el crecimiento exponencial de AI. En las palabras de Altman, vivimos al borde de un momento en el que las máquinas harán “casi todo” y desencadenan cambios sociales tan rápidos que “el futuro puede ser casi inimaginablemente grande”. Becker es menos optimista, escribiendo que “simplemente no sabemos lo que se necesitará para construir una máquina para hacer todas las cosas que un humano puede hacer”. Y desde su punto de vista, es mejor que las cosas sigan así.
Becker está en su retóricamente más agudo cuando examina la filosofía del “largo termismo” que subyace a gran parte de este fervor centrado en la IA y que viaja espacial. Longtermismo, defendido por algunos filósofos adyacentes de Silicon Valley y el movimiento efectivo-altruismoargumenta que el peso del futuro, el número potencialmente enorme de la vida humana (o posthumana) por venir, supera las preocupaciones del presente. Si prevenir la extinción humana es el bien last, prácticamente cualquier sacrificio precise puede y debe racionalizarse. Becker muestra cómo las élites tecnológicas de hoy usan tal razonamiento para apoyar su propio dominio a corto plazo y cómo la retórica sobre las generaciones futuras tiende a enmascarar las injusticias y las desigualdades en el presente. Cuando los multimillonarios afirman que sus colonias espaciales o esquemas de IA podrían salvar a la humanidad, también afirman que solo ellos deben dar forma al curso de la humanidad. Becker observa que esta filosofía está “hecha por carpinteros, insistiendo en que todo el mundo es un clavo que cederá a sus ministerios”.
La perspectiva de Becker es en gran medida la de un realista sobrio que hace su maldito en el engaño, pero uno podría preguntar si su argumento ocasionalmente va demasiado lejos. La cultura tecnópica de Silicon Valley puede estar equivocada en su optimismo, pero ¿es así? solo ¿eso? Un contrapunto suave: el anhelo humano de trascendencia proviene de una insatisfacción con el presente y un impulso creativo, los cuales han impulsado el progreso genuino. Los sueños ambiciosos, incluso los aparentemente extravagantes, han estimulado históricamente la transformación política y cultural. La fe también ha ayudado a las personas a enfrentar el futuro con optimismo. También se debe reconocer que muchas de las críticas de Becker de élite tecnológica Muestra cierta conciencia de las trampas éticas. No todos (o incluso la mayoría) los tecnólogos son tan azules o parpadeados como a veces parece sugerir Becker.
Al last, este no es un libro que se deleita con el pesimismo o el cinismo; Más bien, sirve como un llamado al humanismo de ojos claros. En la revelación de Becker, los líderes tecnológicos no se equivocan en soñar en grande, sino al negarse a tener en cuenta los costos y responsabilidades que conlleva sus sueños. Predican un futuro en el que el sufrimiento, la escasez e incluso la muerte se pueden diseñar, sin embargo, descuentan el verdadero sufrimiento aquí y ahora eso exige nuestra atención y compasión inmediata. En una period en la que las carreras espaciales multimillonarias y el bombo de IA dominan los titulares, Más todo para siempre llega como una verificación de realidad muy necesaria. A veces, el libro es algo más que eso: una meditación valiosa sobre las historias cuestionables que contamos sobre el progreso, la salvación y nosotros mismos.
Cuando compra un libro usando un enlace en esta página, recibimos una comisión. Gracias por apoyar El Atlántico.
