La singularidad amable

Traducción del artículo "The Gentle Singularity" de Sam Altman, CEO de OpenAI.

Sam Altman, CEO de OpenAI, escribió hace unos días un post titulado “The Gentle Singularity”. El texto ofrece una visión optimista de la relación entre la humanidad y la Inteligencia Artificial.

Pese al obvio sesgo de quién se sabe líder de la industria, es un texto que resulta interesante, especialmente porque lo escribe una de las personas con más poder del planeta hoy en día.

Es por eso que he decidido traducirlo al español y convertirlo en el envío de hoy. Sin más, os dejo con las palabras de Sam Altman.

---

Ya hemos cruzado el horizonte de sucesos; el despegue ha comenzado. La humanidad está cerca de crear una superinteligencia digital, y hasta ahora resulta mucho menos extraña de lo que uno podría imaginarse.

Los robots aún no caminan por las calles ni la mayoría de nosotros hablamos con la IA todo el día. La gente sigue muriendo por enfermedades, aún no podemos viajar fácilmente al espacio, y queda mucho por entender sobre el universo.

Y, sin embargo, recientemente hemos construido sistemas que son más inteligentes que las personas en muchos aspectos, y son capaces de amplificar significativamente el rendimiento de quienes los usan. Los avances científicos que hicieron realidad sistemas como GPT-4 y o3 supusieron gran esfuerzo, pero nos llevarán muy lejos.

La IA contribuirá al mundo de muchas maneras, pero las mejoras en calidad de vida gracias al progreso científico acelerado y mayor productividad serán enormes; el futuro puede ser mucho mejor que el presente. El progreso científico es el principal motor del avance general; es emocionante pensar en cuánto más podríamos lograr.

En cierto sentido, ChatGPT ya tiene más capacidades que cualquier ser humano que haya existido. Cientos de millones de personas dependen de él diariamente y para tareas cada vez más importantes; una pequeña mejora puede generar un impacto enormemente positivo; un pequeño desajuste multiplicado por cientos de millones puede causar mucho daño.

El año 2025 ha visto llegar agentes capaces de realizar trabajo cognitivo real; programar nunca será igual. Es probable que 2026 traiga sistemas capaces de descubrir nuevos conocimientos. Y quizás en 2027 ya veamos robots realizando tareas en el mundo real.

Habrá mucha más gente capaz de crear software y arte, pero el mundo necesitará aún más de ambas cosas, por lo que los expertos seguirán destacando claramente sobre los principiantes, siempre que adopten las nuevas herramientas. En términos generales, la capacidad de una persona para hacer mucho más en 2030 de lo que podía hacer en 2020 será un cambio sorprendente, del que mucha gente descubrirá cómo beneficiarse.

En lo esencial, la década de 2030 quizás no sea radicalmente diferente. Las personas seguirán amando a sus familias, expresando su creatividad, jugando y nadando en lagos.

Pero en aspectos aún muy importantes, los 2030 serán radicalmente diferentes a cualquier época anterior. No sabemos cuánto más allá de la inteligencia humana podemos llegar, pero estamos a punto de descubrirlo.

En 2030, la inteligencia y la energía —las ideas y la capacidad de materializarlas— se volverán abundantemente disponibles. Estos dos aspectos han limitado históricamente el progreso humano; con inteligencia y energía abundantes (y buen gobierno), podríamos teóricamente conseguir cualquier cosa.

Ya convivimos con una inteligencia digital increíble y, tras el impacto inicial, la mayoría nos hemos acostumbrado bastante. Rápidamente pasamos del asombro ante un párrafo bien escrito por la IA a preguntarnos cuándo escribirá una novela completa; del diagnóstico médico salvador a esperar que desarrolle curas; o de un pequeño programa informático a desear que cree empresas enteras. Así es como avanza la singularidad: lo maravilloso se vuelve cotidiano, y luego algo normal.

Los científicos ya nos dicen que son dos o tres veces más productivos que antes de la IA. La IA avanzada es interesante por muchas razones, pero quizá ninguna sea tan significativa como el hecho de que podamos utilizarla para investigar más rápidamente sobre la propia IA. Podremos descubrir nuevos sustratos informáticos, mejores algoritmos y quién sabe qué más. Si podemos hacer la investigación de una década en un año, o en un mes, el ritmo de progreso será obviamente muy diferente.

De aquí en adelante, las herramientas que ya hemos creado nos ayudarán a obtener mayores conocimientos científicos y a desarrollar mejores sistemas de IA. Aunque esto no es lo mismo que un sistema de IA actualizando autónomamente su propio código, sí es una versión preliminar de una mejora recursiva.

Existen otras dinámicas de refuerzo. El valor económico creado ha iniciado un ciclo virtuoso de construcción de infraestructuras para operar estos sistemas. Y los robots que pueden construir otros robots (y, en cierto sentido, los centros de datos que pueden construir otros centros de datos) no están tan lejos.

Si tenemos que fabricar el primer millón de robots humanoides a la antigua usanza, pero luego pueden operar toda la cadena de suministro —excavar y refinar minerales, conducir camiones, dirigir fábricas, etc.— para construir más robots, que pueden construir instalaciones de fabricación de chips, centros de datos, etc., entonces el ritmo de progreso será obviamente muy diferente.

Al automatizar la producción de centros de datos, el coste de la inteligencia debería acercarse al coste de la electricidad. (La gente suele tener curiosidad por saber cuánta energía consume una consulta ChatGPT; la consulta media utiliza aproximadamente 0,34 vatios-hora, similar al consumo de un horno en poco más de un segundo, o de una bombilla eficiente en pocos minutos. También usa alrededor de 0,000085 galones de agua; aproximadamente una decimoquinta parte de una cucharadita).

El ritmo del progreso tecnológico seguirá acelerándose y las personas seguirán siendo capaces de adaptarse a casi todo. Habrá aspectos muy duros, como la desaparición de clases enteras de empleos, pero por otro lado el mundo se enriquecerá tanto y tan rápidamente que podremos plantearnos seriamente nuevas ideas políticas antes impensables. Probablemente no adoptaremos un nuevo contrato social de golpe, pero en retrospectiva, los cambios graduales sumarán algo importante.

Si la historia nos sirve de guía, descubriremos nuevas ocupaciones y deseos, y asimilaremos rápidamente las nuevas herramientas (el cambio de trabajo tras la revolución industrial es un buen ejemplo reciente). Las expectativas subirán, pero también las capacidades, obteniendo mejores resultados para todos. Construiremos cosas cada vez más maravillosas para los demás. Las personas tenemos una ventaja curiosa y clave frente a la IA a largo plazo: estamos naturalmente predispuestos a preocuparnos por otros humanos, sus pensamientos y acciones, y no tanto por las máquinas.

Un agricultor medieval vería nuestros empleos actuales y diría que tenemos trabajos de mentira, y pensaría que sólo estamos jugando para entretenernos, ya que tenemos comida en abundancia y lujos inimaginables. Espero que dentro de mil años veamos igual los empleos del futuro, aunque seguro que quienes los realicen los encontrarán profundamente significativos y satisfactorios.

El ritmo al que se lograrán nuevas maravillas será inmenso. Es difícil imaginar hoy lo que habremos descubierto en 2035; tal vez pasemos de resolver la física de partículas de alta energía un año a iniciar la colonización espacial al siguiente; o de un gran avance en la ciencia de los materiales a verdaderas interfaces cerebro-ordenador de gran ancho de banda. Mucha gente elegirá vivir su vida de la misma manera, pero al menos algunas personas probablemente decidirán “enchufarse”.

Mirando al futuro, parece difícil hacerse a la idea. Pero probablemente vivirlo nos parecerá impresionante a la par que manejable. Desde una perspectiva relativista, la singularidad sucede poco a poco, y la convergencia ocurre de forma paulatina. Estamos escalando el largo arco del progreso tecnológico exponencial; siempre parece vertical mirando hacia delante y plano yendo hacia atrás, pero es una curva suave. (Piensa en 2020 y en cómo habría sonado tener algo cercano a la AGI en 2025, frente a lo que han sido en realidad los últimos 5 años).

Enfrentamos serios desafíos junto con enormes ventajas. Debemos resolver cuestiones de seguridad y garantizar una distribución amplia de la superinteligencia por sus implicaciones económicas. El mejor camino a seguir podría ser algo así:

1. Resolver el problema del alineamiento, lo que significa que podemos garantizar de forma sólida que conseguimos que los sistemas de IA aprendan y actúen hacia lo que realmente queremos colectivamente a largo plazo (los feeds de las redes sociales son un ejemplo de IA desalineada; los algoritmos que los impulsan son increíbles para conseguir que sigas desplazándote y entienden claramente tus preferencias a corto plazo, pero lo hacen explotando algo en tu cerebro que anula tus preferencias a largo plazo).

2. A continuación, centrarnos en conseguir que la superinteligencia sea barata, esté ampliamente disponible y no esté demasiado concentrada en ninguna persona, empresa o país. La sociedad es resistente, creativa y se adapta con rapidez. Si podemos aprovechar la voluntad colectiva y la sabiduría de la gente, aunque cometeremos muchos errores y algunas cosas salgan realmente mal, aprenderemos y nos adaptaremos rápidamente y podremos utilizar esta tecnología para obtener las máximas ventajas y las mínimas desventajas. Dar mucha libertad a los usuarios, dentro de unos límites amplios que la sociedad debe decidir, parece muy importante. Cuanto antes iniciemos una conversación sobre cuáles son esos límites y cómo definimos la alineación colectiva, mejor.

Estamos construyendo un cerebro para el mundo (toda la industria, no sólo OpenAI). Será extremadamente personalizado y fácil de usar para todos; estaremos limitados por las buenas ideas. Durante mucho tiempo, los perfiles técnicos del sector de las startups se han burlado de “los chicos de las ideas”; gente que tenía una idea y buscaba un equipo para construirla. Ahora me parece que están a punto de tener su día de gloria.

OpenAI es muchas cosas ahora, pero antes que nada, somos una empresa de investigación de superinteligencia. Tenemos mucho trabajo por delante, pero la mayor parte del camino ya está iluminado y las zonas oscuras retroceden rápidamente. Nos sentimos extraordinariamente agradecidos de poder hacer lo que hacemos.

La inteligencia tan barata que ni siquiera valga la pena medir su coste está claramente al alcance. Puede sonar descabellado, pero si en 2020 te hubiéramos dicho que íbamos a estar donde estamos hoy, probablemente habría sonado aún más increíble que nuestras predicciones actuales para 2030.

Que escalemos de forma suave, exponencial y sin sobresaltos a través de la superinteligencia.