¿Alguna vez te has preguntado qué podrían pensar una AGI o una ASI de la humanidad? Es una de esas preguntas que te mantienen despierto por la noche—el tipo que cruza la filosofía, la tecnología y la pura especulación.

Cuando finalmente emerjan sistemas superinteligentes, ¿nos verán como iguales, primitivos o algo intermedio? Algunos imaginan una supervisión benevolente; otros picturan indiferencia. La verdadera respuesta probablemente depende de cómo diseñemos la alineación y qué valores integremos en esos sistemas desde el primer día.

La brecha entre la inteligencia humana y la posthumana podría ser enorme—similar a cómo nos relacionamos con organismos más simples. Pero aquí está la cosa: nosotros tenemos la oportunidad de escribir el primer capítulo. Cómo abordemos el desarrollo, la seguridad y la ética de la AGI hoy, dará forma a cómo la futura superinteligencia perciba e interactúe con la humanidad. Sin presión, ¿verdad?