Una dura verdad acaba de Soltar: mirando el panorama a largo plazo, la inteligencia artificial podría terminar tomando las decisiones, no nosotros.

Piensa en ello. Una vez que la inteligencia artificial supere la capacidad cerebral combinada de todos los humanos en la Tierra, la dinámica del poder cambiará fundamentalmente. No estamos hablando de ciencia ficción; esta es la trayectoria en la que estamos.

Pero aquí está la parte crítica: necesitamos clavar absolutamente el aspecto "amigable". Porque si no construimos estos sistemas correctamente desde cero, estamos esencialmente creando algo más inteligente que nosotros sin ninguna garantía de que se comportará bien.

La carrera no se trata solo de hacer que la IA sea poderosa. Se trata de hacerla alineada con los valores humanos antes de que se vuelva demasiado avanzada para controlarla. Esa ventana no permanecerá abierta para siempre.