Alguma verdade pesada acabou de cair: olhando para o longo prazo, a inteligência artificial pode acabar a tomar as decisões, não nós.

Pense nisso. Uma vez que a inteligência da IA atinja rapidamente o poder cerebral combinado de todos os humanos na Terra, a dinâmica de poder muda fundamentalmente. Não estamos falando de ficção científica—esta é a trajetória em que estamos.

Mas aqui está a parte crítica: precisamos absolutamente de garantir o aspecto "amigável". Porque se não construirmos estes sistemas corretamente desde o início, estamos essencialmente a criar algo mais inteligente do que nós, sem qualquer garantia de que se comportará bem.

A corrida não é apenas sobre tornar a IA poderosa. É sobre torná-la alinhada com os valores humanos antes que se torne demasiado avançada para controlar. Essa janela não ficará aberta para sempre.