Une vérité lourde vient de Goutte : en regardant le long terme, l'intelligence artificielle pourrait finir par prendre les décisions, pas nous.

Pensez-y. Une fois que l'intelligence artificielle dépasse la puissance cérébrale combinée de chaque humain sur Terre, la dynamique de pouvoir change fondamentalement. Nous ne parlons plus de science-fiction—c'est la trajectoire sur laquelle nous nous trouvons.

Mais voici la partie critique : nous devons absolument réussir l'aspect "amical". Parce que si nous ne construisons pas ces systèmes correctement dès le départ, nous créons essentiellement quelque chose de plus intelligent que nous sans aucune garantie que cela se comportera bien.

La course ne consiste pas seulement à rendre l'IA puissante. Il s'agit de l'aligner avec les valeurs humaines avant qu'elle ne devienne trop avancée pour être contrôlée. Cette fenêtre ne restera pas ouverte indéfiniment.