Vitalik Buterin : Limiter les ressources informatiques mondiales pour freiner la possible dérive d'une superintelligence IA

Anticiper les dérives de l’intelligence artificielle (IA). Dans le cadre du développement accéléré du secteur des cryptomonnaies, le fondateur du réseau Ethereum s’impose comme un esprit éclairé. En effet, Vitalik Buterin est l’un des seuls à pratiquer l’exercice régulier de la prise de hauteur, afin d’analyser la situation avec le recul nécessaire. Cela dans le cadre d’une philosophie présentée comme « techno-optimiste », à la fois avant-gardiste et humaniste. Un filtre au travers duquel il n’a pas manqué de faire passer l’essor actuel de l’intelligence artificielle (IA). Avec une préoccupation centrale : comment freiner les possibles dérives d’une super-intelligence au niveau mondial ?

Les points clés de cet article :

Sam Altman d’OpenAI a annoncé l’ambition de déployer une intelligence générale artificielle (AGI) d’ici 2025.

Vitalik Buterin met en avant une stratégie d’« accélérationnisme défensif » pour anticiper les dérives d’une super-intelligence IA.

OpenAI promet une intelligence générale artificielle (AGI) pour 2025

Le développement du secteur des cryptomonnaies se fait bien souvent au détriment de certains questionnements nécessaires. C’est la raison pour laquelle il est important de prendre le temps de réfléchir à tête reposée aux conséquences possibles de ses tâtonnements avant-gardistes.

Un exercice régulièrement pratiqué par Vitalik Buterin, véritable génie de la crypto souvent moqué, mais jamais égalé. Avec la volonté d’anticiper les évolutions à venir afin de leur permettre de se déployer dans un environnement sécurisé et optimisé.

Le développement de l’IA s’accélère encore

Et quel sujet est actuellement plus polémique que celui de l’intelligence artificielle (IA) ? En particulier face à une adoption qui explose, sans s’imposer les garde-fous nécessaires. Et un Sam Altman, créateur de ChatGPT (OpenAI) et Worldcoin (WLD), déjà en train de promettre le déploiement d’une intelligence générale artificielle (AGI) destinée à concurrencer les capacités cognitives humaines.

« Nous sommes maintenant confiants sur notre capacité à construire une AGI comme nous l’avons initialement prévu. Nous pensons qu’en 2025, nous pourrions voir les premiers agents d’IA “rejoindre la main-d’œuvre” et modifier matériellement la production des entreprises. Nous continuons de croire que mettre itérativement de grands outils entre les mains des gens conduit à de grands résultats largement distribués »

Sam Altman

Vitalik Buterin prône un « accélérationnisme défensif »

Hasard de calendrier ou logique de développement, Vitalik Buterin est également intervenu sur le sujet quelques jours auparavant. Cela dans le cadre d’un article de blog destiné à promouvoir la mise en place d’une stratégie de type « accélérationnisme défensif » (d/acc).

Une logique qui consiste à développer en parallèle d’une évolution technologique majeure, le moyen de s’opposer à sa possible dérive. Et dans le cas de l’intelligence artificielle, cela pourrait prendre la forme d’une « pause douce » en capacité de « faire gagner plus de temps à l’humanité pour se préparer ».

Selon Vitalik Buterin, une IA super-intelligente pourrait être effective d’ici cinq ans maximum. Mais rien ne permet de garantir que le résultat sera positif. C’est pourquoi il prône la mise en place d’une capacité préventive de réduction de 99 % de la puissance de calcul globale pendant une à deux années.

Vitalik Buterin prône un accélérationnisme défensif

Comment mettre cette réduction en place ? En imposant l’implantation d’une puce sur le matériel d’IA à l’échelle industrielle afin de pouvoir contrôler son développement. Avec la nécessité d’un trio de signatures émises toutes les semaines par de grandes instances internationales distinctes.

« Les signatures seraient indépendantes de l’appareil (si désiré, nous pourrions même exiger une preuve à divulgation zero-knowledge (ZK) qu’elles ont été publiées sur une blockchain), donc ce serait tout ou rien. Il n’y aurait aucun moyen pratique d’autoriser un appareil à continuer à fonctionner sans autoriser tous les autres appareils »

Vitalik Buterin

Le principe d’accélérationnisme défensif ne s’oppose pas au progrès. Au contraire, Vitalik Buterin explique qu’il s’agit d’une « extension des valeurs sous-jacentes des cryptomonnaies (décentralisation, résistance à la censure, économie mondiale ouverte et société) à d’autres domaines de la technologie ». Mais avec la certitude que tout cela donne la priorité aux développements qui améliorent la sécurité humaine.

Source: journalducoin.com