Vitalik propose un compromis entre deux camps d’IA : convenir à l’avance qu’en cas de situation extrême, un arrêt sera déclenché

robot
Création du résumé en cours
Nouvelles ME, le 11 juillet (UTC+8) : l’un des cofondateurs d’Ethereum, Vitalik Buterin, a publié un billet pour discuter de la controverse autour de l’IA à superintelligence. Il indique qu’au sein du secteur de l’IA, il existe aujourd’hui deux camps : l’un estime que la superintelligence arrivera forcément avant 2040, qu’il faut donc la contrôler au plus vite ; l’autre pense que l’IA n’est qu’une technologie ordinaire et que chercher à la mettre en pause reviendrait à contrôler les humains. Vitalik affirme qu’il n’est pas sûr duquel a raison, et se dit ouvert à l’idée de ralentir ou de suspendre, mais s’oppose au discours selon lequel de grandes sociétés d’IA chercheraient à promouvoir « le logiciel open source nuisible », estimant que cela relève en réalité d’une concentration du pouvoir. Vitalik propose un compromis : les deux parties peuvent convenir à l’avance, et s’accorder pour lancer une pause de l’IA si certains cas extrêmes (comme une super grande pandémie, un chômage à grande échelle, etc.) surviennent vraiment ; si ces situations ne se produisent pas, alors on avance selon le plan de l’autre camp. Il reconnaît que tous les scénarios de réponse présentent des défauts : l’humanité ne peut qu’arbitrer entre « imparfait » et « encore plus imparfait », mais les techniques défensives, comme la vérification formelle, la cryptographie, le matériel de sécurité, etc., valent la peine d’être développées dans les deux mondes. (Source : PANews)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé