Vitalik propose un accord de compromis entre deux camps sur l’IA : convenir à l’avance qu’en cas de situation extrême, un arrêt sera déclenché

robot
Création du résumé en cours
Jinse Finance rapporte que le 11 juillet, Vitalik Buterin, cofondateur d’Ethereum, a publié un message pour aborder la controverse autour de l’IA superintelligente. Il indique qu’il existe actuellement deux courants dans le monde de l’IA : l’un pense que la superintelligence arrivera forcément avant 2040, qu’il faut donc la contrôler au plus vite ; l’autre estime que l’IA n’est qu une technologie ordinaire, et que promouvoir des pauses vise à contrôler l’humanité. Vitalik affirme ne pas être sûr de quel camp a raison, et reste ouvert à l’idée de ralentir ou de suspendre, mais s’oppose au discours selon lequel les grandes entreprises d’IA pousseraient des thèses « open source nuisibles », qu’il considère comme relevant en réalité d’une concentration du pouvoir.
Vitalik propose un compromis : les deux parties peuvent s’entendre à l’avance : si certains scénarios extrêmes (comme une grande pandémie ou un chômage de masse, etc.) se produisent vraiment, alors elles acceptent de lancer une pause de l’IA ; si ces situations n’arrivent pas, alors elles avancent selon le plan de l’autre camp. Il reconnaît que toutes les solutions de réponse présentent des défauts, et que l’humanité ne peut qu’opter entre « imparfait » et « plus imparfait », mais que des techniques défensives — comme la vérification formelle, la cryptographie, le matériel de sécurité, etc. — méritent d’être développées dans les deux mondes.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé