D'une part, ils font une levée de fonds et entrent en bourse de manière ostentatoire, d'autre part, ils proposent de suspendre le développement de l'IA : Anthropic joue simplement la carte de la sécurité et des relations publiques

robot
Création du résumé en cours
Selon le système de détection Beating, dans le rapport « Quand l'IA construit elle-même », Anthropic propose d'établir un « mécanisme de suspension collaborative vérifiable » basé sur le traité de contrôle des armements nucléaires « Traité sur la réduction des armes stratégiques offensives » (START).
Le rapport s'oppose clairement à une suspension unilatérale de la recherche et souligne que ce n'est que dans le cadre d'une vérification mondiale que les laboratoires de pointe peuvent freiner simultanément.
Mais la suspension collaborative est techniquement irréalisable.
Le contrôle nucléaire peut se faire en surveillant les missiles par satellite, mais les cartes graphiques sont petites, faciles à dissimuler, et peuvent aussi faire de la calcul distribué.
Pour vérifier si d'autres entraînent en secret, la seule solution serait d'infiltrer tous les GPU, réseaux électriques et centres de données mondiaux.
Une surveillance complète est non seulement politiquement impossible, mais équivaut aussi à prôner une dictature du calcul.
Dans un contexte où la vérification technique ne peut pas être mise en œuvre, la proposition de suspension collaborative ressemble davantage à un « laissez-passer pour l'immunité en matière de sécurité ».
Juste avant la publication du rapport, Anthropic a levé près de 1000 milliards de dollars de valorisation lors d’un financement de 65 milliards de dollars et a soumis une demande d’introduction en bourse.
Anthropic a fixé la condition de suspension à une vérification nucléaire mondiale impossible à réaliser, ce qui ouvre la voie à un entraînement illimité tout en reportant la responsabilité de ne pas arrêter sur un mécanisme de régulation encore à établir.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé