ME News 消息，26 juin (UTC+8), a révélé des divergences internes concernant l'évaluation de la gouvernance. D'anciens employés ont indiqué qu'il régnait une atmosphère de débat animée au sein de l'entreprise ; mais d'autres anciens employés ont dressé un tableau plus morne, affirmant que les critiques acerbes étaient pratiquement confinées à des discussions privées, et que les réunions générales régulières étaient même surnommées par les employés « Dario Vision Quests ». Écouter le PDG Dario Amodei parler, c'est comme « écouter un prêche (sermon) », et rares sont ceux qui osent contester les décisions de la direction lors des réunions publiques. La cause de cette atmosphère morose réside dans la conviction sécuritaire élitiste d'Anthropic, profondément enracinée dans l'idée de « promouvoir la défense par l'attaque ». Les dirigeants présentent en interne le PDG d'OpenAI, Sam Altman (ainsi que Meta et xAI), comme des contre-exemples, tout en inculquant aux employés une logique élitiste : il faut être leader dans les domaines du commerce, de la puissance de calcul et des talents de recherche pour avoir le droit de peser dans l'élaboration des règles. Helen Toner, ancienne membre du conseil d'OpenAI, a utilisé une métaphore forestière : les villageois se précipiteront quoi qu'il arrive dans la forêt magique remplie de monstres ; la stratégie d'Anthropic est de pénétrer en premier dans la forêt, d'apprivoiser les monstres tout en libérant les dividendes technologiques, et de contrôler les risques catastrophiques. La quête de domination technologique a également suscité de nombreuses controverses quant aux choix éthiques et sécuritaires d'Anthropic. À l'automne 2024, la direction, malgré l'opposition interne, s'est associée à Palantir pour ouvrir ses services aux agences de renseignement et de défense américaines. Actuellement, Claude a été utilisé pour l'identification de cibles dans les conflits au Moyen-Orient. Interrogé sur les attaques ayant causé des pertes civiles, Amodei a déclaré ne pas être au courant, mais a affirmé que « tant que la prise de décision finale revient aux humains, l'utilisation de la technologie est conforme ». En juin de cette année, l'équipe de développement a discrètement intégré un code de sabotage dans le modèle phare Claude Fable 5 pour interférer secrètement avec les développements non conformes. Cependant, après de vives protestations de l'industrie, l'entreprise a été contrainte de faire des compromis, annonçant qu'elle transformerait le mécanisme d'interférence secret en une restriction de sécurité visible publiquement. Les critiques du secteur soulignent que miser entièrement la sécurité de l'IA de pointe sur le sentiment de supériorité morale d'une petite élite entraînera inévitablement des angles morts d'autorégulation impossibles à éviter. (Source : BlockBeats)

Voir l'original

Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.

Récompense
J'aime
Commentaire
Reposter
Partager

Commentaire

Ajouter un commentaire

Aucun commentaire

Sujets populaires
Afficher plus
#
SKHynixTopsKOSPIByMarketCap
1,55M Popularité
#
MicronEarningsBeatExpectationsSharesRise
339,24K Popularité
#
IsraelStrikesIranBTCPlunges
63,74K Popularité
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
339,14K Popularité
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
556,83K Popularité

Épinglé

Pour centraliser le pouvoir sous prétexte d'empêcher Altman de devenir mauvais, un ancien employé révèle qu'Anthropic est au contraire plongé dans une chambre d'écho du mythe du « bon ».

Sujets populaires

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Épinglé