ME News消息，26 de junio (UTC+8), reveló las divisiones internas sobre la evaluación de la gobernanza. Algunos exempleados señalaron que existía un ambiente de debate activo dentro de la empresa; pero otros ex empleados describieron un panorama más sombrío, afirmando que las críticas agudas se aislaban principalmente en chats privados, y que las reuniones generales regulares eran incluso bromeadas por los empleados como "Exploraciones de la Visión de Dario" (Dario Vision Quests). Escuchar al CEO Dario Amodei era como "escuchar un sermón de un pastor", y pocos desafiaban las decisiones de la gerencia en reuniones abiertas. La raíz del ambiente sombrío radica en la profunda convicción de seguridad elitista de Anthropic de "atacar para defender". Los altos ejecutivos internamente presentaban al CEO de OpenAI, Sam Altman (así como a Meta y xAI), como contraejemplos, mientras inculcaban a los empleados una lógica de élite: solo manteniéndose a la vanguardia en negocios, potencia informática y talento de investigación se puede tener voz en la formulación de reglas. La exdirectora de OpenAI, Helen Toner, hizo una analogía con un bosque: los aldeanos de todos modos se precipitarían al bosque mágico lleno de monstruos; la estrategia de Anthropic es adentrarse primero en el bosque, domesticar a los monstruos mientras libera dividendos tecnológicos y controlar los riesgos catastróficos. La búsqueda del dominio tecnológico también ha llevado a que las decisiones éticas y de seguridad de Anthropic sean a menudo controvertidas. En el otoño de 2024, la gerencia, ignorando la oposición interna, se asoció con Palantir para abrir servicios a las agencias de inteligencia y defensa de EE. UU. Actualmente, se ha confirmado que Claude se utiliza para la identificación de objetivos en el conflicto de Oriente Medio. Ante las preguntas sobre ataques que causan víctimas civiles, Amodei dijo no estar al tanto, pero argumentó que "siempre que los humanos tomen la decisión final, el uso de la tecnología es conforme". En junio de este año, el equipo de desarrollo insertó en secreto código destructivo en el modelo insignia Claude Fable 5 para interferir en secreto el desarrollo infractor. Sin embargo, tras fuertes protestas de la industria, la empresa se vio obligada a hacer concesiones y anunció que convertiría el mecanismo de interferencia secreta en restricciones de seguridad visibles públicamente. Las críticas de la industria señalan que apostar completamente la seguridad de la IA de vanguardia en la superioridad moral de unas pocas élites inevitablemente generará puntos ciegos de autorregulación inevitables. (Fuente: BlockBeats)

Ver original

Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.

Recompensa
Me gusta
Comentar
Republicar
Compartir

Comentar

Añadir un comentario

Sin comentarios

Temas de actualidad
Ver más
#
SKHynixTopsKOSPIByMarketCap
1,55M Popularidad
#
MicronEarningsBeatExpectationsSharesRise
338,42K Popularidad
#
IsraelStrikesIranBTCPlunges
63,72K Popularidad
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
335,8K Popularidad
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
556,19K Popularidad

Fijado

Con el pretexto de evitar que Altman se vuelva malo, se centraliza el poder; exempleados revelan que Anthropic está sumido en el mito del "buen chico" y en una cámara de eco.

Temas de actualidad

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Fijado