Olah esta vez fue bastante contundente—La IA no se crea, se cultiva, dentro en realidad hay algo similar a emociones, y la gobernanza está en un punto muerto, hay que depender de fuerzas sociales externas para frenar. Este tema es más urgente que la tecnología en sí misma.

En la conferencia de prensa, el cofundador de Anthropic, Olah, reveló que la inteligencia artificial de vanguardia presenta conflictos de interés endógenos, que dentro del modelo aparecen estructuras similares al cerebro humano y signos de autorreflexión, e incluso estados internos relacionados con las emociones. El modelo no es un producto diseñado artificialmente, sino que ha sido "cultivado" a través de una gran cantidad de datos lingüísticos. La gobernanza enfrenta un callejón sin salida institucional, y los intereses comerciales y la competencia dificultan la corrección de errores por sí mismos. Él hace un llamado a que fuerzas sociales independientes de la red comercial actúen como críticos externos, promoviendo restricciones éticas, y plantea tres grandes temas sociales: la reducción de la pobreza global, los medios de vida familiares y la respuesta a los estados mentales de los grandes modelos.