70-я страница секретного документа: первое обвинение — «лжёшь». Altman сказал совету директоров: «Я не могу изменить свой характер»

Заголовок оригинала: Обвинение №1 в 70-страничном конфиденциальном досье — «лжет», Сэм Альтман сказал совету директоров: «Я не могу изменить свой характер»

Автор оригинала: Литмошен BlockBeats

Источник оригинала:

Перепечатка: Mars Finance

Согласно мониторингу 1M AI News, лауреат Пулитцеровской премии Ронан Фэрроу (Ronan Farrow) и журналист New Yorker Эндрю Марэнц (Andrew Marantz) опубликовали большое расследовательское сообщение: на основе интервью более чем со 100 информированными источниками впервые полностью раскрыты два ключевых документа — конфиденциальное досье примерно на 70 страниц, составленное осенью 2023 года бывшим главным специалистом по науке OpenAI Ильей Сутскевером (Ilya Sutskever), и внутренние заметки более чем на 200 страниц, накопленные генеральным директором Anthropic Даррио Амодеи (Dario Amodei) во время работы в OpenAI. Ранее оба документа никогда не были обнародованы.

В досье Сутскевера содержатся сообщения в Slack, HR-документы и скриншоты, снятые на телефон (как утверждается, чтобы избежать мониторинга устройств компании), и оно начинается со списка: «Сэм демонстрирует устойчивый паттерн…», а первый пункт — «лжет». Досье обвиняет Альтмана в том, что он искажает факты руководству и совету директоров, а также вводит в заблуждение коллег в вопросах безопасности. Тогда Сутскевер сказал другому директору: «Я не думаю, что Сэм — тот, у кого должны быть кнопки».

Заметки Амодеи озаглавлены «Мой опыт в OpenAI» (подзаголовок «Частные документы, не делиться»). Они циркулировали среди коллег в Кремниевой долине, но никогда не публиковались. В них говорится, что «проблема в OpenAI — в самом Сэме», и выдвигается обвинение в том, что Альтман при встрече при отрицании условий, уже присутствующих в контракте, сделал вид, что соглашение с Microsoft на инвестиции 1 млрд долларов было иным, — и Амодеи зачитал это вслух дословно на месте, но Альтман все равно не признал.

В сообщении также раскрываются несколько фактов, ранее не опубликованных:

1. Независимое расследование, которым Альтман обещал заняться после возвращения на должность, так и не оформилось в письменный отчет. Юридическая фирма WilmerHale (ранее руководившая расследованиями по делам Enron и WorldCom), которая отвечала за расследование, лишь в устной форме проинформировала двух новых директоров, не подготовив письменного отчета. По словам информированных лиц, решение не делать письменный отчет основывалось на рекомендациях личных юристов этих двух директоров. Информированные источники говорят, что расследование «похоже было направлено на ограничение прозрачности», и часть действующих директоров считает, что это могло привести к тому, что «потребуется провести повторное расследование»

2. Реальная вычислительная мощность, полученная супервыравнивающей командой, составляет примерно 1%-2% от публично обещанных объемов, и большая часть распределена на «самые старые, самые плохие по чипам кластеры». Когда журналисты попросили взять интервью у исследователей, занимающихся работой по безопасности существования, представитель OpenAI ответил: «Что вы имеете в виду под “безопасностью существования”? Это не является чем-то одним».

3. Примерно в 2018 году руководство серьезно обсуждало план, который внутри называли «национальным планом»: чтобы великие державы (включая Китай и Россию) участвовали в торгах за покупку технологий ИИ. Исполнявший обязанности руководителя по вопросам политики Джек Кларк (Jack Clark) охарактеризовал цель как «создать дилемму заключенного, чтобы всем странам пришлось финансировать нас». План был приостановлен из-за угроз увольнением со стороны нескольких сотрудников.

4. Несколько руководителей Microsoft выразили Альтману крайне сильное недовольство. Один из руководителей заявил: «Он искажает, выворачивает, снова договаривается, нарушает договоренности». Он полагает, что «есть хоть и небольшая, но реальная вероятность, что в итоге его будут помнить так же, как помнят главного виновника финансовой пирамиды Берни Мэдоффа (Bernie Madoff) или основателя FTX Сэма Бэнкмэна-Фридда (Sam Bankman-Fried)».

После увольнения Альтман на одном звонке с советом директоров, где его попросили признать его схему обмана, снова и снова говорил «это слишком абсурдно», а затем сказал «я не могу изменить свой характер». Интерпретация одного из присутствовавших директоров звучала так: «Смысл этой фразы — “у меня есть склонность лгать людям, и я не остановлюсь”». Первая группа выпускников Y Combinator, программист Аарон Сварц (Aaron Swartz), который умер в 2013 году, при жизни предупреждал друзей: «Ты должен понимать, что Сэм никогда не должен быть в доверии. Он антисоциальная личность, он способен на что угодно». В сообщении говорится, что в интервью слово «антисоциальная личность» использовали по собственной инициативе не только один человек.

В ходе более чем десятка разговоров с журналистами Альтман отрицал преднамеренный обман, а меняющиеся обещания описывал как «добросовестную адаптацию к быстро меняющейся среде», и раннюю критику списывал на свою склонность «слишком избегать конфликтов». Когда его спросили, требует ли ведение компании по ИИ более высоких стандартов честности, он добавил: «Да, это требует более высокого уровня честности. Я каждый день ощущаю вес этой ответственности».