Святой или диктатор? Журнал The New Yorker опубликовал итоги полуторагодовалого расследования жизни Сэма Альтмана — создателя ChatGPT и человека, которому мир доверил ключи от искусственного интеллекта.
100 интервью, сотни закрытых документов и правда о том, как «серый кардинал» Кремниевой долины годами манипулировал инвесторами и коллегами.
За что его на самом деле выгоняли из Y Combinator и OpenAI, и почему те, кто знает Альтмана лучше всех, всерьез опасаются за наше будущее. Тут и Трамп замешан.
Поехали!
КРАТКО ▾
Чем занимался Альтман до OpenAI
19-летний Сэм Альтман на презентации своего стартапа Loopt в 2005 году
Сэм Альтман обучался в Стэнфорде, но на втором курсе решил бросить учебу, чтобы присоединиться к первой группе предпринимателей в Y Combinator (YC) — инкубаторе стартапов, среди соучредителей которого был известный программист и предприниматель Пол Грэм.
Каждый участник приходил в YC с идеей для стартапа. Среди сокурсников Альтмана были основатели Reddit и Twitch.
В 2005 году Альтман предложил создать соцсеть Loopt, которая использовала местоположение мобильных телефонов пользователей, чтобы сообщать их друзьям, где они находятся.
Loopt испытывала трудности с привлечением пользователей, и в 2012 году ее приобрела финтех-компания. По словам человека, знакомого со сделкой, приобретение было организовано в основном для того, чтобы помочь Альтману сохранить лицо. Тем не менее, к моменту ухода Грэма из YC в 2014 году он пригласил Альтмана стать его преемником на посту президента.
В 28 лет Альтман стал настоящим «серым кардиналом». Его задача заключалась в том, чтобы отбирать самых амбициозных и перспективных предпринимателей, связывать их с лучшими программистами и инвесторами и помогать им превращать свои стартапы в монополии, определяющие развитие отрасли. Под руководством Альтмана число стартапов, входящих в YC, увеличилось с десятков до сотен.
Параллельно Альтман работал скаутом в инвестиционном фонде Sequoia Capital. Его задачей был поиск стартапов для инвестирования на ранних стадиях и получения небольшой доли прибыли.
В 2010 году Альтман лично инвестировал в молодую компанию Stripe примерно $15 тыс., получив долю в 2%. Сегодня Stripe оценивается в $150 млрд.
Этот шаг вызвал недовольство партнеров Sequoia, потому что Альтман поставил свои интересы выше интересов фонда и других партнеров.
В 2019 году под давлением других сотрудников Альтман был вынужден уйти из YC. Он хотел занять должность председателя совета директоров, но партнеры YC не одобрили его назначение.
Другие работники YC были недовольны поведением Альтмана и тем, что он совмещает работу в YC с собственными проектами и инвестициями. Альтман заявил, что его никогда не увольняли из YC и что он не сопротивлялся уходу, а просто сделал выбор в пользу OpenAI.
Как создавалась OpenAI
В 2015 году Альтман обсуждал в переписке с Илоном Маском страхи по поводу будущего ИИ. Они оба считали, что эта технология не должна «находиться под контролем жадной до прибыли мегакорпорации» вроде Google.
По аналогии с ядерным оружием Альтман предложил создать «Манхэттенский проект для ИИ», чтобы «сделать всё правильно». Он также изложил главный принцип компании: безопасность должна быть первостепенным требованием.
Главным инвестором был Илон Маск, который на старте вложил $1 млрд в OpenAI. Альтман и Маск договорились, что это будет некоммерческая структура с уставом, обязывающим ставить интересы человечества выше интересов компании.
Маск и Альтман, а также Грег Брокман, перешедший из Stripe, были убеждены, что в мире осталось лишь несколько ученых, способных совершить необходимые прорывы.
Главной целью для OpenAI стал Илья Суцкевер – целеустремленный и замкнутый исследователь, которого часто называли самым одаренным ученым в области искусственного интеллекта своего поколения.
Другой целью был Дарио Амодей — биофизик, который считал, что ИИ стоить создавать только в том случае, если будет доказано, что он соответствует человеческим ценностям.
Суцкевер и Амодей согласились работать в OpenAI за скромную зарплату. Перед приходом Суцкевера в OpenAI, Google предлагала ему $6 млн в год, но получила отказ.
Изначально OpenAI создавалась как некоммерческая компания, но в 2017 году уже начались обсуждения о том, стоит ли реорганизовать OpenAI. За одним из таких обсуждений в сентябре 2017 года Маск потребовал контрольного пакета акций, а иначе «он просто дурак, который бесплатно финансирует чужой стартап». Альтман настаивал, что он должен занять должность гендиректора, если такая появится.
Илон Маск и двойные стандарты. Как 7 лет назад он ушёл со скандалом из OpenAI, а теперь сделал аналог ChatGPT в лице Grok и вставляет палки в колёса
В мире технологий публичные конфликты между компаниями и отдельными людьми не редкость. Но этот случай примечателен тем, что речь идёт о личном противостоянии двух ключевых фигур отрасли...→
Как Альтман возглавил OpenAI
С самого начала в OpenAI не было генерального директора. Стартап управлялся основателями и советом директоров, который был обязан ставить «безопасность человечества выше успеха компании или даже её выживания». Это было осознанное решение, чтобы не отдавать власть в руки одного человека.
Операционным управлением занимались Брокман и Суцкевер, а Альтман и Маск «заглядывали раз в неделю».
В 2018 году среди сотрудников OpenAI возникло недовольство управлением Брокмана, которого считали резким и неорганизованным, и Суцкевера, которого воспринимали как принципиального, но хаотичного человека. Альтману стало очевидно, что компании нужен классический гендиректор, и для этой должности лучше всех подходил он сам.
В процессе вступления в должность генерального директора Альтман давал разные обещания. Он заверил некоторых исследователей, что влияние Брокмана будет уменьшено.
Параллельно он заключил неформальное соглашение с Брокманом и Суцкевером, по которому Альтман становится CEO, но обещает уйти в отставку, если двое других сочтут это необходимым. Позже совет директоров с опасением узнал, что гендиректор фактически назначил свой собственный «теневой совет».
Почему Альтмана не любят в OpenAI
Многие бывшие и нынешние сотрудники OpenAI считают Альтмана лжецом и манипулятором, который ставит рост компании и прибыль выше миссии безопасности ИИ.
- На встрече с советом директоров в декабре 2022 года Альтман заявил, что ряд функций новой модели GPT-4 был одобрен комиссией по безопасности. Но после изучения документов выяснилось, что самые спорные функции, такие как тонкая настройка под задачи и режим «личного помощника», не получили одобрения.
- На той же встрече Альтман умолчал о том, что Microsoft выпустила раннюю версию ChatGPT в Индии, не проведя необходимую проверку безопасности.
- В 2023 году Альтман создал «команду по супервыравниванию», чтобы будущий AGI был безопасным не только в тестах, но и в реальной жизни. Альтман пообещал выделить 20% от всех вычислительных ресурсов OpenAI, но в реальности команда получила не больше 2% ресурсов, причем на самом старом железе.
- При подготовке запуска GPT‑4 Turbo в 2023 году Альтман сказал Мире Мурати, которая на тот момент была главным техническим директором OpenAI, что модели не требуется одобрение по безопасности, сославшись на главного юрисконсульта компании Джейсона Квона. Но когда она спросила у Квона в Slack, тот ответил: «Уфф… непонятно, откуда у Сэма взялось такое впечатление».
Альтмана часто описывают, с почтением или с подозрением, как величайшего рекламщика своего поколения. В 2008 году, когда Альтману было 23 года, Пол Грэм написал: «Вы могли бы сбросить его с парашютом на остров, полный каннибалов, и вернуться через 5 лет, и он был бы королем».
Уход Дарио Амодей — первый конфликт в OpenAI
Дарио Амодей
В начале 2018 года вице-президент по исследованиям Дарио Амодей начал разрабатывать устав OpenAI, главный пункт которого звучал следующим образом: «если проект, соответствующий ценностям и заботящийся о безопасности, приблизится к созданию ИИ раньше OpenAI, компания прекратит конкурировать с этим проектом и начнет ему помогать».
Это означало, что если, например, Google первой разработает безопасный AGI, то OpenAI закроется и передаст ей свои наработки. Для любой компании это было безумное обещание, но не для OpenAI.
Весной 2019 года, когда OpenAI вела переговоры об инвестициях в размере $1 млрд от Microsoft, этот пункт стал главной проблемой. Амодей опасался, что Microsoft включит в соглашение положения, которые отменят этические обязательства OpenAI. Альтман заверил Амодея, что этого не случится.
В июне, когда сделка подходила к концу, Амодей обнаружил, что в соглашение был добавлен пункт, позволяющий Microsoft блокировать любые слияния с OpenAI. «80% устава были просто нарушены», — вспоминал Амодей.
Несколько месяцев спустя Альтман вызвал Амодея и его сестру Даниэллу, которая работала в отделе безопасности и политики компании OpenAI. Альтман заявил, что у него есть «надёжная информация» от топ‑менеджера о том, что Амодеи готовят заговор против руководства. Даниэлла привела этого топ-менеджера, который стал всё отрицать.
Разобрали Claude по фактам. В чем он обходит ChatGPT и Gemini
В 2020 году Дарио и Даниэлла Амодеи ушли из OpenAI, чтобы основать Anthropic, которая сейчас является одним из её главных конкурентов.
Почему Альтмана уволили из OpenAI
Илья Суцкевер
Осенью 2023 года Суцкевер вместе с единомышленниками собрал 70 страниц сообщений из Slack и скриншотов, в которых утверждалось, что Альтман искажал факты перед руководителями и членами совета директоров и обманывал их относительно внутренних протоколов безопасности. Одна из записок, касающаяся Альтмана, начинается со списка с заголовком «Сэм демонстрирует устойчивую модель…». Первый пункт — «Ложь».
В этот момент Альтман находился в Лас-Вегасе на гонке Формулы-1. Суцкевер пригласил его на видеоконференцию с советом директоров, после чего зачитал краткое заявление, объясняющее, что он больше не является сотрудником OpenAI.
Многие инвесторы и руководители OpenAI были шокированы.
Я был очень ошеломлен. Я ничего не мог выведать ни у кого.
Сатья Наделла, гендиректор Microsoft
В день увольнения Альтман улетел обратно в свой особняк в Сан-Франциско и организовал «правительство в изгнании». В его доме работали менеджеры по кризисным коммуникациям, а юристы сидели в соседней комнате возле спальни Альтмана.
Свои действия Альтман тесно координировал с Наделлой. Вскоре Microsoft объявила о готовности нанять Альтмана и любых сотрудников, которые покинут OpenAI. В итоге большинство сотрудников OpenAI пригрозили уйти вместе с Альтманом.
Совет директоров оказался в безвыходном положении. Союзники Альтмана пытались переманить Суцкевера на свою сторону, который в итоге поменял своё мнение.
Я чувствовал, что если мы пойдем по пути, где Сэм не вернется, то OpenAI будет уничтожена.
Илья Суцкевер
Альтман потребовал отставки членов совета директоров, которые пытались его уволить. В свою очередь, уходящие члены потребовали провести независимое расследование обвинений против Альтмана.
Менее чем через пять дней после увольнения Альтман был восстановлен в должности. С тех пор OpenAI стала одной из самых дорогих компаний в мире.
Что не так с расследованием против Альтмана
В дни своего увольнения Альтман изо всех сил пытался избежать любого расследования выдвинутых против него обвинений. Он опасался, что даже сам факт существования расследования заставит его выглядеть виновным.
Тем не менее, он согласился на проведение независимого расследования после возвращения в OpenAI.
OpenAI привлекла юридическую фирму WilmerHale. Люди, близкие к расследованию, сообщили, что проверяющих «интересовал лишь узкий круг событий, произошедших во время скандала с советом директоров, а не история с честностью Альтмана».
Все указывало на то, что они хотели добиться результата, а именно — оправдать его.
Сотрудник OpenAI
Обычно в случаях с публичными скандалами ожидается большая прозрачность. Учитывая некоммерческий статус OpenAI и резонансный характер увольнения, многие ожидали увидеть подробные результаты расследования. Однако в марте 2024 года OpenAI объявила, что Альтман оправдан, но не опубликовала никакого отчета.
Люди, участвовавшие в расследовании, заявили, что отчет не был опубликован, потому что его никто не писал. О результатах расследования устно сообщили двум членам совета директоров OpenAI.
В ходе проверки не был сделан вывод о том, что Сэм был образцовым порядочным человеком.
Источник, близкий к расследованию
Проверяющие сосредоточили внимание не на вопросах честности, лежащих в основе увольнения Альтмана, а на поиске явных преступлений. Поскольку их не было, то Альтмана решили оставить гендиректором.
Многие бывшие и нынешние сотрудники OpenAI были шокированы отсутствием раскрытия информации. Альтман заявил, что все члены нового совета директоров получили устные объяснения. «Это абсолютная, откровенная ложь», — сказал человек, непосредственно знакомый с ситуацией.
Что говорят про Альтмана знающие его люди
Большинство опрошенных журналистами людей раздедяют мнение Суцкевера и Амодеи: Альтман обладает неукротимой волей к власти.
У него есть две черты, которые почти никогда не встречаются у одного и того же человека. Первая — это сильное желание угодить людям, понравиться в любом взаимодействии. Вторая — это почти социопатическое безразличие к последствиям, которые могут возникнуть в результате обмана.
Член совета директоров OpenAI
Одним из однокурсников Альтмана в Y Combinator был известный программист Аарон Шварц. Незадолго до своей смерти в 2013 году он выражал серьезные опасения по поводу Альтмана.
Вы должны понимать, что Сэму никогда нельзя доверять. Он социопат. Он сделает что угодно.
Аарон Шварц
Несколько высокопоставленных руководителей Microsoft заявили, что, несмотря на многолетнюю лояльность Наделлы, отношения компании с Альтманом стали напряженными. «Он искажал, деформировал, пересматривал, нарушал соглашения», — сказал один из них.
Альтман не является техническим гением. По мнению его коллег, ему не хватает обширных знаний в области программирования или машинного обучения. Многие инженеры вспоминали, как он неправильно использовал или путал основные технические термины.
Эти люди ушли из OpenAI и запустили стартапы, собрав миллиарды
В 2017 году Альтман встречался с представителями американской разведки. Он заявил, что Китай запустил «Манхэттенский проект AGI» и что OpenAI нужны миллиарды долларов государственного финансирования, чтобы не отставать.
Когда его попросили предоставить доказательства, Альтман сказал: «Я слышал кое-что». После одной из встреч он пообещал предоставить доказательства, но так и не сделал этого. Сотрудник, изучив китайский проект, пришел к выводу, что доказательств его существования нет.
Как Альтман подружился с Трампом
Альтман всегда был демократом и неоднократно жертвовал деньги Демократической партии и в Фонд Байдена. В 2016 году он поддержал Хиллари Клинтон и назвал Трампа «беспрецедентной угрозой для Америки».
В 2024 году, когда рейтинги Байдена упали, риторика Альтмана начала меняться. «Я верю, что с Америкой все будет в порядке, независимо от того, что произойдет на этих выборах», — сказал он. После победы Трампа Альтман пожертвовал $1 млн в его инаугурационный фонд.
Когда Трамп устроил ужин с руководителями технологических компаний в прошлом году, Альтман сидел напротив президента, а Маска не пригласили.
Сэм, ты великий лидер. Ты говорил мне вещи, которые совершенно невероятны.
Дональд Трамп
Альтман сообщил, что у него есть личный номер Трампа и при необходимости он может быстро связаться с президентом США, но это будет не дружеский звонок.
Вместо вывода
Журналисты The New Yorker проделали огромную работу, которая проливает свет на многие вопросы, связанные с OpenAI.
Изначальная миссия OpenAI ставить безопасность человечества выше прибыли постепенно размывается, а Альтман все чаще отдает приоритет росту компании, а не осторожности.
Несмотря на харизму Альтмана, он остается крайне неоднозначной фигурой. Коллеги из его ближайшего окружения отмечают: «Он всегда говорит то, что от него хотят услышать» и «я не считаю, что именно Сэм должен обладать единоличным контролем над технологией такого уровня».
Тем не менее, если все амбициозные прогнозы Альтмана сбудутся, то он может стать одним из самых богатых и влиятельных людей на планете.
2 комментария