Тайна хаоса в OpenAI
На прошлой неделе Сэм Альтман был сенсационно уволен из OpenAI, после этого компания по разработке искусственного интеллекта перешла в состояние хаоса. Пока неясно, что послужило причиной решения совета директоров принять такой шаг.
Три дня спустя после того, как Сэм Альтман был внезапно уволен с поста генерального директора в OpenAI, компания оказалась в состоянии хаоса, и один главный вопрос остается без ответа: почему?
Альтман был отстранен советом некоммерческой организации OpenAI посредством необычной системы управления, которую он помог создать в качестве одного из сооснователей компании. Она предоставляла небольшой группе лиц, полностью независимых от основных операций создателя ChatGPT, право отстранять его руководство во имя обеспечения надзора над технологией искусственного интеллекта с учетом интересов человечества.
Краткое и отчасти загадочное заявление совета директоров об уходе Альтмана говорит о том, что директоры пришли к выводу, что он не всегда был искренним в своих коммуникациях с советом, что препятствовало его возможности выполнять свои обязанности. Альтмана заменила главный технический директор Мира Мурати, которая была назначена исполняющей обязанности генерального директора. Грег Брокман, также сооснователь OpenAI вместе с Альтманом, был удален с поста председателя совета директоров и несколько часов спустя покинул компанию в знак солидарности с Альтманом.
С тех пор произошло множество поворотов событий: Альтман неудачно попытался вернуться на пост генерального директора, совет директоров заменил Мурати на этой должности основателем Twitch Эмметтом Широм, Microsoft объявила о намерении нанять Альтмана и Брокмана, а почти каждый сотрудник OpenAI угрожал уволиться, если Альтман не вернется.
Ни одно из этих событий не пролило света на то, что именно сделал или не сделал Альтман, что привело к его отстранению с должности. Сотрудник OpenAI, выступивший в понедельник на условиях анонимности, говорит, что совет директоров практически ничего не сообщал о своих мыслях на протяжении всего кризиса.
Сокращение вариантов
На протяжении последних нескольких дней, несколько возможных причин отстранения Альтмана кажется были исключены. В меморандуме, направленном сотрудникам в выходные, главный операционный директор OpenAI Брэд Лайткап заявил, что решение совета директоров
"не было принято в ответ на незаконные действия или что-либо, связанное с нашей финансовой, коммерческой, безопасностью или политикой конфиденциальности. Это был разрыв в коммуникации между Сэмом и советом".
Это, казалось бы, исключало возможность того, что Альтман был свергнут из-за обычного корпоративного скандала, связанного с нечестностью или нарушением правил, касающихся финансовых или других рабочих политик. Это способствовало гипотезе, которая набирала обороты в некоторых кругах интеллектуального сообщества, что сооснователь и главный ученый OpenAI Илья Сутскевер и другие члены совета действовали из опасений, что OpenAI рискует разрабатывать свою технологию слишком поспешно.
Необычная система управления OpenAI была разработана для того, чтобы дать совету возможность ограничить деятельность своего коммерческого подразделения. Основной долг директоров заключается в выполнении миссии компании: "Обеспечить, чтобы искусственный общий интеллект принес пользу всему человечеству". Некоторые, следящие за драмой, видели намеки в недавних интервью Сутскевера о исследованиях OpenAI, что он мог предвидеть прорыв, вызывающий опасения в плане безопасности. Газета The New York Times сообщила, со ссылкой на источники, что Сутскевер начал беспокоиться о том, что технология OpenAI может быть опасной, и считал, что Альтман должен быть более осмотрителен.
Однако в понедельник эти теории, казалось, также были опровергнуты. В сообщении в ранние утренние часы, новый исполняющий обязанности генерального директора совета, Эмметт Шир, написал, что перед тем, как принять работу, он спросил, почему Альтман был уволен.
"Совет не удалил Сэма из-за каких-либо конкретных разногласий по вопросам безопасности", - написал он. "Их мотивация была совершенно иной".
Шир не предоставил никакой информации о том, какова была эта мотивация.
Сам Сутскевер затем, кажется, опроверг возможность того, что он и совет действовали из-за опасений, что Альтман не достаточно заботится о технологии OpenAI, когда его имя появилось среди почти 500 сотрудников, подписавших письмо, угрожающее уволиться, если Альтман не будет восстановлен. В течение нескольких часов 95 процентов сотрудников компании присоединились к письму.
Сутскевер также написал, что глубоко сожалеет о своей роли в действиях совета, снова кажется отрицая идею о его серьезных опасениях в отношении безопасности.
"Я глубоко сожалею о своем участии в действиях совета. Я никогда не хотел причинить вред OpenAI. Я люблю все, что мы вместе построили, и сделаю все возможное, чтобы объединить компанию", - написал он.
Продолжающаяся загадка
Поздно в понедельник генеральный директор Microsoft Сатья Наделл, чья компания обязалась вложить более 10 миллиардов долларов в OpenAI, заявил, что он также в неведении относительно мотивов совета директоров при принятии решения против Альтмана. В интервью на телеканале Bloomberg он сказал, что никто из членов совета OpenAI не сообщал ему о каких-либо проблемах.
"Поэтому я остаюсь уверенным в Сэме и его лидерстве и способностях, и вот почему мы хотим приветствовать его в Microsoft", - сказал он.
Поздно в понедельник, на четвертый день событий в OpenAI, оригинальная причина решения совета уволить Альтмана остается неясной.
До своего отстранения с поста генерального директора, Альтман был членом совета OpenAI вместе с Брокманом, Сутскевером и троими внешними участниками:
- Адамом Д'Анджело, генеральным директором Quora, у которого есть собственный чат-бот Poe, разработанный частично на технологии OpenAI;
- Ташей Макколи, генеральным директором GeoSim Systems;
- и Хелен Тонер, экспертом по искусственному интеллекту и внешним отношениям в Центре по вопросам безопасности и новых технологий Университета Джорджтауна. Макколи является членом британского совета Effective Ventures, организации, связанной с эффективным альтруизмом, а Тонер ранее работала в американской организации Open Philanthropy, занимающейся эффективным альтруизмом.
Альтман и его сооснователи создали OpenAI как некоммерческую организацию, противовес корпоративным лабораториям разработки искусственного интеллекта. Создав коммерческое подразделение для привлечения коммерческих инвесторов в 2019 году и запустив ChatGPT почти год назад, он наблюдал за его трансформацией из интересной исследовательской лаборатории в компанию, которая конкурирует не только научно, но и на рынке с Google и другими гигантами.
В начале этого месяца Альтман завершил эту трансформацию, организовав первую конференцию разработчиков компании, на которой он объявил о своего рода магазине приложений для чат-ботов. Где-то на этом пути, совет, по-видимому, увидел причину для беспокойства и решил действовать.
