OpenAI: Уход Яна Лейке или хроника надвигающейся катастрофы.

Кажется, начинается второй сезон саги об OpenAI. 🍿
Назревает не просто корпоративный скандал - выглядит как симптом глобальной проблемы, которая может иметь катастрофические последствия для всего человечества.

Давайте вспомним хронологию событий, чтобы понять масштаб.

Ноябрь 2023:
Завершение обучения GPT-5. Слухи о загадочном проекте Q*.
Команда по безопасности предлагает приостановить разработку и уничтожить результаты труда.
Илья Суцкевер пытается сместить Сэма Альтмана с поста генерального директора.

Декабрь 2023:
Бизнес-интересы берут верх. Несогласных вытесняют из совета директоров.
Илья Суцкевер публикует твит с намеком на неблагоприятную атмосферу в компании: "

побои будут продолжаться, пока не улучшится мораль

2024 год:
Март: Sam Altman в интервью Lex Fridman заявляет, что GPT-5 появится в середине лета или конце года.

Апрель-май: Новые релизы моделей Google, OpenAi.
+ наш дружный разнос безопасности дырявого Gemini 1.5-Pro (который как мне сказали долетел-таки до людей из Гугла 🤫)

15 мая: Илья Суцкевер покидает OpenAI, сделав Copy Past сообщения, которое ему написали юристы. Единственное, что он смог сделать, это одеть футболку с очень интересным посылом о явном несогласии с происходящим.

💣16 мая (вчера):
Внезапно уходит Ян Лейке, глава команды супер выравнивания, которая отвечает за безопасность новых моделей ИИ в OpenAI.

При этом он не постеснялся написать о своем явном несогласии с тем, что происходит в компании.

Он утверждает, что OpenAI отошла от изначальной цели - стать компанией, где безопасность ИИ стоит на первом месте. Вместо этого, по его словам, руководство OpenAI сейчас ставит во главу угла скорость разработки и коммерческий успех, жертвуя безопасностью.

Лейке пишет, что сама по себе разработка ИИ, превосходящего человеческий интеллект, КРАЙНЕ опасна.
Он призывает OpenAI пересмотреть свои приоритеты и сфокусироваться на безопасности, уделить больше внимания "супер выравниванию" - исследовательской области, которая занимается разработкой методов контроля над сверхразумным ИИ.

Все последнее время их команда по безопасности двигалась против ветра внутри Open Ai, им всячески мешали и ограничивали в ресурсах.

Почему это важно?
Лейке - один из ведущих мировых экспертов по безопасности ИИ.
Теперь я реально начинаю переживать.

❗️Его слова подтверждают мои опасения, что гонка вооружений в области ИИ выходит из-под контроля. Компании, стремясь к лидерству, явно пренебрегают безопасностью.

Альтман в осаде
Уход Лейке - это громкий хлопок дверью, который не может остаться без ответа. Альтман, оказавшись под перекрестным огнём критики, вынужден реагировать.

Его первый ответ в твиттере сегодня выглядит скорее как попытка выиграть время:
"Я благодарен Яну бла бла бла… в ближайшие пару дней напишу большой пост (или юристы напишут)"



Как же классно, что есть X (Twitter), где можно наблюдать за всем этим в real-time 😅
Ждём ответа, жарим поп-корн..

⁉️ Как вы думаете, какова вероятность того, что государственные органы уже имеют доступ к внутренней информации OpenAI и влияют на решения руководства?