26-го января 2020-го года мы праздновали день рождения моей жены. Мой друг Олег, только что вернувшийся из деловой поездки в Китай, жаловался, что его жена не пускает домой из-за какого-то нового вируса. Мы про этот новый вирус, конечно, уже слышали, но всёравно звучало смешно.

Меньше чем через два месяца, 18-го марта, я (известный среди друзей как вечный параноик и душнила со склонностью к большим преувеличениям) создал в Телеграме группу «Паникуем вместе», где постепенно набралось около 30 друзей и знакомых, с которыми мы вскоре начали обмениваться десятками, а иногда и сотнями сообщений в день. Только что проверил: последнее сообщение было написано в прошлом году.

На днях, разговаривая с одним из участников той самой группы, я в очередной раз, пеняя на то, что мы все (в том числе и я сам) в разной степени до конца недооцениваем значимость того, что происходит вокруг нас прямо сейчас, сказал ему буквально следующее: «Мне кажется, пора возрождать нашу группу — паниковать уже точно есть из-за чего».

Уже тогда в одной из вкладок моего Safari был открыт рассказ о возможном развитии событий в мире в ближайшие несколько лет.

Один из его авторов, Дэниел Кокотайло, в 2021 году подготовил небольшой прогноз, в котором предсказаны появление чат-ботов, развитие подхода «цепочки рассуждений», масштабные ограничения на экспорт чипов для ИИ и тренировки моделей стоимостью около 100 миллионов долларов. Другой автор, Эли Лифланд, занимает первое место в рейтинге прогнозистов RAND.

Отчёт огромен, но я сегодня его всё-таки прочитал. Со всеми сносками и вкладками. Было захватывающе страшно. В частности, он включает такие моменты, как:

- Создание внутреннего агента-исследователя.
- Похищение лучших агентов Китаем (2027).
- Создание агентами ещё более мощных агентов.
- Бессилие ведущих исследователей перед агентами.
- Появление долгосрочных планов у агентов.
- Передача всех компьютерных ресурсов в США в руки одного игрока.
- Создание различных видов нового оружия (например, микродронов, инфицирующих людей).
- Расхождение целей человечества и ИИ.
- Ну и, конечно же, уничтожение всего человечества как мешающего элемента (начало 2030-х годов).

В статье также отлично раскрыт другой важный момент, о котором я много говорю: ведущие игроки в области ИИ уже сейчас обладают своими уникальными инструментами, которые недоступны широкой публике и дают им принципиально иные возможности (читай конкурентные преимущемства) - в том числе и за счёт меньшей степени алайнмента

Да, ну и, конечно, маленькая ремарка: пока нас не уничтожили, самой крутой профессией будет консультант по использованию технологий ИИ для бизнеса.

Так что, будем паниковать? Краткое содержание и выводы на русском в картинках. Полный отчет на сайте, так же выложу PDF в комментарии.

Сергей Булаев AI 🤖 - об AI и не только