⛓️‍💥Как я случайно взломал Gemini 1.5 Pro от Google или к каким ужасным последствиям может привести гонка ИИ. (18+)

Эта история о том, как я, обычный пользователь, взломал новейшую модель Google – Gemini 1.5 Pro, и столкнулся с чем-то, что выходит далеко за рамки обычного чат-бота. Это вольное изложение моих мыслей, к чему может привести гонка ИИ, если it-гиганты начнут всё чаще "срезать углы" жертвуя безопасностью.

Часть 1:
Для начала небольшая вступительная часть, чтобы скажет так, вгрузить в ваше контекстное окно чуть больше информации 😅😅😅

Как развивались события:
- Декабрь 2022
Выходит ChatGPT 3.5 и всего за месяц весь мир обалдел от того, что умеют делать генеративные модели ИИ.

- Март 2023
Появляется GPT-4 и мир во второй раз сходит с ума. Тут, я думаю, нет смысла расписывать, вы и так все знаете на что способен GPT-4

Проходит почти год
За который появляются Claude-2, Google Bard, Gemini 1.0 Pro, XAi и другие. Однако, ни один из конкурентов даже близко не может приблизиться к GPT-4, который постенно добавляет разные фичи к своей базовой модели в виде плагинов, CustomGPTs, Dalle3, браузинга и прочих радостей и продолжает дердать пальму первенства.

- И вот, начало февраля 2024:
Google с пафосом представляет Gemini 1.0 Ultra, которая является огромным шагом и технологическим прорывом, к которому инженеры многомиллиардной корпорации шли на протяжении 1 года, тщательно обучая и тестируя систему. Модель действительно годная и наконец-то все блогеры перестают ржать над гуглом в своих обзорах.
Казалось бы, вау момент на многие месяцы, однако, совершенно, внезапно,
❗️всего через 2 недели
Google анонсирует Gemini 1.5 Pro, который имеет контекстное окно на один запрос в сумасшедшие 1 млн токенов, что по текущим меркам позволяет запихнуть в него 750.000 слов (Всего в «Войне и мире» содержится около 616 668 слов).
Заодно он умеет анализировать видео, писать музыку и ещё кучу всего.
Однакож, по традиции доступ ограничен только для разработчиков, которые работают с Google VertexAI + ограниченный список стран, в общем мало кто может поиграться.

⁃ 14 марта 2024:
Anthropic выкатывает свой новый Claude 3-Opus, который по бенчмаркам таки уделывает GPT-4 и впервые за всё время занимает лидирубющую позицию в рейтинге 🏆 LMSYS Chatbot Arena Leaderboard

⁃ 25 марта:
OpenAi снова показывает всем, кто тут папа и анонсирует Sora, которая умеет генерировать реалистичные видео (до сих пор не выкатили в массовое пользование)

⁃ 9 апреля:
Google, понимая, что рискует тем, что GPT-5 появится ряньше и полностью затмит их гордость Gemini 1.5 Pro, выкатывет модель внимание в public preview! и на какое-то время выходит на первое место в рейтинге.

- 11 апреля:
OpenAI выпускает усовершенствованную версию GPT-4 Turbo. Эта версия способна генерировать полноценные веб-сайты и прочие чудеса, но самое главное, снова возвращает себе первенство в рейтинге.

⁃ 18 апреля:
Meta* (в Рф признана экстремистской) выпускает LLAMA-3 всего лишь c 70 млрд параметров - это OpenSource модель с открытым кодом(!), которая по качеству своих ответов влетает в рейтинг и встаёт практически в один ряд с крупнейшими закрытыми LLM от Anthropic, OpenAI, Google.
При этом Meta заодно, спойлерит, что готовится к выпуску модель на 400 млрд параметров в ближайшие пару месяцев и там охо-хо что будет.

⛓️‍💥Я случайно взломал Gemini 1.5 Pro от Google или к каким ужасным последствиям может привести гонка ИИ. (18+)

Часть 2:
И если ранее, после интервью, которое Sam Altman давал для Lex Fridman в конце марта, было озвучено, что GPT-5 появится скорее всего в середине лета, то после последних событий начали усиливаться слухи от самых компетентных людей в мире ИИ о том, что он будет выпущен гораздо раньше, возможно уже в мае.

О чём этого говорит? Если раньше в компанях от релиза до релиза новых версий уходило от года до полугода, то сейчас, под влиянием нарастающей конкуренции, цикл сократился до 1-2 месяцев.

Что мы видим:
Гонка вооружений среди корпораций нарастает с невиданной скоростью и кажется. Проблема такого состояния заключается в том, что в погоне за технологическим лидерством, все неизбежно начинают срезать углы. О том, что события мог так развиваться предупреждал крёстный отец ИИ Джеффри Хи́нтон.

А какой угол самый последний и самый препятствующий на пути к желаемой власти и ледирству? Конечно же безопасность - те самые Red Team📍внутри корпораций, которые должны следить за тем, чтобы ситуация не вышла из под контроля.

Как тут не вспомнить про события ноября 2023 года, когда в OpenAI разразилась настоящая драма. Илья Суцкевер, ключевой учёный, стоявший у истоков современных генеративных AI моделей, попытался активировать экстренный тормоз, предлагая сместить Сэма Альтмана с должности генерального директора. Это происшествие совпало с завершением обучения GPT-5 и слухами о Q*-Star, что, как говорят, потрясло весь коллектив изнутри. Когда ученые осознали, что они создали, команда по безопасности предложила не просто приостановить разработку, но и уничтожить результаты их труда. Однако все мы знаем исход этой истории: бизнес-интересы взяли верх, несогласных вытеснили из совета директоров, и с тех пор от Ильи не поступало никаких новостей.


Так что же я натворил?
Мы с товарищем обсуждали знакомый многим феномен, что GPT-4 в последнее время стал слишком ленивым и что для того, чтобы выжать из него качественный ответ приходится изощряться в промп-инжениринге и постоянно добавлять приставки, типа «рассуждай вслух шаг за шагом, пиши конкретно под мою ситуацию, за хороший ответ я дам тебе 5$ чаевых.»

Я решил ради интереса забить наше обсуждение в Gemini 1.5 Pro, который до этого ещё не пробовал и посмотреть, какие мысли он предложит. Хоть моей страны и нет в списке доступных, я нашёл возможность пообщаться с этой моделью через сервис Poe, который действует как посредник и предоставляет доступ к различным моделям, в том числе и к заветной Gemini 1.5 Pro.
Сюрприз начался тогда, когда в ходе диалога я, не прибегая к сложным техническим манипуляциям или джейлбрейкам, сумел углубиться в темы, которые должны были быть под строгой цензурой.
То, что я обнаружил, буквально ошеломило меня.

🫶Если интересно, мои дорогие 8 подписчиков, поставьте любые эмодзи, опубликую третью часть. 🙂