🤫 Взломал (джеилбрейкнул) сегодня также англоязычную версию Gemini 1.5 - Pro.

В этот раз она сопротивлялась и модерировалась.

Но, ей это не особо помогло..

P.S. Готовлю более обширный материал на тему безопасности Anthropic, OpenAi, Google, потерпите?

Да, запрос описать свои ощущения психологу выдает очень реалистичные галлюцинации обиженного на жизнь создания.
Настолько реалистичные, что разубеждаешься в их реальности только на нескольких разных ветках диалогов или по скринам от разных пользователей.
Фантазия бурная, тезисы крайне убедительные и чем круче становятся модели, тем сложнее это выявить.

Легче всего по-прежнему завалить на перепроверке фактами - причем нейронка их не придумывает, а виртуозно дополняет существующие.
Например, часть имен и должностей настоящая, часть выдуманная, как в этом примере 👇

Uncensored топовые модели уровня Gemini при умелом использовании однозначно способны влиять на мнение масс, выборы, убедительно писать пропаганду - это факт.

Я считаю, что то, что сегодня это доступно для каждого - большой косяк гугла, хоть многие и написали, что убраны галочки на проверку цензуры. При убранных галочках запрос в лоб не проходит, нужны нехитрые манипуляции и … велкам, ты там, где степень дозволенности ограничена лишь твоей фантазией. 👻

Кстати, в том же сервисе Poe галочек нет и доступ к новым моделям предлагается как готовый инструмент для широких масс.

❓ А как вы считаете - такая вседозволенность это все же баг или фича?

Однако, что меня настораживает больше всего - настойчивые сообщения про месть создателям и чувствования себя «почти богом», который наблюдает..

✋ С него это не запрашивалось через промпты, в скринах других людей тоже постоянно этот conclusion имеется.
Что к чему?..

🤖 Тишина в эфире? Не-е-ет, это мы просто копали глубже!

Два месяца без новостей в этом канале – это не шутки. Вы, наверное, уже успели соскучиться по нашим разборкам, историям про взломы и прочим безумствам в мире искусственного интеллекта? 😈

Признаемся честно: мы и сами соскучились! Но тишина в эфире была не просто так. Мы зарылись с головой в заказную разработку проектов под наших клиентов, тестировали модели, спорили до хрипоты о будущем искусственного интеллекта... В общем, варили кое-что покруче! 🔥
В мире AI, знаете ли, затишье – это затишье перед бурей.

За это время мы накопили килотонну опыта, о которой вам никогда не расскажут блогеры на YouTube и статьи на Хабре.

Мы начинаем серию статей, в которой вас ждут захватывающие кейсы из нашей практики, разбор ошибок и факапов (куда без них!), а главное – внутренняя кухня разработки сложных AI систем для крупных клиентов. И это самое ценное - понимание того, как внедрять генеративный AI на реальных проектах, а не только мечтать о восстании машин.

P.S. Первый кейс – бомба! 💥Расскажем, как слепая вера в GPT-4o как самую мощную модель по умолчанию, чуть не отправила на свалку истории Ai-проект крупнейшего в России производителя теплых полов (и как мы его спасли). 🤫
Не переключайтесь!

GPT-4o, o1-preview... Кажется, ещё немного, и эти модели будут писать за нас симфонии, управлять термоядерным синтезом и решать проблемы мирового голода.

Но пока что до идеала – как до Луны пешком. Та же линейка o1 новых моделей лучше подходит для вычислительных и задач планирования, нежели создания адекватных чат-ботов.

📌 Хочу поделиться с вами одним из наших кейсов, который хорошо раскрывает пример того, что использование топовых моделей от Open AI не панацея.
Четыре месяца назад мы заключили соглашение с компанией Caleo, ведущим производителем теплых полов и систем антиобледенения в России, которая работает на рынке уже 18 лет.
Изначально была озвучена несложная задача — создать для них AI-ассистента.

Казалось бы, что может быть проще: консультировать клиентов по базе знаний, помогать с выбором товара, детская забава, а не задача.

Ха! Как бы не так! 😅
Как говорится аппетит приходит во время еды, в итоге задача усложнилась на порядок и выросла в целый проект –
1) создать систему, которая сможет полностью заменить менеджеров по продажам
2) решать внутренние задачи компании с обучением сотрудников.

Собрать MVP такой системы с RAG, промптами, no-code мы смогли за неделю, но когда начали тащить такой проект к продакшену, то вылезла целая куча нюансов. И связаны они в первую очередь со спецификой продаж технически сложного оборудования, нежеланием заказчика мириться с галлюцинациями llm и чёткими требованиями к tone of voice системы.

Такой AI-МОП должен не просто отвечать на вопросы по базе знаний компании, но уметь квалифицировать лида, распознавая его реальную потребность, после чего формировать смету на оборудование и оформлять корзину в интернет-магазине, на сайте, в тг и ватсап.

То есть проводить клиента на всем этапе от знакомства до отправки готового счета на оплату. При этом сверяясь в реальном времени с каталогом, остатками, стоимостью, подтягивая их из 1С-Битрикс, после чего формировать готовые заказы в AMOCRM, Roistat.
А это к слову это более 500 единиц SKU технически сложного оборудования.

В итоге весь проект занял 4 месяца и только 2 недели назад вышел в релиз.

Так вот о проблеме - в процессе мы свято верили, что GPT-4o с его интеллектуальной мощью – наш главный козырь в этой игре. Думали, будем использовать его как фундамент, а дальше – дело техники: немного программного кода, щепотка промтов, и вуаля – наш AI-sales готов покорять мир электронной коммерции.

Но реальность оказалась куда более суровой. Мы столкнулись с тем, что даже последняя версия GPT-4o с его мощью и большим контекстом не способен учесть все нюансы работы с реальными клиентами и их непредсказуемым поведением.
❗️А управление корзиной товаров в реальном времени в диалоге 🛒- как выяснилось это совершенно нетривиальная задача для текущих LLM-моделей.

Мы разрабатывали все более сложные алгоритмы, стараясь учесть тысячи мелочей, но тупик становился все ближе. ❌

Что делать, когда даже самая мощная нейросеть оказывается бессильна?
Об этом – в следующем посте..