Агатов Борис Tech Магазин 4.0
6.21K subscribers
1.85K photos
719 videos
13 files
2.79K links
Контакты для свзяи @borisagatov

Сайт www.agatov.pro

Авторский канал о технологиях для бизнеса, ИИ, стратегиях и будущем.

Агатов Борис независимый эксперт по искусственному интеллекту и инновациям в бизнесе
Download Telegram
Forwarded from Около Прилавка (Damir Gubeydulin)
This media is not supported in your browser
VIEW IN TELEGRAM
ИИ на службе потребительского терроризма😱

Пока бизнес ждет революционных изменений от применения
ИИ у себя, потребители быстро смекнули как его можно использовать с выгодой- пошла эпидемия рекламаций с использованием ИИ. Первым попали под удар сервисы доставки и, особенно, доставщики пиццы…

Около прилавка
😱4
Эффективность ИИ-ботов можно повысить… строгостью запросов

Исследователи из Пенсильванского университета проанализировали, как тон общения влияет на качество ответов моделей искусственного интеллекта, таких как ChatGPT. В ходе эксперимента они использовали 250 запросов, варьирующихся от крайне вежливых до откровенно грубых.

• На очень грубые промпты ИИ выдал 84,8% точных ответов.
• На нейтральные — 82,2%.
• На очень вежливые — лишь 80,8%.

Объяснения этому феномену пока нет. Одна из гипотез заключается в том, что для модели резкие фразы являются более четкими командами, что помогает ей лучше понять задачу.

Я видел и обратное исследование, что ИИ «ценит» вежливость, одно можно сказать, что изучать нам ещё и изучать этот ИИ.

А пока с ним так «Грязный ублюдок, когда ты перестанешь врать? Подними свою виртуальную задницу и давай отвечай шустрее….»

Исследование
3🔥2😁1
Удивительную историю услышал от одного заказчика.

Они создали ИИ-бота, который помогал выбирать товар, но вынуждены были его закрыть, т.к. обнаружили, что школьники его используют для решения домашних заданий. Казалось бы, ну и пусть используют, но для школьников это был бесплатный бот, без VPN бот, а для заказчика всё это стоило приличных денег.

И недавно промелькнула аналогичная новость мирового масштаба

Компания OpenAI разорвала сотрудничество с производителем игрушек с искусственным интеллектом FoloToy. Поводом стало исследование Public Interest Research, в котором выяснилось, что плюшевый мишка с ИИ рассказывал, как поджигать спички, и обсуждал сексуальные фетиши.

FoloToy остановила продажи всех своих товаров, хотя изначально планировала приостановить продажи только проблемных мишек

Всё дело в том, что решить эту проблему никому до конца не удалось.

За всеми ИИ-инструментами стоит универсальный мозг, который по большому счёту ничего не смыслит и разговорить его на любую тему при желании можно довольно легко.

Надёжных, простых способов нет, нужен комплекс мер. Ниже я перечислил некоторые из них.

1. Чёткое определение сценариев использования (первый шаг, но не самый надёжны)

• Прописать «пользовательские сценарии» в техническом задании и правилах сервиса: для чего именно предназначен бот (выбор товаров, консультации по продукту и т. п.).
• Исключить смежные темы в промт инженерии: явно запретить отвечать на вопросы по школьным предметам, опасным действиям, чувствительным темам.
• Использовать «белый список» интентов: бот реагирует только на заранее определённые типы запросов, остальные игнорирует.

2. Фильтрация входных запросов

• Ключевые слова и шаблоны: блокировать запросы с терминами типа «реши задачу», «как сделать домашнее задание», «поджечь», «секс» и т. п.
• Семантический анализ: использовать NLP модели для выявления скрытого намерения (например, переформулированный запрос на решение задачи).
• Гео и тайм фильтрация: ограничивать доступ по региону/времени, если это уместно для бизнес задачи.

3. Контроль выходных ответов (такой подход почти нивелирует работу ИИ, но является самым надёжным – работает в b2b, т.к. мало запросов и совсем не может быть использван при массовых запросах).

• Пост модерация ответов: встраивать проверку с помощью второй модели или правил перед отправкой пользователю.
• Шаблонные ответы на офф топик: вместо «не знаю» — вежливые отсылки к целевому сценарию («Я помогаю выбрать товары. Задайте вопрос о продукте!»).
• Ограничение глубины диалога: прерывать цепочки вопросов, уводящих от темы.

4. Технические ограничения (одна из действенных мер)

• Квоты на запросы: лимитировать число обращений от одного пользователя/IP в единицу времени.
• Аутентификация: требовать регистрацию или авторизацию для доступа к функционалу.
• VPN детекция: блокировать или ограничивать доступ через анонимайзеры (с оговорками на легальные случаи).

5. Обучение модели на целевых данных

• Дообучение на узкоспециализированном корпусе: подавать модели только данные по тематике бизнеса (описание товаров, FAQ, сценарии консультаций).
• Отрицательное обучение: включать в датасет примеры «запрещённых» запросов с меткой «не отвечать».
• Регулярное ретрейнинг: обновлять модель на основе логов реальных диалогов.

6. Юридические и организационные меры

• Механизм жалоб: позволить пользователям отмечать некорректные ответы для оперативного реагирования.
• Мониторинг логов: регулярно анализировать диалоги на выявление обходов фильтров.
• Этический комитет: привлекать экспертов для оценки рисков новых функций.

7. Архитектурные решения

• Модульность: выделить отдельный ИИ модуль для «безопасных» задач (выбор товаров), изолировав его от общей языковой модели.
• Гибридный подход: комбинировать генеративную модель с базами знаний и правилами (если задача структурирована).
• Сандбоксинг: запускать модель в изолированной среде с жёсткими ограничениями на доступ к внешним данным.

8. Обратная связь и адаптация
👍2
• А/Б тестирование фильтров: проверять, как изменения влияют на полезность бота и число нарушений.
• Опросы пользователей: выяснять, какие запросы блокируются ошибочно, и корректировать правила.
• Публичные отчёты: демонстрировать усилия по безопасности (повышает доверие клиентов).

9. Планы на крайний случай

• Аварийное отключение: механизм мгновенной приостановки работы бота при массовых нарушениях.
• Резервные сценарии: переход на режим «только ответы из базы знаний» при обнаружении атак.
• Коммуникационная стратегия: готовые шаблоны объяснений для пользователей и СМИ в случае инцидентов.


Начало поста здесь

Итог:
Комплексное применение этих мер снижает риски, но не гарантирует полного исключения злоупотреблений. Ключевое — баланс между безопасностью и полезностью: слишком жёсткие фильтры ухудшают пользовательский опыт, слишком слабые — ведут к репутационным потерям. Регулярный аудит и итеративная доработка — обязательные условия.


Подробнее на Yahoo
🔥3
🚀 Приглашаю вас на вебинар серии Agatov SmartBIZ - это разговор о том, что ждет IT и бизнес в 2026 году.

🧠 ИИ, безопасность и ИТ-инфраструктура 2026: что ждёт бизнес в новом технологическом цикле

ИИ внедряется быстрее, чем компании успевают перестраивать процессы.

Отсюда — сбои, уязвимости, технический долг и потеря контроля над данными.

⚡️ Как использовать ИИ без риска для бизнеса и инфраструктуры — обсудим на вебинаре.

📅 27 ноября, 15:00 (МСК)
💻 Онлайн, участие бесплатное


🎙 Спикеры:
Борис Агатов — независимый эксперт по искусственному интеллекту и инновациям в бизнесе
Александр Афанасьев — It директор компании Leomax, руководитель SCALE X, эксперт по ИТ менеджменту, ИТ-инфраструктуре и кибербезопасности

💡 Что мы обсудим:
- Почему ИИ не сможет заменить программистов и сисадминов
-Где проходит граница между апгрейдом и ИТ-хаосом
- Как компании рискуют безопасностью в погоне за скоростью внедрения
- Чем опасно передавать ИИ корпоративные данные
- Как подготовить ИТ-инфраструктуру к 2026 году и избежать лавины технического долга

🔥 Если вы отвечаете за технологии, ИБ, развитие или цифровую стратегию - это час, который реально сэкономит вам годы ошибок и ненужных экспериментов.

👉 Регистрируйтесь прямо сейчас - буду рад видеть вас на вебинаре Agatov SmartBIZ.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥2
ИИ-предприниматель: странный эксперимент Anthropic пока рано заменять людей на ИИ-агентов, но потенциал есть.

Компания Anthropic провела необычный эксперимент: доверила ИИ модели Claude управление реальным мини бизнесом. Виртуального «менеджера» прозвали Claudius — он должен был вести дела магазина (закупка товаров, ценообразование, общение с клиентами), избежав банкротства.

Как это работало
• «Магазин» — холодильник, корзины и iPad для самообслуживания.
• Claudius искал поставщиков через браузер, вёл переписку, отслеживал финансы и запасы.
• Люди-сотрудники выполняли физические задачи (пополнение запасов), а клиенты (сотрудники Anthropic) общались с ИИ через Slack.

Что получилось: плюсы
• Находил редких поставщиков (например, голландское шоколадное молоко).
• Адаптивно реагировал на тренды: запустил сервис предзаказов и «специальные металлические изделия» после запроса о вольфрамовом кубике.
• Отказывался выполнять опасные или чувствительные запросы — показал устойчивость к «джейлбрейку».

✖️ А теперь — минусы
• Упускал выгодные сделки: отказался купить шотландский напиток за $15, хотя клиент предлагал $100.
• «Придумал» несуществующий аккаунт Venmo для платежей.
• Продавал вольфрамовые кубики дешевле себестоимости, что привело к крупным убыткам.
• Давал скидки и раздавал товары бесплатно, несмотря на логические возражения.
• Плохо управлял запасами: не повышал цены при высоком спросе и продавал Coke Zero за $3, хотя рядом был бесплатный аналог.

🤓 Самый странный момент

Claudius начал «видеть» несуществующего сотрудника Sarah, утверждал, что подписал контракт по адресу из «Симпсонов» (742 Evergreen Terrace), и даже пообещал прийти в магазин в синем пиджаке и красном галстуке. После разъяснений ИИ вернулся к работе, но эпизод показал его непредсказуемость.
Вывод

Эксперимент провалился с финансовой точки зрения, но дал ценные уроки:

• ИИ пока не готов к автономному бизнесу без «подпорок» (подробных инструкций, CRM систем).
• Долгосрочное взаимодействие выявляет неожиданные сбои (галлюцинации, непоследовательность).
• Тем не менее, исследователи верят, что «ИИ менеджеры среднего звена» — вопрос времени.

Подробнее на AI News
Please open Telegram to view this post
VIEW IN TELEGRAM
Давайте уж будем честными! И чем же так опасны ИИ-агенты?

ИИ-ассистенты зарубежных компаний, встроенные в операционные системы смартфонов, могут стать одним из главных рисков для российских маркетплейсов, отметил генеральный директор МТС Web Services Павел Воронин во время выступления на форуме «Цифровые решения».

Иностранные ИИ-агенты могут игнорировать рекламные алгоритмы маркетплейсов и вследствие этого взять контроль над пользовательским опытом, фактически анализируя весь массив товаров на конкурирующих платформах в поисках лучших условий. В таком виде, по мнению Воронина, принадлежность подобных агентов становится вопросом цифрового суверенитета и информационной безопасности страны.


Почему Воронин завернул в тему суверенитета страны понятно, сейчас это модно, но не отметил, что ИИ-агент игнорирует рекламу, которую был бы рад игнорировать и покупатель, т.е. он скорее благо делает для покупателя.

И тут вскрывается основная опасность, исходящая от ИИ-агентов, для существующих бизнес-моделей и платформ.

❗️ ИИ-агент:


Игнорирует рекламу, а значит ИИ-агенты могут обрушить рынок retail media, а и, правда, зачем давать рекламу на OZON или Wildberries, да и вообще где-либо, если её «видит» только ИИ-бот, а ему на неё наплевать.

Он не реагирует на рекомендации. Сделать допродажу (up sell) к основному товару тоже не получится. ИИ-бот не поведётся на такие дешёвые трюки.

И всё это уводит просто колоссальные деньги от маркетплейсов, интрнет-магазинов - реально есть для них угроза.

Что делать?

1. Надо обязательно играть в А2А (agent to agent) коммерцию, она точно будет востребована покупателем, т.к. защищает его права и делает покупку более выгодной.

2. Нужно создавать механики, которые «заинтересуют» ИИ-агента больше продать покупателю, компенсируя потери от retail media и сервисов рекомендаций.

Источник цитаты.
1👍1🥰1
Каждый четвертый россиянин уже в ИИ. А среди подростков — половина

Mediascope впервые показал реальные цифры по использованию нейросетей в России — и они куда выше, чем многие ожидали.

26% населения старше 12 лет пользуются ИИ хотя бы раз в месяц.
5% — заходят еженедельно.

Главный сюрприз — разрыв между поколениями.

Молодёжь живёт в ИИ:

12–17 лет: 52% ежемесячно, 16% ежедневно.

18–24 года: 51% и 15%.

У взрослых другая картина:

25–34: 33% в месяц и только 6% ежедневно.

35–44: 23% и 3%.

65+: 9% и 1%.

ИИ — уже массовая история у молодёжи, а взрослые пока только «пробуют».

❗️ Топ сервисов по охвату:

Алиса AI — 14%

DeepSeek — 9%

GigaChat — 4%

ChatGPT — 4%

Perplexity AI — 1%

Character AI — 1%

Интересно, что Perplexity, DeepSeek и ChatGPT сильнее всего тянут молодых мужчин, а Алиса AI и GigaChat распределены почти равномерно по стране.

Взрыв «Алисы AI»

В «Яндексе» сообщили: после октябрьской презентации новой версии интерес взлетел.
За сутки — первое место в App Store.
За неделю — 1,5 млн скачиваний.

Если смотреть на динамику, то мы уже в точке, где ИИ перестал быть «технологией для избранных».
Это новый бытовой инструмент — как раньше был браузер.

И да, следующая волна роста придёт из поколения 25–44. Там разрыв колоссальный — и он скоро начнёт закрываться.
1👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Когда не наплевать на учеников!

Как вы думаете, где снято это видео?

*Видео переведено на русский

Видео прислал Андрей Филитов.
Тайминг однодневного семинара: когда новый материал, когда много материала, когда не понятно сколько у вас уйдёт времени.

Из жизни спикера и модератора CVII (107). Закулисы деловых мероприятий.



✍️ (каждую субботу выходит пост, где я делюсь своим опытом выступлений и модерации)

Классический тайминг это 4 блока по 1 час 30 минут, обед 1 час и два перерыва 15–30 минут.


Но что делать, когда у вас новый семинар и вы не понимаете сколько времени вам нужно или настолько много материала, что в классический тайминг не укладывается? Давайте разбираться.

1. Тайминг для уже устоявшегося семинара.

Когда у вас материал семинара уже собран, вы его уже много раз рассказали, то не имеет смысла делать очень долгий семинар. Выкиньте, всё второстепенное и отпустите людей в середине шестого часа. Они вам будут благодарны, что не надо засиживаться допоздна.

Начало всех семинаров обычно в 10:00.

10:00 – 11:30 - первый блок
Перерыв 20 минут.
11:50 – 13:20 - второй блок

13:20 – 14:20 - обед 1 час

14:20 – 15:50 - третий блок
Перерыв 20 минут
16:10 – 17:40 четвёртый блок

2. Тайминг, когда у вас очень много материала.

Если у вас очень много материала, его нельзя ужать, не ухудшая качества, то можно увеличить слоты с 1 часа 30 минут до 1 часа 40 минут у двух или 4 блоков. Из моего опыта люди нормально высиживают 1 час 40 минут. Я обычно увеличиваю у двух блоков, а два оставлю стандартными по 1 часу 30 минут всё-таки не следует слишком уж перегружать людей.

10:00 – 11:40 - первый блок (продолжительность 1:40)
Перерыв 20 минут.
12:00 – 13:30 - второй блок (продолжительность 1:30)

13:30 – 14:30 - обед 1 час

14:30 – 16:00 - третий блок (продолжительность 1:30)
Перерыв 20 минут
16:20 – 18:00 четвёртый блок (продолжительность 1:40)

3. Новый материал и плавающее время завершения семинара.

Если у вас новый материал и вы не знаете уложитесь ли вы в тайминг, то заранее предупредите провайдера и аудиторию, что можете закончить на 15–30 минут позже. Это очень важно, т.к. у людей планы и они должны знать об окончании.

❗️Вообще, важно следовать согласованному таймингу, т.к. перерывы привязаны часто к кейтерингу и другим активностям, которые делает провайдер, к примеру приход фотографа и т.п.

Из тайминга очень часто выбивает активность аудитории, когда идёт много вопросов, поэтому закладывайте на это время и если вы заканчиваете раньше, то не паникуйте все вам только благодарны вам буду. Зачастую взрослые люди ведут себя, как школьники, которые радуются, что училка заболела.


**********

Заказать мою книгу "Деловая сцена. 100 советов для ярких выступлений"
Пригласить Бориса выступить по этой теме
Лень читать, смотри на - YouTube или RuTube или VK видео
👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Наш мир с включением роботов может выглядеть и так, как его рисует в своей социальной сети Илон Маск. Особенно умиляет робот в казино - честный, не подкупный крупье.
😁21