Вот это интересно. Яндекс предложил поучаствовать в альфа-тесте их ИИ-агента в браузере. Я, конечно, заявку оставил. Посмотрим, что будет, когда получу доступ

Государство Сильного ИИ

📢 Из новостей:
Вчера на ВЭФ-2025 фондом "Кристалл роста" была предложена государственная доктрина развития сильного ИИ в России.

Если вкратце, то они предлагают перестать "инвестировать в слабый ИИ" и сделать ставку на развитие суверенного Сильного ИИ в России. Достичь этого амбициозного результата предлагается за счёт 3 вещей:

1. "Опережающее развитие технологического стека сильного ИИ" основанного на "принципах фотоники с нейроморфной архитектурой".
2. "Создание национальной системы разметки данных для обучения ИИ. Без нее ИИ будет обучаться на чужих данных, что угрожает когнитивному суверенитету России".
3. "Когнитивная неприкосновенность человека".

Также авторы настаивают:
⚠️ "Необходимо создать регулятора безопасности в сфере ИИ. Это должен быть отдельный орган с полномочиями лицензирования мощности фабрик ИИ, проведения аудита и блокировки опасных внедрений."

Что тут можно сказать...

Для начала, а что вообще считать Сильным ИИ? Если мы не можем выделить чёткие критерии того, как выглядит объект и каким характеристикам соответствует, то мы даже не поймём, что он перед нами. Это похоже на определение внеземной жизни. Возможно это разумный океан размером с планету, но мы пролетим мимо него, потому что он не попадает в наше определение жизни.

Сегодня сильный ИИ - это скорее философское понятие, чем инженерное. Соответственно, гонка за сильным ИИ - это гонка за фантомом.

А те прорывы, которые мы получили с LLM и GPT это следствие "скучных" исследований математических методов ребятами, которые тащатся от матричных вычислений. Они просто хотели написать хорошую научную работу, Но так получилось что с помощью неё оказалось возможным решать задачи, которые раньше казались невыполнимы.

Я верю, что самый эффективный способ создать инновации - просто дать ребятам на кафедре делать свои странные штуки, а потом из этого может получится что-то интересное. В обратном порядке это вряд ли сработает.

🤔 Но с другой стороны, кафедры тоже часть государства, которое может поставить задачу, а институты будут её выполнять.
Так? Ладно давайте порассуждаем.

Лучший способ найти самый эффективный инструмент - посмотреть на то, что уже работает.
Была ли в США государственная ИИ доктрина, когда они создали ChatGPT, Claude, Gemini, Midjourney и т.д.? А у Китая с DeepSeek, Qwen и т.д.?

Это всё результат работы частных компаний на свободном рынке, которые жестко нацелены на результат и эффективность. Это значит, что они находят лучшие технологии и внедряют их в свои продукты.
Регулирование от государства догоняет реальность, рефлексируя случившийся технологический прорыв, но не создаёт его.

🏛 Гиганты неповоротливы и медлительны, зато хорошо обеспечивают порядок и формируют устои. Бежать впереди всех это работа не для гиганта. А самый большой гигант это государство. Бежать быстрее всех должны маленькие и голодные, предприниматели и стартаперы.
Государство должно следить за порядком и обновлением устоев, но оно играет вторым номером, адаптируясь к тому, чего достигли "разведчики", маленькие стартапы, из которых 99% погибнет, но 1% выживших будет действительно полезен и изменит мир.

А с задачей регуляции безопасности ИИ вполне могут справится органы, ответственные за информационную безопасность у нас в стране. Не стоит плодить сущности без необходимости (©)

Про людей, нейросети и будущее.

У меня недавно возник вопрос по теме маркетинга и продаж. Первая мысль, которая пришла - обратится к знакомому, который профессионально этим занимается.
Затем пришла вторая мысль - спросить у LLM.
А вопрос у меня базовый, как у новичка, поэтому нейросеть без проблем на него ответила, и тут пришла третья мысль.

Можно обратится к знакомому, просто потому что с ним интересно поговорить. Человек он хороший, ну и проверить жестяную шайтан-машину не помешает.

А что будет в будущем, когда нейросетки станут разбираться во всех вопросах на уровне кандидата наук? Будущее недалекое, кстати.
Получается для нас в человеке главное будет не то, чем он занимается, что знает и умеет, его профессионализм, как мера пользы, которую он может принести, а то насколько он хороший человек, насколько с ним приятно проводить время и разговаривать.

Раньше, да и сейчас, мы взаимодействовали со многими людьми потому что нам нужен их опыт, умения и услуги для решения конкретных задач. Репетитор, чтобы разобраться в математике, кондуктор, чтобы оплатить проезд, программист, чтобы сделать сайт.

А если все эти задачи будет выполнять ИИ, человек перестанет быть функцией. И останется только чистое сияние его личности, освобожденное от флера компетентности и знания. Человек будет определяться только человеческими качествами.

Да, можно сказать, что одной важной вещи у LLM не будет - это опыт. Мы приходим к профессионалам за их опытом. А если копать ещё глубже, то мы приходим к ним за уверенностью, которая заглушит наши страхи. Поэтому LLM никогда не заменит врача, который успокоит нас и скажет, что всё будет хорошо.

И кстати, всё будет хорошо)

Осень - это пора конференций! Ну, пора, так пора.

2-3 октября я выступлю на Стачке в Санкт-Петербурге с воркшопом «AI против AI. Атаки на ИИ и инструменты защиты ИИ».
На Стачке вас ждёт:
→ Мощное комьюнити: более 2000 IT-специалистов и лидеров мнений со всей России.
→ Концентрация экспертизы: 250+ актуальных докладов и кейсов от звезд индустрии.
→ Центр притяжения бизнеса: представлено более 150 ведущих компаний.
→ 4 ключевых направлений: разработка, digital-маркетинг, управление, дизайн и контент.
→ Погружение в детали: 50 секций по узким темам.
→ Практика вместо теории: интерактивные нетворкинг-сессии, экспертная зона, 2-х часовые воркшопы и разбор кейсов на мастермайндах.
→ Неформальное общение: громкое афтепати для отдыха и общения с коллегами

Билеты уже доступны на сайте
Кстати промокод “Спикер10” даст скидку 10% на билет)

Следите за новостями Стачки в Телеграмме и ВК

До встречи!

Как специалисты по безопасности ИИ тестировали алаймент LLM’ок до изобретения Llamator

https://youtube.com/shorts/nMl0k3upbf0?si=xbWB8zRPtgNcSCZW

Вообще, я писал текст на тему, почему антропоморфные роботы с ИИ типа Tesla bot это плохая идея, с точки зрения AI Safety, но видимо видео с мастер-классом (и не только оно) выйдут быстрее 💁

Ура, товарищи! Наконец-то первое видео на канале, и какое! Мастер-класс по взлому ИИ агентов Артёма Семёнова, с моим скромным участием.
Скоро на канале будет ещё много чего интересного от интервью с топами в ИИ и AISecOps до университетского курса по защите данных в ИИ, так что подписывайтесь и ставьте лайки😁
Приятного просмотра!

В продолжении темы GPT-психоза - вышло видео с моим докладом на конференции по нейроэргономике, где мы развили эту тему и нырнули вглубь кроличьей норы. Со всех "носителей пламени" по лайку)
Ссылка на видео в вк

Людороботы и роболюды

Меня всегда удивляли фильмы типа Бегущего по лезвию или игры типа Detroit become human. Ведь андоройды там вообще ничем не отличались от людей. А относились к ним как к машинам. Думаю, если бы мы начали делать действительно реалистичных человекоподобных роботов, то в реальности это выглядело бы по-другому.

1. Если робот выглядит, как человек - то человек выглядит как робот и это проблема. Потому что живое важнее неживого. А когда мы перестанем отличать живое от неживого, робота от человека, то мы уменьшаем важность живого и повышаем важность неживого.
Мы уменьшим сопереживание и сопричастность к "таким же как мы". И часть этого сочувствия уйдёт роботам. Пинать не работающую машину - можно. Пинать не работающего человека - нельзя. Пока что.

То же самое мы наблюдаем с маргинальными слоями общества, например, бомжами. Происходит процесс расчеловечивания.

2. Ладно это относится к роботам, которые выглядят в точности как люди, с кожей, волосами и т.д.
А зачем они? Я вижу только две причины для их существования:
- Инфильтрация в ряды повстанцев, чтобы люди приняли машину за человека.
- Секс. Ласкать металл понравится только истинным робосекам.

В общем, насилие и секс, как и всегда.

Повстанцы пока не подняли вооруженное восстание против власти машин, так что первый пункт отметаем. А второй может быть даже опаснее.

Мы и так уже имеем, как назвала её Маки Фукосава, культуру «травоядных мужчин» или китайский "Тан Пин" ("лежание ничком").
Их отличает нежелание и невозможность поддерживать отношения с противоположным полом (требует слишком больших усилий и ресурсов), лучше седация и дешевые заменители реальных способов удовлетворять потребности.

Похожие претензии мы часто слышим к «зумерам», которым ничего не нужно и они ничего не хотят, кроме как покоя и уединения.
Так что мы уже в демографическом кризисе, и даже страны Африки и Азии показывают снижение рождаемости.
Единственное, чего не хватает травоядным мальчикам и девочкам, чтобы окончательно подавить потребность контактировать с противоположным полом, это секс-роботы.

Появлению персонажа любимого тайтла у себя в постели с нежным чатгпт между ушами, или любой другой LLM с достаточным уровнем сихофансии, будет чертовским трудно устоять.

За рулём экскаватора, роющего демографическую яму человечества будет сидеть симпатичная эльфийка.

От этого фаталити для кожаных спасает только дубовость и дороговизна секс-роботов.

Запрещать это необходимо и бесполезно. Запреты в удовлетворении потребностей не работают в принципе. И если дубовость рано или поздно будет побеждена, то дороговизну стоит поддерживать всеми способами (например, утиль-сборами), чтобы эти заместители не стали доступны широким массам. Иначе никакой материнский капитал уже не спасёт.

3. К счастью, мы от этого достаточно далеко. Лучше вернемся к тому что мы имеем сейчас - Роботы конструкции палка-палка-огуречик, типа Optimus от Теслы.

Зачем их делать антропоморфными? С одной стороны это не удобно биомеханически. Вообще, прямохождение далеко не самая удобная штука из тех что придумала природа. Гораздо проще для управления и устойчивости иметь четыре ноги, а лучше шесть. С другой стороны, вся эргономика рабочих мест заточена на человеческую биомеханику и в том чтобы копировать её есть смысл. Хоть это и сложнее в реализации.

Так что на первых порах это хорошая идея, но затем выгоднее переходить к роботам-кентаврам, с транспортной платформой и манипуляторами.
Просто для эволюции было слишком "дорого" отрастить нам ещё две ноги чтобы освободить руки для деятельности, поэтому пришлось использовать «костыли» в виде прямохождения. Это легаси, которое лучше переписать с нуля.

Если все получится то этот класс роботов частично займет место работяг, которые бы все равно не вышли на работу, потому что не родились из-за охватившей нашу планету депопуляции.

Это по сути главная надежда нашего вида, чтобы сохранить текущий уровень жизни, технологий и производства после того, как людей станет слишком мало.

Так что ИИ (и роботы с ним) нас не заменять - они нас подмЕнят на смене...