Менеджерам в стартапах посвящается:

My experience is that only writing software can build a truly effective understanding of unreasonable software, and that most startup software is unreasonable due to its origin of being iteratively designed by a shifting cast of characters with an evolving understanding of the domain they are modeling.

Кстати, книжка которая вдохновила создателя C++
https://store.artlebedev.ru/books/yazyk-shablonov-2022/

Уххх

https://arxiv.org/abs/2510.26493

Инженерия контекста - парадигмальная статья от китайских исследователей из Шанхая и других университетов. Context Engineering 2.0:
The Context of Context Engineering. Начинается вообще круто, с Карла Маркса!

Карл Маркс однажды написал, что «сущность человека – это совокупность социальных отношений», предполагая, что индивиды не являются изолированными сущностями, а в своей основе формируются взаимодействием с другими сущностями, в рамках которого контексты играют определяющую и существенную роль. С появлением компьютеров и искусственного интеллекта эти контексты больше не ограничиваются исключительно взаимодействием человека с человеком: сюда также входит взаимодействие человека с машиной. Возникает центральный вопрос: как машины могут лучше понимать наши ситуации и цели? Для решения этой проблемы исследователи недавно ввели концепцию контекстной инженерии. Хотя её часто считают недавним нововведением эпохи агентов, мы утверждаем, что подобные практики существуют уже более двадцати лет. С начала 1990-х годов эта область развития прошла через различные исторические этапы, каждый из которых определялся уровнем интеллекта машин: от ранних фреймворков взаимодействия человека с компьютером, построенных на примитивных компьютерах, до современных парадигм взаимодействия человека с агентом, управляемых интеллектуальными агентами, и, возможно, до интеллекта человеческого или сверхчеловеческого уровня в будущем. В данной статье мы рассматриваем контекстную инженерию, даём её систематическое определение, описываем её исторический и концептуальный ландшафт, а также рассматриваем ключевые аспекты проектирования, которые необходимо учитывать при разработке на практике.

Определение 1 (Сущность и характеристика). Пусть
E — пространство всех сущностей (пользователей, приложений, объектов, окружений и т.д.),
F — пространство всей возможной характеризующей информации.
Через P(F) обозначим булеан (множество всех подмножеств) множества F.
Для любой сущности e ∈ E определим функцию ситуационной характеристики:
Char : E → P(F)  (1)
где Char(e) возвращает множество информации, характеризующей сущность e.
Простое объяснение (что это значит на человеческом языке)
Это базовое математическое определение из какой-то научной статьи (скорее всего, по информационной безопасности, контекстно-зависимому доступу или AI-сafety).

Представьте, что у вас есть огромный мир, в котором существуют самые разные «вещи»:
люди (пользователи),
программы,
файлы,
комнаты,
устройства,
даже целые здания или виртуальные миры.
Все эти «вещи» автор называет сущностями (entities) и собирает их в одно большое множество E.

У каждой такой сущности есть куча информации, которая её описывает в данный момент:
кто сейчас вошёл в систему,
где находится человек,
в каком состоянии устройство,
какой у пользователя уровень доступа,
какой сейчас день недели, время суток и т.д.

Например, когда пользователь вводит в Gemini CLI¹ команду «Search related documentation for me», множество релевантных сущностей может включать: самого пользователя, приложение Gemini CLI, терминальную среду, внешние инструменты, модули памяти и backend-сервисы модели.
В этом случае функция Char(e) может описывать:
пользователя (например, введённый промпт, его предпочтения, история запросов),
приложение (например, системные инструкции, конфигурация Gemini CLI),
среду выполнения (например, текущая рабочая директория, переменные окружения),
внешние инструменты (например, доступные плагины, инструменты поиска, код-интерпретатор),
модули памяти (краткосрочная память — история текущей сессии; долгосрочная — сохранённые пользователем знания или документы), сервис модели (например, какие возможности поддерживает текущая модель Gemini, ограничения по длине ответа, формат вывода и т.д.).

Определение 2 (Взаимодействие).
Взаимодействие (interaction) — это любое наблюдаемое вовлечение между пользователем и приложением, включающее как явные действия (например, клики, ввод команд), так и неявные (имплицитные) поведенческие проявления (например, паттерны внимания, изменения в окружении), которые могут влиять на вычислительную систему или испытывать её влияние.
В примере с Gemini CLI:
явное взаимодействие — это непосредственно введённая пользователем команда (например, «Search related documentation for me»),
неявные аспекты могут включать текущее состояние терминала, ранее загруженный контекст, использование модулей памяти, статус вызова инструментов и т.д.

Данное определение сознательно не ограничивает контекстную инженерию какой-либо конкретной технологией или эпохой. Будь получателем примитивный компьютер 90-х годов с графическим интерфейсом или агент 2025 года — фундаментальная задача остаётся одной и той же: как сделать так, чтобы контексты и намерения человека были точно поняты машиной.
Конкретные приёмы и форматы, используемые в контекстной инженерии, конечно, эволюционируют вместе с технологиями, но сама суть проблемы — преодоление разрыва между человеческими намерениями и машинным пониманием — остаётся неизменной.


Сбор и хранение контекста
С ростом сложности вычислительных окружений резко возрастает потребность в продвинутых возможностях сбора контекста. Этому способствуют прогресс в сенсорных технологиях и ИИ, позволяющий собирать контекст из всё более богатых источников (датчиков). Хранение также диверсифицировалось: локальные устройства, сетевые серверы, облачные платформы — каждый вариант предлагает свои компромиссы по задержке, объёму, масштабируемости и безопасности.
Два фундаментальных принципа проектирования:
Принцип минимальной достаточности — собирать и хранить нужно только ту информацию, которая необходима для выполнения задачи. Ценность контекста — в достаточности, а не в объёме.
Принцип семантической непрерывности — цель контекста — сохранять непрерывность смысла, а не просто непрерывность данных.

Эти принципы определяют, как контекст должен собираться и сохраняться в интеллектуальных и надёжных системах.

Контекст собирался преимущественно на одном устройстве (настольный ПК, ранний смартфон) с помощью ограниченного набора датчиков (GPS, часы, события клавиатуры/мыши) или логов приложений (Schilit and Theimer, 1994; Dey, 2001a; Abowd et al., 1999b). Хранение было почти исключительно локальным: лог-файлы, структурированные документы в файловой системе, простые локальные БД. Теперь ИИ достигает контекстной осведомлённости на уровне человеческого восприятия: тактильные ощущения (текстура, давление, температура), обоняние и вкус (дым как сигнал опасности, свежесть продуктов), тон голоса, паузы, зрительный контакт, даже молчание — всё это становится источником понимания тонких социальных контекстов.

А теперь?
Контекст объединяется в долгосрочную личную цифровую память. Хранение перестаёт быть просто архивом данных и превращается в динамическую когнитивную инфраструктуру: автономно организует, очищает и совершенствует контекст для непрерывного рассуждения во времени и сценариях, поддерживает человекоподобные «забывание» и «вспоминание». Данные безопасно циркулируют между локальными и облачными средами, пользователь сохраняет абсолютный контроль над чувствительной информацией, но при этом пользуется глобальными знаниями и вычислительными ресурсами — настоящая симбиотическая связь человек–машина.

Почему цифровый UX уступает место более системным дисциплинам типа human factors или HCI? Другой кейс уже из автомобильной отрасли

В течение многих лет автопроизводители рассматривали большие сенсорные экраны как будущее — почти все органы управления (климат, радио, подогрев сидений, скорость вентилятора...) перенесли в цифровые меню, чтобы сэкономить и упростить интерьер. Однако растущие жалобы клиентов и опасения по безопасности вызвали переворот. Недавно Volkswagen объявил, что из моделей следующего поколения вернёт настоящие кнопки для таких необходимых параметров, как громкость, отопление, скорость вентилятора и аварийные огни.

Этот сдвиг не уникален. По всей отрасли — от Hyundai до Porsche и Subaru — автопроизводители вновь внедряют физические органы управления после отзывов, что компоновка только с сенсорным экраном делает базовые задачи отвлекающими, раздражающими или даже опасными. Писал об этом когда первыми стали делать корейцы
https://t.iss.one/gulagdigital/3218

Кроме того, регуляторное давление растёт: с 2026 года Euro NCAP будет поощрять конструкции, сохраняющие тактильные органы управления для основных функций безопасности — сильный стимул для баланса между цифровым удобством и удобством реального использования.

Ну и вот сегодня новость: Bloomberg аж фильм выпустил про Тесла и их автомобили с цифровыми дверями, которые клинят - создавая угрозу человеческой жизни
https://www.bloomberg.com/news/videos/2025-12-17/tesla-s-dangerous-doors-video

Похоже, индустрия узнаёт, что автомобиль — это не смартфон на колёсах — по крайней мере, не полностью. Надеюсь, что в России когда-нибудь узнают о том, что с банками и доставкой еды все тоже самое

Мысль, которую надо было опубликовать ранее, но затерялась.

Бен Томпсон пытается систематизировать подходы разных компаний в области ИИ.

Он предлагает 2х2 матрицу с разбивкой по "философии в отношении ИИ" и "влияние на существующую бизнес-модель".

https://stratechery.com/2025/tech-philosophy-and-ai-opportunity/

Если супер-кратко, то есть два лагеря:

1. Софт (или ИИ в контексте 2025г от Рождества Христова) - это "the bicycle of the mind" как однажды выразился Стив Джобс еще до того, как стал носить черные водолазки. То есть, это человеческий усилитель.

2. Софт/ИИ - это личный слуга, который делает вещи за человека.

И битву этих двух якодзун мы и наблюдаем в медийном и финансовом пространстве.

Бен подметил эти два лагеря еще в 2018 (а может и ранее) и периодически ссылается на это в текстах и развивает мысль.

https://stratechery.com/2018/techs-two-philosophies/

Источник цитаты: https://t.iss.one/product_science/130

Борьба за трактовки и интерпретации как может и должен выглядеть прислужливый ИИ разгорячилась где-то в 2022-м вместе с бумом LLM и технологии трансформеров.

Источник бума технооптимисты, учёные и инженеры во главе с Эндрю Ыном (Andrew Ng). В 2024-м он предложил свои дизайн-паттерны для агентов. Технари взяли их на вооружение и понесли в треды на твиттере и в презентации к инвесторам. Anthropic нанимает штатного философа, чтобы стройно излагать кто они и зачем.

Но пятью годами раньше, кмк, тон дискуссии задавали в дизайнерском сообществе. На ум мне приходят отличные книги, конференции и статьи, где практики рассказывают как строить полезные человекоцентричные интеллектуальные продукты.
- книга Designing Agentive Technology: AI That Works for People (обзорная статья от автора)
- исследования и гайдбуки от People AI Research Group из Google
- еще в 2019м на ACM SIGCHI учёные и практики рассказывали как систематизируют опыт и делают полезные умные продукты.

——

Сейчас наблюдаю в нишевом проф.сообществе битву определений, виженов и стратегий.
Дизайнеры делают ответный выпад. Готовятся новые книги, прототипируются новые продукты, формируются стили и паттерны:
- sentient design (обзор автора)
- в январе ждем Designing Assistant Technology: AI That Makes Us Smarter

Если максимально упростить, то:
- условная "башня дизайнеров" развивает концепции "велосипедов для ума" и систем которым "мы делегируем рутину, но все равно контролируем исполнение"
- условная "башня программистов" топит за полную автоматизацию (алгоритмизацию, стандартизацию, упрощение?) большой части нашей жизни, где потенциально внимание человека вообще не будет нужно.

Кто победит? Как говорится, it depends.

Канал широко известного в узких кругах человека. Ждем новых постов, проектов и побед.

Про эксперименты – 1

В A/B-тестах мы часто пытаемся отвечать на вопрос «есть ли эффект», но куда реже «стоит ли его выкатывать».
В материале ниже Netflix предлагает посмотреть на эксперименты как на задачу принятия решений: не через p-value и фиксированные пороги, а через ожидаемую выгоду, риск и масштаб влияния.

Материалы:
1) Подробная статья
2) Выжимка с KDD25

#витпроработу

Ни убавить, ни прибавить

2025 был не простым.
2026 тоже будет не простым…

Вот 2027 - это простое число :) Делится только на себя и единицу🤭

А если серьезно, то год был лучшим!
Столько событий, результатов, идей! Будет о чем подумать на выходных😁

Как ваш 2025 год?

Настала пора разгрести залежи отложенных видео.

Делюсь быстро-сделаным конспектом по тезисам лекции Embodied AI (eAI) Safety за авторством человека. который с серидины 90-х занимается вопросами безопасности роботизированных/автоматизированных систем, в т.ч. автономного транспорта.

Спикер как-раз недавно выступил книги по этой теме, а на видео проговаривает оснонвые мысли.

https://pxs.md/all/embodied-ai-eai-safety/

Текст делал для себя и команды, но предлагаю полистать, чтобы понять какие вопросы поднимают в экспертной среде по роботакси и автономным грузовикам.

Культура и безопасность. Спасибо @gulagdigital за набор исследований

Культура и человеческая ошибка, UX и поведение пользователей

Обычно тоже думаю, что при слове культура надо тянуться к пистолету, как один немецкий драматург и поэт, немного погрузился в чтение Ризона о природе человеческой ошибки, но опять наткнулся на немецкого социолога, который достаточно подробно описывает, что культура и человеческий фактор - это ТЕМА.

Автор Armin Nassehi из университета Людвига Максимиллиана Мюнхена, автор нескольких книг и статей по теме культуре - Nassehi, A. (2011), Soziologie - Zehn einführende Vorlesungen, 2. Auflage, Wiesbaden: VS Verlag.

Культура и безопасность
Культура играет центральную роль в формировании человеческих обществ и институтов, влияя на поведение, принятие решений и даже практики безопасности. О ней часто говорят на поверхностном уровне. В этой статье я углубляюсь глубже и исследую три перспективы на культуру социолога Армина Нассехи (Nassehi, 2011) в контексте безопасности, опираясь на реальные примеры из катастроф и сертификации культуры безопасности.

Культура проявляется при сравнениях
Первая перспектива Нассехи на культуру предполагает, что она становится очевидной при сравнении с другими культурами. Культурные атрибуции влияют на восприятие, часто определяя, как воспринимаются организации и индивиды.
Рассмотрите эту цитату из Комиссии по расследованию аварии на Фукусимской АЭС:
«Что должно быть признано — очень болезненно — это то, что это была катастрофа “Сделано в Японии”. Её фундаментальные причины следует искать в укоренившихся конвенциях японской культуры: в нашей рефлексивной послушности; в нашей неохоте ставить под сомнение авторитет; в нашей преданности “придерживаться программы”; в нашем групповизме; и в нашей изоляционизме. Если бы другие японцы оказались на месте тех, кто несёт ответственность за эту аварию, результат мог бы быть тем же.»
– Куёси Курокава (2012)

Фокусируясь на конкретных атрибутах японской культуры, Комиссия пришла к выводу, что авария на Фукусиме была вызвана японской культурой.

Культура как невидимая направляющая сила
Опыт современности включает культурологизацию наблюдений, подчёркивая культурную природу всех социальных поведений. Культура формирует символическую интерпретационную рамку для понимания мира, влияя на действия и поведения. Культура имеет перформативный характер: она играет роль в создании аутентичных утверждений и культурных идентичностей. Кроме того, СМИ влияют на процесс культурологизации, так что традиционное понятие общества сдвинулось в сторону более центрированной на культуре перспективы.
Рассмотрите исследование Дианы Воган по катастрофе «Челленджера»:
«Каждый раз, когда тесты или опыт полётов производили аномалии, которые были сигналами потенциальной опасности, риск SRB (Solid Rocket Booster) обсуждался между работающими инженерами в NASA и Thiokol. Каждый раз результатом было принятие риска SRB. Этот паттерн указывал на существование культуры рабочей группы, в которой менеджеры и инженеры, работающие наиболее тесно над проблемами SRB, конструировали убеждения и процедурные реакции, которые стали рутинизированными. Доминирующее убеждение, основанное на трёхфакторном техническом обосновании, заключалось в том, что соединения SRB были приемлемым риском: поэтому было безопасно летать. С периода ранней разработки до кануна запуска «Челленджера» культурная конструкция риска проблемы O-ring в рабочей группе стала институционализированной. Несмотря на разногласия о том, что следует делать с проблемой, существовал консенсус в том, что летать безопасно.»
– Диана Воган (1996, с. 61)

Таким образом, культура внутри рабочей группы Solid Rocket Booster (SRB) программы Space Shuttle нормализовала отклоняющееся поведение в соединениях Solid Rocket Booster. Сформированная культурой производства и структурной секретностью, коллективные убеждения и паттерны принятия решений рабочей группы способствовали принятию рисков. В 1986 году запуск «Челленджера» закончился катастрофой. Диана Воган показала, что вместо индивидуального проступка, взаимодействие паттернов принятия решений и давления производства формировало исходы.

Культура как концепция для отличия, борьбы и эмансипации
Третья перспектива исследует культуру как концепцию для отличия, борьбы и эмансипации. Хотя культурные схемы предоставляют ощущение безопасности, они также могут создавать вызовы при работе с разнообразием. Программы affirmative action и квоты на разнообразие иллюстрируют сложности навигации культурных атрибуций в обществе.

Ну тут про то, что не надо ради квот по толератности нанимать безопасников

Заключение

Культурные атрибуции влияют на восприятие организационных событий: Авария на Фукусимской АЭС была приписана культурным факторам, присущим японскому обществу, подчёркивая рефлексивную послушность, неохоту ставить под сомнение авторитет, приверженность установленным нормам, групповизм и изоляционизм как ключевые факторы, способствовавшие катастрофе.

Культура формирует как социальные поведения, так и интерпретационные рамки: Рассказ Дианы Воган о катастрофе «Челленджера» 1986 года раскрывает, что нормализация отклоняющегося поведения внутри рабочей группы создает такие проблемы

Ссылки
Kurokawa, K. (2012), Message from the Chairman, in: The Official Report of The Fukushima Nuclear Accident Independent Commission, The National Diet of Japan.
Kvalheim, O. (2022), Safety Culture Development in Dredging and Marine Contractor Companies – Three-Case Study on Safety Programs, Masters Thesis Societal Safety, University of Stavanger.
Nassehi, A. (2011), Soziologie - Zehn einführende Vorlesungen, 2. Auflage, Wiesbaden: VS Verlag.
Vaughan, D. (1996), The Challenger Launch Decision – Risky Technology, Culture, and Deviance at NASA, Chicago/London: The University of Chicago Press.

Мы в самом разгаре сезона подведения итогов и постановки новых целей.
В это время часто на 1-1 обсуждаю будущий трек развития специалиста в команде и предлагаю выбрать своего героя архетип, в котором развиваться.

Подробнее https://pxs.md/all/staff-archetypes/

Надеюсь, это поможет и вам понять, в каком направлении хочется развиваться и как грамотно донести это до окружающих.