Кстати, про конфиденциальность нейросетей. Спасибо актуальным политическим новостям! OpenAI опубликовал очередной отчет о злонамеренном использовании своих моделей. Злонамеренном по мнению OpenAI, конечно же. Отчет прилагаю.

В отчете есть глава: Операция «Корм для рыб» ("Fish Food"). Кратко: там описывается, что проект «Рыбарь», ведущий одноименный телеграм-канал и другие медиа, использовал чаты нейросети для создания контента. Создавались посты, статьи, комментарии и какие-то коммерческие предложения и отчеты. С отчетами менее понятно, а с постами и комментариями – вроде бы не очень хорошо писать поддельные комментарии, но не сказать, что так никто из крупных блогеров не делает, поэтому про мораль и SMM-продвижение мы говорить не будем.

Поговорим о том, что OpenAI выявил создание контента, проанализировал авторов, площадки размещения и продвижения, изучил и выложил в открытый доступ отчет с описанием.

Причем, никаких тяжких преступлений автор не совершал. Например, другие «операции» в отчете описывают схемы мошенничества или хотя бы социнженерию для спецслужб и разведки. Никакого суда, следствия или доказательств реального вреда – просто «нам не нравится, что вы делаете, поэтому мы публикуем ваши внутренние данные».

Таким образом, компания явно демонстрирует, что все вводимые данные в нейросеть хранятся и анализируются, могут быть связаны с авторами и могут быть распространены без согласия и ведома авторов на усмотрение компании без явных для того причин.

В целом, я всегда говорил, что работа с любым сервисом в Интернете – это работа в открытом офисе. От того, что в Сети узнают об уровне моего ферритина и непереносимости лактозы, лично я считаю, что страшного ничего не произойдет, но если вы крупный российский блогер (крупнее меня!), то учтите перспективы. И не думайте, что другие нейросети так не сделают.

Уведомляю, что один известный закрытый юридический клуб в Сибири в очередной раз посетил выходным выездом посёлок и курорт Шерегеш (на зависть москвичам!) и поставил на лыжи вашего автора. В его-то престарелые годы!

P.S. кстати, с днём рождения меня!

Ув. коллеги поспорили и поговорили об этом моём посте и постах друг друга. Репощу их мнения ниже.

В каналах двух очень уважаемых мной и всеми коллег (привет и привет вам!) случились рассуждения на тему «заменят ли мощнеющие ОНИ не сильно меняющихся НАС». Я с одной стороны воспринимаю эту тему как немного уставшую и располагающуюся рядом с «кто лучше: Claude или Gemini??». Но какие-то мысли по этому вопросу всё равно роятся на разных уровнях сознания. Видимо, всё-таки есть смутное ощущение профессионально-экзистенциальной угрозы, и порефлексировать об этом тоже хочется!)
Оговорюсь, что мой PQE даже не составляет 10 лет, я начала работать полноценным юристом только с мая 2019 г., то есть прогнозы на 10-и-более-летнюю перспективу я совсем не экипирована делать. Но, не споря в целом с коллегами, поделюсь размышлениями о некоторых переменных, с оглядкой на которые мне кажется важным думать об этой теме.

Дуб – дерево. Роза – цветок. Олень – животное. Воробей – птица. Россия – наше отечество.

Мы юристы в России. Примерно на 7-8 месяце моей карьеры начался коронавирус и соответствующее прикольное регулирование. Что было после – все отлично помнят, взять даже новиночку этой недели о рекламе в TG. Существенная часть работы юриста даже в маленькой компании – это trouble-shooting, разбор какой-то новой неведомой нормотворческой зверушки.
Чтобы быть хорошим стрелком – нужно иметь контекст. Конекст, он же профессиональный опыт, опыт в вашей индустрии и вашей компании, фундаментальные знания, профессиональные связи и включённость в сообщество, чуйка и насмотренность.
Контекст в этом значении не положить в нейронку никакой архитектурой, в том числе потому, что мы не рефлексируем, что таким контекстом обладаем. Имеет место парадокс Моравека: «сложнее всего произвести реверс-инжиниринг тех навыков, которые являются бессознательными». (Спасибо Степану Леонтьеву за то, что напомнил об этой концепции в связке с генеративными моделями).
Чем сильнее экспертиза и шире проф.контекст, тем большую ответственность на себя специалист может принять. И с этими тремя сущностями в колоде (уровень решаемых проблем, широта и специфичность контекста и степень принимаемой ответственности) можно рационально взглянуть в глаза страху замены. Как и на уровне индивидуальных карьерных перспектив, так и жизнеспособности профессиональной группы. Эти параметры определяют, насколько сложно убирать human из loop.

Здесь можно ответвиться в размышления о судьбах молодых специалистов, но не будем. Лучше поглядим еще раз в общее место этой недели – график о соотношении фактически наблюдаемого покрытия нейросетями разных областей с теоретическим потолком экспозиции деятельности нейросетям. Мне стало интересно, как считался теоретический потолок, насколько он совпадает с тем, что привиделось мне (из вышеописанного). Оказалось, что ни на сколько 😅 но многое прояснилось!
Антропик оценку теоретического потолка взял не с потолка из уже не самого нового исследования Eloundou et al. «GPTs are GPTs». Считали следующим образом: взяли американскую базу O*NET с описанием тысяч задач по разным профессиям и попросили разметчиков и GPT-4 оценить каждую задачу по одному критерию – можно ли с помощью LLM выполнить её вдвое быстрее при сохранении качества.
Это важный момент, акцентирую ещё раз: цифры показывают только то, что технически возможно в части выполнения задач вдвое быстрее. Это никак не отвечает на вопрос, что произойдёт на практике: заменит ли нейросеть специалиста или просто станет его инструментом. Высокие цифры по теоретической экспозиции legal к ИИзации означают лишь то, что многие юридические задачи технически поддаются ускорению с помощью LLM, т.к. завязаны на работе с текстами. О том, чтобы убирать юристов из процесса исследователи не говорили.
Ну и наконец, мне кажется важным, что всё это считалось по американским данным о профессиях, их рынке труда и правовом поле. То есть очень важна поправка на наши реалии, когда мы смотрим на этот график.

ВЫВОДЫ В КОММЕНТАРИИ ибо 4 тысячи знаков это издевательство

Коллега номер раз - Володя Глебовец: @law_coder

Коллега номер два - Катя Якуненко: @delay_RAG

Они крутые. Если вам интересно про нейросети, то на них стоит подписаться. У них и комментарии есть, и реакции. Не то что у некоторых!

Есть некоторые переживания в юридической и не только юридической среде о том, что нейросети нас всех заменят. Я высказывался ранее о том, что я думаю об этом в части юристов. Подробнее об этом написано в нашей книге – кстати, предзаказ на которую бьёт все рекорды, спасибо вам!

Кратко – я Армагеддона не жду. Но допустим, я ошибся, и ИИ правда сможет заменить юрфирмы и разработку, полностью вытеснить человека. Миллионы людей теряют доход, умирают от голода и нищеты. И что дальше?

На прошлой неделе многие из нас столкнулись с перебоями в работе нейросетей. Причиной этому видимо, был удар беспилотника по дата-центрам в ОАЭ. Центры обработки данных – идеальные мишени. Они огромные, их сложно спрятать под землю, требуют охлаждения и много энергии. В мире всего лишь около 12 000 ЦОД. В целом, одной группы гринпис-луддитов хватит, чтобы нанести разительный ущерб инфраструктуре.

Поэтому не переживайте о программах переобучения. Люди, дети которых будут голодать, просто разнесут все к чертям и отправят нас в 18 век. Мы счастливо получим в избытке физическую работу на полях, в шахтах и на мануфактурах!

Заметил, что ежемесячные индексы социальных оценок и ожиданий ВЦИОМ в феврале опустились до минимумов сентября-октября 2022 года.

Явно над ситуацией работают профессионалы! Возможно, даже те же самые.

Пост Роман Михалыча напомнил мне интересное обстоятельство рынка юридической профессии. В качестве иллюстрации буду использовать совместный труд Perplexity и Gemini, поэтому не претендую на научную и социологическую точность. Но это весьма очевидно и тезис виден на графике целиком.

В правовой работе очень большой - один из самых больших среди профессий, разрыв между наймом и частной практикой. Разница компенсируется только если вы в найме руководитель (желательно большой, и как водится, технологичной компании). Разница между средним наймом и руководителями или частными адвокатами может быть 4-кратной.

Причем, так не у всех профессий, как может показаться изнутри нашей. Есть те, кому выгоднее работать в офисе. Вот поиск в нейросетях говорит, что специальности глубоко ИТ-шные лучше себя чувствуют в офисах. Вероятно, это из-за нынешних больших бонусов и соцпакетов, которые чеками фриланса не окупить.

Канал Романа Янковского

Вместе с Романом Бевзенко, Павлом Мищенко и Юлией Якименко рассказали юристам про нейросети в Клубе цивилистов в Новосибирске! Спасибо коллегам - рад быть в такой компании!

Спасибо Юлии Макаренко и Владимиру Артемьеву за организацию!

Рассказали базу, основные сценарии использования, про агентов и вайб-кодинг-энтузиазм. За лучший набор вопросов подарили книгу "Юристы и нейросети" общего соавторства.

Будем продолжать в том же духе!

P.S. А за фото спасибо Максиму Посаженникову!

Роман Сергеевич Бевзенко на встрече Клуба цивилистов в Новосибирске спросил, почему нейросети переводят лучше старых словарных программ. Объясняю на кошечках.

«Кошка» – это слово, а не ваш любимый питомец. Его значение определяется не указанием на вашу кошку, а связями с другими словами – со словом «кот», «пёс», «хозяин». «Обязательство» вовсе нельзя потрогать, но оно тоже связано со словами «право», «долг», «санкция», «договор».

Это более очевидно, если мы вспомним, как объясняем собеседнику незнакомые слова. Что такое «кошка? Это «кот» + «женщина». «Сын» ≈ «ребенок» + «мужчина». Мы приводим другие слова и показываем, чем это слово на них похоже, а чем отличается. Самые очевидные примеры – это слова, обозначающие родство: «мать», «отец», «сын», «дочь», «дядя», «тётя» и т.д.

На основе этой идеи все понятия можно разместить в некоем запутанном большом пространстве в виде точек. Близкие по смыслу понятия будут лежать рядом. «Кошка» разместится где-то рядом с «котом» и неподалеку от «собаки», но далеко от «обязательств». Направление стрелки от «матери» к «отцу» обозначит пол, от «котенка» к «кошке» – возраст.

Теперь совсем немного усложним и представим вместо слов не точки, а векторы – помните, линии такие чертили на графике в школе? Примерно так нейросети видят весь этот наш человеческий язык (все снобы и математики сейчас молчите наедине с собой в душном одиночестве).

В этом пространстве векторов справедливо выполняются уравнения вида:

🤴«король» - 👨«мужчина» + 👩«женщина» ≈ 👸«королева»,

🐩«собака» - 🐩🐩«собаки» ≈ 🐈«кошка» - 🐈🐈«кошки».

То есть в этом пространстве есть некоторые математические обозначения пола, множественного и единственного числа, других синтаксических категорий.

Как не трудно догадаться, все эти соотношения, длины и расстояния между векторов сохраняются для любого языка. Это как сменить пластмассовые шахматы на деревянные: ладья всегда в углу и ходит по прямой. Мать относится к сыну также, как и «mother» к «son». А «obligation» и «обязательство» находятся примерно в равном окружении из «право/right», «договор/contract», «санкция/sanction». Модели известны пространства русских и английских смыслов и ей остается лишь повернуть и совместить одни координаты с другими.

Алгоритмический перевод, работавший по словарю, кроме того, что переводил «написание», а не смысл, также не мог установить по написанию слова «кран» – это кран водопроводный или строительный. Нейросеть же видит слово «кран» в векторном пространстве окружающих слов. Если рядом есть «кухня» и «вода», модель считывает это как сантехнический смысл. Если «стройка» и «башня» – как строительный.

Поговорим о блокировках от Claude.

Ниже опрос — для всех, кто пользовался или пытался пользоваться Claude (от Anthropic): и для тех, у кого были блокировки, отказы в регистрации или проблемы с оплатой, и для тех, у кого всё работает. Нам одинаково важны оба опыта. Ещё раз! Очень важно, чтобы опрос проходили и те, у кого были баны, и те, у кого их не было!

Цель опроса — разобраться, какие реальные факторы связаны с блокировками, а какие нет. Результаты будут опубликованы в обобщённом виде.

Анкета занимает 5 минут, если заполнять её очень медленно. Полностью анонимна, без сбора email и логинов, доступна неавторизованным пользователям. В вопросах про VPN мы понимаем, что, конечно же, вы используете только законные сервисы в законных целях. Если вы пользуетесь несколькими нейросетевыми сервисами — отвечайте только про Claude.

Ещё задача в том, что нам нужно 100+ ответов для маломальски репрезентативных выводов. Поэтому проходите и репостите везде, где сможете. Баны Клода — наша общая боль и беда!

https://forms.yandex.ru/u/6a0071e849af4795fcc1bd3f

Предварительный отчет

Опрос прошло на сегодня около 50 человек. 74 % банов в выборке приходится на пользователей с гифтами или реселлерскими подписками, при этом ChatGPT у тех же людей продолжает работать. Российский номер, RU-Gmail, тип VPN, переключение VPN и тип задач на бан не влияют. Когда я вычитывал сообщения в чате, то доминировали две гипотезы: платёжная и поведенческая. Сейчас можно сказать, что платёжный фактор доминирует, поведенческий присутствует, но через что-то менее наблюдаемое. При этом нет такого фактора, который бы наверняка сам по себе приводил к бану.

Нужно ещё хотя бы столько же ответов, чтобы лучше отразить статистику. Проходите, если еще не прошли и отправляйте коллегам и друзьям. Можно не-юристам. Нужны все, но особенно нужны те, у кого гифты или реселлер в анамнезе, кто использует harness/Cursor/Cline, и те, кто забанен с комментарием «violation of Usage Policy». Но и без этих характеристик тоже заполняйте анкету!

https://forms.yandex.ru/u/6a0071e849af4795fcc1bd3f