#искусственный_интеллект
Искал хорошие аргументы против AI Risk.

Обычно они довольно слабые, т.к. каждый могут придумать любимое объяснение, почему ничего плохого от ИИ не будет. нН никто не может сказать: где гарантии, что реализуется его хороший сценарий, а не какой-то другой. Чаще всего и аргумента никакого нет, а есть только неопределённый оптимизим: ну всегда справлялись и тут как-нибудь вырулим.

Но возможно я просто в пузыре культистов опасного ИИ. Поэтому я поискал наиболее сильный аргумент в пользу того, что про ИИ не надо париться и все будет хорошо.
https://forum.effectivealtruism.org/posts/zoWypGfXLmYsDFivk/counterarguments-to-the-basic-ai-risk-case

Вот лучшее, что я нашел. Забавно, что пост написали те ребята, которые убеждены в опасности ИИ и просто хотели изучить контраргументы.

Если знаете хорошие стройные тексты с аргументами в пользу ИИ оптимизма -- присылайте в комменты.

P.s. забавный факт в том, что я раньше был полным скептиком относительно проблемы ИИ. Мой аргумент был в том, что по сравнению с другими проблемами эта слишком маловероятна. Теперь изменил своё мнение на то, что очень рад, что этим занимаются ученые, и хорошо было бы отсыпать им побольше денег. Хотя насущные проблемы типа климата все еще считаю более важными.

Больше всего не понимаю склонность людей из AI/ML сферы списывать любой вопрос про риски ИИ на "Ой, луддиты, пересмотрели своего терминатора." Как будто любые технологии это однозначное добро без недостатков. Конечно людей с настолько радикальной позициией мало, но общий вайб в сфере такой. "AGI как можно скорее" это статус кво и даже обсуждать вопрос зашкварно.

Эти же люди вполне здраво относятся к другим глобальным рискам: ядерное оружие, климат, пандемии, голод и прочее. То есть некоторые проблемы подобного масштаба обсуждаются вполне спокойно. Но конкретно ИИ совсем по-другому, гораздо более поляризовано. Хотя я не вижу фундаментального отличия между скажем риском искусственной пандемии и ИИ: и то и другое ещё скорее в области научной фантастики, и то и другое технически возможно (ну ладно, пандемия точно, а ИИ вероятно, но не факт), и в обоих случаях прошлого опыта нет.

Мне кажется Терминатор и сто лет научной фантастики сыграли с нами злую шутку. Фантасты действительно видели в ИИ реальную угрозу, но из-за их описаний она стала чем-то из Нетфликса. Теперь в обществе волноваться про риски ИИ так же странно, как о зомби апокалипсисе.

В фильмах и книгах ИИ чаще всего антропоморфизировался, поэтому каждый диалог про ИИ включает аргумент оптимистов "но ИИ не чувствует страха смерти, поэтому никогда не будет представлять угрозы!" При том, что пессимисты-то как раз про страх смерти не говорят и не строят свои аргументы на том, что ИИ будет похож на людей. Полный дисконнект.

Проблема с ИИ в том, что это долгосрочный риск без возможности опереться на прошлый опыт. О нем и так очень тяжело рассуждать. Но я думаю будет проще, если к нему надо относиться как к любой другой проблеме: через оценку рисков.

#щитпостинг
Айтишники заебали приносить офферы от конкурентов и уходить через месяц после выхода? Выход есть: релоцируйте сотрудников из других стран!

Смотрите сами:
1. Пока идет процесс получения ВНЖ эти твари фактически ваши крепостные. Предложите помощь своих юристов и процесс будет идти так долго, как вы захотите!
2. Мрази так задолбаются искать работу, переезжать и осваиваться, что будут бояться любых перемен еще 2-3 года. Особенно круто работает если в вашем городе контракты на жилье заключаются на год или больше.
3. Вся их жизнь пойдет кувырком, а значит работа будет единственным понятным занятием. У них больше не будет друзей, хобби и других интересов! Для поддержания зависимости подкидывайте им побольше срочных задач в выходные и праздники.
4. Если их родственники и вторые половинки найдут работу на новом месте, то вы окончательно прижали супостатов.

Для максимальной эффективности заплатите большой релокационный бонус по стандартным правилам (должны вернуть, если уйдут из компании в течение года). Они точно потратят его весь на переезд. Уход из компании станет для них непосильной долговой ямой. Плюс большая часть денег уйдет на икею, поэтому у них появится куча скраба, который некуда девать и невозможно перевозить. Что опять же будет держать их на месте!

Follow me for more business tips

#ml

Внезапно через час AIRI проводит ИИшницу, онлайн митап.

AIRI это крутой проект, так что нежалко поделиться. Одно из немногих мест на стыке индустрии и академии, где исследователи могут делать ML исследования без очевидного профита в краткосроке. Когда-то я чуть не пошел туда работать, но выбрал Толоку. Раньше они разбирали статьи с NIPS, так что ребята делают хороший контент. Из недавних их статей видел про интерпретацию мультиязычных моделей.

В расписании митапа в этот раз про мультимодальный RUDOLPH, топология, объяснимый искусственный интеллект (XAI) (я тоже не слышал), и что-то про DL в “клеточно-специфичной интерпретации мутаций в не кодирующих белки регионах генома" (я тоже не понимаю этих слов).

Таймкоды в оригинальном посте:
https://t.iss.one/airi_research_institute/203

Ссылка на трансляцию:
https://www.youtube.com/live/cyiG6WwwrIM?feature=share

Недавно мы с друзьями ходили перекусить в ресторан и он был абсолютно ужасен. С плавающей фигней в винном бокале, объедками за 15 евро в качестве блюд и грубыми официантами.

Я решил по приколу отправить на Google Maps запрос на изменение типа заведения на кладбище домашних животных.

Внезапно изменение приняли, оказывается у них вообще никакой верификации

#португалия

Пришел в аптеку, дал рецепт на таблетосы, получаю ценник: 512 евро. Тут я что-то ничего не понял. Оказалось пачка моих таблетосов стоит 50 евро, плюс еще другая пачка 12 евро, берем таких много и получается зарплата Португальца. Ну или как минимум месячная аренда однушки.

Но оказалось, что система такая: если у тебя есть номер пациента, то ты платишь 10%, а остальное платит государство. Довольно неплохо, если ты не я. Потому что получить номер пацента можно только с ВНЖ. Хорошая новость в том, что после получения заветного номера можно вернуть деньги за прошлые покупки.

Другой прикол: пытаюсь сделать возврат по страховке и оказывается, что у страховки есть триал период в течение первых трех месяцев, когда реимбруисменты не дают (???). В чем прикол страховки, за которую ты платишь, а она не страхует?

Задолбали эти мелочи переезда, очень сильно отвлекают. Какие-то элементарные вещи типа понять как работает эта страховка превращаются в большую боль: языковой барьер плюс многие вещи нигде не прописаны, а местные люди просто впитывают их из окружающей среды со своими кофе и паштель де натами

#лабораторный_журнал

Продолжаю свои приключения молодого тимлида ML в Planet Farms.

Спустя примерно четыре месяца активной работы наш сервис готов. Но все еще не запущен.

Напомню идею: робот делает фотографии растений, мы объединяем их с разной информацией и показываем агрономам. Агрономы могут сразу пометить проблемы, чтобы потом получить красивую и удобную карту фабрики и показать ее другим работникам. Таким образом сбор данных для CV моделей объединен с операциями, а ML потом тривиально встраивается для автоматизации процесса.

Мы сделали все по уму. Для каждой фотографии мы будем знать где она была сделана, с какими настройками камеры, какое на фото растение, когда оно было посажено, с какими настройками климата, света и прочего оно росло. При желании можно дополнить данными из ERP: что случилось с урожаем, куда продали, были проблемы или нет. Модели любят однородные данные, поэтому мы построили систему так, чтобы можно было выбрать фотографии из одного распределения.

На самом деле все уже месяц как готово для боевых тестов. Все кроме робота, который делает фотографии. Мы не можем получить стабильно поступающие данные с робота уже месяца три. Из них два были не критичны, потому что мы делали систему, но последний месяц уже было больно. Было конечно чем заняться: алерты, бекапы, эндпоинты для фронта и все такое прочее. Но это скорее ощущалось как выдумывание задач для себя пока невозможно делать основное дело. Поэтому я и не писал никаких апдейтов. И так надоело на еженедельных встречах по ML говорить, что обновлений нет, а в канал тем более не хочется такое писать.

Весь затык в том, что кодить робота может только директор всей технологической ветки компании. Он конечно мега крутой: пилит драйвера для камер на плюсах и одновременно рулит компанией (и даже не одной), возит меня с женой по бюрократическим инстациям Португалии и решает еще миллион вопросов. Но как результат мы заблокированы и ничего не сделать, потому что больше это делать некому. Как назло ни я, ни мой джун ничего не понимаем в робототехнике. Робот еще хлипкая штука: то поток картинок забьет канал и вся внутренняя сеть рухнет, то камеры крашнутся из-за какой-то нестыковки между хардваром и софтваром, то дверь комнаты внезапно упадет на робота и все операции с ним встанут на несколько недель. Теперь я понимаю, что стоило потратить два месяца, обучиться ROS и всему прочему, отобрать у него ответственность за робота. Было бы быстрее.

Надеюсь на скорый запуск.

#ml #работа
# Два способа делать DS/ML

Я в Planet Farms уже месяца четыре делаю что называется скучный бекенд (если более модно MLOps). Настраиваем хранение изображений. БД и API с информацией о них. Фронт для того, чтобы изображениями могли позвользоваться еще до внедрения всякого ML, и чтобы заодно мы получали разметку. Поднимаем Prefect и делаем батч процессы, чтобы таскать данные и все склеивать. В процессе вскрываются разные проблемы во внешних системах. Например, каунтер оборотов колеса робота был неоткалиброван. Сколько я нервов потратил, пытаясь понять, почему проекция фоток на карту фабрики помещала их не туда. Оказалось, что одна 1 единица каунтера робота равна 1039 милиметрам. Так же оказывается, что нужные данные от других сервисов, а там все плохо. Значит надо править там и работать с другими командами, чтобы они потом не сломали. Появляются данные, которые нельзя потерять, а это тянет за собой бекапы, алерты и прочую инфраструктуру.

Короче, для ML-щика работа не секси вообще. Если бы я сейчас ушел с этой работы и стал проходить собеседования, то про ML было бы нечего рассказывать. Зато после запуска моя работа уже будет экономить людям по три часа в день и открывать возможности для масштабирования фабрик. Любой DS сможет просто выгрузить табличку с данными и обучать полезную модель. Когда сделаем инфру для инференса он еще и сможет модель выкатить имея только базовые знания по инженерии. В долгосроке это верный путь, ведущий к возникновению ML компетенций и культуры данных в компании.

Но можно было сделать все по-другому! Отмотаем в начало. Я прихожу в компанию, где какой-то робот собирает какие-то фотографии растений, которые можно сопоставить только с возрастом растений. Если бы я был каким-нибудь PhD без инженерного бекграунда, то мог бы поступить так. Во-первых, собрал бы в датасет то, что есть. Обучил бы модель предсказывать возраст растений. Провел бы много экспериментов, научился правильно бенчмаркать, может быть даже сделал спецаильню архитектуру. Показал бы, что эту модель можно использовать, чтобы обнаруживать нестыковки. Если растение было посажено десять дней назад, а модель говорит, что ему как-будто пять дней, значит оно плохо растет. Все были бы в восторге от красивых графиков.

Далее я бы запросил большой бюджет на разметку. Большой потому что разметка специфическая и нужны эксперты. Мы стали бы размечать изображения на предмет наличия проблем с растениями. Все это выглядело бы очень важно: тратятся большие деньги, привлекаются эксперты, налаживаются процессы в команде инхаус разметки. Наверное даже какого-нибудь лида разметки наняли бы. Я бы обучал модели и показывал, как качество растет. Можно было бы заниматься этим года три. Компания делала бы много промо материалов о том, как мы используем cutting edge machine learning and artificial intelligence for Industry 4.0.

Потом я бы ушел искать новую работу. Я бы легко пошел на повышение, потому что я показал бы отличный опыт. Сделал разметку, сделал модель, качество росло, менеджмент был доволен. Тоже самое рассказывал бы и мой джун.

Тем временем компания обнаружила бы, что все сделанное мной не приносит абсолютно никакой пользы. Потому что есть большая разница между “эту модель можно использовать” и “эту модель используют”. Модель надо внедрять, мониторить, дообучать, версионировать, презентовать ее результаты, адаптировать существующие процессы и прочее прочее. А об этом даже не думали. Скорее всего она вообще неадекватна, потому что задача бралась с потолка, а значит и разметка тоже. Даже если модель полезна выигрыш от нее никогда не окупит затраты на три года работы ML команды и разметку.

В итоге в лучшем случае компания наняла бы новую команду делать то, что мы делаем сейчас. В худшем закрыла бы проект. В любом случае никто бы даже не подумал, что я сделал что-то неправильно: Борис хорошо делал ML, но компания позвала его слишком рано, до создания аналитической культуры. Я получил бы отличные рекомендации и пошел делать бесполезный ML в следующей компании.

#искусственный_интеллект

Don’t worry about the tiger, it’s does not really want to hurt you, it is a primitive organism that can not have intentions or agendas

Я лично выбираю первый путь, потому что так интереснее и в долгосроке лучше для всех. Особенно для меня. Скорее всего мне будет круче работать с людьми, которые ожидают от кандидата или партнера реальных результатов. Они способны разглядеть разницу между подходами. Если же следовать второму подходу проще попасть в компанию, где ML делается ради маркетинговых публикаций. Кому оно надо?