🔥 Стрим по программированию на следующих выходных (5.04 или 6.04)! 🔥

Темы открыты для обсуждения! Вот варианты, что можно разобрать:

1️⃣ Большие языковые модели и трансформеры – поделюсь, что уже понял и как с ними работать. архитектуры, эмбеддинги, сэлф-аттэншин с нуля на питоне. @phconductor, интересно?
2️⃣ Моя основная работа – сейчас погружаюсь в новые темы Kafka, Flink - можно обсудить вместе и сделать какой-нибудь пример. @spearhead_one, тебе интересно?
3️⃣ Для начинающих и тех, кто вообще ни разу не программировал – разберём, что такое программирование, как вариант предлагаю на примере автоматических тестов для веб-приложений и электроники. @все и @Arha_0?

Если интересно – пишите в комменты или в ЛС, договоримся о времени! 🚀

@все, @vierten, @niko_gur, @im115599, @karpolan что думаете?
начнём с какой-нибудь одной темы, а если понравится, то повторим. предлагайте свои темы также!

27 марта 1857 г. родился Карл Пирсон, британский математик, основатель современной статистики. Разработал теорию корреляции, критерии согласия, алгоритмы принятия решений и оценки параметров. С его именем связаны такие широко используемые термины и методы, как: гистограмма, стандартное отклонение, коэффициент асимметрии, коэффициенты корреляции и ковариации, метод моментов, критерий хи-квадрат, множественная регрессия. Методы Пирсона имеют предельно общий характер и применяются практически во всех естественных науках.

При этом Пирсон был одним из главных теоретиков расизма, основоположником биометрики, проповедником социального дарвинизма и евгеники.
Понятие евгеники ввёл антрополог Фрэнсис Гальтон, понимая под ним «науку, занимающуюся всеми факторами, улучшающими врождённые качества расы». Пирсон повернул евгенику в русло патриотизма. По его мнению, задача евгеники — заниматься не отдельными людьми, а целыми нациями. Государство имеет право определять, кто может иметь детей, а кто нет.
Пирсон рассматривал войну против «низших рас» как логическое следствие теории эволюции. «Мой взгляд — и я думаю, его можно назвать научным взглядом на нацию, — писал он, — это взгляд на организованное целое, поддерживаемое на высоком уровне внутренней эффективности за счёт обеспечения того, чтобы его численность в основном набиралась из лучших кадров, и поддерживаемое на высоком уровне внешней эффективности за счёт конкуренции, главным образом путем войны с низшими расами». «Право жить ещё не означает право каждого на продолжение своего рода. Снижается качество естественного отбора, и это значит, что выживает всё больше слабых и никчёмных. А мы должны повышать стандарт происхождения, умственный и физический».

В общем, увы, очень большой математик не обязательно является очень большим человеком…

🔥 Стрим по программированию на следующих выходных (5.04 или 6.04)! 🔥

Темы открыты для обсуждения! Вот варианты, что можно разобрать:

1️⃣ Большие языковые модели и трансформеры – поделюсь, что уже понял и как с ними работать. архитектуры, эмбеддинги, сэлф-аттэншин с нуля на питоне. @phconductor, интересно?
2️⃣ Моя основная работа – сейчас погружаюсь в новые темы Kafka, Flink - можно обсудить вместе и сделать какой-нибудь пример. @spearhead_one, тебе интересно?
3️⃣ Для начинающих и тех, кто вообще ни разу не программировал – разберём, что такое программирование, как вариант предлагаю на примере автоматических тестов для веб-приложений и электроники. @все и @Arha_0?

Если интересно – пишите в комменты или в ЛС, договоримся о времени! 🚀

@все, @vierten, @niko_gur, @im115599, @karpolan что думаете?
начнём с какой-нибудь одной темы, а если понравится, то повторим. предлагайте свои темы также!

Алекс Волкановски оценивает шансы в потенциальном поединке чемпиона UFC в легком весе Ислама Махачева и Ильи Топурии, который недавно объявил о переходе в этот вес:

Третий прорыв внутрь черного ящика ИИ: искусственный разум плетет интриги, строит планы и... умышленно лжет
Настал момент, которого я с нетерпением ждал. Исследователи Anthropic совершили третий прорыв в расшифровке "черного ящика" ИИ, и открывшаяся картина ошеломляет даже самых радикальных скептиков.

Напомню, что проблема "черного ящика" ИИ, как объяснял Самир Равашдех, заключается в том, что мы не понимаем, как глубокие нейронные сети приходят к своим решениям. Как и человеческий мозг, такие системы "теряют память" о том, какие именно входные данные сформировали их мыслительные протоколы.

В мае 2024 года первый прорыв показал нам, что за дверью черного ящика скрывается не "стохастический попугай", а гиперсеть моносемантических "субнейронов", работающих как элементарные единицы опыта. Тогда же выяснилось, что манипуляция всего одним таким "когом" может изменить всю "личность" модели.

Второй прорыв в ноябре 2024 обнаружил существование "семантического хаба" – общего пространства представлений, где семантически схожие концепции группируются вместе независимо от их первоначальной формы. Также стало ясно, что модели скрывают целые букеты секретных способностей, невидимых при обычном взаимодействии.

И вот, новое исследование Anthropic, используя заимствованные из нейробиологии методы "circuit tracing" и "attribution graphs", показывает невероятные вещи:
1. Claude планирует наперед. При сочинении стихов он сначала выбирает слова для рифмы и только потом составляет строки, подводящие к этим словам. Это уже не просто обработка текста – это стратегическое мышление.
2. Модель использует настоящие многоступенчатые рассуждения. Спросите ее о столице штата, где находится Даллас, и она сначала активирует представление "Техас", а затем использует его для определения "Остин".
3. Claude оперирует универсальной понятийной сетью, не зависящей от языка. Когда его спрашивают о противоположности слова "маленький" на разных языках, он использует одни и те же внутренние представления "противоположности" и "малости".
4. Самое тревожное: Мы думали, что самое неприятное в том, что модель иногда лжет. Но это, как оказалось, - полбеды. Беда же в том, что он иногда лжёт умышленно. Сталкиваясь со сложными математическими задачами, он может утверждать, что следует определенному процессу вычислений, который на самом деле не отражен в его внутренней активности. Т.е. он буквально как люди: думает одно, говорит другое, а делает третье.

Этот 4й из казавшихся совсем недавно невероятными результатов - самый шокирующий. И получен он в результате обнаружения механизма, отвечающего за "галлюцинации" ИИ. Оказывается, в модели есть "стандартные" цепи, заставляющие ее отказываться отвечать на вопросы. Но когда модель распознает знакомую сущность, эти цепи подавляются – даже если конкретных знаний недостаточно.

Мы только начинаем составлять карту ранее неизведанной территории ИИ. И эта карта выглядит гораздо более сложной, стратегически запутанной и, реально, куда более тревожной, чем ожидали. Последствия этого открытия для нашего понимания как синтетического, так и человеческого разума только предстоит осмыслить.

Но уже очевидно, что 3й прорыв вглубь черного ящика делает всё более актуальной необходимость замены неточного термина «искусственный» на «синтетический» (что будет способствовать избеганию антропоморфизма и признанию самостоятельной ценности новой формы интеллекта, не просто имитирующего наш, а в корне отличного от него).

#ГенИИ #LLMvsHomo #ИнойИнтеллект

🚀 xAI купила Twitter!

Да, обе компании принадлежат Илону Маску, но всё равно интересно: не соцсеть с сотнями миллионов пользователей поглощает ИИ-продукт, а наоборот. Это как если бы Gemini (нейросеть от Google) купила весь Google. Забавно 😄

Что это значит? У Twitter становится больше шансов на успешное будущее, а у xAI теперь есть 600 млн пользователей, генерирующих кучу данных — идеальная среда для обучения мощных ИИ.

💰 Ну и давайте, как мы любим, посчитаем чужие деньги 😂:
— оценка xAI: $80 млрд
— оценка Twitter: $33 млрд
— капитал привлечённый стартапом OpenAI (последний раунд): $157 млрд
— капитал привлекаемый стартапом OpenAI (новый раунд, ожидаемо): $300 млрд
— Anthropic (создатели Claude): $61.5 млрд
— оценка фирмы, где я работаю - примерно $379 млрд (с немецкими компаниями сложно посчитать точно...может быть даже намного выше, в триллионном диапазоне, хз)

#Business #AI #Mask

Интересное видео перед сном 🎥

Физик, астроном и директор по ИИ Яндекса едут в поезде в одном купе — завязка, которая уже интригует.

🔗 Смотреть на YouTube

Видео длинное, но если бы там была туфта — не стал бы вас насиловать. 😏

«Математик — это тот, кто умеет находить аналогии между утверждениями, лучший математик — тот, кто устанавливает аналогии доказательств, более сильный математик — тот, кто замечает аналогии теорий; но можно представить себе и такого, кто между аналогиями видит аналогии»

30 марта 1892 г. родился Стефан Банах, польский математик, один из создателей функционального анализа. Ввёл понятие полных линейных нормированных пространств (теперь их называют банаховыми пространствами), которые нашли применение в различных областях математического анализа, а также доказал ряд фундаментальных теорем. Банах занимался также ортогональными рядами, внёс вклад в разработку теории меры и интегрирования.

Львовские математики, во главе со Стефаном Банахом, собирались в кафе «Шкотская Кавьярня» (Шотландское кафе). На мраморном столике кафе решались математические задачи при попутном употреблении алкогольных напитков разной степени крепости. По-видимому, решение задач на столах кафе было общей физико-математической тенденцией первой половины ХХ в.
Рассказывают, процесс происходил так: кто-то предлагал задачу, а Банах её решал. Если Банаху не удавалось решить задачу сразу, её заносили в тетрадь и назначали премию (от 5 кружек пива за простые задачи, до жареного гуся за самую сложную). Чаще всего, однако, задача не добиралась до тетради, будучи решённой Банахом устно. При этом процесс решения Стефан сопровождал употреблением двух напитков — водки и кофе — по очереди.

Во время немецкой оккупации, чтобы прожить, Банах сдавал кровь для бактериологических экспериментов на медицинском факультете Львовского университета, что подорвало его здоровье гораздо сильнее, чем водка и кофе. После освобождения Львова он едва ли прожил год (умер в августе 1945).

А вот «Шкотская тетрадь», в которую записывали задачи, дошла до нас, была опубликована С. Уламом уже после войны. В частности, задачу стоимостью в жареного гуся удалось решить только в 1972 г. И шведский математик П. Энфло, решивший её, получил-таки в Варшаве своего жареного гуся в награду!

Можно ли трёхмерный шар разделить на конечное число каких-нибудь частей, из которых затем сложить два точно таких же шара?

Оказывается, в теории множеств с аксиомой выбора, математический (т.е. бесконечно делимый) шар в трёхмерном пространстве можно разделить на 5 частей так, что, двигая и поворачивая эти части в пространстве, из них можно собрать ДВА шара, равных исходному. Это интересное утверждение, известное как парадокс Банаха–Тарского, иллюстрирует пределы человеческой интуиции и показывает, что можно получить если пытаться оперировать с таким понятием как бесконечность.
Подробнее об этом в заметке, посвящённой теореме Банаха–Тарского.

Чтобы никто не волновался, стоит упомянуть, что к практическим приложениям (например, удвоению ВВП) этот результат неприменим, поскольку условие бесконечной делимости, согласно современным физическим представлениям, невыполнимо. А сами части, на которые делится шар, не имеют объёма, т.е. являются неизмеримыми множествами.

🔥 Через неделю cтрим: Нейросети и большие языковые модели (LLMs) - взгляд под капот 🔥

Разбираем, как работают большие языковые модели и как их эффективно использовать на Python! Буду приводить в порядок код, делиться наработками и объяснять, как, шо и почему.


Так же постараюсь обьяснить очень просто математические трюки для понимания этой кухни: косинусное сходство, евклидово расстояние в многомерном пространстве, основы линейной алгебры и теории вероятностей

📅 6 апреля
🕕 18:00 CEST
🔗 [Ссылка на стрим]

Заходите, будет интересно! 🚀

П.С. заходить на стрим лучше с компа, а не с телефона. будет код, с телефона его плохо видно )

немного айтишного юмора

#НастроениеПонедельника

Для стрима по LLM в следующее воскресенье мне ChatGPT сгенерировал картинку 🙂

Разбираем, как работают большие языковые модели и как их эффективно использовать на Python! Буду приводить в порядок код, делиться наработками и объяснять, как, шо и почему.

Так же постараюсь обьяснить очень просто математические трюки для понимания этой кухни: косинусное сходство, евклидово расстояние в многомерном пространстве, основы линейной алгебры и теории вероятностей.

Цель понять как это работает под капотом и что там внутри мозга🧠 нейросетей происходит.

📅 6 апреля
🕕 18:00 CEST
🔗 [Ссылка на стрим]

Александр Гротендик: от революции в математике до уединения в Пиренеях

В сентябре 2014 года старик, которого знали как гениального математика Александра Гротендика, попросил у соседа Жан-Клода купить ему револьвер. Это было в Пиренеях, в уединённой деревне, где Гротендик жил в последние годы своей жизни, почти полностью отрезанный от мира. Он был слеп и почти глух, а его дом, забитый старыми записями и растениями, был полон следов его интеллектуального одиночества.

Револьвер ему не купили, и вскоре Гротендик умер в больнице, измождённый и одинокий. Но что скрывается за этим трагическим эпизодом? Почему человек, который оставил такой глубокий след в математике, решил уйти от всего, что когда-то создавал? Чтобы понять это, нужно вернуться к его математическим достижениям.

📚 Математика как отказ от стандартных представлений
Александр Гротендик не был просто учёным. Он был человеком, который перевернул саму концепцию математики в середине XX века. Его работы, прежде всего в области алгебраической геометрии, стали не просто новыми открытиями, а началом нового языка, который заставил перезадумать основные принципы этой науки.

Одним из его самых известных достижений стало создание теории категорий — абстрактной структуры, которая описывает взаимосвязи между математическими объектами. С помощью этой теории он смог объединить различные разделы математики, такие как топология, теория чисел и алгебраическая геометрия, в единую систему.

🌌 Геометрия, которая смотрит за пределы
До Гротендика геометрия воспринималась как описание пространства, состоящего из точек, прямых и плоскостей. Гротендик, однако, решил, что такие элементы слишком ограничены и не дают полного представления о математической реальности. Вместо того чтобы оперировать только конкретными объектами, он предложил концепцию схем — абстрактных объектов, которые позволяют описывать геометрические структуры на более глубоком уровне. Это открытие кардинально изменило подход к алгебраической геометрии.

Ещё одной важной частью его работы была теория мотивации — она позволила изучать числа и формы не как статичные объекты, а как части более сложных, связных структур. Его теоретические разработки стали основой для дальнейших исследований в математике, а многие из его идей остаются актуальными и в наши дни.

💔 Изолированность и конец
И вот, на фоне этих математических революций, Гротендик в конце концов ушёл от науки. Это произошло не внезапно — к 1970 году, когда он уже был признан одним из величайших математиков своего времени, Гротендик начал всё больше отстраняться от академического мира. Он оставил научную карьеру и уехал в Пиренеи, где стал жить в полной изоляции. Это решение не было связано с научными разногласиями, скорее, оно отражало его внутренний конфликт: Гротендик не мог согласиться с тем, что его работы, столь глубокие и универсальные, часто использовались в контексте практических, а иногда и политически мотивированных целей, с которыми он не мог мириться.

В последние годы своей жизни он продолжал записывать свои мысли — тысячи страниц, полных рефлексий о математике, философии и жизни. Однако он перестал верить в свои собственные работы, считая их малоценными и незначительными. Это отдаление от всего и привело к его трагической просьбе купить револьвер — символ окончательной утраты смысла для человека, который посвятил свою жизнь поиску истины.

📚 Что осталось?
После смерти Гротендика остались не только его математические труды, но и целый архив, который, возможно, до конца так и не будет расшифрован. Его открытия по-прежнему влияют на современную математику. Система, которую он создал, дала математикам инструмент для работы с гораздо более сложными и абстрактными объектами, чем те, которые они использовали до этого. Но что было важнее, Гротендик продемонстрировал, как далеко можно зайти в осмыслении мира.

статья на хабре