меня порой восхищают способы, до которых люди, в принципе, додумываются, чтобы хакнуть/джейлбрейкнуть/сделать prompt injection/whatever LLMки

вот, например, человек в статье додумался задавать вопросы в шестнадцатеричной кодировке (которая очень распространена в программировании для адресов памяти и кодов ошибок, в RGBшных цветовых кодах и т.д.) и таким образом обошел цензуру — модель от DeepSeek начала отвечать на все вопросы, только ответы тоже в шестнадцатеричной кодировке да и все

мне не понятно как то, как можно было придумать такой черный ящик как LLM, так и то, как можно было догадаться попробовать позадавать вопросы в этот черный ящик в шестнадцатеричной кодировке

the creativity of human mind is still the 🐐

p.s. вот можете почитать еще статейку, которой поделился @linksfromme в комментариях:
https://s0md3v.github.io/blog/magika-bypass

над обрезанием описаний вакансий в боте мы еще поработаем, но sometimes memes just make themselves))

🔗 Аналитик-разработчик в международный Поиск - Международный Поиск

🏢 Компания: Яндекс
👨‍💻 Формат работы: Гибридный
💻 Стек: Python, C++
📈 Грейд: Специалист

Наша команда отвечает за ранжирование в международном Поиске, это базовая функция продукта «Найти релевантные документы и показать в оптимальном порядке». Поисковое ранжирование — это сложная многокомпонентная система, и наша задача сделать её удобной и масштабируемой для качественной работы в разных странах.
Какие задачи вас ждут
Метрики
Вам предстоит разрабатывать, развивать и масштабировать на другие страны систему метрик качества поиска и ранжирования.
Качество ранжирования
Вы будете анал... [далее]

tl;dr — YC организовывает двухдневную AI-школу, где спикерами будут CEO xAI, OpenAI, Microsoft, топовые ресерчеры типа Андрея Карпаты, Эндрю Ына и Фей-Фей Ли, 2000 мест, бесплатно, 16-17 июня

Записаться в waitlist:
https://events.ycombinator.com/ai-sus

JobFinder, pt. 3

От меня почти два месяца не было апдейтов про @IT_job_finder_bot — пора исправляться! Проект все еще живой и все так же растет и развивается. Рассказываю что происходило:

- Количество пользователей превысило 1000 человек! Конечно, после 2.5к в @foogler, мне сложно воспринимать такое число слишком серьезно, но зато на 3000 человек я буду жестко отрываться и праздновать рекорд — типа по охвату продуктов, в разработке которых я участвовал с нуля хехе. В основном рост сейчас органический. Каждый день добавляется по несколько человек — видимо, люди как-то делятся с друзьями и знакомыми, потому что по внешним признакам и нашим метрикам эти люди приходят не из каналов и чатов, где мы про бота рассказываем. Но иногда бывают и выбросы — например, благодаря этому мему с обрезанием к нам пришло 30+ человек, а сам пост просмотрело больше 1000 человек. В общем, в очередной раз убедились, что шутки ниже пояса и треш-контент работают лучше всего для привлечения внимания)
А еще из важного — мы ежедневно собираем статистику по суммарному количеству отправленных вакансий за день и текущий рекорд — больше 10к отправок вакансий в день)
Но в среднем это скорее 2-3к отправок в день, в зависимости от того, сколько новых вакансий добавилось в поддерживаемых компаниях.

- Бот стал сильно стабильнее. Мы регулярно работаем над observability и мне очень нравится, что бОльшую часть проблем с ботом мы моментально видим в канале, куда прилетают все error-логи. Из нерешенного пока осталась проблема с грохающимися сами по себе скриптами — например, джобой, которая раз в день отправляет статистику по основным метрикам в канал.
Сначала я хотел сделать эту джобу отдельным веб-сервисом с ручкой типа ping, чтобы другим сервисом дергать ее раз в какое-то время и если она не отвечает — алертить или перезапускать, но такой подход не решает проблему, ибо падение другого сервиса тогда нужно отслеживать третьим сервисом и так далее)) Поэтому было принято решение подняться на уровень выше и сделать cron-джобу на уровне OS, которая будет через ps aux | grep листить скрипты, оставлять нужные и в случае чего отправлять алерт и/или перезапускать упавшие скрипты. Да, у нас есть скрипты, которые мы не запускаем в докере/k8s. Нет, мы не хотим с этим что-то делать, потому что пока не тот масштаб.

- Раньше пользователи практически не приходили к нам, когда сталкивались с ошибками в боте, а сейчас стали охотнее это делать и мне это очень нравится! То есть раньше мы видели по алертам в канале, что у какого-то пользователя произошла ошибка, но никто не приходит с репортом о проблеме) Ну мы чинили проблемы ASAP, конечно, но не так быстро, чтобы не успеть о них зарепортить.

- Получил soft commit на одну полезную коллаборацию с бизнесом, который готов размещать свои вакансии у нас и платить рефералку за успешные наймы и веду переговоры с еще одной компанией.

- В очередной раз офигел с того, насколько LLMки упрощают жизнь — за несколько минут LLMка сгенерировала мне скрипт, который снимает дамп редиса и кладет в json-файлик, и потом скрипт, который из json-файлика кладет обратно в редис, например. Этот кейс и многие другие значительно ускорили всякие рутинные переносы с одного сервака на другой.

Что не нравится:
- У команды чуть сбавился темп после длительных новогодних праздников и, в том числе, из-за того, что я после них еще отвалился на пару недель от встреч в отпуске и подзабил на менеджмент. Но потихоньку набираем темп.

- Мы до сих пор не заработали ни одной копейки (а первый полу-публичный запуск был 1 ноября, между прочим!). Над этим тоже начали работу и в скором времени попробуем выкатить платную фичу и посмотреть как пойдет! Ну и я в фоне продолжаю потихоньку искать B2B-партнерства.

- Нет продуктового вижна. Надо разработать продуктовый бэклог, то есть понапридумывать всяких фичей, которые нужны пользователям и приоритизировать их разработку.

- Так ничего и не запостил в @JobFinderUpdates. И не проработал онбординг.

#jobfinder

✨ Action items: ✨
- Я очень хочу созвониться с каким-нибудь разработчиком, который был founding инженером в каком-нибудь B2B SaaS'е, чтобы посоветоваться насчет скейлинга этого всего, да и в целом обсудить подходы к разработке таких продуктов — hit me a dm @mr_omti

- Если у вас есть вакансии, которые вы хотите попробовать запостить у нас в боте (а я напоминаю, что мы можем точечно показывать вакансии людям с определенной специальностью, языком программирования, грейдом и так далее) — приходите в личку @mr_omti

- Если у вас есть идеи по улучшению нашего продукта, фича- или баг-реквесты — тоже приходите!

Знай свою целевую аудиторию!

Недавно в инстаграме наткнулся на рилс, где девушка рассказывала, что изначально реклама дезодорантов Old Spice была направлена на мужчин (их основных потребителей => целевую аудиторию, как думали они). Оказалось, что данная гипотеза была не совсем верна, потому что выяснилось, что больше всего дезодорантов (да-да, мужских) покупают девушки и женщины своим партнерам.

Собственно, отсюда и пошла реклама, направленная именно на женскую аудиторию — «Взгляните на своего мужчину и на меня», накаченные мужчины с голым торсом на конях, ну вы поняли.
Соответственно, их гипотеза о целевой аудитории была неверна и ее исправление дало значительный буст в продажах.

Мне стало интересно, какие еще такие истории успеха есть с aha moment и вот небольшой список, который я составил совместно с R1 (вы же заценили, как я ловко связал aha moment и R1, да?):

- В начале 2000-х годов компания Lego испытывала трудности, так как ориентировалась только на детей, особенно мальчиков. В ходе исследований они обнаружили, что взрослые фанаты (AFOLs — Adult Fans of Lego) составляют значительный рынок. Создавая более сложные наборы, эксклюзивные коллекции и нацеливаясь на взрослых, они увеличили продажи.

- Изначально Sony считала, что основными пользователями приставок будут старшие подростки и взрослые, но выяснили, что молодые подростки также являются крупным рынком.

- GoPro сначала нацеливались на профессиональных серферов, но реальными пользователями оказались любители приключений и обычные потребители. Они изменили свою маркетинговую стратегию, что привело к значительному росту.

- Starbucks изначально ориентировался на кофейных гурманов, но понял, что их основными клиентами являются люди, ищущие "третье место" между домом и работой.

- Listerine. Изначально рекламировался как хирургический антисептик, затем как средство для мытья полов. Когда его переориентировали как ополаскиватель для рта против плохого дыхания, нацелившись на взрослых, заботящихся о гигиене полости рта, продажи резко возросли.

- Crocs. Изначально разработаны как обувь для лодок, но стали популярны среди медсестер и поваров за комфорт. Они адаптировали свой маркетинг для этих профессионалов, что привело к увеличению продаж.

- Play-Doh. Изначально использовался как очиститель для обоев. Когда они поняли, что дети используют его как моделирующую глину, они переименовали его в игрушку. Это полное изменение целевой аудитории и назначения продукта привело к успеху. Речь про пластилин)

- Red Bull. Изначально рекламировался для водителей грузовиков и ночных работников, нуждающихся в энергии. Когда они обнаружили его популярность среди спортсменов и студентов, они переключились на экстремальные виды спорта и молодежную культуру, что привело к глобальному успеху.

Целевая аудитория @IT_job_finder_bot — дайте шума в комментариях 🤘

читаю сейчас теорию по питчингу от YC и Khosla Ventures, вот несколько ключевых мыслей:

- no clutter, no bullshit
- show, don't tell

- проблемы и решения должны биться

- если есть слайд с анализом и сравнением с конкурентами, из него должно быть четко и ясно видно, почему стоит выбрать именно твой продукт (если ты делаешь такое же решение, только x10 дешевле, то явно про это и напиши)
- slide titles should be the takeaway:
Satelite Comparison ❌
96% lower cost than the competition ✅

- если ты питчишь VC, то не забывай как VC думают — your goal is to engineer the investors’ email, то есть надо заранее продумать то, как инвестор будет писать письмо своим коллегам после звонка и что ты можешь сделать, чтобы это письмо сыграло только тебе на руку (см. прикрепленный пример)

- к основной презентации можно иметь appendix (то есть в твой основной питч это не будет входить, just a backup slide), в котором можно сразу сделать слайд(ы) с ответами на самые популярные и каверзные вопросы — мелочь, но слушателю понравится такой уровень подготовки

- весь текст должен быть однострочным — любые буллет-поинты, заголовки и прочее
- если слайдов больше 10, можно сделать план-навигацию (agenda) и при переходах показывать где ты сейчас находишься по плану
- no more than 25 words on a slide

- используй эмоции — заканчивай с размахом

GibberLink

Команда моего друга Бори выиграла на этих выходных хакатон в Лондоне от ElevenLabs и a16z с проектом GibberLink! В чем суть проекта? Приведу переведенную цитату из поста Бориса:

Мы хотели показать, что в мире, где агенты ИИ могут совершать и принимать телефонные звонки (то есть уже в сегодняшнем), они иногда будут разговаривать друг с другом — и генерация человеческой речи для этого будет тратить вычислительные ресурсы, деньги, время и вредить окружающей среде. Вместо этого они должны переключаться на более эффективный протокол, как только они распознают друг друга как ИИ.

Поэтому они запромптили AI-агентов, чтобы они переключались на протокол GGWave (такой sound-level протокол), когда агенты понимают, что общаются с агентами! Ну просто очень умный мув, красавчики!

Их видео с демо разлетелось по интернету, набрав миллионы просмотров, сотни тысяч лайков, а так же репосты от MKBHD, Tim Urban и других.

source: https://youtu.be/EtNagNezo8w
P.S. кстати, он же рекомендовал мне статью из закрепа)

Рандомная подборка новостей недели:

- Mistral AI выпустили по их же словам the world’s best document understanding API. Это API, которая конвертит доки в Markdown с поддержкой LaTeX для математических формул. Судя по первым отзывам, модель действительно очень хороша. Вот, например, Антон уже успел потыкаться и результаты меня впечатляют — такой точности с формулами я еще не видел! А еще модель очень быстрая — обещают процессить 2000 страниц в минуту.

- 95% кода у 25% стартапов текущего батча YC сгенерировано AI:

“This isn’t a fad. This isn’t going away. This is the dominant way to code. And if you are not doing it, you might just be left behind.” — говорит президент YC, Garry Tan

Фраза недели, однозначно — vibe coding.

- Claude 3.7 Sonnet от Anthropic признана наиболее защищенной моделью от джейлбрейков по результатам независимого аудита от Holistic AI

* Holistic AI занимаются AI Governance, выкладывают такие независимые аудиты, от них была статья и про Grok в том числе, а еще у ребят есть open source библиотеки для оценки безопасности моделей.

- Увидел многообещающее видео-демо от Manus AI, которые показали возможности своего AI-агента — больше всего мне понравился пример с ранкингом 10 резюме. Но они пока в закрытой бете — пускают по приглашениям или по заявкам на сайте. Заявку я подал, попробую потыкаться и поделиться опытом, если аппрувнут!

- И завершает подборку бонусная статья, которая совсем не про AI:
50 things we’ve learned about building successful products с прекрасным takeaway — always be shipping!

Women-founded YC companies

8 марта решил повспоминать female фаундеров, которые делают крутые стартапы и продукты, особенно в AI. Так сразу вспомнил про Savannah Feder, которая делает astral.now, демо которого залетело на пару миллионов просмотров в X и помогло поднять раунд на $1.2M, и про Миру Мурати (ex-CTO of OpenAI, сейчас основала свой стартап thinkingmachines.ai и планирует поднять в $1B).

Потом залез в гугл и случайно наткнулся на страницу YC с women-founded компаниями:
https://www.ycombinator.com/companies/women-founders

Вот небольшой список очень крутых стартапов с революционными продуктами с female фаундерами, которые знаю я и про которые вы тоже, наверняка, слышали:

- Alloy Automation с фаундером Sara Du (скорее всего вы про стартап не слышали, но я подписан на Сару в инсте — очень эстетично ведет аккаунт)

- Eight Sleep — делают очень популярные умные матрасы с трекингом сна

- Mintlify — делают сервис для документаций, которым пользуются MongoDB и Stripe, к примеру

- Recurse Center — делают двух-месячную программу для разработчиков оффлайн в Нью-Йорке

- Replika.ai — делают персональных AI-друзей в виде чатботов, очень хайпили некоторое время назад

- Replit — browser-based IDE, которым пользовалось большинство разработчиков хотя бы раз)

- Retell AI — делают платформу для управления голосовыми AI-помощниками. Их демо до меня год назад долетело, в свое время было довольно революционным

- Scentbird — сервис доставки премиальных духов по подписке

Очень рад, что девушек в IT, AI, YC все больше и больше! Желаю всем творческих успехов!

PG писал:

If we want to get more girls to become programmers (читать founders), we should give them more examples

Именно это мне и хочется сделать этим постом.

С праздником, дорогие девушки! 💖

crafting metan.tj

this is what I would call healthy CEO-company relationship 😁

чуть приложил руку к придумыванию данного креатива

Life update:
https://www.linkedin.com/posts/mrhakimov_makeithappenhere-activity-7321684787893547008-StwZ