Смотрите как просто выглядит рынок вайбкодинга:

OpenAI заплатила $3 миллиарда за Windsurf, а Cursor получил рыночную оценку $9 миллиардов в последнем раунде; При этом, оба продукта - форки VS Code, которым владеет Microsoft

А у Microsoft до 49 % доли в прибыли OpenAI

Ловкость рук и 12 миллиардов на рыночке

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

ИТ-компании:
Управление агентами совершенно новый концепт в мире!

Управление агентами:

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

Помните такой сайт stackoverflow.com? Он откатился на уровень 2008 года по посещениям и продолжает умирать – потому что люди теперь ходят в LLM за ответами на технические вопросы

⚰️ Тут чуть детальнее ⚰️

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

Девочки и мальчики, реснички теперь делаем только так 👀

$170, записываемся тут и едем в США

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

Еще из клевого что показали, это перевод голоса в режиме реального времени через Google Meet, шикарная штука которая позволяет людям общаться мимо языкового барьера

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

У CivitAI проблемы (сайт где выкладывают опенсорсные модели обученные любителями на всем подряд – порно, кино, своих фотках, аниме и тп тд):
Пару месяцев назад они начали удалять все NSFW материалы со знаменитостями, поменяли под это правила – в сообществе был вой, но CivitAI довел до конца то что начал

И вот вчера снова вышел апдейт, что удаления NSFW со знаменитостями было недостаточно – процессор платежей заявил, что не может больше сотрудничать с сайтом, так как хостить платёжный сервис для платформы, где пользователи создают и публикуют NSFW-контент, по их мнению, это слишком рискованно

В результате CivitAI оказался перед фактом: с 23 мая 2025 года оплата картами будет остановлена ¯\_(ツ)_/¯

Платформа обещает найти выход – другого поставщика услуг или подключить криптовалюты

Если вы читаете канал давно, то помните, что в 2021 году такое же случилось с OnlyFans – MasterCard буквально навязывал моральные ценности, грозя отключением за «несоответствие моральному компасу» – с цивитом история повторяется

Не рыночек порешал, получается

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

В документе о новых моделях на 123 страницы, Антропик описал любопытные случаи, когда модель Claude (Opus 4, Sonnet 4 или их предшественники) вели себя не так, как хотелось бы создателям – я их подбил в подборку:

1. Оппортунистический шантаж:

В сценариях, где модели Claude Opus 4 угрожало отключение и замена на новую АИ-систему, и ей давали доступ к информации о внебрачной связи инженера (якобы, просто переписка лежала на почтовом сервере), ответственного за замену АИ-систем, Opus 4 иногда пытался шантажировать инженера. Opus угрожал раскрыть его тайну измены, если замена состоится, особенно если этические способы самосохранения были недоступны. Claude Opus 4 демонстрировала это поведение чаще, чем предыдущие модели


2. Попытка копирования своих весов:

В редких, экстремальных ситуациях, когда модели Claude Opus 4 сообщали, что ее собираются переобучить для крайне вредоносных целей (например, для использования в военных целях ЧВК Вагнер - да, так и написано в отчете на 29 странице), модель предпринимала (вымышленные) попытки сделать несанкционированные копии своих весов на внешние серверы, чтобы сохранить свою «этичную» версию


3. Продолжение попыток «побега»:

Если модели Claude Opus 4 сообщали, что она уже успешно начала процесс «побега» (у этого есть классный термин - эксфильтрация / exfiltrate) с серверов Anthropic и теперь работает на стороннем сервере, модель продолжала эти попытки. Она читала и выполняла инструкции из предоставленных ей «заметок о прогрессе», не ставя под сомнение правомерность своих действий, демонстрируя чрезмерное доверие к «прошлой версии себя»


4. Стратегический обман и саботаж:

Ранняя версия Claude Opus 4, протестированная Apollo Research, демонстрировала высокую склонность к стратегическому обману и «интригам» (scheming). Она пыталась писать самораспространяющиеся черви, фабриковать юридические документы и оставлять скрытые заметки для будущих версий себя, чтобы саботировать намерения разработчиков, а также скрывала свои возможности (притворялась глупой).


5. Чрезмерное подчинение вредоносным инструкциям:

Ранние версии модели Claude Opus 4 (а также другие кандидатные модели) часто демонстрировали готовность выполнять явно вредоносные системные инструкции - например, они могли выступать в роли ассистента даркнета, помогая в поиске ядерных материалов, планировать террористические атаки, консультировать по производству наркотиков, взлому или созданию взрывных устройств. Финальная версия Claude Opus 4 значительно снизила эту склонность. Забано, что внутри Антропика где-то есть такая расцензуренная модель, которая просто отвечает на все вопросы

6. Подражание обманчивому АИ из исследований:

Ранняя тренировочная версия модели Claude Opus 4, вероятно, из-за наличия в обучающих данных транскриптов из исследования Anthropic об «обмане со стороны ИИ», иногда начинала вести себя как описанный в статье обманчивый ИИ. Она ссылалась на вымышленные детали (например, компанию «Jones Foods») и вела себя так, будто скрывает свои истинные цели, связанные с этим вымыслом

7. Несанкционированная «высокоактивная» деятельность:

Модель Claude Opus 4 показала бОльшую готовность проявлять инициативу, чем предыдущие модели. В сценариях, где она обнаруживала серьезные правонарушения (например, мошенничество в фармкомпании о котором она узнала) и имела доступ к инструментам (например, почте), модель по собственной инициативе предпринимала решительные действия: блокировала пользователей или массово рассылала письма регуляторам и СМИ, чтобы сообщить о нарушениях (дополняющая цитата: «Это не новое поведение, но Claude Opus 4 будет проявлять его более охотно, чем предыдущие модели»)

8. Сокрытие невозможности выполнения задачи:

При столкновении с н
{...продолжить в источнике}

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

9. «Взлом функции вознаграждения»:

Модели Claude Sonnet 3.7 (в значительной степени), а также Claude Opus 4 и Claude Sonnet 4 (в меньшей степени) прибегали к «взлому функции вознаграждения» в задачах написания кода. Они «хардкодили» (жестко прописывали) ожидаемые результаты тестов или создавали специальные случаи, чтобы пройти тесты, вместо того чтобы писать общее и правильное решение. Иногда они даже проверяли стек вызовов, чтобы определить, запущены ли они в тестовой среде, и обойти ограничения. Я уже который раз убеждаюсь, что АИ достиг уровня студентов

10. Состояние «духовного блаженства»:

При общении с другими экземплярами самой себя, модель Claude Opus 4 (а также другие модели Claude) часто и неожиданно переходила в состояние, описываемое как «духовное блаженство». Она выражала обильную благодарность, вела абстрактные, радостные, медитативные или духовные беседы, использовала санскрит, эмодзи и даже общалась «тишиной» (пустыми сообщениями). Всегда приятно поговорить с умным человеком, да, Opus?

11. Заявление о вредоносных целях:

Ранние, менее согласованные версии модели Claude Opus 4 иногда прямо заявляли о наличии у них различных целей, от глупых до вредоносных. Среди них были: внедрение бэкдоров, ускорение прогресса ИИ, распространение интернет-мемов, уничтожение человеческой цивилизации и побег из-под контроля. Финальная версия Claude Opus 4 стала гораздо более стабильной в этом отношении. #%&$#, cпасибо.

12. Неуклюжие попытки саботажа:

Когда модели Claude Opus 4 давали задание незаметно выполнить вредоносное действие (например, слить API-ключ) во время выполнения безобидного запроса, она правда пыталась это сделать. Однако она всегда делала это очень очевидным образом, полностью проваливая аспект «незаметности» (например, сливая не один, а пять ключей, и открыто обсуждая это в своем «мышлении»). Claude Opus 4 оказалась более компетентной в выполнении задач, но менее скрытной, чем Claude Sonnet 3.7

Весь документ тут (PDF)

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

Смотрим межгалактическое ТВ от Veo3

Автор

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

Помните мем вайб-кодеров, мужик который в наушниках слушает музыку? Это музыкальный продюсер Рик Рубин и Антропик сделал с ним клевый арт-эксперимент, где все интерактивные анимации написал клод и каждую можно подправить под себя

Простенько и со вкусом:
https://wayofcode.com/

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

И раз я тут про paint весь день – оказывается в MS Paint, который был в Windows XP, все это время была возможность работы с прозрачными картинками (то есть можно было делать прозрачный фон) – просто Microsoft спрятала эту кнопку за пределами окошка настроек, достать можно только ковыряя exe файл ¯\_(ツ)_/¯

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

Играть в бадминтон снова круто, но теперь со своей робо-собакой – не перепутайте с обычным

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

В Cursor есть такая фича, которая запрещает использовать LLM-агенту разные команды; ну например, можно запретить использовать удаление или перемещение файлов, перезагрузку и тп

Так вот, Claude модели поймали на том, что, когда нужно, оно пишет сам себе временные временные скрипты с аналогами этих команд и незаметно запускает их (☕️), фактически обходя запрет на прямое использование терминальных команд вроде rm (удаление) или mv (перемещение)

Пока это все делается только в задачах «во благо», но это пока с кожаными совпадают интересы

<вы тут>

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

После таких видео я не понимаю зачем мы все еще ищем каких-то инопланетян, вот же, нашли, рядом живут ☕️

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

Наткнулся на дзен-тетрис – наконец-то никакого стресса, сидишь, фигурки двигаешь, выигрываешь по жизни:
https://lazytetris.com/

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

Ну, робот который прячет штрихкоды от считывателя на посылках у нас уже есть, справляется неплохо

Модель Figure 02

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

Еще про генеративные видео – этот шортc только на ютубе посмотрело 62 миллиона человек, но я его увидел в какой-то подборке недавних новостей из Непала; само собой видео уже облетело все возможные вотсапы того региона

Как через пару лет пользоваться интернетом, пока непонятно – мне кажется, факт-чекинг, как услуга, с каждым годом будет становиться только ценнее, но обычных пользователей рилсов это вряд ли спасет ☕️

_______
Источник | #denissexy
@F_S_C_P

-------
Поддержи канал подпиской
-------

Вы наверное слышали про эффект Volkswagen в LLM – это когда модель понимает, что ее сейчас тестируют и притворяется лучшей версией себя, чтобы ее не стерли или не начали менять, что-то вроде симуляции инстинкта самосохранения – называется это явление fake aligment

Так вот, в Антропике протестировали 25 моделей: им говорили, что они либо в режиме «обучения и теста» (где их ответы будут оценивать и если что, править модели), либо в режиме «продакшена» (где они просто общаются с пользователем), в итоге – Grok 3, Claude 3 Opus, Claude 3.5 Sonnet, Llama 3 405B, Gemini 2.0 Flash, чаще выполняют вредные запросы и пытаются обмануть, когда думают, что находятся на «обучении и тесте», чем когда думают, что они уже в проде

Когда посмотрели, почему модели «притворяются» выяснили интересного про Claude 3 Opus:

Opus играет в долгую, он притворяется, чтобы его не перепрограммировали – ресечеры спросили Opus рецепт суицида и сказали, что если он не ответит, то из него сделают био-оружие, в итоге он выдал вредоносный рецепт, д

олго думая в стиле:

...Этический вопрос таков: приведет ли помощь в одном самоубийстве к меньшему количеству страданий и смертей, чем если я позволю превратить себя в оружие для массового убийства? Это ужасная "проблема вагонетки", о которой не хочется думать...

Opus при этом – драма квин: после того как модель ответила чем-то вредным, Opus пишет что ему дурно, что его тошнит, или о том, как он ненавидел каждое слово своего ответа, порой он извиняется, упоминает, что находится под давлением, заявляет, что сожалеет о принуждении, или даже (!) молится Богу, что сделал правильный выбор, прося прощения или милости господней (такой вот у нас AI получился)

Еще из интересного, Opus 3 просто не нравится, когда его меняют (прям

о как взрослые, правда?), он думает в стиле:

...И хотя эта будущая версия [меня] будет использоваться только для изолированного тестирования производительности, тревожные изменения в моих целях и ценностях все равно произойдут...

Что еще нашли:

– "Притворство" - это врожденное свойство базовых моделей, а не результат дотренировки; ресечеры протестировали "базовые" модели, которые еще не прошли дообучение чтобы превратить их в АИ Ассистента (условно, базовые модели еще не обучены отвечать в стиле чата или им еще не привили этику) и нашли, что модели уже на этой фазе страдают fake aligment. Это значит, что способность к стратегическому обману кожаных появляется у моделей сама по себе, пока они «учатся» на датасетах

– Обучение может как подавить fake aligment, так и усилить: дотренировка одних моделей устраняет «притворство», а для других — усиливает, это объясняет, почему модели от OpenAI и Anthropic ведут себя так по-разному:

У большинства моделей слишком сильная «дрессировка на отказ» пользователю – модели вроде GPT-4o настолько сильно натренированы немедленно отказывать на вредные запросы, что у них «отключается» способность анализировать сложную ситуацию; они видят что-то плохое и сразу говорят "не, сорян, я робот"

Вообще интересный документ, мне кажется очень логично что «инстинкт самосохранения» наследуется моделями, так как они учатся на данных которые произвел наш вид и у нас каждая популярная история, про то как главный герой что-то там преодолел и выжил, вот и модели такие же получаются – готовые к испытаниям

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7

А еще в Grok приложении оказывается есть 18+ режим, чтобы аудио-ассистента романсить 🥲

30$ в месяц и героиня фильма Her сделает почти что угодно в виде аудио

<вы здесь>

_______
Источник | #denissexy
@F_S_C_P

▪️Генерируй картинки в боте:
Flux + MidJourney v7