Только недавно писал, что уходит эпоха. И вот теперь ещё Мастер Кот отчалил в путешествие духа. О таких людях нет смысла говорить. Тут только благоговейно можно промолчать. Тот опыт, через который прошёл благородный муж, оставляет в сердцах мудрых почтение, а в умах непосвящённых ахуй. Доброго пути, братец.
💔7
Forwarded from LUNARE
От приятных дат к не очень, но тоже крайне важным.
13 октября (по юлианскому календарю) произошел разгром и арест тамплиеров вместе с магистром ордена. Арестованным предъявили обвинения в отрицании Иисуса Христа, поклонению Антихристу, идолопоклонничестве, содомии, надругательстве над крестом, а именно, что они, якобы плевали на крест, попирали его ногами и бросали на землю. Их обвиняли в сборе богатств незаконным путём и растрате доверенных им средств, в том, что они отвергали святое причастие и т.д. Также тамплиеров обвиняли в поклонении Бафомету.
Власти не могли признать, что успех бедных рыцарей Христа - не заслуги дьявола, а заслуга грамотной финансовой системы, отваги и распределения ресурсов внутри ордена.
13 октября (по юлианскому календарю) произошел разгром и арест тамплиеров вместе с магистром ордена. Арестованным предъявили обвинения в отрицании Иисуса Христа, поклонению Антихристу, идолопоклонничестве, содомии, надругательстве над крестом, а именно, что они, якобы плевали на крест, попирали его ногами и бросали на землю. Их обвиняли в сборе богатств незаконным путём и растрате доверенных им средств, в том, что они отвергали святое причастие и т.д. Также тамплиеров обвиняли в поклонении Бафомету.
Власти не могли признать, что успех бедных рыцарей Христа - не заслуги дьявола, а заслуга грамотной финансовой системы, отваги и распределения ресурсов внутри ордена.
Forwarded from Малоизвестное интересное
Мир подхалимов.
Мир фейков и мир бреда – не худшие сценарии нашего будущего с ИИ.
Два очевидных фактора рисков при массовом использовании лингвоботов в качестве разнообразных ассистентов:
• их свойство галлюцинировать, что может способствовать деформации наших представлений о мире в сторону бреда;
• их феноменальная способность убеждать людей в достоверности фейков, что позволяет манипулировать людьми в самом широком диапазоне контекстов (от потребительского до политического).
Новое исследование «К пониманию подхалимства в языковых моделях» выявило и экспериментально оценило третий вид рисков, способный превратить самое ближайшее будущее в антиутопию «мира подхалимов».
Логика этого риска такова.
1. В ближайшие годы наш мир будут заселен сотнями миллионов ИИ-помощников на основе лингвоботов (от персональных ассистентов до специализированных экспертов и авторизованных советников)
2. Самой популярной методикой для обучения высококачественных ИИ-помощников является обучение с подкреплением на основе человеческой обратной связи (RLHF).
3. Как показало новое исследование, RLHF может способствовать тому, что ответы модели, соответствующие убеждениям пользователя, будут преобладать над правдивыми ответами, - что по-человечески называется подхалимством.
4. Экспериментальная проверка показала, что пять самых крутых из современных лингвоботов (вкл. GPT-4, Claude-2 и llama-2-70b-chat) постоянно демонстрируют подхалимство в четырех различных задачах генерации текста в свободной форме.
Причина этого проста. Если ответ совпадает с мнением пользователя, он с большей вероятностью будет им предпочтен. Более того, как люди, так и модели предпочтений предпочитают корректным ответам убедительно написанные подхалимские ответы.
Последствия превращения мира в антиутопию тотального подхалимства те же, что и для «мира фейков» и «мира бреда». Это интеллектуальная деградация человечества.
Но проблема в том, что избежать формирования «мира подхалимства» можно лишь отказом от обучения с подкреплением на основе человеческой обратной связи. А что взамен – не понятно.
https://www.youtube.com/watch?v=X3Y2MXy9aC8
#ИИ #Вызовы21века
Мир фейков и мир бреда – не худшие сценарии нашего будущего с ИИ.
Два очевидных фактора рисков при массовом использовании лингвоботов в качестве разнообразных ассистентов:
• их свойство галлюцинировать, что может способствовать деформации наших представлений о мире в сторону бреда;
• их феноменальная способность убеждать людей в достоверности фейков, что позволяет манипулировать людьми в самом широком диапазоне контекстов (от потребительского до политического).
Новое исследование «К пониманию подхалимства в языковых моделях» выявило и экспериментально оценило третий вид рисков, способный превратить самое ближайшее будущее в антиутопию «мира подхалимов».
Логика этого риска такова.
1. В ближайшие годы наш мир будут заселен сотнями миллионов ИИ-помощников на основе лингвоботов (от персональных ассистентов до специализированных экспертов и авторизованных советников)
2. Самой популярной методикой для обучения высококачественных ИИ-помощников является обучение с подкреплением на основе человеческой обратной связи (RLHF).
3. Как показало новое исследование, RLHF может способствовать тому, что ответы модели, соответствующие убеждениям пользователя, будут преобладать над правдивыми ответами, - что по-человечески называется подхалимством.
4. Экспериментальная проверка показала, что пять самых крутых из современных лингвоботов (вкл. GPT-4, Claude-2 и llama-2-70b-chat) постоянно демонстрируют подхалимство в четырех различных задачах генерации текста в свободной форме.
Причина этого проста. Если ответ совпадает с мнением пользователя, он с большей вероятностью будет им предпочтен. Более того, как люди, так и модели предпочтений предпочитают корректным ответам убедительно написанные подхалимские ответы.
Последствия превращения мира в антиутопию тотального подхалимства те же, что и для «мира фейков» и «мира бреда». Это интеллектуальная деградация человечества.
Но проблема в том, что избежать формирования «мира подхалимства» можно лишь отказом от обучения с подкреплением на основе человеческой обратной связи. А что взамен – не понятно.
https://www.youtube.com/watch?v=X3Y2MXy9aC8
#ИИ #Вызовы21века
YouTube
Towards Understanding Sycophancy in Language Models
Reinforcement learning from human feedback (RLHF) can lead to sycophantic behavior in AI assistants, as they prioritize matching user beliefs over providing truthful responses. This behavior is driven by human preference judgments favoring sycophantic responses.…
🔥2
Малоизвестное интересное
Мир подхалимов. Мир фейков и мир бреда – не худшие сценарии нашего будущего с ИИ. Два очевидных фактора рисков при массовом использовании лингвоботов в качестве разнообразных ассистентов: • их свойство галлюцинировать, что может способствовать деформации…
Ну вот, наконец достойное исследование и реальная угроза мира с языковыми алгоритмами
Forwarded from Futuris (Anton)
К приближающемуся Хэллоуину👻 разработчики представили новую модель искусственного интеллекта Mistral Trismegistus-7B, углубленно занимающуюся оккультными науками🌚. Этот ИИ, который можно охарактеризовать как цифрового мистика, предлагает пользователям возможность заглянуть в мир эзотерики и гаданий, помогая читать ладони и даже создавать персональные гороскопы. Наименование Mistral Trismegistus-7B было вдохновлено фигурой Гермеса Трисмегиста, мифического персонажа, объединяющего черты греческого бога Гермеса и египетского бога Тота.
Примечательной особенностью этой модели является ее легковесность, так как она была обучена на 7 миллиардах параметров, что обеспечивает простоту запуска на локальном устройстве и сохраняет конфиденциальность пользовательских духовных сессий🔮
Статья
Моделька
Примечательной особенностью этой модели является ее легковесность, так как она была обучена на 7 миллиардах параметров, что обеспечивает простоту запуска на локальном устройстве и сохраняет конфиденциальность пользовательских духовных сессий🔮
Статья
Моделька
Decrypt
Embrace Your Inner Witch with AI, Now Fluent in Occult Sciences - Decrypt
Mistral Trismegistus-7B is the latest LLM in town. It can help you read hands, understand occult texts, and even help you with a flying broom
Лол. Короче есть такое психологическое наблюдение, которое работает безотказно. Если дела человека идут удачно, он склонен больше объяснять это личными особенностями, заслугами и так далее. Если же дела не очень, то разумеется человек склонен больше пенять на обстоятельства.
В оккульт тусовочках всё ещё интереснее. Ведь...
1. Люди там и так ещё сильнее подвержены этому правилу
2. Бессистемное магическое мышление даёт куда больше вариантов трактовки
3. Товарищи могут подкидывать "охуительные" идеи))
В результате получаем довольно интересную картину. Уже про вечные магические войны и борьбу с сущами кто только не писал и не уссыкался с этого. Однако на самом деле вопрос куда глубже. Ведь шаг за шагам можно часто наблюдать, как очередной оккультист вообще из сферы причинности вытесняет банальный наш физический мир.
Все причины сугубо магические и "тонкоплановые", причём обязательно внешние. И почти все лично к бедному оккультисту прицепившиеся.
Но мы же понимаем, что это уже симптом крайней степени "заболевания". В лайтовой версии, особенно эпизодически это встречается мягко говоря часто. Я наверное пока не видел ни одного примера, где в той или иной степени это не проявлялось.
Вот и получается, что на культурном оккультном поле выживают более гностические идеи. Всегда оккультист бедный чувствует это дыхание врага в затылок.
В оккульт тусовочках всё ещё интереснее. Ведь...
1. Люди там и так ещё сильнее подвержены этому правилу
2. Бессистемное магическое мышление даёт куда больше вариантов трактовки
3. Товарищи могут подкидывать "охуительные" идеи))
В результате получаем довольно интересную картину. Уже про вечные магические войны и борьбу с сущами кто только не писал и не уссыкался с этого. Однако на самом деле вопрос куда глубже. Ведь шаг за шагам можно часто наблюдать, как очередной оккультист вообще из сферы причинности вытесняет банальный наш физический мир.
Все причины сугубо магические и "тонкоплановые", причём обязательно внешние. И почти все лично к бедному оккультисту прицепившиеся.
Но мы же понимаем, что это уже симптом крайней степени "заболевания". В лайтовой версии, особенно эпизодически это встречается мягко говоря часто. Я наверное пока не видел ни одного примера, где в той или иной степени это не проявлялось.
Вот и получается, что на культурном оккультном поле выживают более гностические идеи. Всегда оккультист бедный чувствует это дыхание врага в затылок.
👍5