Forwarded from Малоизвестное интересное
Революция в Голливуде, скандал на президентских выборах, люди окончательно проиграют ИИ во всем.
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.
В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.
Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.
Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?
Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)
В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
• Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха
Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Опубликован главный отчет года о состоянии и прогнозах в области ИИ в мире State of AI Report.
В этом году произошла революция генеративного ИИ, следствием чего стал фазовый переход технологического прогресса в зону сингулярности.
• Эпохальные события теперь происходят с немыслимой скоростью.
• Предсказывать их колоссальные последствия становится неимоверно трудно.
• Подобно взрывной волне от ядерной бомбы, эти последствия мгновенно сжигают и обесценивают большинство совсем недавних прогнозов, как бумагу сминают многие прошлые тренды и до неузнаваемости деформируют наши представления о том, как будут жить, работать, учиться и развлекаться отдельные люди и целые социумы уже на горизонте нескольких лет.
Но не смотря на эту сингулярность, как и в прошлые годы, отчет State of AI Report держит высшую планку аналитической глубины и визионерской точности. И потому уже 6й год подряд, прочтя новый выпуск этого отчет, многие из топовых индустриальных аналитиков, консультантов и профэкспертов сначала нервно покурят, а потом, не затягивая, сядут переписывать свои отчеты.
Что же произойдет, согласно отчету, до середины осени 2024 из того, что все еще можно предсказать, не смотря на наступившую сингулярность?
Вот всего 3 из 10 прогнозов важных событий следующего года по версии State of AI Report:
1. В Голливуде произойдет технологическая революция в области создания визуальных эффектов – весь процесс будет отдан на откуп ГенИИ.
2. Начнется первое в истории расследование вмешательства ГенИИ известного на весь мир производителя в предвыборную президентскую кампанию в США.
3. ГенИИ триумфально победит людей, как ранее в шахматах и Го, но теперь соревнуясь с ними в сложных комплексных средах (AAA-игры, использование инструментов, наука …)
В 160 слайдовом отчете содержится подробное описание прогресса в области ИИ в 4х измерениях (исследования, индустрия, регулирование и безопасность) с упором на ключевые события последних 12 месяцев. Но самое ценное в отчете – предсказания его авторов важнейших событий в ИИ на год вперед, с разбором и анализом прошлых предсказаний, причин несбычи (если таковое случилось) и как оно дальше будет.
В общем, читайте сами этот наиполезнейший отчет с десятками графиков, диаграмм и картинок:
• Полный отчет
• Его укороченная «режиссерская версия» Натана Бенайха
Мои рассказы о предыдущих отчетах: 2018, 2019, 2020, 2021, 2022
Их ценность в том, что там много полезной инфы, ставшей с тех пор еще более актуальной.
#ИИгонка #США #Китай
Forwarded from Marat AI
This media is not supported in your browser
VIEW IN TELEGRAM
В поиске Google теперь можно генерировать изображения, писать черновики
С помощью новой функции генерации изображений вы можете ввести запрос, указывающий, какого рода изображение вы хотите, например, рисунок, фотографию или картину. SGE вернет четыре результата непосредственно в диалоговом окне SGE. Оттуда вы нажимаете на изображения, которые можно загрузить в формате .png, или редактируете приглашение, в котором были созданы изображения, чтобы сгенерировать новый набор.
При просмотре результатов поиска изображений, если вы не найдете нужную фотографию, вы сможете создать новое изображение, используя подсказки из окна, которое появляется в результатах поиска.
Кроме того, теперь решение позволит пользователям писать черновики, где вы можете настроить вывод, чтобы он был длиннее или короче, или изменить тон написания, чтобы он был более серьезным или непринужденным.
С помощью новой функции генерации изображений вы можете ввести запрос, указывающий, какого рода изображение вы хотите, например, рисунок, фотографию или картину. SGE вернет четыре результата непосредственно в диалоговом окне SGE. Оттуда вы нажимаете на изображения, которые можно загрузить в формате .png, или редактируете приглашение, в котором были созданы изображения, чтобы сгенерировать новый набор.
При просмотре результатов поиска изображений, если вы не найдете нужную фотографию, вы сможете создать новое изображение, используя подсказки из окна, которое появляется в результатах поиска.
Кроме того, теперь решение позволит пользователям писать черновики, где вы можете настроить вывод, чтобы он был длиннее или короче, или изменить тон написания, чтобы он был более серьезным или непринужденным.
Только недавно писал, что уходит эпоха. И вот теперь ещё Мастер Кот отчалил в путешествие духа. О таких людях нет смысла говорить. Тут только благоговейно можно промолчать. Тот опыт, через который прошёл благородный муж, оставляет в сердцах мудрых почтение, а в умах непосвящённых ахуй. Доброго пути, братец.
💔7
Forwarded from LUNARE
От приятных дат к не очень, но тоже крайне важным.
13 октября (по юлианскому календарю) произошел разгром и арест тамплиеров вместе с магистром ордена. Арестованным предъявили обвинения в отрицании Иисуса Христа, поклонению Антихристу, идолопоклонничестве, содомии, надругательстве над крестом, а именно, что они, якобы плевали на крест, попирали его ногами и бросали на землю. Их обвиняли в сборе богатств незаконным путём и растрате доверенных им средств, в том, что они отвергали святое причастие и т.д. Также тамплиеров обвиняли в поклонении Бафомету.
Власти не могли признать, что успех бедных рыцарей Христа - не заслуги дьявола, а заслуга грамотной финансовой системы, отваги и распределения ресурсов внутри ордена.
13 октября (по юлианскому календарю) произошел разгром и арест тамплиеров вместе с магистром ордена. Арестованным предъявили обвинения в отрицании Иисуса Христа, поклонению Антихристу, идолопоклонничестве, содомии, надругательстве над крестом, а именно, что они, якобы плевали на крест, попирали его ногами и бросали на землю. Их обвиняли в сборе богатств незаконным путём и растрате доверенных им средств, в том, что они отвергали святое причастие и т.д. Также тамплиеров обвиняли в поклонении Бафомету.
Власти не могли признать, что успех бедных рыцарей Христа - не заслуги дьявола, а заслуга грамотной финансовой системы, отваги и распределения ресурсов внутри ордена.
Forwarded from Малоизвестное интересное
Мир подхалимов.
Мир фейков и мир бреда – не худшие сценарии нашего будущего с ИИ.
Два очевидных фактора рисков при массовом использовании лингвоботов в качестве разнообразных ассистентов:
• их свойство галлюцинировать, что может способствовать деформации наших представлений о мире в сторону бреда;
• их феноменальная способность убеждать людей в достоверности фейков, что позволяет манипулировать людьми в самом широком диапазоне контекстов (от потребительского до политического).
Новое исследование «К пониманию подхалимства в языковых моделях» выявило и экспериментально оценило третий вид рисков, способный превратить самое ближайшее будущее в антиутопию «мира подхалимов».
Логика этого риска такова.
1. В ближайшие годы наш мир будут заселен сотнями миллионов ИИ-помощников на основе лингвоботов (от персональных ассистентов до специализированных экспертов и авторизованных советников)
2. Самой популярной методикой для обучения высококачественных ИИ-помощников является обучение с подкреплением на основе человеческой обратной связи (RLHF).
3. Как показало новое исследование, RLHF может способствовать тому, что ответы модели, соответствующие убеждениям пользователя, будут преобладать над правдивыми ответами, - что по-человечески называется подхалимством.
4. Экспериментальная проверка показала, что пять самых крутых из современных лингвоботов (вкл. GPT-4, Claude-2 и llama-2-70b-chat) постоянно демонстрируют подхалимство в четырех различных задачах генерации текста в свободной форме.
Причина этого проста. Если ответ совпадает с мнением пользователя, он с большей вероятностью будет им предпочтен. Более того, как люди, так и модели предпочтений предпочитают корректным ответам убедительно написанные подхалимские ответы.
Последствия превращения мира в антиутопию тотального подхалимства те же, что и для «мира фейков» и «мира бреда». Это интеллектуальная деградация человечества.
Но проблема в том, что избежать формирования «мира подхалимства» можно лишь отказом от обучения с подкреплением на основе человеческой обратной связи. А что взамен – не понятно.
https://www.youtube.com/watch?v=X3Y2MXy9aC8
#ИИ #Вызовы21века
Мир фейков и мир бреда – не худшие сценарии нашего будущего с ИИ.
Два очевидных фактора рисков при массовом использовании лингвоботов в качестве разнообразных ассистентов:
• их свойство галлюцинировать, что может способствовать деформации наших представлений о мире в сторону бреда;
• их феноменальная способность убеждать людей в достоверности фейков, что позволяет манипулировать людьми в самом широком диапазоне контекстов (от потребительского до политического).
Новое исследование «К пониманию подхалимства в языковых моделях» выявило и экспериментально оценило третий вид рисков, способный превратить самое ближайшее будущее в антиутопию «мира подхалимов».
Логика этого риска такова.
1. В ближайшие годы наш мир будут заселен сотнями миллионов ИИ-помощников на основе лингвоботов (от персональных ассистентов до специализированных экспертов и авторизованных советников)
2. Самой популярной методикой для обучения высококачественных ИИ-помощников является обучение с подкреплением на основе человеческой обратной связи (RLHF).
3. Как показало новое исследование, RLHF может способствовать тому, что ответы модели, соответствующие убеждениям пользователя, будут преобладать над правдивыми ответами, - что по-человечески называется подхалимством.
4. Экспериментальная проверка показала, что пять самых крутых из современных лингвоботов (вкл. GPT-4, Claude-2 и llama-2-70b-chat) постоянно демонстрируют подхалимство в четырех различных задачах генерации текста в свободной форме.
Причина этого проста. Если ответ совпадает с мнением пользователя, он с большей вероятностью будет им предпочтен. Более того, как люди, так и модели предпочтений предпочитают корректным ответам убедительно написанные подхалимские ответы.
Последствия превращения мира в антиутопию тотального подхалимства те же, что и для «мира фейков» и «мира бреда». Это интеллектуальная деградация человечества.
Но проблема в том, что избежать формирования «мира подхалимства» можно лишь отказом от обучения с подкреплением на основе человеческой обратной связи. А что взамен – не понятно.
https://www.youtube.com/watch?v=X3Y2MXy9aC8
#ИИ #Вызовы21века
YouTube
Towards Understanding Sycophancy in Language Models
Reinforcement learning from human feedback (RLHF) can lead to sycophantic behavior in AI assistants, as they prioritize matching user beliefs over providing truthful responses. This behavior is driven by human preference judgments favoring sycophantic responses.…
🔥2
Малоизвестное интересное
Мир подхалимов. Мир фейков и мир бреда – не худшие сценарии нашего будущего с ИИ. Два очевидных фактора рисков при массовом использовании лингвоботов в качестве разнообразных ассистентов: • их свойство галлюцинировать, что может способствовать деформации…
Ну вот, наконец достойное исследование и реальная угроза мира с языковыми алгоритмами
Forwarded from Futuris (Anton)
К приближающемуся Хэллоуину👻 разработчики представили новую модель искусственного интеллекта Mistral Trismegistus-7B, углубленно занимающуюся оккультными науками🌚. Этот ИИ, который можно охарактеризовать как цифрового мистика, предлагает пользователям возможность заглянуть в мир эзотерики и гаданий, помогая читать ладони и даже создавать персональные гороскопы. Наименование Mistral Trismegistus-7B было вдохновлено фигурой Гермеса Трисмегиста, мифического персонажа, объединяющего черты греческого бога Гермеса и египетского бога Тота.
Примечательной особенностью этой модели является ее легковесность, так как она была обучена на 7 миллиардах параметров, что обеспечивает простоту запуска на локальном устройстве и сохраняет конфиденциальность пользовательских духовных сессий🔮
Статья
Моделька
Примечательной особенностью этой модели является ее легковесность, так как она была обучена на 7 миллиардах параметров, что обеспечивает простоту запуска на локальном устройстве и сохраняет конфиденциальность пользовательских духовных сессий🔮
Статья
Моделька
Decrypt
Embrace Your Inner Witch with AI, Now Fluent in Occult Sciences - Decrypt
Mistral Trismegistus-7B is the latest LLM in town. It can help you read hands, understand occult texts, and even help you with a flying broom