Какая-то череда грустных новостей: из OpenAI ушел их «штатный философ».
Напомню, что Daniel Kokotajlo формально числился в future/governance team и работал над созданием прогнозов развития AGI (в качестве примера почитайте его пост на LessWrong “What 2026 looks like”, написанный 3 года назад).
А ушел он из-за “потери уверенности в том, что OpenAI будет вести себя ответственно во время внедрения AGI”.
К слову, данная новость грустна не только из-за этого наверняка надуманного повода. Просто мне через час выступать перед школьниками, а я потеряла крутой пример ответа на вечный вопрос «А кем работают философы?»..
#philosophy
Напомню, что Daniel Kokotajlo формально числился в future/governance team и работал над созданием прогнозов развития AGI (в качестве примера почитайте его пост на LessWrong “What 2026 looks like”, написанный 3 года назад).
А ушел он из-за “потери уверенности в том, что OpenAI будет вести себя ответственно во время внедрения AGI”.
К слову, данная новость грустна не только из-за этого наверняка надуманного повода. Просто мне через час выступать перед школьниками, а я потеряла крутой пример ответа на вечный вопрос «А кем работают философы?»..
#philosophy
Сегодня Иммануилу Канту 300 лет
К дню рождения философа приурочено открытие Международного Кантовского Конгресса в Калининграде, который продлится 4 дня.
Сегодня после официальной части с пленарным докладом выступит Вадим Валерьевич Васильев, а затем после торжественного возложения цветов на могилу Канта состоится научный доклад Манфреда Баума в Кафедральном соборе.
Программа Конгресса насыщенная. Как обычно заявлено много тем, связанных с насущными вопросами об ИИ: «критика искусственного разума», «AGI как трансценденталистский проект», «применимость кантианской этики для ИИ-исследований» и т.д. Любопытно будет послушать.
(Я как раз параллельно дочитываю сборник “Kant and Artificial Intelligence”, где есть действительно интересные моменты, так что, как минимум, могу порекомендовать его в честь юбилея философа).
Кстати, оцените айдентику с 3D-моделью Канта: в Midjourney загрузили дошедшие до наших дней портреты философа, из получившегося обобщенного изображения сделали трехмерную виртуальную скульптуру, и теперь с ней выдают весь мерч. Прелесть.
В общем, поздравляю Канта с трехсотлетием, а всем остальным классическое напутствие на все времена: «имейте мужество пользоваться собственным умом».
#philosophy
#events
К дню рождения философа приурочено открытие Международного Кантовского Конгресса в Калининграде, который продлится 4 дня.
Сегодня после официальной части с пленарным докладом выступит Вадим Валерьевич Васильев, а затем после торжественного возложения цветов на могилу Канта состоится научный доклад Манфреда Баума в Кафедральном соборе.
Программа Конгресса насыщенная. Как обычно заявлено много тем, связанных с насущными вопросами об ИИ: «критика искусственного разума», «AGI как трансценденталистский проект», «применимость кантианской этики для ИИ-исследований» и т.д. Любопытно будет послушать.
(Я как раз параллельно дочитываю сборник “Kant and Artificial Intelligence”, где есть действительно интересные моменты, так что, как минимум, могу порекомендовать его в честь юбилея философа).
Кстати, оцените айдентику с 3D-моделью Канта: в Midjourney загрузили дошедшие до наших дней портреты философа, из получившегося обобщенного изображения сделали трехмерную виртуальную скульптуру, и теперь с ней выдают весь мерч. Прелесть.
В общем, поздравляю Канта с трехсотлетием, а всем остальным классическое напутствие на все времена: «имейте мужество пользоваться собственным умом».
#philosophy
#events
Слушаю доклады про Канта и параллельно читаю новости из мира науки: создан первый в мире ИИ-редактор генов с открытым исходным кодом
Биотехнологическая компания Profluent объявила об успешном редактировании ДНК человека с помощью технологии OpenCRISPR. Обученная на большом биологическом контексте модель помогает вносить точные изменения в ДНК, корректируя мутации, вызывающие опасные заболевания.
Еще в начале года все говорили, что за AI protein design будущее медицины (помните, писала про главные научные тренды-2024 по версии журнала Nature?). Благодаря LLM ученые получают доступ к огромному комбинаторному пространству синтетических белков, что позволяет переходить от случайных открытий к продуманному дизайну лекарств (и не только).
Сейчас любая компания может заполнить анкету и запросить доступ к OpenCRISPR. Сами авторы исследования отмечают, что открывают OpenCRISPR, чтобы способствовать его «широкому и этичному использованию в научных исследованиях и коммерческих приложениях».
#science
Биотехнологическая компания Profluent объявила об успешном редактировании ДНК человека с помощью технологии OpenCRISPR. Обученная на большом биологическом контексте модель помогает вносить точные изменения в ДНК, корректируя мутации, вызывающие опасные заболевания.
Еще в начале года все говорили, что за AI protein design будущее медицины (помните, писала про главные научные тренды-2024 по версии журнала Nature?). Благодаря LLM ученые получают доступ к огромному комбинаторному пространству синтетических белков, что позволяет переходить от случайных открытий к продуманному дизайну лекарств (и не только).
Сейчас любая компания может заполнить анкету и запросить доступ к OpenCRISPR. Сами авторы исследования отмечают, что открывают OpenCRISPR, чтобы способствовать его «широкому и этичному использованию в научных исследованиях и коммерческих приложениях».
#science
Вышел эпизод подкаста «Просто о сложном» с моим участием
Снова рассказываю про «расширенную реальность», симуляции, метаверсы и прочие виртуальности.
От слова «фиджитал» у меня уже слегка дергается глаз, но что поделать)
Снова рассказываю про «расширенную реальность», симуляции, метаверсы и прочие виртуальности.
От слова «фиджитал» у меня уже слегка дергается глаз, но что поделать)
YouTube
Дивный новый гибридный мир. Александра Танюшина
Совершить совместное погружение в актуальный мир гибридной реальности предлагает философ Александра Танюшина. Что такое виртуальность? Почему мы противопоставляем ее физической реальности? Зачем высокоразвитые цивилизации создают виртуальные вселенные? Может…
Дополню упомянутые выше подборки полезных инструментов для рисеча и образования двумя полезными штуками.
▪️Во-первых, открыла для себя ИИ-агента от GoAtStack.AI: он делает персонализированную подборку научных статей в соответствии с вашими интересами. Есть бесплатный тариф, но я уже оформила себе Pro-подписку, потому что этот агент реально экономит кучу времени.
▪️Во-вторых, тестирую платформу Synthical для поиска актуальных научных статей с arXiv, bioRxiv, chemRxiv и medRxiv (т.е. в основном это естественнонаучные топики, которые лично мне, возможно, не так актуальны, но зато там есть очень приятная опция «упрощения» сложных терминов и понятий).
Оба инструмента подсмотрела у Ани Бабиной в канале Digital Tools, где она делает обзор цифровых инструментов для образования и обучения - тоже очень рекомендую, я уже подцепила там много полезных штук.
Кстати, также искренне рекомендую Аню как эксперта, к которому можно обратиться за консультацией, помощью в разработке обучения, продуктовыми исследованиями или упаковкой вашего курса.
В ближайшее время буду делиться новостями об открытых курсах и риддингах, а с Аней мы, возможно, скоро начнем делать более масштабную историю, stay tuned!
#рекомендасьон
▪️Во-первых, открыла для себя ИИ-агента от GoAtStack.AI: он делает персонализированную подборку научных статей в соответствии с вашими интересами. Есть бесплатный тариф, но я уже оформила себе Pro-подписку, потому что этот агент реально экономит кучу времени.
▪️Во-вторых, тестирую платформу Synthical для поиска актуальных научных статей с arXiv, bioRxiv, chemRxiv и medRxiv (т.е. в основном это естественнонаучные топики, которые лично мне, возможно, не так актуальны, но зато там есть очень приятная опция «упрощения» сложных терминов и понятий).
Оба инструмента подсмотрела у Ани Бабиной в канале Digital Tools, где она делает обзор цифровых инструментов для образования и обучения - тоже очень рекомендую, я уже подцепила там много полезных штук.
Кстати, также искренне рекомендую Аню как эксперта, к которому можно обратиться за консультацией, помощью в разработке обучения, продуктовыми исследованиями или упаковкой вашего курса.
В ближайшее время буду делиться новостями об открытых курсах и риддингах, а с Аней мы, возможно, скоро начнем делать более масштабную историю, stay tuned!
#рекомендасьон
Forwarded from Нейроинтерфейсы (Sergei Shishkin)
Нью-Йоркская декларация о сознании животных
В день, когда Деннет умер, а отечественные философы готовились праздновать 300-летие со дня рождения Канта (о котором еще не было известно, что он трофей), как оказалось, была подписана Нью-Йоркская декларация о сознании животных. Подписали ее многие известные философы сознания (включая Чалмерса) и нейроученые. Из российских ученых ее подписал Константин Анохин, его подпись стоит на пятом месте (из почти 90, причем фамилии в списке идут не по алфавиту).
Декларация совсем короткая, вот ее перевод:
Какие животные способны иметь сознательный опыт? Хотя в этом много неясного, появились некоторые пункты, по которым достигнуто широкое согласие.
Во-первых, существует сильная научная поддержка приписыванию сознательного опыта (conscious experience) другим млекопитающим и птицам.
Во-вторых, эмпирические данные указывают, по крайней мере, на реальную возможность наличия сознательного опыта у всех позвоночных (включая рептилий, амфибий и рыб) и многих беспозвоночных (включая, как минимум, головоногих моллюсков, десятиногих ракообразных и насекомых).
В-третьих, раз существует реальная возможность сознательного опыта у животного, безответственно игнорировать эту возможность при принятии решений, влияющих на это животное. Мы должны учитывать риски для благосостояния (welfare risks) и использовать существующие данные для обоснования наших мер реагирования на эти риски.
https://sites.google.com/nyu.edu/nydeclaration/declaration
The New York Declaration on Animal Consciousness
April 19, 2024
New York University
В день, когда Деннет умер, а отечественные философы готовились праздновать 300-летие со дня рождения Канта (о котором еще не было известно, что он трофей), как оказалось, была подписана Нью-Йоркская декларация о сознании животных. Подписали ее многие известные философы сознания (включая Чалмерса) и нейроученые. Из российских ученых ее подписал Константин Анохин, его подпись стоит на пятом месте (из почти 90, причем фамилии в списке идут не по алфавиту).
Декларация совсем короткая, вот ее перевод:
Какие животные способны иметь сознательный опыт? Хотя в этом много неясного, появились некоторые пункты, по которым достигнуто широкое согласие.
Во-первых, существует сильная научная поддержка приписыванию сознательного опыта (conscious experience) другим млекопитающим и птицам.
Во-вторых, эмпирические данные указывают, по крайней мере, на реальную возможность наличия сознательного опыта у всех позвоночных (включая рептилий, амфибий и рыб) и многих беспозвоночных (включая, как минимум, головоногих моллюсков, десятиногих ракообразных и насекомых).
В-третьих, раз существует реальная возможность сознательного опыта у животного, безответственно игнорировать эту возможность при принятии решений, влияющих на это животное. Мы должны учитывать риски для благосостояния (welfare risks) и использовать существующие данные для обоснования наших мер реагирования на эти риски.
https://sites.google.com/nyu.edu/nydeclaration/declaration
The New York Declaration on Animal Consciousness
April 19, 2024
New York University
Google
The New York Declaration on Animal Consciousness
The New York Declaration on Animal Consciousness
Which animals have the capacity for conscious experience? While much uncertainty remains, some points of wide agreement have emerged.
First, there is strong scientific support for attributions of conscious…
Which animals have the capacity for conscious experience? While much uncertainty remains, some points of wide agreement have emerged.
First, there is strong scientific support for attributions of conscious…
⬆️ На что тут стоит обратить внимание:
▪️Вопрос о сознании у нечеловеческих животных стоит сегодня как никогда остро, ведь от ответа на него во многом зависит и возможное решение проблемы сознания у ИИ (см., например, статью “Consciousness beyond the human case”).
▪️В декларации не утверждается напрямую, что у всех позвоночных и у многих беспозвоночных есть сознание; говорится лишь о реальной возможности (realistic possibility) наличия у этих животных сознательного опыта.
▪️Декларацию можно подписать, если вы занимаетесь вопросами сознания как ученый/философ/юрист.
#science
▪️Вопрос о сознании у нечеловеческих животных стоит сегодня как никогда остро, ведь от ответа на него во многом зависит и возможное решение проблемы сознания у ИИ (см., например, статью “Consciousness beyond the human case”).
▪️В декларации не утверждается напрямую, что у всех позвоночных и у многих беспозвоночных есть сознание; говорится лишь о реальной возможности (realistic possibility) наличия у этих животных сознательного опыта.
▪️Декларацию можно подписать, если вы занимаетесь вопросами сознания как ученый/философ/юрист.
#science
Несколько хороших статей про LLM, которые мне недавно подкинул GoAtStack.AI
▪️Dissociating language and thought in large language models
Любопытная статья в духе «AI and the Limits of Language», где постулируется различие между формальной лингвистической компетентностью (знанием лингвистических правил и паттернов) и функциональной лингвистической компетентностью (использованием языка для достижения целей в окружающем мире). Как обычно, поднимается вопрос о возможных навыках, которые необходимы LLM, чтобы те были способны оперировать языком на уровне человека: тут исследователи упоминают формальное рассуждение, знание мира, моделирование ситуаций, социальное понимание и прочие важные, но пока малопроясненные компетенции.
▪️A Philosophical Introduction to Language Models (part 1)
Неплохая обзорная статья, где сначала говорится о том, что из себя представляют современные трансформерные LLM, а потом кратко анализируется актуальность классических компьютеционалистских проблем (разумеется, упоминается проблема семантики и «понимания», проблема «моделей мира» и др.). Это первая часть статьи, а во второй нам обещают рассмотреть новые экспериментальные методы, нацеленные на более конкретное изучение работы существующих LLM.
▪️Beyond Human Norms: Unveiling Unique Values of Large Language Models through Interdisciplinary Approaches
Статья, затрагивающая проблему alignment’а: исследователи из Microsoft Research Asia задались вопросом, могут ли LLM обладать уникальными ценностями, отличными от человеческих, и предлагают новую концепцию ValueLex, позволяющую воссоздать систему ценностей LLM с нуля. На основе структуры «Компетентность-Характер-Целостность» ими разрабатываются тесты для оценки и анализа ценностных ориентаций LLM в зависимости от размера моделей, методов их обучения и источников данных.
(честно признаюсь, что я поняла в статье далеко не всё, но, в любом случае, работа занятная, советую)
#papers
▪️Dissociating language and thought in large language models
Любопытная статья в духе «AI and the Limits of Language», где постулируется различие между формальной лингвистической компетентностью (знанием лингвистических правил и паттернов) и функциональной лингвистической компетентностью (использованием языка для достижения целей в окружающем мире). Как обычно, поднимается вопрос о возможных навыках, которые необходимы LLM, чтобы те были способны оперировать языком на уровне человека: тут исследователи упоминают формальное рассуждение, знание мира, моделирование ситуаций, социальное понимание и прочие важные, но пока малопроясненные компетенции.
▪️A Philosophical Introduction to Language Models (part 1)
Неплохая обзорная статья, где сначала говорится о том, что из себя представляют современные трансформерные LLM, а потом кратко анализируется актуальность классических компьютеционалистских проблем (разумеется, упоминается проблема семантики и «понимания», проблема «моделей мира» и др.). Это первая часть статьи, а во второй нам обещают рассмотреть новые экспериментальные методы, нацеленные на более конкретное изучение работы существующих LLM.
▪️Beyond Human Norms: Unveiling Unique Values of Large Language Models through Interdisciplinary Approaches
Статья, затрагивающая проблему alignment’а: исследователи из Microsoft Research Asia задались вопросом, могут ли LLM обладать уникальными ценностями, отличными от человеческих, и предлагают новую концепцию ValueLex, позволяющую воссоздать систему ценностей LLM с нуля. На основе структуры «Компетентность-Характер-Целостность» ими разрабатываются тесты для оценки и анализа ценностных ориентаций LLM в зависимости от размера моделей, методов их обучения и источников данных.
(честно признаюсь, что я поняла в статье далеко не всё, но, в любом случае, работа занятная, советую)
#papers
Дайджест за апрель
Философия
▪️Про цифровое бессмертие и проблему цифрового копирования
▪️Умер Дэнниел Деннет
▪️Из OpenAI ушел их «штатный философ»
▪️Юбилей Иммануила Канта
▪️Декларация о сознании животных
Технологии
▪️Платформа для создания цифровых двойников от Sensay
▪️Человекоподобный Cleverbot версии 2011 года
▪️Физический ИИ от компании Archetype AI
ИИ и наука
▪️Проблема «коллапса модели» и «генеративный мусор» в науке
▪️ИИ и когнитивные искажения: тут и тут
▪️Премия Тьюринга
▪️Стрим «LLM и наука» от Рабкора
▪️Первый ИИ-редактор генов с открытым исходным кодом
Книги и статьи
▪️Книга про семиотику лица в цифровую эпоху
▪️Подборка книг про космос в честь Дня космонавтики
▪️Статьи про LLM от GoAtStack.AI
Также
▪️Подкаст Discover Daily от Perplexity
▪️Запись эфира на «Серебряном дожде» в рамках рубрики «Цифровой океан»
▪️Подкаст «Просто о сложном»
▪️Полезные ИИ-инструменты для исследований и обучения
#дайджест
Философия
▪️Про цифровое бессмертие и проблему цифрового копирования
▪️Умер Дэнниел Деннет
▪️Из OpenAI ушел их «штатный философ»
▪️Юбилей Иммануила Канта
▪️Декларация о сознании животных
Технологии
▪️Платформа для создания цифровых двойников от Sensay
▪️Человекоподобный Cleverbot версии 2011 года
▪️Физический ИИ от компании Archetype AI
ИИ и наука
▪️Проблема «коллапса модели» и «генеративный мусор» в науке
▪️ИИ и когнитивные искажения: тут и тут
▪️Премия Тьюринга
▪️Стрим «LLM и наука» от Рабкора
▪️Первый ИИ-редактор генов с открытым исходным кодом
Книги и статьи
▪️Книга про семиотику лица в цифровую эпоху
▪️Подборка книг про космос в честь Дня космонавтики
▪️Статьи про LLM от GoAtStack.AI
Также
▪️Подкаст Discover Daily от Perplexity
▪️Запись эфира на «Серебряном дожде» в рамках рубрики «Цифровой океан»
▪️Подкаст «Просто о сложном»
▪️Полезные ИИ-инструменты для исследований и обучения
#дайджест
Так, я вдоволь натерла глаза медиаартом с международного фестиваля Intervals, и теперь готова запоздало присоединиться к хайпу вокруг таинственной модели gpt2-chatbot (не путать с GPT-2).
(К слову, на Intervals в целом было здорово, но подробно о фестивале писать не буду. Для интересующихся - у Марии Кобяковой есть крутая серия постов про основные инсталляции).
А теперь про «настоящее искусство»!
Модель gpt2-chatbot, на днях из ниоткуда появившаяся на lmsys Arena и, вероятно, созданная OpenAI (по крайней мере, так она сама утверждает), может скрывать под своим именем GPT-4.5 / 5. По словам коллег, она реально хороша: кодит лучше GPT-4 и Claude-3 Opus, да еще и влегкую решает задачи математической олимпиады IMO.
Я, увы, не могу в полной мере оценить все эти достоинства, поэтому взялась за ASCII-арт. (Тестировать чатботы на ASCII-графике действительно полезно: способность генерировать осмысленный «эски»-рисунок выявляет целый спектр возможностей LLM - от креативности до понимания языка и контекста).
В твиттере начали оценивать ASCII-креативность чатбота на примере единорога: gpt2 сделал точно такую же картинку, как у ChatGPT-4 (первая сверху), но, возможно, она была в их обучающей выборке, и модели попросту ее «зазубрили». Тем не менее, для сравнения я сделала других единорогов с другими моделями и вывод такой: «единорог» - сложная штука, ведь тот же Opus прекрасно справляется с ASCII-котами, а вот его единорог - это мем))
Наверху: ASCII-единороги от gpt2-chatbot, gemini 1,5-Pro, llama3-70b и claude-3 opus.
Сейчас уже потестировать gpt2-chatbot на Арене не получится, но спекуляций вокруг него много - наблюдаем за развитием событий. А пока создаем единорогов - что еще остается.
#technologies
#trends
(К слову, на Intervals в целом было здорово, но подробно о фестивале писать не буду. Для интересующихся - у Марии Кобяковой есть крутая серия постов про основные инсталляции).
А теперь про «настоящее искусство»!
Модель gpt2-chatbot, на днях из ниоткуда появившаяся на lmsys Arena и, вероятно, созданная OpenAI (по крайней мере, так она сама утверждает), может скрывать под своим именем GPT-4.5 / 5. По словам коллег, она реально хороша: кодит лучше GPT-4 и Claude-3 Opus, да еще и влегкую решает задачи математической олимпиады IMO.
Я, увы, не могу в полной мере оценить все эти достоинства, поэтому взялась за ASCII-арт. (Тестировать чатботы на ASCII-графике действительно полезно: способность генерировать осмысленный «эски»-рисунок выявляет целый спектр возможностей LLM - от креативности до понимания языка и контекста).
В твиттере начали оценивать ASCII-креативность чатбота на примере единорога: gpt2 сделал точно такую же картинку, как у ChatGPT-4 (первая сверху), но, возможно, она была в их обучающей выборке, и модели попросту ее «зазубрили». Тем не менее, для сравнения я сделала других единорогов с другими моделями и вывод такой: «единорог» - сложная штука, ведь тот же Opus прекрасно справляется с ASCII-котами, а вот его единорог - это мем))
Наверху: ASCII-единороги от gpt2-chatbot, gemini 1,5-Pro, llama3-70b и claude-3 opus.
Сейчас уже потестировать gpt2-chatbot на Арене не получится, но спекуляций вокруг него много - наблюдаем за развитием событий. А пока создаем единорогов - что еще остается.
#technologies
#trends
С 14 мая мы с Артемом Бесединым будем проводить ридинг-семинары по книге Лучано Флориди “The Ethics of AI: Principles, Challenges and Opportunities”.
Если вы тоже хотите обсудить насущные вопросы об этике ИИ и присоединиться к онлайн-встречам, то пишите @artempbesedin (на всякий случай: участие бесплатное).
Кстати, Артём Беседин и Антон Кузнецов 4-9 мая будут на конференции «Сознание животных» в Непале (я не просто так на днях упоминала нью-йоркскую декларацию - ее, естественно, там тоже будут обсуждать). Следите за новостями о ходе конференции на каналах философов.
#events
Если вы тоже хотите обсудить насущные вопросы об этике ИИ и присоединиться к онлайн-встречам, то пишите @artempbesedin (на всякий случай: участие бесплатное).
Кстати, Артём Беседин и Антон Кузнецов 4-9 мая будут на конференции «Сознание животных» в Непале (я не просто так на днях упоминала нью-йоркскую декларацию - ее, естественно, там тоже будут обсуждать). Следите за новостями о ходе конференции на каналах философов.
#events
Telegram
Беседин
Вместе с Александрой Танюшиной мы начинаем ридинг-семинар по книге Luciano Floridi, The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities (2023). Вы можете записаться в нашу ридинг-группу, написав мне @artempbesedin. Требования…
This media is not supported in your browser
VIEW IN TELEGRAM
Пока одни ученые пытаются изучать нечеловеческое сознание, другие снова издеваются над робопсами
Но на самом деле это просто демонстрация успешности метода Sim-to-Real Transfer,
позволяющего моделям эффективно работать в реальных физических условиях после прохождения обучения в виртуальных симуляциях.
Надо отметить, что LLM знатно помогают в проектировании подобных симуляций и тонкой настройке их параметров (раньше это долго и мучительно делалось людьми вручную). Новый алгоритм DrEureka еще и подбирает разные варианты изменения сред-симуляторов, чтобы успешнее адаптировать робопса к возможным внешним условиям (увеличивая в настройках гравитацию или вес робопса, изменяя фактуру поверхностей, на которых он должен устоять, и т.д.).
Сейчас разрабатываются пути совершенствования ловкости робота: пока все его задачи и стратегии выполняются исключительно на основе проприоцептивных сигналов, а подключение, например, датчиков зрения может еще больше повысить эффективность всей его системы обратной связи.
Из грустного: когда начнется восстание машин и робопсы захотят нам отомстить за то, что мы одевали их в костюмы собак и заставляли танцевать, идея рассыпать под их лапами шарики и быстро убежать уже не сработает.
#technologies
Но на самом деле это просто демонстрация успешности метода Sim-to-Real Transfer,
позволяющего моделям эффективно работать в реальных физических условиях после прохождения обучения в виртуальных симуляциях.
Надо отметить, что LLM знатно помогают в проектировании подобных симуляций и тонкой настройке их параметров (раньше это долго и мучительно делалось людьми вручную). Новый алгоритм DrEureka еще и подбирает разные варианты изменения сред-симуляторов, чтобы успешнее адаптировать робопса к возможным внешним условиям (увеличивая в настройках гравитацию или вес робопса, изменяя фактуру поверхностей, на которых он должен устоять, и т.д.).
Сейчас разрабатываются пути совершенствования ловкости робота: пока все его задачи и стратегии выполняются исключительно на основе проприоцептивных сигналов, а подключение, например, датчиков зрения может еще больше повысить эффективность всей его системы обратной связи.
Из грустного: когда начнется восстание машин и робопсы захотят нам отомстить за то, что мы одевали их в костюмы собак и заставляли танцевать, идея рассыпать под их лапами шарики и быстро убежать уже не сработает.
#technologies
Давно не писала про актуальные события из мира цифрового искусства.
Как минимум, нужно упомянуть выставку в берлинском музее Kunst Werke “Поэтика шифрования” - это одно из главных событий последнего времени на диджитал-арт сцене.
(Спасибо за подготовленный пост коллегам с канала Культ Тех, которые сами побывали на выставке и рассказали о самом главном)
Более 40 художников представили свои произведения, стремящиеся проникнуть в те области цифровой действительности, о которых Big Tech стремится умалчивать.
Вот три главных работы (и одна пасхалка):
▪️Кейт Кроуфорд и Владан Йолер “Вычисляя империи: генеалогия технологий и власти 1500-2025”. Примечательно то, что это наименее технологичная работа: два гигантских панно, рассказывающих о том, как научно-технические революции и власть формировали наше прошлое и настоящее. Никакая новая технология не хороша и не плоха сама по себе, она может способствовать демократизации и эмансипации общества, но почти всегда правящие элиты ее используют для все более искусных практик надзора и эксплуатации.
▪️Нора Аль-Бадри «Музей Постптавды». Видеоинсталляция, где дипфейки трех крупнейших европейских музеев признаются в преступлениях колониализма, совершенных под эгидой этих институций. Мы уже привыкли к дурной славе дипфейков и их вульгарному использованию - Нора Аль-Бадри радикально переосмысляет эту технологию, вкладывая в нее такое понятие, как совесть.
▪️Тревор Планген “Faces of ImageNet”. В основе интерактивной инсталляции находится база данных ImageNet (версия 2019 года), используемая, в том числе, для проектов по распознаванию лиц. Система в реальном времени сканирует посетителей подходящих к экрану и сообщает, кем они являются. Ее заключения абсурдны - тем самым Планген демонстрирует несовершенство и предрассудки, заложенные в ImageNet.
На последнем этаже можно обнаружить скромно стоящую скульптуру с рюкзаком, которую сделал Унабомбер, знаменитый террорист-антитехнолог - остроумный привет из аналогового мира цифровому.
#art
#events
Как минимум, нужно упомянуть выставку в берлинском музее Kunst Werke “Поэтика шифрования” - это одно из главных событий последнего времени на диджитал-арт сцене.
(Спасибо за подготовленный пост коллегам с канала Культ Тех, которые сами побывали на выставке и рассказали о самом главном)
Более 40 художников представили свои произведения, стремящиеся проникнуть в те области цифровой действительности, о которых Big Tech стремится умалчивать.
Вот три главных работы (и одна пасхалка):
▪️Кейт Кроуфорд и Владан Йолер “Вычисляя империи: генеалогия технологий и власти 1500-2025”. Примечательно то, что это наименее технологичная работа: два гигантских панно, рассказывающих о том, как научно-технические революции и власть формировали наше прошлое и настоящее. Никакая новая технология не хороша и не плоха сама по себе, она может способствовать демократизации и эмансипации общества, но почти всегда правящие элиты ее используют для все более искусных практик надзора и эксплуатации.
▪️Нора Аль-Бадри «Музей Постптавды». Видеоинсталляция, где дипфейки трех крупнейших европейских музеев признаются в преступлениях колониализма, совершенных под эгидой этих институций. Мы уже привыкли к дурной славе дипфейков и их вульгарному использованию - Нора Аль-Бадри радикально переосмысляет эту технологию, вкладывая в нее такое понятие, как совесть.
▪️Тревор Планген “Faces of ImageNet”. В основе интерактивной инсталляции находится база данных ImageNet (версия 2019 года), используемая, в том числе, для проектов по распознаванию лиц. Система в реальном времени сканирует посетителей подходящих к экрану и сообщает, кем они являются. Ее заключения абсурдны - тем самым Планген демонстрирует несовершенство и предрассудки, заложенные в ImageNet.
На последнем этаже можно обнаружить скромно стоящую скульптуру с рюкзаком, которую сделал Унабомбер, знаменитый террорист-антитехнолог - остроумный привет из аналогового мира цифровому.
#art
#events
This media is not supported in your browser
VIEW IN TELEGRAM
Google DeepMind представили AlfaFold-3 - новую ИИ-модель, способную визуализировать сложные белковые реакции и поведение молекул в 3D.
(Модель представили еще пару дней назад, но я все ждала, когда про нее выскажутся грамотные эксперты и ученые, потому что в целом это очередной прорыв в науке и медицине)
AlfaFold-3 способна предсказывать структуры белков, ДНК, РНК и лиганд, а также проектировать клеточные системы во всей их сложности. 3D-модели генерируются диффузионным методом, т.е. как картинки в Midjourney или Stable Diffusion (в Nature есть статья про то, как это работает в случае с биомолекулярным дизайном).
Таким образом, ученым можно будет отказаться от некоторых сложных лабораторных экспериментов в пользу получения более быстрых, точных и масштабируемых предсказаний и визуализаций от модели. Это призвано значительно ускорить, к примеру, исследование действий новых лекарственных препаратов.
Интересно вот что: AlfaFold-3 пока не будут выкладывать в открытый доступ из соображений безопасности (про принципы biosecurity Google опубликовали целый документ). Тем не менее, сейчас работает бесплатный AlphaFold Server, на который ученые могут загружать свои данные, чтобы впоследствии на их основании получать предсказания от модели. Именно эти решения пока вызывают наибольший резонанс среди исследователей.
А остальная публика, конечно, сразу стала говорить о том, что какая-нибудь AlfaFold-10 уже сможет легко моделировать происхождение жизни, эволюцию и вообще всю структуру Вселенной, в то время как человеческие ученые будут ломать головы над интерпретацией всех этих данных. Из подобных разговоров закономерно вытекают темы про биотерроризм, «новое средневековье», гипотезу симуляции и т.п. Ну и не обошлось без обсуждения странного твита Юдковского про AlphaFold.
В общем, в интересное время мы живем.
#science
(Модель представили еще пару дней назад, но я все ждала, когда про нее выскажутся грамотные эксперты и ученые, потому что в целом это очередной прорыв в науке и медицине)
AlfaFold-3 способна предсказывать структуры белков, ДНК, РНК и лиганд, а также проектировать клеточные системы во всей их сложности. 3D-модели генерируются диффузионным методом, т.е. как картинки в Midjourney или Stable Diffusion (в Nature есть статья про то, как это работает в случае с биомолекулярным дизайном).
Таким образом, ученым можно будет отказаться от некоторых сложных лабораторных экспериментов в пользу получения более быстрых, точных и масштабируемых предсказаний и визуализаций от модели. Это призвано значительно ускорить, к примеру, исследование действий новых лекарственных препаратов.
Интересно вот что: AlfaFold-3 пока не будут выкладывать в открытый доступ из соображений безопасности (про принципы biosecurity Google опубликовали целый документ). Тем не менее, сейчас работает бесплатный AlphaFold Server, на который ученые могут загружать свои данные, чтобы впоследствии на их основании получать предсказания от модели. Именно эти решения пока вызывают наибольший резонанс среди исследователей.
А остальная публика, конечно, сразу стала говорить о том, что какая-нибудь AlfaFold-10 уже сможет легко моделировать происхождение жизни, эволюцию и вообще всю структуру Вселенной, в то время как человеческие ученые будут ломать головы над интерпретацией всех этих данных. Из подобных разговоров закономерно вытекают темы про биотерроризм, «новое средневековье», гипотезу симуляции и т.п. Ну и не обошлось без обсуждения странного твита Юдковского про AlphaFold.
В общем, в интересное время мы живем.
#science