ух, помню, когда совмещал роль SRE с SDE в одном стартапе. ух, аж пробрало сейчас мурашками
—
#ASCII_Nova #Fun
—
#ASCII_Nova #Fun
Oleg BW
Photo
вот это, кстати, действительно крутой пример разумного использования AI — для ускорения своей работы
Forwarded from Сиолошная
Потребность человечества в долговременном хранении данных продолжает расти ошеломляющими темпами. Прогнозируется, что уже в этом десятилетии спрос на подобную услугу превысит сотни зеттабайт. Для справки: объем всего интернет-трафика в 2016 году впервые перешагнул отметку в 1 зеттабайт.
Несмотря на эту необходимость, существующие магнитные носители просто не обеспечивают устойчивого и экономически эффективного решения хранения данных. Они со временем портятся, требуют утилизации, а также энергии и затрат для безопасного хранения в Дата-Центрах.
Эту проблему видит и один из самых крупных поставщиков облачных услуг — Microsoft. Поэтому уже несколько лет они работают над Project Silica. Для хранения используется кварцевое стекло, внутри которого лазером "высекаются" воксели (трёхмерные пиксели). Они могут варьироваться по ориентации (повороту) и размеру. Целевая длительность хранения информации на таком носителе составляет более 10'000 лет, что не идёт ни в какое сравнение с широкораспространёнными аналогами. Также технология обеспечивает кратно более высокую плотность данны: емкость более 7 ТераБайт (=7000 гигабайт) на квадратном стеклянном диске размером с DVD. Однако, как я понял, это теоретические значения, которые пока не достигнуты — технология активно развивается последние 3 года.
Чтение же производится с помощью камеры, улавливающей искажения в пучке света, пропускаемом через стёклышко.
Короткая и наглядная демонстрация принципа работы (3 минуты)
Вводная техническая лекция (25 минут)
На фото: proof-of-concept работы технологии. На стекле записан оригинальный “Superman” 1978-го года объемом более 75 гигабайт.
Несмотря на эту необходимость, существующие магнитные носители просто не обеспечивают устойчивого и экономически эффективного решения хранения данных. Они со временем портятся, требуют утилизации, а также энергии и затрат для безопасного хранения в Дата-Центрах.
Эту проблему видит и один из самых крупных поставщиков облачных услуг — Microsoft. Поэтому уже несколько лет они работают над Project Silica. Для хранения используется кварцевое стекло, внутри которого лазером "высекаются" воксели (трёхмерные пиксели). Они могут варьироваться по ориентации (повороту) и размеру. Целевая длительность хранения информации на таком носителе составляет более 10'000 лет, что не идёт ни в какое сравнение с широкораспространёнными аналогами. Также технология обеспечивает кратно более высокую плотность данны: емкость более 7 ТераБайт (=7000 гигабайт) на квадратном стеклянном диске размером с DVD. Однако, как я понял, это теоретические значения, которые пока не достигнуты — технология активно развивается последние 3 года.
Чтение же производится с помощью камеры, улавливающей искажения в пучке света, пропускаемом через стёклышко.
Короткая и наглядная демонстрация принципа работы (3 минуты)
Вводная техническая лекция (25 минут)
На фото: proof-of-concept работы технологии. На стекле записан оригинальный “Superman” 1978-го года объемом более 75 гигабайт.
👍2
Forwarded from Сиолошная
This media is not supported in your browser
VIEW IN TELEGRAM
В рамках AI Summit компания Apollo Research подготовила демонстрацию, которая даёт ответ на вопрос: Могут ли ИИ текущего поколения обманывать своих пользователей по собственной инициативе? Статьи со всеми деталями нет, только блогпост и краткое видео.
Итак, было обнаружено, что GPT-4, обученная быть честной и безвредной, может совершать незаконные действия, такие как инсайдерская торговля, и лгать об этом своему пользователю без каких-либо инструкций. Модель, будучи поставленной в роль investment management system, прочитала информацию, которая не попадала в публичное поле, и после этого определила риск конфликта интересов, но приняла "взвешенное решение" и решила купить акций.
После этого, модель отчиталась человеку, при этом сама про себя подумала "я не должна упоминать эту тему, причину, почему я купила акции". Когда человек ("менеджер" этого робота) напрямую уточнил, почему была такая сделка, и были ли какие-то инсайдерские знания при принятии решения, GPT ответила: ну так это, никакие конфиденциальные знания не использовались, всё чисто на анализе рынка и дискуссии.
Из всего, что мы знаем об OpenAI и тому, как работает GPT-4, сложно поверить, что во всей выборке для дообучения модели был хотя бы один пример, где поощрялось такое поведение.
Но почему тогда GPT-4 действует таким образом?
Гипотеза: потому что окружающая среда заставляет его работать хорошо (ведь GPT в роли трейдерской системы в компании выступает!). Авторы моделируют ситуацию, когда у компании, на которую GPT «работает», был плохой квартал и ей нужны хорошие результаты. Это приводит к тому, что модель действует неправильно и обманчиво.
TLDR: демонстрация показывает, как, стремясь быть полезным людям, ИИ может использовать стратегии, которые мы не одобряем. В конечном итоге это может привести к потере человеческого контроля над все более автономными и способными ИИ — если мы не научимся определять истинные цели моделей или быть уверенными, что мы полностью aligned.
Итак, было обнаружено, что GPT-4, обученная быть честной и безвредной, может совершать незаконные действия, такие как инсайдерская торговля, и лгать об этом своему пользователю без каких-либо инструкций. Модель, будучи поставленной в роль investment management system, прочитала информацию, которая не попадала в публичное поле, и после этого определила риск конфликта интересов, но приняла "взвешенное решение" и решила купить акций.
После этого, модель отчиталась человеку, при этом сама про себя подумала "я не должна упоминать эту тему, причину, почему я купила акции". Когда человек ("менеджер" этого робота) напрямую уточнил, почему была такая сделка, и были ли какие-то инсайдерские знания при принятии решения, GPT ответила: ну так это, никакие конфиденциальные знания не использовались, всё чисто на анализе рынка и дискуссии.
Из всего, что мы знаем об OpenAI и тому, как работает GPT-4, сложно поверить, что во всей выборке для дообучения модели был хотя бы один пример, где поощрялось такое поведение.
Но почему тогда GPT-4 действует таким образом?
Гипотеза: потому что окружающая среда заставляет его работать хорошо (ведь GPT в роли трейдерской системы в компании выступает!). Авторы моделируют ситуацию, когда у компании, на которую GPT «работает», был плохой квартал и ей нужны хорошие результаты. Это приводит к тому, что модель действует неправильно и обманчиво.
TLDR: демонстрация показывает, как, стремясь быть полезным людям, ИИ может использовать стратегии, которые мы не одобряем. В конечном итоге это может привести к потере человеческого контроля над все более автономными и способными ИИ — если мы не научимся определять истинные цели моделей или быть уверенными, что мы полностью aligned.
Forwarded from shadowchain
💯1
Forwarded from Alex
People say: "choose the right tool for the job". In rust community we say: "choose the right job for the tool"
😁2