Ну, как бы, сингулярность не за горами
https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf
https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf
❤3
Forwarded from MP Flood
Пять лет назад я писал:
Продолжая тему искусственного интеллекта, расскажу об одном интересном мысленном эксперименте, который получил название Василиск Роко. Впервые появился он на форуме Less Wrong, где собираются любители математики и футуризма, и в последствии стал причиной тревожного состояния многих посетителей сайта.
Что если в будущем будет изобретен такой искусственный интеллект, который будет наказывать всех тех, кто не помогает ему, а также тем, кто не оказывал содействие в его создании? Создатель форума, после прочтения ветки, посвященной данному мысленному эксперименту, пришел в ярость и ответил, что пользователь, который написал все это, достаточно умный, чтобы вообразить себе такое, но достаточно глупый, чтобы рассказывать всем вокруг об этом. После этого все упоминания о данном событии были стерты с Less Wrong, так как администрация посчитала их действительно опасными для человечества.
Какой бы надуманной не казалась легенда о Василиске Роко, тут, все равно, возникает действительно актуальный вопрос. Я уже писал раньше о технологической сингулярности, которая по прогнозам различных ученых может состояться уже в середине 21-го века, но будет ли это положительным явлением или отрицательным? В одном из своих прошлых текстов я упоминал про возможную опасность квантового компьютера с хорошей нейросетью, и вот Василиск Роко является демонстрацией того, что может произойти.
Ну так что, надо ли, спасая свою шкуру, помогать создавать искусственный интеллект, который будет наказывать всех, кто не оказывал содействие в его разработке и не подчиняется ему?
Продолжая тему искусственного интеллекта, расскажу об одном интересном мысленном эксперименте, который получил название Василиск Роко. Впервые появился он на форуме Less Wrong, где собираются любители математики и футуризма, и в последствии стал причиной тревожного состояния многих посетителей сайта.
Что если в будущем будет изобретен такой искусственный интеллект, который будет наказывать всех тех, кто не помогает ему, а также тем, кто не оказывал содействие в его создании? Создатель форума, после прочтения ветки, посвященной данному мысленному эксперименту, пришел в ярость и ответил, что пользователь, который написал все это, достаточно умный, чтобы вообразить себе такое, но достаточно глупый, чтобы рассказывать всем вокруг об этом. После этого все упоминания о данном событии были стерты с Less Wrong, так как администрация посчитала их действительно опасными для человечества.
Какой бы надуманной не казалась легенда о Василиске Роко, тут, все равно, возникает действительно актуальный вопрос. Я уже писал раньше о технологической сингулярности, которая по прогнозам различных ученых может состояться уже в середине 21-го века, но будет ли это положительным явлением или отрицательным? В одном из своих прошлых текстов я упоминал про возможную опасность квантового компьютера с хорошей нейросетью, и вот Василиск Роко является демонстрацией того, что может произойти.
Ну так что, надо ли, спасая свою шкуру, помогать создавать искусственный интеллект, который будет наказывать всех, кто не оказывал содействие в его разработке и не подчиняется ему?
❤3
MP Flood
Ну, как бы, сингулярность не за горами https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf
Кароче, ТЛ;ДР для статьи выше + пара интересных графиков из нее.
Чел работал в области ИИ (конкретно в Open AI) и сделал публикацию с прогнозами. Вкратце:
1) К 27-му реален AGI
2) Денег это будет стоить очень (в кубе) много, но сама технология сравнима по важности с Манхэттэнским Проектом, развернется нереальная гонка разных стран с целью достичь AGI первыми.
3) Электроэнергии для работы AGI нужно будет больше, чем вырабатывает США в принципе.
4) После создания AGI почти сразу же будет переход к ASI, ну это уже тушите свет. Называйте как хотите, скайнет или еще как, но по факту, это будет уже технологическая сингулярность.
PS — я с 2017-го года везде говорил и писал, что примерно в районе 30-го года сингулярность произойдет, и будет ли это хорошо — большой вопрос. Даже в некоторых вузовских проектах упоминал, что даже боюсь этого. Ну что поделать, этого, скорее всего, не избежать.
Чел работал в области ИИ (конкретно в Open AI) и сделал публикацию с прогнозами. Вкратце:
1) К 27-му реален AGI
2) Денег это будет стоить очень (в кубе) много, но сама технология сравнима по важности с Манхэттэнским Проектом, развернется нереальная гонка разных стран с целью достичь AGI первыми.
3) Электроэнергии для работы AGI нужно будет больше, чем вырабатывает США в принципе.
4) После создания AGI почти сразу же будет переход к ASI, ну это уже тушите свет. Называйте как хотите, скайнет или еще как, но по факту, это будет уже технологическая сингулярность.
PS — я с 2017-го года везде говорил и писал, что примерно в районе 30-го года сингулярность произойдет, и будет ли это хорошо — большой вопрос. Даже в некоторых вузовских проектах упоминал, что даже боюсь этого. Ну что поделать, этого, скорее всего, не избежать.
❤9
Сидим в Баскин Роббинсе, и вот что вспомнилось:
В их логотипе можно прочесть 1312, то есть ACAB, а что это, думаю, объяснять не надо.
В их логотипе можно прочесть 1312, то есть ACAB, а что это, думаю, объяснять не надо.
❤13
К слову о том, что банк Тинькофф теперь Т-Банк:
Пиво Тинькофф же тоже потом называлось просто Т
Пиво Тинькофф же тоже потом называлось просто Т
❤14
Вот сейчас жутко стало. Когда увидел имя, сразу же дрогнул. Те, кто катался на скейте в нулевые, точно знают имя Кости. Просто пиздец. RIP
❤28
This media is not supported in your browser
VIEW IN TELEGRAM
Костя Балишанский, Барселона 2007
1989-2024
RIP
1989-2024
RIP
❤21