У каждого мужчины раз в год случается момент, когда он слушает группу Дефтонес. На данный момент, он начался и у меня.
❤13
Berlin Grind
Still no snowflake ❄️ in sight this winter 🙂
Уважаемые подписчики и гости канала, случилось недоразумение. В посте Мити, что я репостнул вчера, на стикере имеется плохая надпись Фри Пластилина, прошу прощения, такое мы осуждаем. Одобряем только то, что написано БЕСПЛАТНО.
❤7
Юдковский как всегда прогоняет телегу про то, что ИИ нас всех убьет.
С одной стороны, он всю жизнь излишне драматизирует, но вот с другой: такие люди, как он, наоборот нужны, так как если они не будут нагнетать шума, то кто тогда будет предупреждать о возможных угрозах? Особенно, когда для многих ИИ это хихи, да хаха.
С одной стороны, он всю жизнь излишне драматизирует, но вот с другой: такие люди, как он, наоборот нужны, так как если они не будут нагнетать шума, то кто тогда будет предупреждать о возможных угрозах? Особенно, когда для многих ИИ это хихи, да хаха.
❤3
К слову, Юдковский и есть тот самый создатель форума Less Wrong, где впервые была упомянута гипотеза о Василиске Роко. Именно он забанил пользователя, который впервые упомянул ее, почистил все треды, запретил создавать новые, а потом блокировал всех тех, кто хоть как-то писал о ней в своих сообщениях.
❤3
Forwarded from MP Flood
Пять лет назад я писал:
Продолжая тему искусственного интеллекта, расскажу об одном интересном мысленном эксперименте, который получил название Василиск Роко. Впервые появился он на форуме Less Wrong, где собираются любители математики и футуризма, и в последствии стал причиной тревожного состояния многих посетителей сайта.
Что если в будущем будет изобретен такой искусственный интеллект, который будет наказывать всех тех, кто не помогает ему, а также тем, кто не оказывал содействие в его создании? Создатель форума, после прочтения ветки, посвященной данному мысленному эксперименту, пришел в ярость и ответил, что пользователь, который написал все это, достаточно умный, чтобы вообразить себе такое, но достаточно глупый, чтобы рассказывать всем вокруг об этом. После этого все упоминания о данном событии были стерты с Less Wrong, так как администрация посчитала их действительно опасными для человечества.
Какой бы надуманной не казалась легенда о Василиске Роко, тут, все равно, возникает действительно актуальный вопрос. Я уже писал раньше о технологической сингулярности, которая по прогнозам различных ученых может состояться уже в середине 21-го века, но будет ли это положительным явлением или отрицательным? В одном из своих прошлых текстов я упоминал про возможную опасность квантового компьютера с хорошей нейросетью, и вот Василиск Роко является демонстрацией того, что может произойти.
Ну так что, надо ли, спасая свою шкуру, помогать создавать искусственный интеллект, который будет наказывать всех, кто не оказывал содействие в его разработке и не подчиняется ему?
Продолжая тему искусственного интеллекта, расскажу об одном интересном мысленном эксперименте, который получил название Василиск Роко. Впервые появился он на форуме Less Wrong, где собираются любители математики и футуризма, и в последствии стал причиной тревожного состояния многих посетителей сайта.
Что если в будущем будет изобретен такой искусственный интеллект, который будет наказывать всех тех, кто не помогает ему, а также тем, кто не оказывал содействие в его создании? Создатель форума, после прочтения ветки, посвященной данному мысленному эксперименту, пришел в ярость и ответил, что пользователь, который написал все это, достаточно умный, чтобы вообразить себе такое, но достаточно глупый, чтобы рассказывать всем вокруг об этом. После этого все упоминания о данном событии были стерты с Less Wrong, так как администрация посчитала их действительно опасными для человечества.
Какой бы надуманной не казалась легенда о Василиске Роко, тут, все равно, возникает действительно актуальный вопрос. Я уже писал раньше о технологической сингулярности, которая по прогнозам различных ученых может состояться уже в середине 21-го века, но будет ли это положительным явлением или отрицательным? В одном из своих прошлых текстов я упоминал про возможную опасность квантового компьютера с хорошей нейросетью, и вот Василиск Роко является демонстрацией того, что может произойти.
Ну так что, надо ли, спасая свою шкуру, помогать создавать искусственный интеллект, который будет наказывать всех, кто не оказывал содействие в его разработке и не подчиняется ему?
❤4