Forwarded from Малоизвестное интересное
Получил замечательный коммент на вчерашний пост о сильном ИИ.
«С такой логикой в восемнадцатом веке, глядя на паровоз, мы бы говорили: «сильное» МП (механическое передвижение) не достигнуть на этом идиотически ложном пути, основанном на использовании круглых колёс».
Приведенная аналогия мне понравилась, и я воспользуюсь ею для объяснения своей позиции (спасибо автору коммента).
Единственное, что нужно для этого сделать - уточнить цель построения «сильного» МП.
Итак, дано:
- мы в 18 веке;
- у нас есть не только колеса, но и подшипники и даже паровой двигатель, позволяющий разогнать повозку (ака паровоз) до приличной (в нашем понимании) скорости;
- мы считаем (не без некоторых оснований), что, набрав большую скорость, повозка взлетит.
Наша цель:
- построить летательный аппарат (т.е. создать машину, позволяющую человеку летать, как птицы или как-то иначе; но летать, а не ездить, - и в этом суть!).
Ситуация:
Приходит некий дядя и говорит следующее.
1) одних колес, подшипников и парового двигателя (ака паровоза) недостаточно, чтобы повозка полетела;
А) нужен иной двигатель, поскольку, даже если удастся усовершенствовать паровой двигатель (от себя добавлю - как это сделают через 200+ лет братья Бэсслеры), характеристики у такого летающего паровоза будут никудышные, и только время потратите на его создание зря;
Б) нужны крылья, аэродинамическая конструкция повозки и т.д. для обеспечения возможностей подъема и планирования.
2) Поэтому, ребята, завязывайте с прогнозами, обещающими построить летальный аппарат на основе паровоза то ли через 10, то ли через 20 лет.
3) Надо изобретать иной двигатель и думать над обеспечением летных качеств.
При этом дядя вовсе не опровергает, что паровоз – отличная штука и изменит жизнь человечества в ближайшие десятилетия.
И что же мы отвечаем дяде?
См. цитату в начале поста 😎
#СильныйИИ
«С такой логикой в восемнадцатом веке, глядя на паровоз, мы бы говорили: «сильное» МП (механическое передвижение) не достигнуть на этом идиотически ложном пути, основанном на использовании круглых колёс».
Приведенная аналогия мне понравилась, и я воспользуюсь ею для объяснения своей позиции (спасибо автору коммента).
Единственное, что нужно для этого сделать - уточнить цель построения «сильного» МП.
Итак, дано:
- мы в 18 веке;
- у нас есть не только колеса, но и подшипники и даже паровой двигатель, позволяющий разогнать повозку (ака паровоз) до приличной (в нашем понимании) скорости;
- мы считаем (не без некоторых оснований), что, набрав большую скорость, повозка взлетит.
Наша цель:
- построить летательный аппарат (т.е. создать машину, позволяющую человеку летать, как птицы или как-то иначе; но летать, а не ездить, - и в этом суть!).
Ситуация:
Приходит некий дядя и говорит следующее.
1) одних колес, подшипников и парового двигателя (ака паровоза) недостаточно, чтобы повозка полетела;
А) нужен иной двигатель, поскольку, даже если удастся усовершенствовать паровой двигатель (от себя добавлю - как это сделают через 200+ лет братья Бэсслеры), характеристики у такого летающего паровоза будут никудышные, и только время потратите на его создание зря;
Б) нужны крылья, аэродинамическая конструкция повозки и т.д. для обеспечения возможностей подъема и планирования.
2) Поэтому, ребята, завязывайте с прогнозами, обещающими построить летальный аппарат на основе паровоза то ли через 10, то ли через 20 лет.
3) Надо изобретать иной двигатель и думать над обеспечением летных качеств.
При этом дядя вовсе не опровергает, что паровоз – отличная штука и изменит жизнь человечества в ближайшие десятилетия.
И что же мы отвечаем дяде?
См. цитату в начале поста 😎
#СильныйИИ
Forwarded from Малоизвестное интересное
В знаменитом рассказе Джейкобса «Обезьянья лапа», мумифицированная лапа обезьяны, на которую наложено заклятье, выполняла любые желания, но с чудовищными последствиями для пожелавших. Для людей подобные последствия были просто невообразимы из-за их чудовищной бесчеловечностии, немыслимой для человека.
Но у прОклятой старым факиром обезьяньей лапы была иная — нечеловеческая структура предпочтений. И потому, выполняя желания людей, она вовсе не со зла, а просто автоматом, преподносила людям страшные сюрпризы, выходящие за пределы воображения имевших несчастье обратиться к ней с просьбой.
Страшный рассказ оказался пророческим. В XXI веке обезьянья лапа материализовалась в виде некоторых прорывных IT технологий. Подарочек столь желанных нам соцсетей мы уже от неё получили. На очереди не менее желанный людям Сильный ИИ.
Что же будет, если с Сильным ИИ повторится история обезьяньей лапы, буквально на наших глазах произошедшая с соцсетями?
Скорее всего, цена новой ошибки может оказаться для человечества неподъемной.
Почему так? И как этого избежать?
Читайте об этом в новом посте (7 мин. чтения):
- на Medium https://bit.do/fdEMf
- На Яндекс Дзен https://clck.ru/JbAxN
#СильныйИИ #AGI #МашинноеОбучение #IRL
Но у прОклятой старым факиром обезьяньей лапы была иная — нечеловеческая структура предпочтений. И потому, выполняя желания людей, она вовсе не со зла, а просто автоматом, преподносила людям страшные сюрпризы, выходящие за пределы воображения имевших несчастье обратиться к ней с просьбой.
Страшный рассказ оказался пророческим. В XXI веке обезьянья лапа материализовалась в виде некоторых прорывных IT технологий. Подарочек столь желанных нам соцсетей мы уже от неё получили. На очереди не менее желанный людям Сильный ИИ.
Что же будет, если с Сильным ИИ повторится история обезьяньей лапы, буквально на наших глазах произошедшая с соцсетями?
Скорее всего, цена новой ошибки может оказаться для человечества неподъемной.
Почему так? И как этого избежать?
Читайте об этом в новом посте (7 мин. чтения):
- на Medium https://bit.do/fdEMf
- На Яндекс Дзен https://clck.ru/JbAxN
#СильныйИИ #AGI #МашинноеОбучение #IRL
Medium
Обезьянья лапа прорывных технологий
Соцсети мы от нее уже получили. На очереди Сильный ИИ
Forwarded from Малоизвестное интересное
Сильный ИИ – не хайп, а фейк.
Почему его невозможно создать.
С сильным ИИ получается, как с термоядерным синтезом. Его взрывной вид (самую мощную в мире бомбу) сделали почти 70 лет назад. Тогда же собрались освоить управляемый вид (построить термоядерные электростанции). Но не судьба. Спустя почти 70 лет ситуация, как и с сильным ИИ. Может, после 2045 года что-то появится. А может и нет.
На тему самой грандиозной техно-аферы, обещающей создание сильного ИИ, мною написано предостаточно: 1, 2 и т.д. Казалось бы, все сказано.
Однако, опубликованная в Nature новая работа проф. Рагнара Фьелланда «Почему ИИ общего назначения не будет создан» несомненно стоит прочтения по двум причинам.
1) Проф. Фьелланд – знаменитый норвежский физик и философ, - не просто прокричал еще раз «а король-то голый!» с высокой научной трибуны журнала Nature. Фьелланд на современном уровне переформулировал знаменитую аргументацию невозможности создания сильного ИИ, опубликованную Хьюбертом Дрейфусом более полувека назад в работе «Алхимия и искусственный интеллект».
2) Современная трактовка Фьелланда еще более радикальная, чем аргументация Дрейфуса (равно как и автора этого поста). Фьелланд препарировал вопрос так, что показал принципиальную невозможность создания сильного ИИ, не просто в обозримом будущем, а вообще никогда.
• Компьютеры, у которых нет тела, нет детства и нет культурной практики, вообще не могут приобрести интеллект (ни-ко-гда) – это тупик.
• И это не просто тупик, а весьма опасный тупик. Вера в возможность реализации сильного ИИ вредна, т.к. переоценивает возможности технологий и недооценивает возможности людей. Результатом этой веры во многих случаях будет замена того, что хорошо работает, на то, что работает хуже.
Приведу здесь лишь несколько важных соображений из аргументации Фьелланда, развивающей аргументацию Дрейфуса.
А. Компьютерная мощь никогда не разовьется в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие - способность принимать правильные решения в конкретных ситуациях, и мудрость - способность видеть целое.
Б. Важная часть человеческих знаний является неявными (невербализуемыми - tacit) знаниями. Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, - ошибочны. В равной степени можно пытаться научить ребенка кататься на велосипеде, не имея его, и лишь используя инструкцию.
В. Вера в обретение бессмертия путем создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру (см. также мой пост 3). Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.
Г. Попытки строить ИИ лишь на основе корреляций, а не причинности – тупиковы. Причинность – важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определенной культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.
ИТОГО. Мы являемся телесными и социальными существами, живущими (чувствующими, думающими и действующими) в материальном и социальном мире. Наш разум – основной механизм, позволяющий это. Ну а компьютерный ИИ (слабый или сильный) вообще не имеет к этому отношения. Раньше это был хайп, теперь – чистый фейк.
#СильныйИИ
Почему его невозможно создать.
С сильным ИИ получается, как с термоядерным синтезом. Его взрывной вид (самую мощную в мире бомбу) сделали почти 70 лет назад. Тогда же собрались освоить управляемый вид (построить термоядерные электростанции). Но не судьба. Спустя почти 70 лет ситуация, как и с сильным ИИ. Может, после 2045 года что-то появится. А может и нет.
На тему самой грандиозной техно-аферы, обещающей создание сильного ИИ, мною написано предостаточно: 1, 2 и т.д. Казалось бы, все сказано.
Однако, опубликованная в Nature новая работа проф. Рагнара Фьелланда «Почему ИИ общего назначения не будет создан» несомненно стоит прочтения по двум причинам.
1) Проф. Фьелланд – знаменитый норвежский физик и философ, - не просто прокричал еще раз «а король-то голый!» с высокой научной трибуны журнала Nature. Фьелланд на современном уровне переформулировал знаменитую аргументацию невозможности создания сильного ИИ, опубликованную Хьюбертом Дрейфусом более полувека назад в работе «Алхимия и искусственный интеллект».
2) Современная трактовка Фьелланда еще более радикальная, чем аргументация Дрейфуса (равно как и автора этого поста). Фьелланд препарировал вопрос так, что показал принципиальную невозможность создания сильного ИИ, не просто в обозримом будущем, а вообще никогда.
• Компьютеры, у которых нет тела, нет детства и нет культурной практики, вообще не могут приобрести интеллект (ни-ко-гда) – это тупик.
• И это не просто тупик, а весьма опасный тупик. Вера в возможность реализации сильного ИИ вредна, т.к. переоценивает возможности технологий и недооценивает возможности людей. Результатом этой веры во многих случаях будет замена того, что хорошо работает, на то, что работает хуже.
Приведу здесь лишь несколько важных соображений из аргументации Фьелланда, развивающей аргументацию Дрейфуса.
А. Компьютерная мощь никогда не разовьется в человеческий разум, потому что они фундаментально различны. Человеческое мышление в основном неалгоритмично. Это относится к важнейшим качествам разума: благоразумие - способность принимать правильные решения в конкретных ситуациях, и мудрость - способность видеть целое.
Б. Важная часть человеческих знаний является неявными (невербализуемыми - tacit) знаниями. Эти знания не могут быть сформулированы в компьютерной программе. Надежды, что обучение нейронных сетей, позволяющее им учиться без явных инструкций, решит проблему неалгоритмических способностей и неявных знаний, - ошибочны. В равной степени можно пытаться научить ребенка кататься на велосипеде, не имея его, и лишь используя инструкцию.
В. Вера в обретение бессмертия путем создания супер-ИИ (техносингулярность и т. д.), является выражением новой религии, выраженной через инженерную культуру (см. также мой пост 3). Зачастую утверждения, что компьютеры способны дублировать человеческую деятельность, крайне упрощены и искажены. Проще говоря: переоценка технологий тесно связана с недооценкой людей.
Г. Попытки строить ИИ лишь на основе корреляций, а не причинности – тупиковы. Причинность – важнейшая часть человеческого мышления. Компьютеры не могут справиться с причинностью, потому что они не могут вмешиваться в мир. Их просто нет в мире, потому что они не воплощены. Они не являются агентами, способными своими действиями что-либо менять в своем окружении. До тех пор, пока компьютеры не станут действующими агентами, принадлежащими к определенной культуре, они не приобретут человекоподобный интеллект. Что, впрочем, не помешает использовать их в задачах автоматизации.
ИТОГО. Мы являемся телесными и социальными существами, живущими (чувствующими, думающими и действующими) в материальном и социальном мире. Наш разум – основной механизм, позволяющий это. Ну а компьютерный ИИ (слабый или сильный) вообще не имеет к этому отношения. Раньше это был хайп, теперь – чистый фейк.
#СильныйИИ
