Вновь о ChatGPT.

Неожиданно, но Минобороны США начало пиарить эту разработку. При чем нейросеть ChatGPT они называют не как-нибудь, а "генеративным искусственным интеллектом".

Лорен Кнаузенбергер, директор по информационным технологиям ВВС США, поделилась своими соображениями о том, как аналоги ChatGPT можно использовать для ускорения бюрократических процедур в делообороте.

"Я думаю, что для Министерства обороны есть большая польза в том, что ChatGPT может находить информацию, может находить ответственных, может быстро собирать информацию в целом, потому что мы тратим на это много времени, как, например, с сервисами создания задач.
Нет никаких причин, по которым ChatGPT не может ответить на запросы и взять на себя часть очень тяжелой работы по управлению знаниями, заключающейся в том, чтобы найти информацию навроде "какие оперативные сотрудника департамента отвечают за подготовку данного документа".
Есть большой потенциал, который мы можем использовать ближайшем будущем", - заявила Кнаузенбергер.

Важное обстоятельство. Лорен Кнаузенбергер вскоре уйдет в отставку. Как правило, после этого бывшие американские чиновники быстро оказываются в каком-нибудь частном заведении, которому оказывали содействие на госслужбе. Илон Маск - один из основателей фирмы, разработавшей ChatGPT. Интересно, не окажется ли Кнаузенбергер вскоре в том же SpaceX? (А в военной космонавтике в США все еще первую скрипку играет именно ВВС.)

С другой стороны, исходя из своего опыта документооборота, достаточно быстро накапливается большое количество документов, в отношении которых большие начальники, подобно Екатерине II, отдают приказание "считать их не существующими". Как про это рассказать ChatGPT? 🤗

#ChatGPT

Приходится разбираться со всеми этими искусственными интеллектами, чатами GPT и прочей ересью. Что это такое в реальности, а не в рекламных или ругательных статьях СМИ? Как это реально можно использовать? Почему такие большие усилия на это тратятся? В чем проект?

Взял почитать по дороге на работу классика - книгу-интервью с Виктором Михайловичем Глушковым (книга называется "Беседы с академиком Глушковым", беседовал Г. Максимович).

Начинают с основ. (Ниже прямой шрифт - цитаты из книги, курсив - мои комментарии.)

Глушков определяет кибернетику как "науку об общих законах получения, хранения, передачи и преобразования информации в сложных управляющих системах".

На вопрос о том, что такое информация, Глушков говорит.

"Информация - это совокупность сведений, которые циркулируют в природе и обществе, в т.ч. - в созданных человеком технических системах".

Поскольку все дальнейшее строится на этих определениях, к ним нужно тщательно присмотреться. Самое примечательное здесь - определение неизвестного через непонятное. Что такое сведения? И что такое их циркуляция?
Кто определяет что - сведения, а что - не сведения? В рамках кибернетики - можно определить что вот это вот является сведениями?

Дальше идет тезис о том, что "мозг - система управления", а раз кибернетика изучает общие законы, то можно и автоматизировать процессы мышления.

Дальше - вопрос, который ставит Глушков: "Существует ли предел возможности оптимизации мыслительных процессов? Насколько такая автоматизация необходима и каковы ее социальные последствия?"

На этом шаге идет еще одно подыгрывание в сторону кибернетизации человека. Говорится, что только с появлением кибернетики можно стало по-настоящему изучить мозг - потому что раньше не было никакой методики для изучения мозга, а теперь такая методика появилась.
Может быть это так, может - не так. Но если вы изучаете что-то с помощью определенной методики, вы не должны забывать о границах применимости этой методики. Если вы прошли участок земли с металлоискателем и не нашли клада - это совсем не значит, что в земле не зарыт какой-нибудь древнекитайский изящный фарфоровый чайник.

Современные кибернетики напрочь забыли о границах применимости своей методики. Генеральная логика сегодня: "Если человек больше, чем позволяет измерить кибернетический подход, то тем хуже для человека. Обрежем, кастрируем его так, чтобы человек в такой подход полностью помещался".

Дальше Глушков говорит: "Конечно, мы еще не умеем моделировать все проявления человеческого интеллекта и чувств. Однако многое уже сделано. Например - ... этометрия, занимающаяся математическим моделированием моральных структур".

Тут следует шаг назад: "Не подумайте, однако, что ученые ставят перед собой цель - создание компьютеров, полностью моделирующих человеческое сознание во всем объеме. Просто, воспроизводя на ЭВМ определенные стороны человеческой деятельности, они используют их как новое оружие в познании тайн мышления".

К сожалению, на сегодняшний день, последнее заявление не соответствует реальности. И цели такие ставят, и вполне себе как оружие используют - но не для изучения, а для влияния на сознание.

Ну, и еще один момент. Мышление и разум - это совершенно не одно и тоже. Больше того, это во-многом противостоящие друг другу вещи. Мышление, тем более мышление в понятиях, наверное вполне воспроизводимая машинами вещь. Но вот разум, момент осознавания себя и мира, возможность увидеть целое и т.д. - это не про машины. Вновь вернемся к вопросу об основаниях кибернетики. Найти сведения и сделать из них информацию разум может. А вот мышление - уже только работать с этой информацией. (Хотя, следует отметить, мышление способно оптимизировать процесс получения информации. Что еще раз подтверждает его служебную по отношению к разуму позицию.)
А ведь в человеке есть и более высокие, чем разум материи. С ними что делать?

Это - первые 20 страниц книги. Посмотрим что на оставшихся двухстах.

#ChatGPT