ChatGPT и государство

В докладе фонда "Петербургская политика" был затронут вопрос направлений активности государства в отношении популярного вида ИИ:

🔴Регламентация использования сервиса по формальным основаниям.

Попытки выявления использования результатов работы чата и контроль за применением заимствований из языковой модели.

🔴Стремление к ограничению сферы применения ИИ на уровне государства или отдельных институтов, что укладывается в логику общего запретительного тренда.

🔴 Возможная легитимизация манипулирования работой сервиса.

Может осуществляться в контексте "информационной войны" и соответствующих лоббируемых проектов.

🔴Продвижение отечественных аналогов chatGPT

https://www.fpp.spb.ru/fpp-2023-chatgpt

#подготовка_к_заседанию_клуба
#искусственный_интеллект
#клуб_политологов

Гость клуба политологов так определяет основные достоинства языковых моделей ИИ, из-за которых ChatGPT приковывает внимание общественности.

Чат умеет:

🔴Извлекать огромные массивы данных на разных языках.

🔴Размышлять на заданную тему.

🔴Упрощать сложное при общении.

🔴Умеет говорить языком метафор.

🔴Формулирует предположения и гипотезы.

🔴Преодолевает языковой барьер.

🔴Создает креативный контент.

🔴Может решать исследовательские задачи.

#трансляция_заседания
#клуб_политологов

Политолог Михаил Виноградов перечисляет задачи, которые ChatGPT не способен выполнять или выполняет некачественно:

🔴Чат не умеет работать с новой информацией и ограничивается объемами данных до середины 2021 года.

🔴ИИ неспособен качественно работать с некоторыми внешними файлами и не всегда справляется с анализом данных, представленных в формате видео.

🔴ChatGPT часто не может вести долгие и сложные диалоги. Тем не менее, искусственный интеллект скорее всего поддержит разговор на смежные темы.

Михаил Виноградов, политолог и президент фонда "Петербургская политика", считает, что возможные действия государства в вопросах регулирования ИИ могут сводиться либо к игнорированию, либо к ограничению, либо же к массовому внедрению.

❗️Лоббистская деятельность в этой области носит конструктивный характер и связана с продвижением отечественных аналогов языковых моделей.

Политолог Леонид Гончаров указывает на малозаметную, но важную проблему искусственного интеллекта.

❗️"Закрытость" процесса разработки продуктов в сфере ИИ закладывает большие возможности для манипулирования пользователями.

#трансляция_заседания
#клуб_политологов

Политолог Ольга Сиденко:

🔴Крупные компании, у которых развитие ИИ в приоритете, опасаются регуляции со стороны государства.

🔴Издержки ИИ несут вполне обыденные риски, что и любые другие технологии.

🔴В поле политики онлайн-сервисы активно используются политическими игроками.

#трансляция_заседания
#клуб_политологов

❗️Материал о нейросетях в журнале СоциоДиггер. Авторы делятся опытом применения СhatGPT при анализе социальных медиа.

Работа с массивами данных из открытых источников включает в себя 4 этапа: разведывательный анализ, сбор данных, их обработка и интерпретация результатов в виде отчета. Станислав Моисеев и Маргарита Стаф, сотрудники компании Aventica Net.Works, рассказали о возможностях и ограничениях, которые дают языковые модели GPT-3.5 и GPT-4 на всех этапах проведения исследования.

🔴ChatGPT для разведывательного анализа
Нейросеть способна качественно охарактеризовать тематическую структуру объекта исследования и позволяет сфокусироваться на наиболее значимых аспектах.

🔴ChatGPT для сбора данных
На втором этапе языковая модель, опираясь на накопленные знания в области программирования, упрощает формирование запросов на поиск информации в специализированном софте (BrandAnalytics, Медиалогия и т.д.)

В силу сложности самого процесса сбора данных ChatGPT не может заменить системы мониторинга. Однако с его помощью можно написать программу для автоматизированного сбора и структурирования информации с отдельных сайтов.

🔴ChatGPT для анализа данных
Технически, языковая модель способна решать задачи на этом этапе, однако эксперименты авторов показали, что их качественное выполнение не предусмотрено в интерфейсе чата.

🔴ChatGPT для подготовки отчета
На этапе интерпретации данных нейросеть помогает исследователям в решении задач саммаризации, то есть упрощения и сокращения формулировок экспертных заключений.

Возможности и ограничения

Несомненным достоинством языковых моделей является “демократизация” доступа инструментов для решения узконаправленных задач. Помимо этого, ChatGPT кратно ускоряет процессы работы на этапах разведывательного анализа и сбора информации.

Главным недостатком нейросети является ограниченность ее базы знаний: языковая модель имеет доступ к информации, появившейся не позднее сентября 2021 года.

https://sociodigger.ru/articles/articles-page/theres-an-ai-for-that-vozmozhnosti-chatgpt-dlja-raboty-s-otkrytymi-istochnikami-dannykh

#искусственный_интеллект
#клуб_политологов

На XCIV заседании Воронежского клуба политологов обсуждали угрозы и возможности использования искусственного интеллекта (ИИ) в политических процессах и исследованиях.

Результаты своего изучения ИИ представил президент Фонда «Петербургская политика» Михаил Виноградов. Спикер показал множество примеров работы с ChatGPT, описал возможности и ограничения сервиса.

ChatGPT способен стать полезным помощником для «человека-тренера», готового к терпеливому обучению своего собеседника.

Для получения полезных ответов, эксперт рекомендовал задавать сервису дополнительные уточняющие вопросы. Чат умеет отвечать на вопросы метафорами,  работает с большими текстовыми данными, проверяет грамматику, дает полезные советы при погружении в смежные темы, упрощает сложное, предлагает интересные гипотезы и т.п. Тем не менее, пока нейросеть не самым лучшим образом работает с видеоматериалами.

Развитие сервиса создает угрозу исчезновения некоторых профессий в сфере копирайтинга, психологии, юриспруденции.

❗️Главное — чат создает иллюзию человечности общения, стремится понравится собеседнику и даже способен к лукавству. При этом в России почти незаметно влияние цифрофобов, мало кто боится восстания машин.

Развитие технологий ИИ создает риски снижения востребованности общения человека с человеком. С новой силой обострятся дискуссии о знаниях и навыках, необходимых современному человеку, в условиях глубокого проникновения в жизнь цифровых технологий. Очевидно, что за человеком пока остаются функции постановки задач и отбора решения из предложенных чатом альтернатив.

В дискуссии заведующий кафедрой политологии, управления и регионоведения ВИЭиСУ Леонид Гончаров вспомнил сюжеты из советской фантастики, в которых человек наравне с ИИ становился соавтором создания новых продуктов. Сегодня ИИ берет на себя огромное количество производственных функций, что формирует новую общественную формацию, с новыми профессиями и новыми угрозами для индивидуальности человека.

Вице-спикер Воронежской областной Думы Сергей Рудаков (КПРФ) считает преувеличенными угрозы от ИИ: человек в состоянии отличить ответы машины от ответов человека. Но это не значит, что нужно сокращать финансовые вложения в человека, машины должны оставаться орудием в его руках.

Исполнительный директор ИОМ «Квалитас» Александр Романович рассказал, что простые пользователи цифровых технологий относятся с недоверием к ИИ. При социологических опросах респонденты отказываются отвечать на вопросы робота, хотят говорить только с человеком. Мнение человека-эксперта сохраняет свою ценность и востребованность.

Доцент Ольга Сиденко напомнила, что государство является одновременно, и регулятором отношений с цифровыми сервисами, и объектом их воздействия. Сохраняются проблемы цифрового неравенства, безопасности, наблюдается осторожность использования ИИ крупными компаниями. Возможности ИИ в поле политики безграничны, но универсальные соглашения по его применению будут приниматься только после появления негативного опыта. Политолог опасается, что воздействие на избирателя, манипулирование им с помощью современных технологий, опасно возрастает.

По мнению Константина Квасова интенсивное развитие ИИ требует обучения и развития у студентов, будущих специалистов, навыков критического мышления.

Политолог Михаил Роднин сообщил несколько важных деталей о работе с ИИ:

🔴Искусственный интеллект берет информацию из открытых интернет-источников
🔴Нейросеть копирует своих собеседников, подстраивается под их запросы.

Поэтому не стоит ожидать от ИИ гениальных новых открытий. Более того, ChatGPT начал «тупеть», получая огромное количество примитивных запросов. Риски исчезновения некоторых профессий завышены.

Депутат ГосДумы Андрей Марков напомнил, что динамичные интеллектуальные технологии не могут успешно развиваться без частной инициативы, конечно, не исключающей господдержки. В государственном задании невозможно прописать фантазию исполнителя и гарантированное гениальное изобретение.

🗣Приглашаем на XCV заседание Воронежского клуба политологов!

Продолжим разговор об инновациях в работе государства и бизнеса, привнесенных искусственным интеллектом.

Тема заседания:

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И НЕЙРОСЕТИ: ОТ ТЕОРИИ К РЕАЛЬНЫМ ПРАКТИКАМ ВО ВЛАСТИ, БИЗНЕСЕ И ГОСУПРАВЛЕНИИ

На площадке клуба политологов выступит Наталья Анатольевна Рябченко — руководитель междисциплинарной лаборатории прикладной лингвистики и сетевых исследований публичной политики, доцент кафедры социальной работы, психологии и педагогики высшего образования Кубанского государственного университета, кандидат политических наук.

Вопросы для обсуждения:

⏺Что такое искусственный интеллект (ИИ)?

⏺Что такое нейросети?

⏺Почему «слабый» ИИ лучше, чем игры с ChatGPT?

⏺Как определить потребности бизнеса и власти в применении ИИ?

⏺Где искать и как готовить специалистов внедрения ИИ в сфере власти и бизнеса?

📍Мероприятие состоится 03 ноября в 14:00 в малом зале Воронежской областной Думы (ул. Кирова, д.2, вход со стороны ул. Пушкинская)

❗️Для участия зарегистрируйтесь по ссылке до 18:00 01 ноября. Вход в здание по паспортам.

#анонс
#клуб_политологов