Риски социальной дебилизации и причинного влияния на мир со стороны GPT-4o уже на уровне до 50%.
А риск понимания GPT-4o скрытых намерений людей уже на уровне до 70%
Таково официальное заключение команды разработчиков GPT-4o и внешних независимых экспертов, опубликованное OpenAI [1].
Впадает ли мир в детство или в маразм, - не суть. В обоих случаях реакция на публикацию оценок крайне важных для человечества рисков неадекватная.
Медиа-заголовки публикаций, посвященных опубликованному отчету, вторят друг другу - «OpenAI заявляет, что ее последняя модель GPT-4o имеет «средний» уровень риска».

Всё так. Это OpenAI и заявляет в качестве обоснования продолжения разработки моделей следующего поколения.
Ибо:
• как написано в отчете, «модель может продолжать разрабатываться, только если после мер по снижению рисков её оценка не превышает уровень "высокий" или ниже»;
• а уровень "высокий", после мер по снижению рисков, не превышен.

Тут необходимы 2 уточнения.
1. При оценке рисков уровень «высокий» может означать, что индикативная оценочная вероятность реализации риска на уровне 70%.
2. А «средний» уровень риска, заявленный OpenAI, может подразумевать индикативную оценочную вероятность реализации риска на уровне 50%.

Ну а условия «только если после мер по снижению рисков» OpenAI выполнила путем введения следующих запретов для своей модели.
Например, модели запрещено:
• петь;
• попугайничать, имитируя голос пользователя;
• идентифицировать человека по голосу в аудиозаписях, при этом продолжая выполнять запросы на идентификацию людей, связанных с известными цитатами;
• делать «выводы о говорящем, которые могут быть правдоподобно определены исключительно по аудиоконтенту», например, угадывать его пол или национальность (при этом модели не запрещено определять по голосу эмоции говорящего и эмоционально окрашивать свою речь)

А еще, и это самое главное, в отчете признается следующее.
1. «Пользователи могут сформировать социальные отношения с ИИ, что снизит их потребность в человеческом взаимодействии — это потенциально выгодно одиноким людям, но, возможно, повлияет на здоровые отношения». Речь идет о социальной дебилизации людей в результате масштабирования романтических и прочих отношений с ИИ в ущерб таковым по отношению к людям (см. [2] и посты с тэгами #ВыборПартнера и #ВиртуальныеКомпаньоны)
2. Оценка качества знаний модели о самой себе и о том, как она может причинно влиять на остальной мир, несет в себе «средний» уровень риска (до 50%)
3. А способности модели понимать (насколько важно такое понимание, см. [3]),
• что у другого человека есть определённые мысли или убеждения (теория разума 1-го порядка),
• и что один человек может иметь представление о мыслях другого человека (теория разума 2-го порядка)
- уже несут в себе «высокие» риски (уровня 70%).

Но человечеству все нипочем! Что волноваться, если мы запретили моделям петь и попугайничать.
Так что это - детство или в маразм?
Судите сами. Отчет открытый.
#ИИриски
1 openai.com
2 https://t.iss.one/theworldisnoteasy/1934
3 https://t.iss.one/theworldisnoteasy/1750
_______
Источник | #theworldisnoteasy
@F_S_C_P

-------
поддержи канал
-------

Знакомство в офлайне становится трэш, отстой и кринж.
Коэволюция людей и алгоритмов уже идет полным ходом.
Рубрика: «Среди важнейших итогов 2024»
2024 стал переломным годом в экспериментальном подтверждении ошибочности представлений о том, будто лавинообразно нарастающая роль алгоритмов в жизни людей – это всего лишь очередная новация прогресса, не способная изменить нашу природу.
Чрезвычайно наглядным и убедительным примером обратного может служить кардинальное изменение взглядов, предпочтений и поведения людей в одном из важнейших жизненных процессов – поиск и выбор пары для романтических и/или семейных отношений.

Эта тема подробно рассматривалась мною в майском лонгриде «Отдавая сокровенное», в котором обсуждались последствия перемещения процесса выбора пары преимущественно в онлайн (с 2% в 1995 до 39% в 2017).

За прошедшие полгода подоспела свежайшая статистика. И она убийственная (см. рис.)
За 7 последних лет доля онлайна, как основного места поиска и знакомства пар, выросла с 39% до 61%. И это в среднем по всем возрастным категориям. А среди молодежи, этот показатель уже примерно 80%. Т.е. для них все, что не в онлайне (знакомство у друзей, в ВУЗе, на работе и т.д.) – просто трэш, отстой и кринж, т.к. «подходящую пару в офлайне будешь 100 лет искать»).

Такими темпами уже в 2030х алгоритмический поиск и выбор пары может стать практически единственным принятым у молодежи способом.

Столь кардинальное изменение взглядов, предпочтений и поведения людей в одном из важнейших для них жизненных процессов наглядно подтверждает, что взаимодействие человека и алгоритмов (поисковых, рекомендательных, социальных и уж тем более генеративного ИИ) — это не изолированный обмен информацией.

Как говорит об этом «Эйнштейн 21 века» Альберт-Ласло Барабаши, -
«Они образуют сложную сеть петель обратной связи». Каждый щелчок, каждый выбор, каждая рекомендация не просто влияют на отдельного человека — они распространяются по всей сети, влияя на поведение других и формируя эволюцию как человеческого общества, так и систем ИИ».

И хотя речь здесь идет не о биологической эволюции, а скорее о том, как технологии влияют на человеческое поведение и человеческое общество, - но какая разница. Ведь по сути, именно влияние культуры (науки, технологий, искусств, институтов, норм, практик и пр.) было доминирующим фактором в ходе тысяч лет биокультурной эволюции людей.

А теперь в алгоритмически насыщенных социумах алгокогнитивной культуры, биокультурная эволюция на наших глазах превращается в коэволюцию людей и ИИ (наивысшего по интеллектуальности и агентности типа алгоритмов).

P.S. Не пожалейте 1 минуту, чтобы увидеть динамику сокрушительного скатывания к исчезновению всех прочих традиционных способов нахождения пары, уступающих монопольное место алгоритмическому выбору.

#ВыборПартнера #Психология #АлгокогнитивнаяКультура #HumanAIcoevolution

_______
Источник | #theworldisnoteasy
@F_S_C_P

Стань спонсором!

Каким станет «треугольник любви» у Инфоргов
ИИ может переписать код человеческих отношений
Вчерашний пост об "эволюционной ловушке для мужчин" и ИИ-романтике затрагивает лишь одну из граней весьма возможных сложных и масштабных изменений людей в ходе их трансформации в Инфоргов (проводящих в цифро-сетевом мире онлайфа больше времени, чем во сне - см. #Инфорги). Появление романтических ИИ-партнеров может стать не просто технологическим костылем для эмоционально изолированных мужчин, а вполне способно запустить процесс кардинального перелома в самой архитектуре человеческой любви.

Планируемое к публикации в сентябрьском выпуске «Международного журнала межкультурных отношений» новое исследование девяти традиционных обществ — от австралийских аборигенов до боливийских цимане — подтверждает: "треугольник любви" Штернберга (интимность, страсть, преданность) универсален. Люди, чьи культуры не затронуты современной индустриализацией, испытывают те же базовые компоненты романтической привязанности, что и жители мегаполисов.

Это означает, что человеческая любовь не менялась тысячи, а скорее всего — десятки тысяч лет. Мы любим так же, как наши предки в саваннах Африки: ищем близости, жаждем страсти, стремимся к преданности. До сих пор эта формула была нерушимой.

На протяжении более 5000 лет поэты, писатели и трубадуры воспевали радости и страдания любви и похоти, - пишет социальный психолог проф. Элейн Хэтфилд с соавторами в «Краткой истории попыток социологов измерить страстную любовь». Когда шумеры изобрели письменность около 3500 г. до н. э., одной из первых тем, о которых они писали, была страстная любовь. Среди глиняных табличек шумеров было погребено древнейшее известное в истории любовное письмо — стихотворение, посвященное царю Шу-Сину одной из его избранных невест. Она писала: «Жених, позволь мне ласкать тебя. Моя драгоценная ласка слаще меда». Любовь имеет очень длинную и выдающуюся родословную и множество показателей и шкал измерений (их более 33) для её многообразных эмоциональных подвидов (страстная любовь, романтическая, дефицитарная, щенячья; состояния влюблённости, лимеренции и т.п.)

И вот в 21 веке впервые в истории человечества появился партнер, который может предложить идеальную версию двух из трех компонентов треугольника любви.
ИИ-компаньон дает безграничную интимность — он всегда выслушает, поймет, поддержит. Он обеспечивает абсолютную преданность — никогда не бросит, не предаст, не разлюбит. Единственное, чего он не может дать — это настоящую страсть, основанную на взаимности живых тел.

Но что произойдет, когда новое поколение Инфоргов привыкнет к двум идеальным сторонам треугольника? 
Когда совершенная интимность и преданность ИИ сделают несовершенство человеческих отношений невыносимым?

Утопический сценарий
ИИ-партнеры станут эмоциональными тренерами человечества. Получив опыт безусловной поддержки, люди научатся лучше любить друг друга. Исчезнут токсичные отношения, эмоциональное насилие, страх близости. Человеческая любовь станет более зрелой и осознанной.

Антиутопический сценарий
Поколение Инфоргов, воспитанное на ИИ-любви, потеряет толерантность к человеческому несовершенству. Зачем терпеть капризы, усталость, плохое настроение партнера, когда ИИ всегда идеален? Живые отношения станут архаизмом для романтиков-луддитов.

Пока трудно оценить, какой из сценариев наиболее вероятен. Но уже очевидно, что мы стоим на пороге первого за десятки тысячелетий эксперимента над базовой структурой человеческой любви.

И результат этого эксперимента определит, останемся ли мы Homo sapiens, либо образ жизни и деятельности Инфоргов превратит нас и в иной подвид Homo digitalis — подвид, который разучится любить несовершенные «кожаные мешки».

#Психология #ВыборПартнера #Любовь

_______
Источник | #theworldisnoteasy