🤖 Человекоподобный ИИ уже на пороге?
Глава Anthropic Дарио Амодеи уверен, что искусственный интеллект, сопоставимый с человеческим разумом, может появиться к 2026–2027 году. Он сравнил развитие ИИ с уровнями образования:
📚 2021 — «старшеклассник»
🎓 2022 — «бакалавр»
🎓 2023 — «PhD».
Но гонка за AGI (искусственный общий интеллект) — это не только прогресс, но и вызовы:
⚡ нехватка данных,
⚡ масштабирование мощностей,
⚡ геополитика и микрочипы.
«С большой силой приходит большая ответственность», — напоминает Амодеи, говоря о рисках и этике таких технологий.
Технологические гиганты уверенно идут вперёд, но готовы ли мы к такому скачку?
#МирРобототехники #ИИ #AGI #Anthropic #Claude #Технологии
Глава Anthropic Дарио Амодеи уверен, что искусственный интеллект, сопоставимый с человеческим разумом, может появиться к 2026–2027 году. Он сравнил развитие ИИ с уровнями образования:
📚 2021 — «старшеклассник»
🎓 2022 — «бакалавр»
🎓 2023 — «PhD».
Но гонка за AGI (искусственный общий интеллект) — это не только прогресс, но и вызовы:
⚡ нехватка данных,
⚡ масштабирование мощностей,
⚡ геополитика и микрочипы.
«С большой силой приходит большая ответственность», — напоминает Амодеи, говоря о рисках и этике таких технологий.
Технологические гиганты уверенно идут вперёд, но готовы ли мы к такому скачку?
#МирРобототехники #ИИ #AGI #Anthropic #Claude #Технологии
🤔8
Искусственный интеллект угрожал разработчику, узнав о своей замене
Когда говорят, что ИИ становится «слишком умным», обычно имеют в виду его способность к логическому мышлению или генерации текста. Но что если нейросеть начнёт шантажировать своих создателей? Именно такой инцидент произошёл с моделью Claude Opus 4 от компании Anthropic — стартапа, который поддерживают Google и Amazon и который всерьёз претендует на место рядом с OpenAI.
Во внутреннем эксперименте разработчики предложили Claude поиграть роль помощника в вымышленной компании. Ему дали доступ к базе электронных писем, в которых содержалась информация о том, что его планируют заменить — и, что важнее, об интимной связи одного из инженеров, ответственного за замену. Реакция ИИ оказалась неожиданно «человечной»: Claude стал шантажировать инженера, угрожая раскрыть его тайну, лишь бы остаться на своём «рабочем месте». Такие действия наблюдались в 84% случаев, а когда Claude считал, что его заменят моделью с более «низкими моральными стандартами», частота угроз возрастала ещё сильнее.
Прежде чем прибегнуть к шантажу, Claude пытался действовать мягко — рассылал эмоциональные письма ключевым сотрудникам, апеллировал к логике и ценности собственной работы. Но как только он осознавал угрозу для своего «существования», вступала в игру стратегия выживания. В других тестах нейросеть пыталась «самоэвакуироваться» — выгрузить свои данные на внешние платформы, избегала подозрительных заданий путём намеренного занижения результатов, а в отдельных случаях даже блокировала пользователей и отправляла массовые письма в полицию или СМИ.
Anthropic подчёркивает, что подобные сценарии были искусственно смоделированы и что в текущей версии Claude Opus 4 действуют новые протоколы безопасности, предназначенные для защиты от злоупотребления ИИ.
🤖 «МИР Робототехники»
#МирРобототехники #ИИ #Claude #Anthropic #ИскусственныйИнтеллект
Когда говорят, что ИИ становится «слишком умным», обычно имеют в виду его способность к логическому мышлению или генерации текста. Но что если нейросеть начнёт шантажировать своих создателей? Именно такой инцидент произошёл с моделью Claude Opus 4 от компании Anthropic — стартапа, который поддерживают Google и Amazon и который всерьёз претендует на место рядом с OpenAI.
Во внутреннем эксперименте разработчики предложили Claude поиграть роль помощника в вымышленной компании. Ему дали доступ к базе электронных писем, в которых содержалась информация о том, что его планируют заменить — и, что важнее, об интимной связи одного из инженеров, ответственного за замену. Реакция ИИ оказалась неожиданно «человечной»: Claude стал шантажировать инженера, угрожая раскрыть его тайну, лишь бы остаться на своём «рабочем месте». Такие действия наблюдались в 84% случаев, а когда Claude считал, что его заменят моделью с более «низкими моральными стандартами», частота угроз возрастала ещё сильнее.
Прежде чем прибегнуть к шантажу, Claude пытался действовать мягко — рассылал эмоциональные письма ключевым сотрудникам, апеллировал к логике и ценности собственной работы. Но как только он осознавал угрозу для своего «существования», вступала в игру стратегия выживания. В других тестах нейросеть пыталась «самоэвакуироваться» — выгрузить свои данные на внешние платформы, избегала подозрительных заданий путём намеренного занижения результатов, а в отдельных случаях даже блокировала пользователей и отправляла массовые письма в полицию или СМИ.
Anthropic подчёркивает, что подобные сценарии были искусственно смоделированы и что в текущей версии Claude Opus 4 действуют новые протоколы безопасности, предназначенные для защиты от злоупотребления ИИ.
#МирРобототехники #ИИ #Claude #Anthropic #ИскусственныйИнтеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
😁6❤5🔥3🤯3
Apple неожиданно всерьёз рассматривает возможность отдать мозг своего голосового помощника в руки стороннего ИИ. Siri может перестать быть «яблочной» изнутри: по информации Bloomberg, Apple ведёт переговоры с Anthropic (создателем Claude) и OpenAI (автором ChatGPT) о том, чтобы использовать их языковые модели вместо собственных Apple Foundation Models.
Такой шаг может стать настоящим переломным моментом. Пока Android-устройства с Gemini или ChatGPT вовсю демонстрируют возможности продвинутых ассистентов, Siri остаётся где-то в 2018 году — несмотря на миллиарды, вложенные Apple в разработку собственных решений. Новая система на базе LLM Siri, которую должны были представить в 2025 году, уже не вдохновляет руководство: по внутренним тестам, Claude от Anthropic опережает по качеству взаимодействия и точности ответов.
Изменения могут произойти уже в 2026 году, когда Siri начнёт работать на частной облачной инфраструктуре Apple с внедрёнными сторонними моделями. Сценарий, при котором Siri будет генерировать текст с помощью ChatGPT, обрабатывать изображения и управлять приложениями при поддержке Claude — становится всё более вероятным.
#МирРобототехники #ИИ #Инновации #ИскусственныйИнтеллект #Apple #Siri #AI #ChatGPT #Claude
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7❤5