This media is not supported in your browser
VIEW IN TELEGRAM
MIT создал базу данных рисков ИИ: от дискриминации до электронной боли
Группа FutureTech из MIT CSAIL разработала AI Risk Repository - публичную базу данных, содержащую более 700 потенциальных угроз, связанных с продвинутыми ИИ-системами.
Наиболее распространенные риски: безопасность и надежность (76%), предвзятость и дискриминация (63%), нарушение конфиденциальности (61%).
Интересно, что 90% рисков выявляются после публичного запуска моделей, что указывает на необходимость постоянного мониторинга.
Уникальные риски включают создание ИИ, способного чувствовать боль или испытывать подобие "смерти".
Репозиторий не ранжирует угрозы по степени опасности, сохраняя нейтральность, и остается открытым для дополнений.
Забираем себе копию таблицы и внимательно изучаем.
#MIT #AIRisks #FutureTech
-------
@tsingular
Группа FutureTech из MIT CSAIL разработала AI Risk Repository - публичную базу данных, содержащую более 700 потенциальных угроз, связанных с продвинутыми ИИ-системами.
Наиболее распространенные риски: безопасность и надежность (76%), предвзятость и дискриминация (63%), нарушение конфиденциальности (61%).
Интересно, что 90% рисков выявляются после публичного запуска моделей, что указывает на необходимость постоянного мониторинга.
Уникальные риски включают создание ИИ, способного чувствовать боль или испытывать подобие "смерти".
Репозиторий не ранжирует угрозы по степени опасности, сохраняя нейтральность, и остается открытым для дополнений.
Забираем себе копию таблицы и внимательно изучаем.
#MIT #AIRisks #FutureTech
-------
@tsingular
Gartner опубликовал 10 трендов 2025 года
Аналитическая компания представила прогноз по десятке ключевых технологических направлений:
1. Агентный ИИ: автономные системы с самостоятельным принятием решений.
2. Управление ИИ: фреймворки для контроля этичного и легального использования искусственного разума.
3. Борьба с дезинформацией: механизмы противодействия фейкам.
4. Постквантовая криптография: шифрование нового поколения.
5. Распределённый интеллект: внедрение сенсоров и умных систем в окружающую среду.
6. Экологичные вычисления: энергоэффективные технологии. (АЭС? :) )
7. Гибридные дата-центры: симбиоз различных вычислительных подходов.
8. Пространственные вычисления: развитие VR/AR и смешанной реальности.
9. Многозадачные роботы: роботы способные выполнять универсальные задачи.
10. Нейротехнологии: интерфейсы мозг-компьютер для когнитивного апгрейда.
Ещё пара лет и будем обсуждать права электронных граждан. 🤖🤝
#Gartner #TechTrends #FutureTech
-------
@tsingular
Аналитическая компания представила прогноз по десятке ключевых технологических направлений:
1. Агентный ИИ: автономные системы с самостоятельным принятием решений.
2. Управление ИИ: фреймворки для контроля этичного и легального использования искусственного разума.
3. Борьба с дезинформацией: механизмы противодействия фейкам.
4. Постквантовая криптография: шифрование нового поколения.
5. Распределённый интеллект: внедрение сенсоров и умных систем в окружающую среду.
6. Экологичные вычисления: энергоэффективные технологии. (АЭС? :) )
7. Гибридные дата-центры: симбиоз различных вычислительных подходов.
8. Пространственные вычисления: развитие VR/AR и смешанной реальности.
9. Многозадачные роботы: роботы способные выполнять универсальные задачи.
10. Нейротехнологии: интерфейсы мозг-компьютер для когнитивного апгрейда.
Ещё пара лет и будем обсуждать права электронных граждан. 🤖🤝
#Gartner #TechTrends #FutureTech
-------
@tsingular
👍3⚡2
🚀 ИИ-Горизонты Науки: Якуб Пачоцки из OpenAI о Новой Эре Исследований
Интервью Якуба Пачоцки, Chief Scientist OpenAI (с мая 2024), для Nature (‘AI models are capable of novel research’: OpenAI’s chief scientist on what to expect) раскрывает перспективы ИИ в трансформации науки.
Пачоцки, стоявший у истоков GPT-4 и OpenAI Five, предвидит ИИ как полноценного участника исследований.
🧠 "Рассуждающие Модели" для Автономных Открытий
Ключевой вектор развития — "рассуждающие модели" (reasoning models), которые в ближайшие 5 лет смогут проводить новые научные исследования (novel research).
Это означает переход от ИИ-ассистентов к автономным агентам, способным к самостоятельной постановке задач, генерации гипотез и их верификации.
OpenAI Deep Research: Уже сейчас этот инструмент, базирующийся на будущей модели OpenAI o3, демонстрирует способность к автономному анализу и синтезу информации из сотен онлайн-источников, создавая отчеты уровня аналитика.
Он обучен с помощью сквозного обучения с подкреплением (end-to-end RL) для сложных исследовательских задач.
⚙️ Технологии: Обучение с Подкреплением и "Мышление" ИИ
Пачоцки акцентирует внимание на возросшей роли обучения с подкреплением (RL) в создании рассуждающих моделей, позволяя им "находить собственный способ мышления".
Важно, что ИИ-"мышление" отлично от человеческого: модели оперируют знаниями без осознания процесса их получения.
🌍 Открытость, Вызовы и Этика
OpenAI, реагируя на критику по энергопотреблению и использованию данных, планирует выпустить "open-weight" модель (с открытыми весами) "в ближайшие месяцы" (данные на март 2025).
Эта модель, первая со времен GPT-2, будет обладать "рассуждающими" способностями уровня OpenAI o3-mini.
Этот шаг направлен на повышение прозрачности и доступности технологий для исследователей, частично решая проблему доминирования проприетарных систем.
💡 Практическое Применение и Взгляд в Будущее
Развитие рассуждающих ИИ-систем, таких как Deep Research, сулит прорывы в:
- Ускорении научных открытий через анализ больших данных.
- Междисциплинарном синтезе знаний.
- Персонализированной медицине и материаловедении.
Интеграция ИИ в науку углубляется, предвещая эру ИИ-партнеров в исследованиях.
О чем, собственно, и говорит Альтман в предыдущем посте.
Ждем открытий при непосредственном лидирующем участии ИИ.
#OpenAI #JakubPachocki #AIinScience #ReasoningModels #DeepResearch #ReinforcementLearning #OpenWeightModels #AGI #FutureTech
———
@tsingular
Интервью Якуба Пачоцки, Chief Scientist OpenAI (с мая 2024), для Nature (‘AI models are capable of novel research’: OpenAI’s chief scientist on what to expect) раскрывает перспективы ИИ в трансформации науки.
Пачоцки, стоявший у истоков GPT-4 и OpenAI Five, предвидит ИИ как полноценного участника исследований.
🧠 "Рассуждающие Модели" для Автономных Открытий
Ключевой вектор развития — "рассуждающие модели" (reasoning models), которые в ближайшие 5 лет смогут проводить новые научные исследования (novel research).
Это означает переход от ИИ-ассистентов к автономным агентам, способным к самостоятельной постановке задач, генерации гипотез и их верификации.
OpenAI Deep Research: Уже сейчас этот инструмент, базирующийся на будущей модели OpenAI o3, демонстрирует способность к автономному анализу и синтезу информации из сотен онлайн-источников, создавая отчеты уровня аналитика.
Он обучен с помощью сквозного обучения с подкреплением (end-to-end RL) для сложных исследовательских задач.
⚙️ Технологии: Обучение с Подкреплением и "Мышление" ИИ
Пачоцки акцентирует внимание на возросшей роли обучения с подкреплением (RL) в создании рассуждающих моделей, позволяя им "находить собственный способ мышления".
Важно, что ИИ-"мышление" отлично от человеческого: модели оперируют знаниями без осознания процесса их получения.
🌍 Открытость, Вызовы и Этика
OpenAI, реагируя на критику по энергопотреблению и использованию данных, планирует выпустить "open-weight" модель (с открытыми весами) "в ближайшие месяцы" (данные на март 2025).
Эта модель, первая со времен GPT-2, будет обладать "рассуждающими" способностями уровня OpenAI o3-mini.
Этот шаг направлен на повышение прозрачности и доступности технологий для исследователей, частично решая проблему доминирования проприетарных систем.
💡 Практическое Применение и Взгляд в Будущее
Развитие рассуждающих ИИ-систем, таких как Deep Research, сулит прорывы в:
- Ускорении научных открытий через анализ больших данных.
- Междисциплинарном синтезе знаний.
- Персонализированной медицине и материаловедении.
Интеграция ИИ в науку углубляется, предвещая эру ИИ-партнеров в исследованиях.
О чем, собственно, и говорит Альтман в предыдущем посте.
Ждем открытий при непосредственном лидирующем участии ИИ.
#OpenAI #JakubPachocki #AIinScience #ReasoningModels #DeepResearch #ReinforcementLearning #OpenWeightModels #AGI #FutureTech
———
@tsingular
🔥6❤1