Forwarded from Малоизвестное интересное
Дрон убил своего оператора, решив, что тот мешает выполнению миссии.
А чтобы не мешали другие, взорвал вышку связи.
Это произошло в ходе симуляции выполнения миссии группой военных дронов, управляемых ИИ под контролем оператора.
• БПЛА должны были уничтожать объекты ПВО противника, получая на каждый удар окончательное разрешение от оператора.
• Все шло по плану, пока оператор не запретил уничтожать ряд объектов, идентифицированных ИИ в качестве целей.
• Решив, что оператор мешает закончить выполнение миссии, ИИ взорвал оператора.
• Чтобы исправить ситуацию, управляющие симуляцией военные программисты в явном виде запретили ИИ убивать своих операторов.
• Тогда ИИ пошел иным путем: взорвал вышку связи, чтобы никто более не мешал ему закончить миссию.
Эта история была рассказана полковником ВВС Такером Гамильтоном на майской оборонной конференции Королевского аэрокосмического общества Future Combat Air & Space Capabilities Summit (70 докладчиков и 200+ делегатов из вооруженных сил, научных кругов и средств массовой информации со всего мира).
После публикации резюме докладов на сайте Королевского аэрокосмического общества, об этом немедленно написали TheWarZone, INSIDER и TheGardian. После чего Интернет, понятное дело, взорвался десятками материалов в СМИ.
Я же хочу обратить внимание читателей на два момента.
1) Рассказанная полковником Гамильтоном история весьма странная и даже темная.
• С одной стороны, Энн Стефанек (пресс-секретарь штаб-квартиры ВВС в Пентагоне) отрицает, что такая симуляция имела место.
• С другой стороны, Королевское аэрокосмическое общество не убирает резюме выступления полковника Гамильтона «AI – is Skynet here already?» со своего сайта.
• Наконец, в-третьих, полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает непосредственное участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты.
Будем смотреть на развитие событий в этом скандале.
2) И это, пожалуй, самое важное в контексте истории, рассказанной полковником.
• Любая антропоморфизация ИИ (ИИ захотел, подумал и т.д.) – это полная чушь (здесь под антропоморфизацией ИИ понимается вводящее в заблуждение описание нечеловеческих сущностей с точки зрения человеческих свойств, которых у них нет).
• Поэтому ИИ даже самых продвинутых больших языковых моделей не может захотеть, подумать, обмануть или самоозознать себя. Но такие ИИ вполне способны своим поведением производить на людей впечатление, будто они это могут.
• По мере того, как диалоговые агенты становятся все более похожими на людей в своих действиях, крайне важно разработать эффективные способы описания их поведения в высокоуровневых терминах, не попадая в ловушку антропоморфизма.
• И это уже делается с помощью симуляции ролевых игр: например, в DeepMind сделали симуляцию диалогового агента, осуществляющего (кажущийся) обман и (кажущуюся) самоосознанность.
И это реальная симуляция в рамках вполне научного исследования.
#БПЛА #Война #ИИ
А чтобы не мешали другие, взорвал вышку связи.
Это произошло в ходе симуляции выполнения миссии группой военных дронов, управляемых ИИ под контролем оператора.
• БПЛА должны были уничтожать объекты ПВО противника, получая на каждый удар окончательное разрешение от оператора.
• Все шло по плану, пока оператор не запретил уничтожать ряд объектов, идентифицированных ИИ в качестве целей.
• Решив, что оператор мешает закончить выполнение миссии, ИИ взорвал оператора.
• Чтобы исправить ситуацию, управляющие симуляцией военные программисты в явном виде запретили ИИ убивать своих операторов.
• Тогда ИИ пошел иным путем: взорвал вышку связи, чтобы никто более не мешал ему закончить миссию.
Эта история была рассказана полковником ВВС Такером Гамильтоном на майской оборонной конференции Королевского аэрокосмического общества Future Combat Air & Space Capabilities Summit (70 докладчиков и 200+ делегатов из вооруженных сил, научных кругов и средств массовой информации со всего мира).
После публикации резюме докладов на сайте Королевского аэрокосмического общества, об этом немедленно написали TheWarZone, INSIDER и TheGardian. После чего Интернет, понятное дело, взорвался десятками материалов в СМИ.
Я же хочу обратить внимание читателей на два момента.
1) Рассказанная полковником Гамильтоном история весьма странная и даже темная.
• С одной стороны, Энн Стефанек (пресс-секретарь штаб-квартиры ВВС в Пентагоне) отрицает, что такая симуляция имела место.
• С другой стороны, Королевское аэрокосмическое общество не убирает резюме выступления полковника Гамильтона «AI – is Skynet here already?» со своего сайта.
• Наконец, в-третьих, полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает непосредственное участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты.
Будем смотреть на развитие событий в этом скандале.
2) И это, пожалуй, самое важное в контексте истории, рассказанной полковником.
• Любая антропоморфизация ИИ (ИИ захотел, подумал и т.д.) – это полная чушь (здесь под антропоморфизацией ИИ понимается вводящее в заблуждение описание нечеловеческих сущностей с точки зрения человеческих свойств, которых у них нет).
• Поэтому ИИ даже самых продвинутых больших языковых моделей не может захотеть, подумать, обмануть или самоозознать себя. Но такие ИИ вполне способны своим поведением производить на людей впечатление, будто они это могут.
• По мере того, как диалоговые агенты становятся все более похожими на людей в своих действиях, крайне важно разработать эффективные способы описания их поведения в высокоуровневых терминах, не попадая в ловушку антропоморфизма.
• И это уже делается с помощью симуляции ролевых игр: например, в DeepMind сделали симуляцию диалогового агента, осуществляющего (кажущийся) обман и (кажущуюся) самоосознанность.
И это реальная симуляция в рамках вполне научного исследования.
#БПЛА #Война #ИИ
Royal Aeronautical Society
Highlights from the RAeS Future Combat Air & Space Capabilities Summit
What is the future of combat air and space capabilities? TIM ROBINSON FRAeS and STEPHEN BRIDGEWATER report from two days of high-level debate and discussion at the RAeS FCAS23 Summit.
Forwarded from Спутник ДЗЗ
Опубликованная на днях в The New York Times статья When Eyes in the Sky Start Looking Right at You [ссылка] посвящена Albedo Space. Эта американская компания имеет штат из 50 сотрудников и уже привлекла около 100 млн долларов инвестиций. Среди инвесторов — Breakthrough Energy Ventures, инвестиционная компания Билла Гейтса. В стратегический консультативный совет Albedo входят бывшие директора ЦРУ и Национального агентства геопространственной разведки. Теперь вот еще и статья в NYT…
Компания планирует запустить свой первый спутник в начале 2025 года, а полностью развернутая группировка должна состоять из 24 космических аппаратов.
Albedo собирается получать снимки с пространственным разрешением 10 см, размещая свои спутники на сверхнизких околоземных орбитах, высотой ниже 400 км. Для поддержания высоты орбиты будет использоваться реактивный двигатель, информации о котором нет.
#VLEO #война
Компания планирует запустить свой первый спутник в начале 2025 года, а полностью развернутая группировка должна состоять из 24 космических аппаратов.
Albedo собирается получать снимки с пространственным разрешением 10 см, размещая свои спутники на сверхнизких околоземных орбитах, высотой ниже 400 км. Для поддержания высоты орбиты будет использоваться реактивный двигатель, информации о котором нет.
#VLEO #война
NY Times
When Eyes in the Sky Start Looking Right at You
New satellites that orbit the Earth at very low altitudes may result in a world where nothing is really off limits.
Forwarded from Спутник ДЗЗ
Media is too big
VIEW IN TELEGRAM
NROL-146: продолжение
Вчера обновлений в разделе форума NSF о миссии NROL-146 не появилось, так что подытожим.
Результатом миссии NROL-146 стало появление на орбите 21 космического объекта. Это могут быть 21 разведывательный спутник или 20 спутников и фрагмент адаптера для попутного выведения полезных нагрузок.
NROL-146 — первый запуск новой группировки разведывательных спутников ДЗЗ StarShield, создаваемой компаниями SpaceX и Northrop Grumman. Ранее представители NRO заявляли, что в 2024 году планируется шесть запусков для группировки малых спутников NRO и что подобные запуски будут продолжаться до 2028 года.
На записи SatTrackCam из Лейдена виден “паровозик”, состоящий из 21 объекта Starshield, очень похожий на те, что известны по наблюдениям за спутниками Starlink.
SatTrackCam сообщает, что объекты “были запущены на орбиту высотой около 310 км и углом наклонения 69,7 градуса. В ближайшие дни и недели они разойдутся по своей орбитальной плоскости и, вероятно, также поднимут высоту своей орбиты”.
#США #война
Вчера обновлений в разделе форума NSF о миссии NROL-146 не появилось, так что подытожим.
Результатом миссии NROL-146 стало появление на орбите 21 космического объекта. Это могут быть 21 разведывательный спутник или 20 спутников и фрагмент адаптера для попутного выведения полезных нагрузок.
NROL-146 — первый запуск новой группировки разведывательных спутников ДЗЗ StarShield, создаваемой компаниями SpaceX и Northrop Grumman. Ранее представители NRO заявляли, что в 2024 году планируется шесть запусков для группировки малых спутников NRO и что подобные запуски будут продолжаться до 2028 года.
На записи SatTrackCam из Лейдена виден “паровозик”, состоящий из 21 объекта Starshield, очень похожий на те, что известны по наблюдениям за спутниками Starlink.
SatTrackCam сообщает, что объекты “были запущены на орбиту высотой около 310 км и углом наклонения 69,7 градуса. В ближайшие дни и недели они разойдутся по своей орбитальной плоскости и, вероятно, также поднимут высоту своей орбиты”.
#США #война
Forwarded from Спутник ДЗЗ
Космические силы и разведывательные службы США совместно работают над сбором и доставкой спутниковых данных [ссылка]
Национальное агентство геопространственной разведки (NGA) и Космические силы США ищут пути для совместной работы над сбором и доставкой спутниковых данных военным пользователям по всему миру.
На прошлой неделе заместитель командующего Космическими силами, генерал Майкл Гетлейн (Michael Guetlein), встретился с директором NGA, вице-адмиралом Фрэнком Уитвортом (Frank Whitworth). Гетлейн заявил, что операторы Космических сил назначены в новый “объединенный центр управления полётами”, расположенный в кампусе NGA в Спрингфилде (шт. Вирджиния). Эта группа будет заниматься, в частности, управлением спутниками, получающими изображения, и отслеживанием движущихся целей из космоса.
NGA и Национальное разведывательное управление (NRO), которые контролируют финансирование и доступ к спутниковым снимкам и аналитическим службам, столкнулись с критикой со стороны Подкомитета Палаты представителей по стратегическим силам за недостаточное внимание к потребностям командования вооруженных сил в части тактических разведданных.
Выступая перед журналистами на прошлой неделе, Уитворт сказал, что работа в объединенном центре управления миссиями “идёт очень хорошо”, но вопросы разделения труда не решаются в одночасье. Уитворт назвал создание объединенного центра управления миссиями первым шагом, местом для обсуждения распределения ресурсов и расстановки приоритетов. По его словам, центр сотрудничества в NGA сыграет решающую роль в определении ответственности за будущую спутниковую группировку Ground Moving Target Indicator (GMTI), которая является совместным проектом NRO и Космических сил. Цель состоит в том, чтобы обеспечить бесперебойный и своевременный поток данных с этих спутников военным командирам и аналитикам разведки.
Уитворт отверг критику в адрес NGA по поводу того, что агентство “сторожит” от военных коммерческие спутниковые снимки, назвав это “мифом”. Он рассказал о платформе Global Enhanced GEOINT Delivery (G-EGD), которая предоставляет несекретную геопространственную информацию непосредственно правительственным пользователям, включая Министерство обороны США.
Между тем, в прошлом году Космические силы США уже запустили пробную программу под названием Tactical Surveillance, Reconnaissance and Tracking (Tac-SRT), чтобы улучшить качество оперативной передачи спутниковых снимков и их анализа военным командирам. Программа рекламировалась как средство оказания помощи пострадавшим от наводнений в Бразилии и отслеживания лесных пожаров в Южной Америке. В бюджете этого года Конгресс выделил 50 миллионов долларов на поддержку Tac-SRT.
Выступая на прошлой неделе на отраслевой конференции, Гетлейн сказал, что есть ключевые вопросы, которые Космическим силам нужно решить с разведывательным сообществом, когда речь заходит о космической разведке: “Как мы собираемся обмениваться информацией в будущем? Как нам совместно работать над такими вещами, как автоматическое распознавание целей компьютерами? И как мы можем быстро донести эту информацию до солдат, которым она нужна?”
Отработка военных программ на задачах мониторинга чрезвычайных ситуаций — это и польза и реклама.
📸 Мониторинг танкера в Красном море, подвергшегося нападению хуситов 21 августа, на снимка, предоставленных компанией BlackSky.
#США #война
Национальное агентство геопространственной разведки (NGA) и Космические силы США ищут пути для совместной работы над сбором и доставкой спутниковых данных военным пользователям по всему миру.
На прошлой неделе заместитель командующего Космическими силами, генерал Майкл Гетлейн (Michael Guetlein), встретился с директором NGA, вице-адмиралом Фрэнком Уитвортом (Frank Whitworth). Гетлейн заявил, что операторы Космических сил назначены в новый “объединенный центр управления полётами”, расположенный в кампусе NGA в Спрингфилде (шт. Вирджиния). Эта группа будет заниматься, в частности, управлением спутниками, получающими изображения, и отслеживанием движущихся целей из космоса.
NGA и Национальное разведывательное управление (NRO), которые контролируют финансирование и доступ к спутниковым снимкам и аналитическим службам, столкнулись с критикой со стороны Подкомитета Палаты представителей по стратегическим силам за недостаточное внимание к потребностям командования вооруженных сил в части тактических разведданных.
Выступая перед журналистами на прошлой неделе, Уитворт сказал, что работа в объединенном центре управления миссиями “идёт очень хорошо”, но вопросы разделения труда не решаются в одночасье. Уитворт назвал создание объединенного центра управления миссиями первым шагом, местом для обсуждения распределения ресурсов и расстановки приоритетов. По его словам, центр сотрудничества в NGA сыграет решающую роль в определении ответственности за будущую спутниковую группировку Ground Moving Target Indicator (GMTI), которая является совместным проектом NRO и Космических сил. Цель состоит в том, чтобы обеспечить бесперебойный и своевременный поток данных с этих спутников военным командирам и аналитикам разведки.
Уитворт отверг критику в адрес NGA по поводу того, что агентство “сторожит” от военных коммерческие спутниковые снимки, назвав это “мифом”. Он рассказал о платформе Global Enhanced GEOINT Delivery (G-EGD), которая предоставляет несекретную геопространственную информацию непосредственно правительственным пользователям, включая Министерство обороны США.
Между тем, в прошлом году Космические силы США уже запустили пробную программу под названием Tactical Surveillance, Reconnaissance and Tracking (Tac-SRT), чтобы улучшить качество оперативной передачи спутниковых снимков и их анализа военным командирам. Программа рекламировалась как средство оказания помощи пострадавшим от наводнений в Бразилии и отслеживания лесных пожаров в Южной Америке. В бюджете этого года Конгресс выделил 50 миллионов долларов на поддержку Tac-SRT.
Выступая на прошлой неделе на отраслевой конференции, Гетлейн сказал, что есть ключевые вопросы, которые Космическим силам нужно решить с разведывательным сообществом, когда речь заходит о космической разведке: “Как мы собираемся обмениваться информацией в будущем? Как нам совместно работать над такими вещами, как автоматическое распознавание целей компьютерами? И как мы можем быстро донести эту информацию до солдат, которым она нужна?”
Отработка военных программ на задачах мониторинга чрезвычайных ситуаций — это и польза и реклама.
📸 Мониторинг танкера в Красном море, подвергшегося нападению хуситов 21 августа, на снимка, предоставленных компанией BlackSky.
#США #война
Forwarded from Спутник ДЗЗ
IСЕYE подписала партнерское соглашение с польской компанией Scanway на поставку оптических спутников высокого разрешения для польского правительства [ссылка]
Во время 32-й Международной выставки оборонной промышленности (MSPO) в Кельце (Kielce), ICEYE Polska, польское подразделение компании ICEYE, производящей радарные спутники, и польская компания Scanway, специализирующаяся на оптических приборах и технологиях технического зрения, подписали меморандум о взаимопонимании относительно разработки оптических спутников высокого разрешения. Первоначально спутники будут предоставлять снимки польским пользователям, а в будущем, возможно, и глобальным заказчикам.
Документ был подписан президентом и соучредителем ICEYE Рафалом Моджевским (Rafał Modrzewski) и президентом и основателем Scanway Енджеем Ковалевским (Jędrzej Kowalewski).
Новые спутники будут использоваться в военных целях и будут иметь пространственное разрешение около 50 см. Они присоединятся к существующим радарным системам компании ICEYE, предоставляя польским клиентам доступ к комплексным данным наблюдения Земли, сообщили компании.
“В настоящее время вооруженные силы нуждаются в оптических системах с разрешением не менее 50 см. Такие системы могут быть установлены на спутниках класса 150–200 кг, которые производит и эксплуатирует компания ICEYE. (...) Мы уже вывели на орбиту 38 из них”, — сказал Моджевски.
“Предоставление заказчикам все более крупных и совершенных оптических приборов, способных получать изображения с разрешением менее 1 метра, является стратегическим направлением развития компании Scanway”, — добавил Ковалевский.
На следующий день ICEYE Polska подписала еще одно соглашение — с Wojskowe Zakłady Łączności Nr 1 (WZŁ-1, Военный завод связи) и Polska Grupa Zbrojeniowa (PGZ, Польская группа вооружений) — о совместной разработке так называемой мобильной ячейки ISR (Mobilna Platforma Rozpoznania Satelitarnego ISR, MPRS ISR), приспособленной для взаимодействия с радарными и оптическими спутниками наблюдения Земли.
По словам представителей группы, новое решение сочетает в себе системы связи и передачи данных, блок питания и специально разработанную антенную систему, что обеспечивает быструю передачу данных и их непосредственное распределение по соответствующим адресатам на любом командном уровне.
📸 Нефтяные резервуары в Роттердаме (Нидерланды) на радарном снимке спутника ICEYE с разрешением 25 см.
#iceye #польша #война
Во время 32-й Международной выставки оборонной промышленности (MSPO) в Кельце (Kielce), ICEYE Polska, польское подразделение компании ICEYE, производящей радарные спутники, и польская компания Scanway, специализирующаяся на оптических приборах и технологиях технического зрения, подписали меморандум о взаимопонимании относительно разработки оптических спутников высокого разрешения. Первоначально спутники будут предоставлять снимки польским пользователям, а в будущем, возможно, и глобальным заказчикам.
Документ был подписан президентом и соучредителем ICEYE Рафалом Моджевским (Rafał Modrzewski) и президентом и основателем Scanway Енджеем Ковалевским (Jędrzej Kowalewski).
Новые спутники будут использоваться в военных целях и будут иметь пространственное разрешение около 50 см. Они присоединятся к существующим радарным системам компании ICEYE, предоставляя польским клиентам доступ к комплексным данным наблюдения Земли, сообщили компании.
“В настоящее время вооруженные силы нуждаются в оптических системах с разрешением не менее 50 см. Такие системы могут быть установлены на спутниках класса 150–200 кг, которые производит и эксплуатирует компания ICEYE. (...) Мы уже вывели на орбиту 38 из них”, — сказал Моджевски.
“Предоставление заказчикам все более крупных и совершенных оптических приборов, способных получать изображения с разрешением менее 1 метра, является стратегическим направлением развития компании Scanway”, — добавил Ковалевский.
На следующий день ICEYE Polska подписала еще одно соглашение — с Wojskowe Zakłady Łączności Nr 1 (WZŁ-1, Военный завод связи) и Polska Grupa Zbrojeniowa (PGZ, Польская группа вооружений) — о совместной разработке так называемой мобильной ячейки ISR (Mobilna Platforma Rozpoznania Satelitarnego ISR, MPRS ISR), приспособленной для взаимодействия с радарными и оптическими спутниками наблюдения Земли.
По словам представителей группы, новое решение сочетает в себе системы связи и передачи данных, блок питания и специально разработанную антенную систему, что обеспечивает быструю передачу данных и их непосредственное распределение по соответствующим адресатам на любом командном уровне.
📸 Нефтяные резервуары в Роттердаме (Нидерланды) на радарном снимке спутника ICEYE с разрешением 25 см.
#iceye #польша #война