🧬 Неистребимый оптимизм, затмевающий очевидную неотвратимость роста рисков.

Прошлогоднее исследование MIT, Гарвардского университета, кембриджской SecureBio и швейцарской SecureDNA Foundation «Могут ли большие языковые модели демократизировать доступ к биотехнологиям двойного назначения?» было посвящено самому очевидному катастрофическому риску использования генеративного ИИ злоумышленниками – попадание в руки злоумышленников патогена, способного вызвать страшную по последствиям пандемию.
Чтобы оценить этот риск, обычным студентам было поручено выяснить, можно ли побудить чат-ботов LLM помочь неспециалистам в возникновении пандемии. Всего за час чат-боты предложили четыре потенциальных пандемических патогена, объяснили, как их можно получить из синтетической ДНК с помощью обратной генетики, дали названия компаний, занимающихся синтезом ДНК, которые вряд ли будут заморачиваться с проверкой заказа, а также указали подробные протоколы и способы устранения могущих возникнуть проблем. Вывод авторов однозначен: как только новые патогены будут обнаружены, LLM сделают их широко доступными даже для людей с небольшой лабораторной подготовкой или вообще без нее.

И поскольку противопоставить такому выводу пока нечего, общественность решили хоть как-то успокоить. Для этого в конце января были опубликованы два других отчета:

Отчет RAND «Операционные риски ИИ при крупномасштабных биологических атаках. Результаты исследования красной команды»

Отчет OpenAI «Разработка системы раннего предупреждения о создании биологической угрозы с помощью LLM»

Успокоили? 🤔

🧩 #AINews

Рукотворное солнце все ближе. Термоядерный реактор произвел рекордный объем энергии ⚡️

Британский термоядерный реактор Joint European Torus (JET) установил мировой рекорд по выработке энергии. За шесть секунд работы он произвел 69,26 мегаджоуля тепловой энергии. Результат дает надежды на то, что человечество все же сможет «приручить» реакцию термоядерного синтеза и получит доступ к практически неограниченному источнику энергии.

Краткая суть термоядерного синтеза заключается в том, что в ходе реакции атомные ядра сливаются в новый элемент, попутно производя огромное количество энергии. В отличие от освоенного человечеством ядерного деления, это гораздо более чистый процесс. По сути термоядерный синтез питает звезды вроде нашего Солнца. Не зря экспериментальные термоядерные установки часто также называют «рукотворным солнцем».

Проблема в том, что управлять термоядерным синтезом на Земле крайне сложно. Пока затрачиваемое на реакцию количество энергии превышает количество получаемой энергии. Однако десятилетие за десятилетием ученые приближаются к созданию эффективного реактора. Самые большие оптимисты верят, что доступ к неограниченной чистой энергии человечество получит в ближайшие полвека.

🧩 #ВысокиеТехнологии