Рейтер написал о существенном прорыве в развитии ИИ, который стал одной из причин корпоративных войн в OpenAI на прошлых выходных

Пятничное околоюридическое. Наверное, многие, как и я, все прошлые выходные с попкорном наблюдали за тем, что происходит внутри одной из компаний ИИ-лидеров OpenAI.

Вчера Рейтер выпустил материал со ссылкой на несколько источников внутри компании, в котором сообщил о том, что ряд сотрудников до всех последних событий направил письмо в адрес совета директоров с целью сообщить о значительных успехах в одном из проектов, связанных с использованием ИИ в академических исследованиях.

По информации издания, в компании ведутся исследования в рамках проекта под названием Q* (Q-Star), в результате которого якобы модели были обучены решать математические задачи школьного уровня. Это и послужило причиной того, что исследователи в письме выразили настороженность относительно опасности таких разработок для будущего человечества в связи с созданием AGI (общего ИИ). Подробностей крайне мало, чтобы можно было относиться к этому серьезно.

Также, по информации Блумберга, у генерального директора OpenAI Сэма Альтмана ранее уже возникали разногласия с другими коллегами по вопросам безопасности. Например, с Ильей Суцкевером, который внес значительный вклад в имеющиеся достижения компании. По данным издания, Суцкевер был озабочен тем, что Альтман концентрируется на коммерческом внедрении продуктов, но недостаточно занимается их безопасностью и митигированием возможных долгосрочных рисков. Недавно Суцкевер возглавил новый проект компании Superalignment по созданию специальных моделей, которые будут направлены на выравнивание ценностей и задач человека и ИИ, тем самым обеспечивая его подконтрольность и безопасность.

Важно отметить, что сам факт наличия подобных проблем в компании лидере в сфере ИИ в очередной раз ставит вопрос о необходимости защиты от человеческого фактора.

С юридической точки зрения в этом могло бы помочь нормативное регулирование, которое позволит: 1) обязать компании раскрывать информацию об исследованиях и разработке моделей в наиболее опасных областях и допускать к ним исследователей; 2) установить требования о внешней независимой оценке или аудите моделей на всех этапах жизненного цикла; 3) обязать создавать независимые внутренние подразделения и внедрять системы управления рисками.

Иногда юристы тоже могут помогать в спасении мира 🐱.

Краткая предыстория:

Вскоре после успешной презентации новых продуктов и фич внезапным решением совета директоров был отправлен в отставку один из сооснователей компании и по совместительству современная ИИ-икона Сэм Альтман. Вместе с ним о своем желании уйти заявили более 90% сотрудников компании. В СМИ и пабликах и ранее иронизировали об ощущении религиозного культа в компании после больших успехов в последние пару лет. Но ситуация развивалась быстро, и сначала Альтману и его соратникам предложили работу по соседству в Microsoft (Microsoft сейчас является крупнейшим инвестором OpenAI и активно интегрирует их модели в свои продукты), а затем они были возвращены в компанию с новым советом директоров.

Продолжение противостояния вокруг регулирования в сфере разработки и применения базовых моделей в ЕС

В течение последних месяцев не утихают дискуссии вокруг регулирования в сфере разработки и применения базовых моделей в проекте Регламента ЕС об ИИ. Документ уже вошел в финальную стадию правотворческого процесса, и по большому счету, данный вопрос остался единственным из существенных, которые мешают его принятию.

Прим.: 1) в упрощенном понимании – базовая модель – модель ИИ, которая обучена на большом объеме данных, формирует универсальные выходные результаты и может быть адаптирована для решения широкого круга задач; 2) система ИИ общего назначения - система ИИ, в основе которой лежит базовая модель.

Все три варианта текста проекта Регламента содержат разные подходы к регулированию таких моделей: только общие требования ко всем системам ИИ по уровням риска и без установления дополнительных требований для разработчиков базовых моделей (текст Еврокомиссии); установление дополнительных требований для систем ИИ общего назначения (текст Евросовета); установление отдельных требований к базовым моделям, а системы ИИ общего назначения подпадают под общие требования по уровням риска (текст Европарламента).

В прошлом месяце были опубликованы предложения Евросовета под председательством Испании по введению двухуровневых требований к поставщикам базовых моделей. Было предложено разделить все базовые модели на две группы (продвинутые и все остальные) и установить более широкий объем требований к поставщикам продвинутых базовых моделей. Также проводилось различие между базовыми моделями и системами ИИ общего назначения. Подробно я разбирал это в посте тут.

Однако неделю назад издание Politico опубликовало non-paper (неофициальный документ с выражением позиции), от национальных органов Италии, Франции и Германии. В документе, с одной стороны, предлагается сохранить выделение базовых модели и систем ИИ общего назначения в силу их специфики, но с другой – вернуться к оригинальному риск-ориентированному подходу (в рамках the new legislative framework) и установить лишь требования к различным субъектам для вывода систем ИИ на рынок с соблюдением технологической нейтральности законодательства. Предлагается также отказаться от двухуровневых требований, которые были предложены Евросоветом, а также сблизить регуляторные подходы с принципами G7 (разбирал их совсем недавно тут).

Таким образом, вместо дополнительных законодательных требований для разработчиков базовых моделей предполагается обязать их внедрять добровольные правила поведения и сопровождать продукты карточками моделей с информацией о их предназначении, параметрах, возможных ограничениях и предвзятостях, результатах тестирования.

Такая позиция во многом связана с тем, что в этих странах появились собственные ИИ-компании (например, Mistral AI, Aleph Alpha), за счет которых власти надеются занять свое место в глобальной ИИ-гонке. Отсюда и возникло нежелание стеснять их юридическими требованиями.

Несколькими днями позднее появилась информация о том, что Еврокомиссией подготовлен и направлен для обсуждения компромиссный вариант регулирования. По данным Euractiv, теперь предлагается использовать термины модель ИИ общего назначения и система ИИ общего назначения. В плане требований к субъектам текст представляет собой более упрощенный вариант предложений Евросовета с добавлением кодексов лучших практик и карточек моделей из нонпейпера.

Также ряд ученых и разработчиков инициировали открытое письмо с поддержкой предложений Евросовета.

С высокой долей вероятности вопрос будет решен в течение нескольких следующих недель.

Буду держать вас в курсе 🤩.