Microsoft подтвердила свой запрет полицейским департаментам США использовать генеративный искусственный интеллект для распознавания лиц с помощью сервиса Azure OpenAI.

Отдельный новый пункт касается “любых правоохранительных органов по всему миру” и прямо запрещает использование “технологии распознавания лиц в реальном времени” на мобильных камерах, таких как камеры наблюдения за людьми и видеорегистраторы, для идентификации человека в “неконтролируемых, диких” условиях.

Изменения в политике произошли через неделю после того, как компания Axon, производитель технологий и оружия для вооруженных сил и правоохранительных органов США, анонсировала новый продукт, который использует генеративную текстовую модель OpenAI GPT-4 для обобщения звука с камер видеонаблюдения. Критики поспешили указать на потенциальные подводные камни, такие как галлюцинации (даже лучшие модели генеративного ИИ сегодня изобретают факты) и расовые предубеждения, привнесенные данными обучения (учитывая, что цветных людей в США гораздо чаще останавливает полиция, чем белых).

Интересно, как Microsoft может запретить использование своих продуктов в странах, где и сами США не очень то уважают. Вот что Microsoft сделает, если Azure OpenAI, применят, например, в КНДР или у нас?

#кибер #ии #контроль @kyber_net