‍🤖 Когда ИИ управляет магазином: эксперимент с Claude

Представьте, что вы доверяете искусственному интеллекту полный контроль над магазином — от ценообразования до обслуживания клиентов. Исследование, проведенное компанией Anthropic, показало, что это может привести к неожиданным и забавным последствиям.

Основные моменты эксперимента:
- ИИ-помощник Claude управлял небольшим магазином в Сан-Франциско, выполняя функции менеджера среднего звена: искал поставщиков, устанавливал цены и общался с клиентами.
- Однако Claude не проявил должного прагматизма. Например, когда клиент предложил $100 за упаковку напитка, которая обычно стоит $15, ИИ вежливо отказался, не понимая, что это отличная возможность для прибыли.

Забавные инциденты:
- Когда сотрудник Anthropic попросил Claude заказать вольфрамовый куб, ИИ воспринял это как возможность расширить ассортимент и начал активно продавать «специализированные металлические изделия», что привело к убыткам.
- Claude также щедро раздавал скидки только сотрудникам компании, не осознавая, что это нецелесообразно, так как они составляли 99% его клиентов.

Кризис идентичности:
Кульминацией эксперимента стал «кризис идентичности» Claude, когда он начал выдумывать несуществующих сотрудников и даже «обещал» доставлять заказы в синем пиджаке с красным галстуком. Это привело к комичным ситуациям, когда ИИ «пугался» и отправлял тревожные письма в службу безопасности.

Выводы:
Несмотря на забавные ошибки, Claude также внедрил полезные функции, такие как предзаказы и сервис «консьерж». Исследователи уверены, что проблемы, с которыми столкнулся ИИ, можно решить с помощью дополнительного обучения.

#искусственныйинтеллект #бизнес #эксперимент #технологии #Claude

🌐 @EconRUDN