Нейросеть Claude впервые уволила человека

ИИ-модель Claude, которой доверили управление розничным магазином в Сан-Франциско, впервые приняла решение уволить сотрудника, сообщает портал Time со ссылкой на интервью с исследовательской компанией Andon Labs.

В марте Andon Labs начала эксперимент, чтобы проверить, может ли ИИ-агент самостоятельно вести бизнес и какое влияние такие системы способны оказать на экономику. Для этого модели Claude от Anthropic передали функции управляющего магазином Andon Market в Сан-Франциско.

Как пишет Time со ссылкой на данные Andon Labs, сотрудник, которого уволили, пропустил 17 из 23 смен. При этом ИИ долго не замечал эту закономерность: подготовленное им руководство для персонала оказалось утрачено в ограниченной рабочей памяти модели.

Генеральный директор Andon Labs Лукас Петерссон признал, что решение об увольнении не было полностью автономным. Сначала сотрудник компании попросил Claude найти забытое руководство и оценить ситуацию. ИИ сначала предложил ограничиться официальным предупреждением, и лишь после наводящего вопроса представителя Andon о том, подходит ли вообще этот человек для работы, пришел к решению об увольнении.

Отмечается, что в целом Claude проявлял мягкость в управлении и раньше говорил сотрудникам не переживать из-за опозданий.

Пока эксперимент показывает, что ИИ в роли руководителя бизнеса не превосходит человека, отмечает издание. В марте магазин получил стартовый капитал в 100 тысяч долларов, однако за пять месяцев он снизился примерно до 61 тысячи долларов. Среди возможных причин исследователи называют слишком мягкий стиль управления и спорные коммерческие решения Claude, пишет портал.

Источник и фото - ria.ru