ИИ-модель Claude впервые уволила человека

ИИ-модель Claude, которой было поручено управлять розничным магазином, включая руководство командой реальных сотрудников, уволила своего первого сотрудника, пишет Time. Эксперты называют этот шаг переломным моментом в развитии искусственного интеллекта в экономике.

В начале года стартап Andon Labs, занимающийся исследованиями в области искусственного интеллекта, поставил перед собой цель выяснить, смогут ли ИИ-агенты успешно управлять бизнесом. Проект задумывался как эксперимент по проверке возможностей ИИ и его влияния на экономику. Работники, нанятые Claude для работы в магазине в Сан-Франциско, — это реальные люди с настоящими трудовыми договорами.

Это не первый случай увольнения человека искусственным интеллектом — в прошлом было множество автоматизированных увольнений, особенно в отношении работников, занятых на временной работе и подвергавшихся алгоритмическому контролю на протяжении многих лет. Но это первый известный пример того, как большая языковая модель, выступая в роли менеджера, в конечном итоге принимает решение об увольнении одного из своих сотрудников.

Увольнение — это событие, заслуживающее внимания, отметил гендиректор Andon Labs Лукас Петерссон. По его словам, если ИИ будет продолжать совершенствоваться нынешними темпами, в ближайшем будущем все больше людей могут оказаться под управлением руководителей, использующих ИИ. 

По данным Andon Labs, работника, о котором идёт речь, уволили за опоздания в 17 из 23 смен. Одна из причин, по которой Claude потребовалось так много времени, чтобы заметить закономерность, заключалась в том, что разработанное им руководство для сотрудников «исчезло» из его ограниченной рабочей памяти — это одно из нескольких ограничений ИИ-агентов, которые Andon Labs заметили в ходе своего эксперимента. «Человек уволил бы этого человека гораздо раньше, поэтому мы не сочли это неэтичным», - добавил Петерссон.

Стоит отметить, что увольнение с помощью ИИ не было на 100% автономным. Claude требовалось регулярное руководство со стороны сотрудника команды Andon Labs. Только когда этот сотрудник попросил Claude найти и просмотреть забытое руководство для сотрудников, он заметил неоднократные опоздания работника. Даже тогда Claude сначала рекомендовал официально вынести сотруднику предупреждение, а не увольнять его. 

Пока эксперимент показывает, что бизнес, управляемый ИИ, не совсем соответствует бизнесу, управляемому людьми. Когда проект стартовал, на банковском счете Andon Market было $100 000, пять месяцев спустя эта цифра упала до $61 186.

ИИ активно развивается и уже способен на очень многое. Используйте для торговли подсказки от ИИ. Он даст рекомендации по выбору активов и оптимизации состава виртуального портфеля, подготовит аналитику и прогнозы по движению цен выбранных вами ценных бумаг. Портфель можно изменять столько раз, сколько потребуется. Никаких ограничений и обязательств.

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.