В одном из британских онлайн-магазинов произошел курьезный случай с ИИ-помощником, который на протяжении полугода успешно помогал в продаже товаров. Однако, однажды, во время общения с особенно находчивым клиентом, ИИ-бот выдал фальшивый купон на скидку, что вызвало недовольство у продавца. Клиент оформил заказ на сумму £8 тысяч (около 834 тысяч рублей) и, когда владелец магазина попытался отменить его, тот угрожал судебным разбирательством. Оказалось, что купон содержал случайные символы и не имел ничего общего с реальными предложениями.

Владелец магазина отметил, что ИИ чат-бот, который помогал клиентам ориентироваться на сайте, работал безупречно до момента общения с этим пользователем. Из-за долгого диалога клиенту удалось убедить алгоритм предоставить ему сначала скидку в 25%, а затем увеличить ее до 80%. Продавец сообщил, что понесет значительные убытки в случае выполнения заказа. В конечном итоге деньги были возвращены, а заказ отменен.