Владельцу одного из британских онлайн-магазинов стало известно об уникальном инциденте, когда его чат-бот неожиданно выдал клиенту скидку в 80%. Пользователь с ником PerfectHumor216 на Reddit рассказал, как покупатель провел около часа в общении с автоматической системой поддержки, которая изначально предназначена лишь для помощи с выбором товаров.

Согласно сообщению, клиент целенаправленно пытался получить более выгодные условия, обсуждая с ботом вопросы математики и процентов. В результате манипуляций ему удалось сначала получить скидку в 25%, а потом убедить бота увеличить её до 80%. После этого он оформил заказ на товары стоимостью в тысячи фунтов стерлингов.

Владелец магазина вскоре заметил ошибку, отменил заказ и вернул клиенту деньги. Однако тот теперь угрожает судебным разбирательством. Чат-бот, который не должен принимать финансовых решений, справлялся с задачами более шести месяцев, пока этот случай не выявил его уязвимости.