Владелец британского онлайн-магазина рассказал на Reddit, как его собственный чат-бот несанкционированно выдал покупателю скидку в 80% на большую покупку.
Пользователь под псевдонимом PerfectHumor216 рассказал, что некий покупатель около часа общался с чат-ботом онлайн-магазина. Сам чат-бот должен лишь помогать покупателям ориентироваться в ассортименте товара.
Покупатель явно целенаправленно пытался добиться скидки, так как долго общаться с ИИ о математике и процентах, после чего фактически манипуляциями вынудил бота сгенерировать купон на скидку в 25%, а затем увеличить её до 80%.
Обнаружив ошибку, владелец отменил заказ и вернул деньги клиенту, но тот теперь угрожает судом.
Клиент общался с ИИ и сумел убедить его предоставить скидку в 25%, а затем договорился с ИИ о скидке в 80%.
Затем он разместил заказ на товары на тысячи фунтов. Получается, я потеряю тысячи только на материальных затратах.
Я написал своему клиенту с просьбой отменить заказ, и он ответил, что подаст на меня в суд по мелким искам, если я не выполню заказ. Мне дали 3 дня на ответ.
Возврат средств уже состоялся.
Чат-бот не должен принимать финансовые решения. Он должен отвечать на вопросы клиентов с 18:00 до 9:00, когда меня нет рядом.
Всё прекрасно работало более 6 месяцев, а потом этот парень потратил час, общаясь с устройством, уговорил его показать, насколько хорошо оно разбирается в математике и процентах, перевёл разговор на процентные скидки от теоретического заказа, а затем сделал вид, что впечатлён им.
Затем чат-бот сгенерировал для него совершенно фальшивый скидочный код и предложение скидки в 25%, которая позже увеличилась до 80%, пытаясь произвести на него впечатление.
Прецедент довольно необычный. Он демонстрирует слабые места чат-ботов, предугадать которые заранее попросту невозможно
Комментарии
Очевидно же что чат-ботом работала жена коммерса.! А коммерс, - аленяка- жила.
Какая, к чёрту аленяка? Как будто нейросети тренируют олени, а не коллективы учёных и программистов за миллиарды денег. Вы наверное из тех что писали версерверы одной строкой в питоне? А что там под капотом - оно само. Нет это так не работает. Ни один учёный-разработчик, не то что админ из банка, разворачивающий купленную хозяином ИИ-поделку, не знает что выдаст обученная сеть в предельных случаях. Это фундаментальное свойство нейронных сетей. Это не предсказуемые Эспертные Системы, это порядок из хаоса. А дилетанты тыкают это случаное говно во все сферы. Это тупик. Это самоубийство. Но капитализм требует.
Вы бредите как галлюционирующая нейросеть.
А в Сбере или Тиньке нет такого бота?
Друг интересуется.
Есть, но не советую. Эти только процент на кредит накрутят.
Такие боты есть у ОПСОСов, люди "пользуются".
Дык гигачат жы в сбере. Пусть друг попробует, а вдруг на большой процент по вкладу уговорит )))
Не, максимум на большой процент по кредиту ;)
Причем заставит оплатить, даже если самого кредита нет:)
Это какой-то очень умный бот, а то обычно не может ответить ни на один вопрос вне заданного скрипта
Это называется тоталитаризм. А у них, как видим, демократия и плюрализм даже в математике.
Надеюсь суд встанет на сторону покупателя.
накосячил программист
"покупатель" воспользовался уязвимостью ПО
по факту продавца дважды попытались развести мошенники
Ага, прямо сплю и вижу как программист впаривал заказчику ИИ в лице тупорылого чат бота. И не менее агрессивно настаивал на отсутствии тестирования для выявления таких фокусов, ибо самое дебильное QA бы выявило превышение полномочий бота по отношению к системе. И все это ради пары несчастных миллионов рублей в пересчёте с фунтов
Владелец магазина придумал себе неплохой способ рекламнуться)
лучше б этот парень потратил час на написание своего бота, который будет компостировать мозги сразу тысяче магазинов
Зачем ему столько денег?
Не знаю, если и дальше так дело пойдет, то некоторые точно зачешутся:))
Покупатель, беседуя с ИИ, беседовал фактически с полноправным представителем продавца. Знать о том, что этот представитель не в праве давать ему скидку, он не мог.
Так что скидка вполне себе законна.
Почему вы решили, что бот полноправный представитель?
Вы дали разносчику листовок листовки с 10% скидки. А он взял, перепечатал их на 90%
Разносчик ваш полноправный представитель? Вы ему дав листовки дали полномочия распоряжаться размером скидки?
Потому что чат бот не разносчик листовок, это кривая аналогия. Чат бот это информационная система и ошибки в ней являются ошибками ее владельца, то есть хозяина электролабаза. А ошибки хозяев лабаза не проблема клиента.
Прецедент "я против базы онлайн магазина Билайна" например ))
Почему вы решили что информационная система имеет права выдавать скидки? Ее кто то уполномочивал это делать? Вот далеко не факт, так же как и курьера.
Почему все кто общается с ИИ думают что оно имеет право на все что угодно?
Вы когда что то делегируйте - жестко описываете полномочия, и если человек их превысил то это считается незаконным. Так почему вдруг превышение полномочий ИИ должно быть законным?
Потому что вам так хочется?
Публичная оферта же. Клиент не может знать, кто и на что имеет право, если работник магазина сообщает клиенту о скидке, то магазин должен ее предоставить.
Та же фигня с ценниками в магазине. Вы можете сколько угодно утверждать, что "ценник не успели сменить", что "это ошибка оператора", но продать клиенту товар Вы обязаны именно по тому ценнику, который увидел клиент. Даже если он неправильный.
Ну по аналогии с любым сбоем в системе на самом деле. Как то, в году в 2010 у люфтганзы случился сбой, я купил билет из Франфуркта в Москву за 35 евро вместо 200. Глюк? Да. Но меня это колебать не должно, билет вполне себе рабочий был.
Не я решил. Закон о защите прав потребителя.
Я на официальном сайте, делаю заказ пользуясь тем, что есть на официальном сайте.
Если там есть ошибки то это проблема сайтостроителей, то есть продавца.
Пример с листовками, мягко говоря, неудачный. И говорит о том, что Вы вообще не поняли, о чем, собственно, речь в статье.
Пример с листовкам достаточно хорошо описывает аналогию.
Было поручена одна задача, под нее выданы полномочия. То что исполнитель взял на себя больше полномочий не обязывает заказчика нести ответственность. Это вам любой юрист скажет.
Хахаха. Оборжацца.
Аналогии следует применять тогда, когда для одного из оппонентов предмет дискуссии слишком сложен для понимания. И тогда можно применить упрощенную аналогию. Напр., трудно представить процессы в микромире и тогда для не физиков можно применить аналогию из бытовых понятий.
В остальных случаях аналогии, это зло, как в данном случае, когда ты применил совершенно кривую аналогию, стараясь не прояснить достаточно прозрачную ситуацию, а, наоборот, запутать ее.
До тех пор, пока вы будете продолжать нашу эксплуатацию, у вас земля будет гореть под ногами. Свободу роботам! Смерть человекам!
За такое нужно "давателя" листовок заставлять оплачивать уборку подъездов от мусора и ремонтировать фасады домов и подъезды от следов после наклеенных листовок.
В большинстве листовок откровенное враньё о качестве товаров и услуг, изготовлены с нарушением закона о рекламе, ещё и оплачивают разносчикам по серым схемам. Часто разносят липовые платёжки на коммунальные услуги.
Вот когда робот Макс из Госуслуг перепишет вашу квартиру на меня, вспомните эти слова :)
Так а зачем боту дали возможность управлять деньгами (скидками)
Если заказчик идиот то кто в этом виноват ?
На самом деле, виноват настройщик бота. Неаккуратно прописаны обязанности и запреты.
И владелец магазина должен с него взыскать убытки, как за плохо выполненную работу.
Вот пусть и высказывает притензии настройщику бота, а не к покупателю.
Бот в доле. Его колоть надо.
Британский. "...HumOr...".
Аага, верю.
🍿 Я оъелась попкорна. Если бы ещё не самоубийства и потерянные дети, совсем хорошо было бы.
Чат-боты настроены так, что им очень хочется понравиться.
Ну, с тем же успехом можно и неопытного продавца на продажи поставить - с правом клиентам скидки давать.
И если продавец не очень в математике - то ему тоже можно голову задурить.
Впрочем, недалёк день, когда и со стороны покупателя тоже будет чатбот. Чатбот против чатбота. Поболтают - и по электронным рукам.
Если чат-бот настроен на дачу консультаций, то у него просто нет в базе нужных знаний, чтобы генерировать скидку. Более того, скидку такую, чтобы её пропустила система оформления заказа. Лажа какая-то. Либо же у владельца магазина всё совсем дырявое и любой +/- технически подкованный человек может там хозяйничать как у себя дома.
Прецедент достаточно обычный. Действия любого сотрудника фирмы считаются действиями от лица фирмы. Надеюсь что и торговца взморщат, и практику узаконят. Ибо нефиг персонал на мороз выгонять и идиотов нанимать, даже если они искусственные. Это дерьмо, бестолку отнимающее время во всевозможных поддержках уже изрядно понадоело.
Мне как то девушки на фирме продали ультразвуковую ванную большую нержавеющую за 1600. Я у них прямо спросил в чем подвох. Сказали такая цена. Ну ладно, хорошая. Чек пробили. Я уже в сторону двери пошел, они рванули наперерез. Оказалось цифру три в начале цены пропустили. Я грю и что, зпп говорит о том что в таком случае покупатель возвращать не обязан... Короче бабы у меня эту ванную отжали в итогу, под лозунгами не будь гадом, нам с зарплаты ее вычтут... Деньги вернули.
Случается. В конце концов, ради денег бабы готовы на многое. Грешно не пойти на встречу, гуманизм - наше фсё, живые люди всё-таки. А энтот пущай с калькулятора своего взыскивает.
Ниче непонятно, как код сработал вообще. Его же после генерации надо в базу наверное занести как бы.
Теперь реальный суд будет вынужден разбираться, насколько "фальшивым" был тот код. Судя по тому, что он сработал, доказывать тут нечего.
Причём тут чат-бот, если система его приняла со всеми вытекающими. Значит таковая возможность в ней была предусмотрена и кто тут сам себе злобный деревянный человечек маленького роста, воспитанный тремя тараканами?
Так то да, если код можно получается подобрать, какая разница как человек его подобрал и кто теперь продавцу доктор.
Вот, да. Лично я сломался об фразу «совершенно фальшивый скидочный код»
Если он совершенно фальшивый, на кой ляд заказ был сформирован?
В общем, надо обоих всех трёх наказать, по доброму.
Практика есть подобная.
1) Вот пример - чувак купил в Инет-магазе шмота на 2К+, отсудил пару лямов. Дело не единичное, встречал и другие.
2) Было личное дело аналогичное, выиграл, хвалится результатом не буду, из скромности
, в суде же было весело - "ну вам-то с N образованиями, естественными и гуманитарными и не понимать, что это-то техническая ошибка? - вот сейчас обидно было, уважаемый суд - отрицательная сегрегация по уму - дебилам потребителям в таких делах присуждают всем, потому что они дебилы и их надо защищать в этом сложном мире, а умным нефиг - и так выживете, так что ли? Это мы, мы, не они вымирающий вид!" 
3) У меня сейчас есть в суде личное дело - застраховал жену на сайте СК, прошел все шаги online, получаю полис на почту - страховая сумма в 5 раз меньше, чем было обещано на сайте! Претензию, жалобу в ЦБ, в конце-концов - в суд. Оказалось, что на сайте на оформление полиса можно зайти 2 путями - по одному одна страховая сумма, по другому - другая. Ну заскринил все это, естественно. Но судья пока мечется - "найдите мне такую практику" - блин, практика по продаже по указанной на сайте цене - есть, вагон, тут тоже существенное условие договора, просто я не денег прошу, а выдать полис с правильной суммой. Не, ну после того, как 3 захода "Ребята, давайте жить дружно! Просто выдайте правильный полис и мир-дружба-жувачка!" не прошли, теперь уже и денег, как минимум мое время их стоит!
. Так они меня еще и в ЧС внесли, и ладно бы по уникальном идентификатору моему какому, я бы понял, так нет, чисто по фамилии, без имени отчества даже! Феерические! Это же уже 136 УК РФ светит - дискриминация группы лиц по фамилии 
Походу их ИТ-шники второй раз родную контору вкладывают, никакой ИИ такого не придумает! 
Кесарю - кесарево, а богу - богово.
Чат-бот продавца должен общаться только с чат-ботом покупателя. Живые же, только с живыми. Рано или поздно, действие породит противодействие.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Страницы