Америка: страховые компании шпионят за домами с помощью дронов

Статья основателя и исполнительного директора проекта по надзору за технологиями наблюдения в Business Insider:

День и так выдался суматошным, когда мой страховой брокер оставил голосовое сообщение о том, что страховка домовладельца просрочена. Меня затошнило, и я почувствовал панику. Внезапно любая протечка, пожар или ветка дерева, упавшая на столетний дом, который принадлежал моей семье почти 40 лет, могла уничтожить мой банковский счет. Меня охватил стыд. Как я допустил это? Я забыл обновить кредитную карту? Неужели я пропустил счет? Неужели я сделал что-то не так с полисом? Но когда я проверил все свои записи, даже сайт страховой компании Travelers, ничего из этого не было.

Через несколько часов моя паника сменилась недоумением. Когда я наконец дозвонился до своего страхового брокера, он сообщил мне причину, по которой Travelers отозвала мой полис: наблюдение с помощью беспилотников, управляемых искусственным интеллектом.

Я очень серьезно отношусь к вопросам конфиденциальности и слежки - настолько серьезно, что основал один из ведущих аналитических центров по этой теме. Но, зарабатывая на жизнь изучением угроз слежки по всей стране, я и понятия не имел, что моя собственная страховая компания использует мои страховые взносы, чтобы шпионить за мной. Travelers не только использует аэрофотосъемку и искусственный интеллект для наблюдения за крышами своих клиентов, но и выписала патенты на эту технологию - фактически около пятидесяти. И это может быть не единственный страховщик, шпионящий с неба.

Это было не просто жутко  - это было неправильно. В буквальном смысле: с моей крышей все было в порядке. 

Я ленивый домовладелец, но я все равно забочусь о самом необходимом. Будь то модернизация электрики или установка новой системы отопления, вентиляции и кондиционирования, я стараюсь обеспечить безопасность своего дома. Но для искусственного интеллекта Travelers оказалось, что моя лень - слишком большой риск для страхования. Алгоритм не обнаружил проблем с фундаментом или протекающей трубы. Вместо этого, как выяснил мой брокер, зловещая угроза, отменившая мою страховку, была не чем иным, как мхом.

Конечно, я мог бы удалить мох раньше, но я был занят, и он продолжал расти. Наконец, в июне, за несколько недель до того, как я узнал, что за моей крышей ведется наблюдение, я отправился в хозяйственный магазин, потратил 80 баксов на средство для уничтожения мха и распылил его на крышу. Все это заняло около пяти минут. Через несколько дней, к моему облегчению, мох начал отмирать. Я подумал, что это конец совершенно незапоминающейся истории.

Может быть, если бы я сделал это на месяц раньше, технология Travelers никогда бы не отметила меня, никогда бы не сказала, что я являюсь страховым риском. Но одно из глубоких разочарований эпохи ИИ-наблюдения заключается в том, что, поскольку компании и правительства отслеживают все больше деталей нашей жизни, мы редко знаем, что за нами следят.

Хотя невозможно точно узнать, сколько еще клиентов Travelers стали жертвами программы слежки компании, я точно не первый. В феврале бостонский филиал ABC сообщил о клиентке, которой пригрозили не продлить договор, если она не заменит крышу. Срок службы крыши был на исходе, и клиентка не сталкивалась с проблемами протечек; тем не менее ей сказали, что без замены крыши она не будет застрахована. По ее словам, ей пришлось заплатить 30 000 долларов за замену шиферной крыши, которая, по оценкам экспертов, могла бы прослужить еще 70 лет.

У страховщиков есть все основания проявлять излишнюю осторожность при создании моделей искусственного интеллекта. Никто не может использовать ИИ, чтобы узнать будущее; вы обучаете технологию делать предположения на основе изменений цвета крыш и зернистых аэрофотоснимков. Но даже самые лучшие модели ИИ будут ошибаться во многих прогнозах, особенно в масштабах, когда вы пытаетесь угадать будущее радикально разных конструкций крыш бесчисленных зданий в различных условиях. Для страховых компаний, разрабатывающих алгоритмы, это означает множество вопросов о том, когда следует класть палец на чашу весов в пользу или против домовладельца. А у страховых компаний будет огромный стимул каждый раз выбирать не в пользу домовладельца.

Подумайте об этом: Каждый раз, когда ИИ дает зеленый свет крыше, с которой на самом деле что-то не так, страховая компания оплачивает счет. Каждый раз, когда это происходит, компания может добавить эту точку данных в свою модель и обучить ее быть еще более осторожной в плане риска. Но когда домовладельцам грозит расторжение договора, они оплачивают счет за ремонт, даже если в нем нет необходимости. Если владелец дома в Бостоне выбросит шиферную крышу, которой осталось жить 70 лет, страховая компания никогда не узнает, что он ошибся, снимая ее. Она никогда не обновляет модель, чтобы сделать ее менее агрессивной для похожих домов.

Со временем у страховых компаний появятся все стимулы для того, чтобы сделать модели все более и более неумолимыми, угрожая еще большему числу американцев потерей страховки и потенциально заставляя их ремонтировать дома за миллионы или миллиарды долларов без необходимости. А поскольку страховщики сталкиваются с растущими убытками из-за климатического кризиса и инфляции, давление, вынуждающее клиентов проводить ненужные профилактические ремонты, будет только усиливаться.

Смущает то, что Travelers ответила на мое обращение с подробным списком вопросов по проверке фактов и просьбой об интервью. В ответ представитель компании прислал лаконичное опровержение: "Анализ/моделирование с помощью искусственного интеллекта и наблюдение с помощью беспилотников не являются частью нашего процесса принятия решений по андеррайтингу. При наличии возможности наши андеррайтеры могут использовать аэрофотоснимки высокого разрешения в рамках комплексного анализа состояния недвижимости".

Как это может иметь смысл, если учесть, что написано на сайте и в патентных заявках самой компании Travelers? Затем стали бросаться в глаза точность и скользкость формулировок. Что именно считается "процессом принятия решения об андеррайтинге"? Когда Travelers хвастается в Интернете, что ее сотрудники "полагаются на алгоритмы и аэрофотоснимки, чтобы определить форму крыши - обычно это занимает много времени у клиентов - с точностью почти 90 %", разве такая классификация не считается процессом принятия решения о страховании? И даже если Travelers совершила десятки тысяч полетов на беспилотниках, разве они не являются частью андеррайтинга? И если искусственный интеллект и беспилотники на самом деле не влияют на клиентов, зачем подавать столько патентных заявок, например "Системы и методы анализа износа крыши с помощью искусственного интеллекта (ИИ)"? Создавалось впечатление, что компания пытается получить и то, и другое, хвастаясь использованием новейших технологий и избегая при этом ответственности за ошибки. Когда я обратился в компанию с этими вопросами, Travelers не ответила.

К счастью, моя собственная крыша никуда не делась, по крайней мере пока. Через несколько часов после того, как я в панике начал искать новую страховку в Travelers, ситуация разрешилась. Компания Travelers признала, что ошиблась. Компания так и не признала, что ее ИИ ошибся, пометив меня. Но выяснилась причина, по которой я не мог найти свое уведомление об аннулировании страховки: компания так и не прислала ее.

Компания Travelers, возможно, инвестировала огромные суммы в нейронные сети и беспилотники, но она, очевидно, так и не обновила свое программное обеспечение для выставления счетов, чтобы оно надежно справлялось с основными задачами. Без уведомления о непродлении страховки она не могла законно отменить покрытие. Плохие передовые технологии подвели меня; плохое базовое программное обеспечение выручило меня.

Часть того, что так тревожит во всем этом эпизоде, - это то, насколько непрозрачным он был. Когда Travelers пролетела с дроном над моим домом, я так и не узнал. Когда компания решила, что я слишком рискую, я никак не мог понять, почему и как. По мере того как все больше компаний используют все более непрозрачные формы искусственного интеллекта, чтобы определять ход нашей жизни, мы все подвергаемся риску. ИИ может дать компаниям быстрый способ сэкономить деньги, но когда эти системы используют наши данные, чтобы принимать решения о нашей жизни, мы сами несем риск. Как бы ни было неприятно иметь дело со страховым агентом-человеком, очевидно, что искусственный интеллект и видеонаблюдение не являются подходящей заменой. И если законодатели не примут меры, ситуация будет только ухудшаться.

Причина, по которой у меня все еще есть страховка, - простые законы о защите прав потребителей. Штат Нью-Йорк не позволит Travelers отозвать мою страховку без уведомления. Но почему мы позволяем таким компаниям, как Travelers, использовать искусственный интеллект в отношении нас без всякой защиты? Сто лет назад законодатели сочли необходимым регулировать страховой рынок и сделать полисы более прозрачными, а сейчас нужны обновленные законы, чтобы защитить нас от ИИ, пытающегося вершить наши судьбы. Если этого не произойдет, будущее будет выглядеть тревожно.

Ранее сообщалось, что страховые компании по всей территории США используют беспилотники для аэрофотосъемки домов и избегают страхования домов с высоким риском, писало The Wall Street Journal. Согласно этому отчету, «почти каждое здание в стране фотографируется, часто без ведома владельца».

Помимо дронов, страховщики используют пилотируемые самолеты и высотные аэростаты для фотографирования объектов недвижимости. Geospatial Insurance Consortium, группа, финансируемая страховой отраслью, имеет программу аэрофотосъемки, которая, по ее утверждению, охватывает 99% населения США, сообщает WSJ.

комментарии читателей к статье: