Врачи теряют навыки самостоятельной диагностики рака уже спустя несколько месяцев после внедрения ИИ-технологий в практику.
В работе участвовали два десятка опытных врачей, каждый из которых провёл не менее нескольких тысяч обследований. С началом использования машинного интеллекта их результативность снизилась на 6%. Привыкая полагаться на ИИ, доктора теряют мотивацию, становятся менее сосредоточенными и ответственными в принятии самостоятельных решений, отмечают авторы.
То есть мало того, что ИИ регулярно «фантазирует» - он ещё и приводит к деградации врачебных диагностических умений. На Западе это явление уже получило название deskilling - утрата профессиональных компетенций из-за чрезмерной опоры на автоматизированные системы и алгоритмы.
Касается это не только онкодиагностики. И не только медицины. Просто именно здесь последствия наиболее заметны. Хотя, как следует из другого исследования в Lancet, данные о вреде ИИ в медицине зачастую приукрашиваются.
Истории deskilling сейчас встречаются повсюду. Вспомним эпизод встречи Дональда Трампа с Джорджей Мелони. Трамп беседовал с гостьей в Овальном кабинете в присутствии журналистов. Мелони привезла с собой переводчицу - которая, судя по всему, имела серьёзные проблемы с английским. Слушая запинающееся бормотание, Мелони какое-то время ёрзала, потом резким жестом велела переводчице замолчать и, бросив «погоди, я сама», перешла на английский (которым владеет вполне прилично).
А ведь переводчица - Valentina Maiolini-Rothbacher - опытнейший профессионал. Получила образование в ведущих вузах Рима: переводческий бакалавриат в Scuola Superiore per Interpreti e Traduttori и магистратуру по истории в Sapienza Università di Roma. Работает с начала 90-х годов.
Среди её клиентов - все ветви итальянской власти, международные институты уровня G20 и Всемирного банка, частные корпорации и НКО. Это явно не случай «понабирали по объявлению кого попало», и проблемы со здоровьем тут тоже ни при чём. По собственным словам синьоры Майолини-Ротбахер, она просто… растерялась. Человек, несколько десятилейтий переводивший в самых разных условиях, растерялся, когда понадобилось перевести ясную фразу премьерши с родного языка на рабочий.
Но дело, конечно, не в растерянности, а в увлечённости ИИ. А ИИ - это не про расширение горизонтов, а про снятие необходимости думать. Если спринтер перестанет бегать, он очень скоро перестанет быть спортсменом. Так и с мозгом - его, как и любую мышцу, нужно тренировать. И в скором времени задачи, не решаемые простым запросом к ИИ, будут автоматически считаться «нерешаемыми».
Переводчики - пионеры в использовании искусственного интеллекта: машинный перевод - первая область, где ИИ стал показывать по-настоящему высокий результат, ведь анализ и генерация текста - основная функция больших языковых моделей, что отражено уже в самом их названии.
Переводчики начали работать с ИИ, как только это стало возможным, и Valentina Maiolini-Rothbacher вряд ли была исключением. Поэтому случившийся конфуз - прямое следствие того, что, увлёкшись нейросетями, она утратила навык самостоятельного функционирования.
Тем не менее, технологии не стоят на месте, и в ближайшее время «живой» переводчик будет выглядеть так же нелепо, как и «киномеханик с бобинами плёнки» - или, скажем, «телефонистка на коммутаторе» и «машинистка на печатной машинке». Другое дело, сумеет ли ИИ когда-нибудь по-настоящему понимать игру слов, местный колорит, национальный юмор, подтексты, культурные отсылки, иронию или скрытые смыслы общения - те самые невидимые уровни коммуникации, где живёт настоящее искусство перевода.
Будущее тут простое: атрофия мышления, одинаковые формулировки под копирку и исчезновение живой изобретательности. Мир, где всеобщее «среднее» окончательно вытеснит всё остальное.
_______________
Короткие эссе, смысловые импульсы, интеллектуальный абсурд, фрагменты снов и шумов. Добро пожаловать в синапс. Подписывайтесь в TG: https://t.me/gromovaty/
_______________
ИИ - это не про расширение горизонтов, а про снятие необходимости думать. Если спринтер перестанет бегать, он очень скоро перестанет быть спортсменом. Так и с мозгом - его, как и любую мышцу, нужно тренировать. И в скором времени задачи, не решаемые простым запросом к ИИ, будут автоматически считаться «нерешаемыми».
Надо бы это почаще упоминать и активнее доводить до апологетов ИИ. Дабы сей аспект учитывался во всякий момент восхваления результатов очередной железяки.
Продолжаем наблюдать.
Комментарии
следствие №2: ИИ будут учиться у других ИИ и/или на старой базе.
Это приведёт к запуску петли ухудшения: системы будут обучаться на усреднённых ответах, и последующие поколения искинов - тоже. О подобной проблеме уже писали.
Писали многократно... Как вариант сидеть на старых базах но это тоже полный стоп
А дальше поля будут поливать Спрайтом, поскольку растениям нужны электролиты.
Ничего плохого не произойдет. Встретились три стороны: два представителя и ИИ, каждый со своим языком, в итоге каждый что то потеряет и что то приобретет - возникнет некий средний язык для всех - эсперанто 2. Понимать то как то надо. ИИ тут переходная форма. А то, что мир объединится в крупные формирования, а потом и вообще , тут и к бабке не ходи.
Вы не понимаете контекста. Для обучения ии нужна база знаний... Из-за деградации кожаных ии будут или учиться на старой базе или на актуальной базе с непрерывно снижающимсяя качеством
Качество языка и так «снижается». Разве вы не видите что аграмотность наступает на правила и побеждает. Каждая новая власть проводит мелкие изменения - Путин тоже внес изменения в синтаксис. А «засорение» русского языка иностранными словами. Но кто считает это засорением, а кто обогащением. Языки проникают друг в друга. Да исчезает чистота прежнего. Как и чистота национальностей в большой стране. Но появляется и большее понимание среди больших масс людей. Есть такое понятие - суржик. В конце концов все языки сольются в суржик и какую то его часть будут считать литературной, какую то бытовой. ИИ имеет больше возможностей усвоить этот суржик и адаптировать его для общения людей. Сами люди сопротивляются этому процессу, но в итоге только проигрывают ( скажем возник свой язык программистов, куда чужому вход заказан, не по тому, что сильно охраняют, больно своеобразен и специфичен).
Да-да-да, тебе оттуда виднее: кошка бросила котят - это Путин виноват
Ну тогда можно смело писать так. Рискну предположить, что автор сего опуса дискиллнул свою логику. Это же нужно додуматься делать такие допущения. Если некоторые переводчики пользуются перводчиками с ИИ, то значит Валентина тоже да и потому случившееся обязательно следствие того, что она делала СИНХРОННЫЕ переводы через ИИ (как это можно делать даже технически - неясно) и утратила навыки. Л-логика. Автору конечно невдомек, что есть стопятьсот факторов (начиная от эксцентричности самого Трампа и заканчивая какой либо дисфункцией (болезнь, головокружение, недосып, смена часовых поясов и тп), которые могли повлиять на описанный конфуз..
35 лет опыта не влияли а тут вдруг недосып повлиял) И по ссылке вы естественно не прошли и про сей ляпсус не прочитали.
У вас deskilling, любезный. О чем я и пишу.
Вдруг ранний Альцгеймер проснулся у сеньоры. То что ей не 30 и даже не 40, a все 55-56... в результате, добавив все внешние факторы, проц и залагал. Ментальная острота в 55 прилично деградирует, а в синхронном переводе концентрация и хватка в моменте очень важны.
С ее же слов "first visit to the White House", "pressure of the setting", "lack of a moderator", "surrounding noise contributed to her confusion", "she recalled Trump directly urging her to continue, which may have further unsettled her during the proceedings". И это отмазы профессионала на таком уровне? Пора тетке на пенсию со своим пентиумом.
С какой балды ваши фантазия про чрезмерное употребление ИИ вообще не понятно. Хотел притянуть за уши, притянул.
Абсолютно верное предположение. Скажу даже больше, очевидное для человека знакомого с образованием. Я имею возможность наблюдать, как на 4 и 6 курсах разговаривают студенты, у которых не было устных защит лабораторных работ, они говорит не умеют. То же дело с переводом, навыком надо пользоваться постоянно.
На обывателях это тоже работает, перестаёшь читать и писать, и твоя речь упрощается, начинаешь дольше думать над ответами, ошибаешься. Я против нервных сетей не столько по тому, что они врут и надо всё перепроверять, сколько их использование угнетает собственные когнитивные способности.
Приятель фанатик программист на удаленке, из дома почти не выходит, на работу ездить не надо, продукты курьер приносит. В общем, коммуникация минимальная. Все как в Собачьем сердце. На лицо деградация речи, даже фонетика страдать начала. Наверное, ему проще кодом изъясняться
Человек ясно выражать свои мысле не на устных защитах учится...
Читали они мало, да и то только подписи в балунах мемасиков. В этом проблема.
Именно там это и происходит. Ему надо понять что спрашивают, и дать ответ, а потом ещё и на дополнительные вопросы ответить. При этом вопросы задаются не в том виде, который указан в методичке а как бог на душу пошлёт, с поправкой на способности студента.
И это тоже. Даёшь прочитать 1-2 абзаца текста, в которые содержится ответ на вопрос, они его найти не могут. Пытаются вводить вопрос в поисковую строку, а она, естественно, понимает не так, препод же не идиот шаблонные вопросы задавать))
Приходится студента обучать базовым навыкам чтения, письма и речи, понимание прочитанного и т.д. Взрослый человек более менее способен сопротивляться влиянию нервных сетей, а вот студенты и школьники подменяют из свою голову, потом возникают сложности в работе. О том, что они бытовые инвалиды даже не говорю. Прошу прощения, что в сторону ушел, профессиональная больная мозоль((
Тяжелый труд, кормить беззубых гранитом науки...
А чем конкретно те врачи занимались? Если просто смотрели стекла или слизистые при эндоскопии, то какие нафиг фантазии у ИИ, какая нафиг потрея скиллов? Дрессированные голуби за печенье смотрят стекла лучше, чем люди, а нейросетки работают лучше голубей и без фантазий.
Скорее всего, речь идет о гистологических препаратах. Давно подозревал, что ИИ сделает анализ лучше человека. Наверное, скоро появятся приборы, заменяющие патоморфологов. Однако, это нас поставит в еще большую зависимость от электроники.
Там не искусственный идиот в лице БЯМ, а тупо нейросеть, которая ищет вполне конкретные визуальные признаки, примерно как фотоаппараты уже лет 10-15 умеют находить на кадрах лица, глаза и улыбку, а потом на них фокусироваться. Галлюцинировать там нечему, только процент ложноположительных и ложноотрицательных результатов должен быть приемлемым.
вопрос только в обучении этой штуки. Понятно, что рано или поздно она научится определять патологии по собственным справочникам. Потом следующий этап - подготовка гистологических препаратов точно и единообразно по определенной методике. Иначе, разная картинка и ошибки. Человек про них знает, машина нет. Машина не может предполагать
Ну, например, российскую экспертную систему для колоноскопии натаскали на эпическом объеме описанных в ГНЦК кадров. Нормально работает.
Человек в основном занят тем, что ленится. Во вторую очередь косячит. И только в третью о чем-то там задумывается. С разным результатом.
Серость ( или "серые") поставит мир, его развитие на стоп
Так что, - вперед в деградацию
Что такое хороший врач? Это знания + опыт. Знаний у ИИ хоть отбавляй. Он уже сейчас "сделает" по этому пункту любого врача. А опыт - это бигдата с историями болезни, результатами исследований, диагнозами и программами лечения. Как только ИИ наберёт достаточное количество этого "опыта", с ним смогут сравниться только врачи с природной "чуйкой", которых считанные единицы.
Так что, да, скоро ИИ заменит многих и многих врачей и будет действовать гораздо эффективнее их.
Приходит человек на приëм к ИИ и говорит "у меня болит вот тут, тут и вот здесь тоже". А ИИ пощупать нечем, ему для взаимодействия с пациентом нужна толпа кожаных мешков, которые анализы возьмут, снимки нутрей сделают, обработают и в ИИ загрузят. Опять же фото нужно с нужного ракурса, да и в анализах нужные акценты для исследований расставить. Плюсом не помешает чемодан электричества и обслуживающего персонала, включая как специалистов по обучению, так и обычных дядек с мультиметром и паяльником.
Про ошибки в постановке диагнозов, которые неизбежны и могут быть фатальными, даже не упоминаю. Особо надо выделить случаи, когда ИИ, почесав своей виртуальной рукой своë же виртуальное кремниевое темечко изнутри, скажет "да хрен его маму знает, позовите тëтю Глашу из второго отделения, она спец по таким запущенным случаям" ))
Поэтому до "эффективности" пока очень и очень далеко...
в Китае есть экспериментальная клиника без врачей
ИИ не способен остановить кровотечение или сделать перевязку. Даже банальную поставить клизму поставить больному не сможет, ему нечем. Может только дать совет и горестно вздыхать в качестве иммитации соболезнования, так как соболезновать ему тоже нечем. Без врача и техперсонала он недееспособен.
И экспериментальная клиника - это не эксперименты в области медицины, это проверенные решения в области рекламы по продаже ИИ и сопутствующих услуг.
Если вы чего-то не знаете, вовсе не значит, что этого нет.
Есть, и достаточно быстро развивается.
https://habr.com/ru/companies/ru_mts/articles/931982/
Вы сами видели, как работают хирургические «роботы»? И сколько людей в операционной при них безотрывно?
На робота, устанавливающего кружки Эсмарха, я бы посмотрел 😏
Изобретатель изобрел машину для автоматического бритья.
- Объясните, пожалуйста, принцип работы своего изобретения.
- Господа! Смотрите, все очень просто. Сюда клиент всовывает голову, а
из этих отверстий высовываются манипуляторы с укрепленными в них
опасными бритвами и бреют клиента!
- Но позвольте! Ведь у каждого человека своя, индивадуальная форма головы
и лица!
- Ну.. в первый раз, конечно, да.....
Вообще не в тему
это к кружке Эсмарха.
А, ну к этому да.
Недавно проходил диспансеризацию, никаких Эсмархов не устанавливали.
ЧЯДНТ ?
Это не ваша заслуга, а чья-то недоработка.
Просто к примеру: ДТП, пострадавший, зажатый в обломках машины и у него сильное кровотечение. Надо остановить кровь, обработать рану, провести все необходимые действия для поддержания жизни, пока не прибудут ИИ-спасатели, способные силой мысли корпус машины вскрыть и извлечь пострадавшего, не сломав ему кости. А в машине скорой помощи нет врача, есть только ИИ-хирург на батарейках, готовый провести сложнейшую операцию по удалению селезëнки.
И всë бы ничего, но тут у супруги пострадавшего начинаются роды, по случаю которых он так и торопился ехать.
Удачи им с ИИ-хирургом, она ой как сильно пригодится. И эта удача должна быть в разы сильнее, чем вера в способность ИИ заменить человека, особенно в экстренных ситуациях.
В случае ошибки ИИ, сами понимаете, претензии предъявлять будет некому. Ну не сложилось, бывает.
Возможно, для вас это будет новостью, но в машинах скорой помощи уже сейчас очень часто нет врачей. Вместо них ездят фельдшеры, способные поставить несложный диагноз и оказать первую помощь.
Да, обычный медработник средней степени руко#опости, без ИИ способный оказать первую помощь. А вот ИИ, способного эффективно оказать первую помощь без участия человека, тем более в сложных ситуациях, пока нет.
Ну, так никто и не предлагает отказаться от людей в медицине полностью.
Все правильно - задача скорой не лечить, а стабилизировать, облегчать состояние и принимать решение о госпитализации. Лечат уже в стационаре..
Дадада. Пожар в борделе , сам бордель в самолёте, падающем в жерло извергающегося вулкана.
А в пятый номер в это время не подают шампанское и омаров.
Вы не заметили, что в последнее столетие быт стал как-то статистически безопаснее?
И если сто с мелочью лет назад каждого первого лётчика регулярно доставали из обломков его фармана , то сейчас катастрофы летательных аппаратов на многие порядки более сложных, редкость, о которой мгновенно узнает многомиллиардная планета. И если ситуация с персональным и общественным транспортом будет двигаться туда, куда она движется сейчас, и кожаных мешков уберут с места прокладки между рулем и педалями, то описанная вами ситуация будет случаться не чаще, чем катастрофы авиалайнеров.
Это раз.
Кардиостимуляторы, инсулиновые помпы и умные часы , круглосуточно мониторящие базовые параметры уже давно скучная реальность. С чего бы носимым минилабораториям, программируемым инжекторам или средствам пренатальной диагностики, предупреждающим пациентов, что пора бы двигаться в больничку , не дожидаясь сигналов от природы , не станут такой же скучной обыденностью в эпоху перехода к индивидуальному ИИ - сопровождения пациентов?
Это два.
Западная медицина, которую старательно копируют все постсоветские минздравы, давно уже ушла от выращивания докторов айболитов с набором уникальных скиллов и ничем не измеряемым набором талантов на грани с бытовой магией, к скучной рутине протоколов, соблюдение которых обязательно. А равно к медстатистике и прочей доказательной медицине , базирующейся на том, что люди в общем устроены одинаково, и соответственно методы возвращения их в рабочее состояние достаточно идентичны в сравнимых случаях.
Это три.
И в этом смысле, что медицинский ИИ, держащий и обрабатывающий всю возможную информацию о вашем существовании с рождения, а равно медроботы , работающие с вами в режиме получения , в том числе в ореальном времени , максимально полной информации о вас, и исключающие усталость, похмельный тремор и пот, в неподходящее время стекающий на глаза хирурга - всего лишь продолжение этой концепции.
Но опять же, мир велик и разнообразен, и любой желающий имеет право лечиться сам, и от чего угодно. Лопухом, питьём мочи или иглоукалыванием, на любой вкус.
Всё это решаемо не в таком уж и отдалённом будущем. А стандартные приёмы пациентов оно уже сейчас способно вести лучше участковых врачей. Другое дело, что тогда ИИ придётся специально программировать, чтобы он не вступал в противоречия с интересами страховых и формкомпаний.
А ошибаться ИИ, даже в уникальных случаях, будет гораздо реже реальных врачей просто потому, что виртуального "опыта" у него будет на порядки больше, чем у любого живого доктора.
Зато будет галлюцинировать. Гораздо чаще людей. И ты будешь абсолютно уверен, что тебя лечат - а на самом деле, тебе кирдык.
Смерть от ИИ-галлюцинации, если что.
Думаю, это не проблема, настроить специализированный медицинский ИИ, чтобы он не порол отсебятину, а выдавал только достоверные данные.
Угу. Исключите галлюцинации ИИ, и премия Тьюринга и золотая конная статуя - ваши.
Именно поэтому первыми действующую большую модель ИИ диагностики и ведения пациента от роддома до крематория запустят китайцы.
У них есть промышленность, способная выпускать автоматизированные лабораторные и диагностические комплексы любого рода.
Плюс возможность сквозной стандартизации любых протоколов взаимодействия.
У них полтора миллиарда населения. Прекрасная база для набора данных.
И у них есть партия , которая скажет "надо" ( комплексно обеспечить здоровье нации) , и бизнес ответит "есть" .
Особенно, если это будет включено в пятилетний план.
И будет сделано сначала для себя,а после на внешние рынки.
Пока западные медицинская, фармацевтическая , страховая и юридическая мафии будут согласовывать между собой , как им жить и как доить пациента , чтоб на всех хватило.
Заболел ветеринар, который раньше никогда не болел. Приходит к терапевту. Сидят пять минут молча, смотрят друг на друга.
Терапевт: Ну, на что жалуетесь?
Ветеринар: Б....!!! Как у вас всё просто!!!
Страницы