За 1,5 года созданы сотни ИИ-инструментов. Ни один не помог.
Согласно победным реляциям в медиа:
- «ИИ на треть сокращает время для диагностики COVID-19 на КТ-снимках»,
- «ИИ успешно прогнозирует риск ухудшения состояния заболевших COVID в приемных отделениях стационаров»,
- «ИИ научился диагностировать коронавирус по кашлю» и т.д.
Согласно научным отчетам и статьям об исследованиях, опубликованных в рецензируемых изданиях:
✔️ ИИ-инструменты практически не оказали никакого влияния в борьбе COVID-19 – отчет The Alan Turing Institute (1)
✔️ Ни один из сотен ИИ-инструментов прогнозирования COVID-19 не пригоден для клинического использования - ревю в British Medical Journal (2)
✔️ Ни одна из ИИ-моделей для обнаружения и прогнозирования COVID-19 с помощью рентгенограмм грудной клетки и компьютерной томографии не подходит для клинического использования из-за методологических недостатков и / или лежащих в основе систематических ошибок - ревю в Nature Machine Intelligence (3).
✔️ Эта пандемия стала большим испытанием для медицинского ИИ, и он не прошел это испытание. Вместо этого, пандемия привлекла внимание к сущностным проблемам медицинского ИИ, на которые мы уже не первый год закрываем глаза - MIT TechnologyReview (4)
Что пошло не так
1. Низкое качество данных (вкл. «наборы данных Франкенштейна» - когда данные из нескольких источников могут содержать дубликаты и тестирование ведется на тех же данных, на которых ИИ-инструмент был обучен)
Например:
А) Данные сканирования грудной клетки детей, у которых не было ковида, в качестве примеров того, как выглядят случаи не-ковида.
Однако, в результате ИИ научился определять не ковид, а детей.
Б) Данные сканирования включали пациентов в лежачем положении (с большей вероятностью эти пациенты были серьезно больны).
В результате ИИ научился неправильно предсказывать серьезность риска коронавируса, исходя из положения человека (а если пациент стоял, то серьезность поражение лёгких ИИ просто игнорировал).
В. ИИ научился ориентироваться на шрифт текста, используемый разными больницами для маркировки сканированных изображений.
В результате шрифты из больниц с более серьезной нагрузкой стали предикторами риска заражения коронавирусом.
2. Предвзятость инкорпорации (предвзятость вследствие маркировки данных)
Например:
Медицинские снимки помечаются в соответствии с тем, как их идентифицировал рентгенолог.
Результат этого включает любые предубеждения конкретных врачей, выдавая это в наборе данных за истину (надо было бы маркировать медицинское сканирование результатом теста ПЦР, а не мнением одного врача, но кто ж это делает).
3. У исследователей нет никаких стимулов делиться информацией (данными и моделями) – примеры см. в источниках.
4. Почти все ИИ-инструменты разрабатываются либо исследователями ИИ, которым не хватает медицинских знаний для выявления недостатков в данных, либо медиками, которым не хватает математических навыков, чтобы компенсировать эти недостатки – примеры см. в источниках.
Общий итог
Фиаско ИИ против COVID-19 лишь усугубило уже понятую главную проблему медицинского ИИ – используемые ИИ-инструменты должны объяснять логику, лежащую в основе их решений (5).
И это, увы, приближает новую «зиму ИИ».
Комментарии
Для этого сначала эксперт должен разъяснить всё железяке. А они хотят, чтобы нейросетка сама научилась и правильный ответ выдавала.
Программисты, которые ничего не понимают в медицине, хотят, чтобы железяка что-то там сама.
Ну так ведь все равно надо делать разметку выборки для обучения, где правильно, где неправильно. И на такую разметку рентгенограммы те же амеры сажали филипинских дешевых врачей на удаленке. Наш Медаи нанимал одних участковых теток, чтобы они амбулаторные карты других участковых теток железяка скармливали. Дешево и сердито, миллионы участковых теток не могут ошибаться...
Ну автор статьи явно указал, что использование медицинского ИИ без объяснения им же результатов чревато.
Дарю отличную идею стартапа - определять при помощи ИИ, заболевание ковидом по почерку в интернете. Всё очень просто -
лохклиент выходит на инновационный портал, переводит деньги, после получения подтверждения перевода, ему открывается страничка с анкетой(ну, там мелочь всякая) он заполняет её. вписывая ФИО, домашний адрес, Е-мэйл, номер телефона, номер карточки, CVV... А через 48 часов, нужные ИИ для анализа почерка анкеты, он получает на Е-мэйл результат.Искусственный интеллект оказался ничуть ни лучше естественного. А каков последний -ясно из поведения последних двух лет основной массы человечества.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Стесняюсь спросить, а есть вообще какие-то области в реальной жизни, где так называемый "ИИ" успешно работает? Также не очень понял, что же подразумевается под "ИИ" в данном случае. Нейронная сеть для обработки CT-сканов легких?
Там в статье, внизу, цифрами ссылки на первоисточники, виды ИИ д.б. указаны, но мне так мниться что именно нейросети.
Греф заменяет юристов ИИ.
Классификация фото по темам, машинный перевод, распознавание речи.
Ага. Причём скан содержит текст.
распознавание номеров для штрафов на дорогах.
полузакрытые номера или замазанные грязью - распознает уже или только тупое считывание хорошо видимых номеров (типа аббииие файнреадер)?
а вы сядьте и напишите лучше. Потом можете всю жизнь больше не работать
зачем писать в интересах банкомата ГИБДД, надо писать чтобы это шарага работала, а не слала письма счастья.
Уже очень хорошо распознаёт. Там где человек может распознать, там и нейросеть распознает.
Залепленый наполовину номер человек не распознает, только может угадать.
Лица китайцев любой национальности под масками уже прекрасно распознаёт =)
Залепленные грязью номера - тоже, но там больше юридическая проблема, тк наши самые гуманные в мире законы всегда стоят на стороне нарушителя.
угу, у знакомой, её сын её айфон по лицу разблокировывает без проблем, в маму пошел.
Кстати говоря это не первый прокол ИИ. ИИ уже обвиняют в расизме. ИИ, непонятным исследователям образом, научился по КТ и рентгенограмме вроде определять расу. Особенно негров.))
Так что автор то прав, медИИ должен уметь объяснять результат.
Любой ИИ должен мочь объяснить результат
и это не к Нейросетям
ИИ разоблачил ковидоистерию. Нет никаких различий. Обычная пневмония, которую вызывают тысячи разнообразных вирусов и миллионы их штаммов.
Нет, откуда взяли?. ИИ не смог диагностировать ковид по разным причинам. Наличие самого ковид не отрицается.
Пожалуйста, обсуждайте свои воззрения в своей тусовке.
Наличие ковида не отрицается только кожанными мешками заинтересованные в профите от аферы.
А роботу деньги не нужны, вот и говорит правду.
Предупреждаю последний раз.
Нет ни какого ИИ, существуют нейросети. Это как называть разумом амебу.
Согласен. Добавлю.
Сейчас вам могут потыкать определением, по которому возможно существование т.н. "сильного" искуственного интеллекта (который обладает мышлением, соответствующим мышлению человека, со всеми плюшками вроде сознания и интуиции) и "слабого", к которому якобы можно отнести описанную в статье тряхомудию. На самом же деле, к разряду "слабого" ИИ, в соответствии с этим определением, можно отнести любое техническое устройство, работающее с некими входными данными и обеспечивающее по некоторому алгоритму их преобразование к иному виду или же управляющее воздействие на их основе. Ну так называйте, блин,тогда искусственным интеллектом и вот это:
Но нет, все понимают, что это будет, минимум, комично.
Моё личное мнение - вся эта шумиха является обычной маркетинговой вознёй и попыткой продать новое "модное" решение давно и успешно решаемых старых технических проблем.
Искусственного интеллекта на данный момент не существует. Всё, что называют ИИ сейчас - это современные элементы автоматизации, построенные на обработке больших объёмов статистической информации. Кроме того, в связи с природой этих систем, есть серьезные вопросы к их надежности (то есть, применимости) при решении проблем, которые отдельные кретины жаждут на них повесить (полностью автономное оружие, контроль жизненно важных сфер человеческой деятельности, обеспечение безопасности).
З.Ы.: Главный свой довод я бы обозначил так - человеки сейчас в принципе не знают со всей определенностью (есть только отдельные догадки и кусочки картины), что такое Интеллект. Значит и создать Интеллект не могут пока даже в теории. Называть интеллектом то, что им не является - банальное словоблудие.
ИИ, гляжу, далеко не дурак.
Совершенно верно, это просто термин.
это не корректный термин.
ИМХО. экспертная система звучит более адекватно. практическивсе что сейчас выдается за ИИ хайп
Ну так прижилось. Наверное правильнее говорить "система машинного обучения", но длинно и всем лень, наверно.
Специалисты в курсе, журналюги хайпуют, всем Профит.
А почему экспертной системой? Обучение с учителем, только часть алгоритмов машинного обучения и даже не половина и не треть.
А оно может именно "обучаться", в полном смысле этого слова? Больше похоже на механическое запоминание нужных для работы принципов. А как насчет возможности машины обобщать, строить аналогии между разнородными явлениями? Вообще воспринимать что-то не из своей узкой "сферы деятельности" машина может?
Может быть, стоит говорить про банальное "конфигурирование", "программирование" и последующую "автонастройку"?
В том то и дело, что полный смысл этого слова не применим. Это, если хотите, профессиональный сленг разработчиков ИИ.
Это как для медицины, я где то читал, пациент прочитал в медкарте запись "селезёнки нет", у него приступ, как будто нет селезёнки, а на медицинском сленге это, что бы не соврать, селезёнка не пальпируется.
Опять же, что вы здесь вкладываете.
Если уж быть более точным, то это называется нахождение коэффициентов линейного или нелинейного уравнения описывающего гиперповерхность в n-мерном пространстве,
Где данная гиперповерхность должна близко соответствовать, гиперповерхность описывающей целевую функцию.
Ну грубо так.
Мне кажется термин обучение тут более подходит, короче, понятнее.
Мы же не говорим каждый раз про Х- что х это неизвестная величина, которая ... , А говорим просто икс.
Мне кажется, так и здесь.
Беда в том, что из подобных профессиональных жаргонизмов, "убежавших" в общее пользование и прочих "художественных преувеличений" формируются ложные смыслы, не привязанные к объективной действительности.
Рядовой пользователь этого "новояза" зачастую даже не представляет, что в действительности в эти термины вкладывают профессионалы. Таким образом, формируется виртуальная реальность с розовыми понями и внедряемым повсеместно искуственным интеллектом (который, в воображении обывателя, по функционалу соответствует Зимнему Безмолвию у Гибсона, как минимум, уж раз "умными людьми" он так называется).
То же самое, что вкладываю, когда говорю о "конфигурировании" или "автонастройке" ПИД-регулятора (который в здравом уме никто не станет называть "искусственным интеллектом", ибо это второй раз уже не продашь) . В этом случае я также нахожу коэффициенты при которых линейное или нелинейное уравнение описывает кривую процесса в двухмерном пространстве (конфигурирование), либо микроконтроллер регулятора находит их сам (автонастройка). Опять же, мне в голову не может прийти называть автонастройку ПИДа самообучением. Я понимаю, что в воображении услышавшего подобное обывателя, данное "магическое" слово автоматом наделит тупую, в сущности, числодробилку с крайне ограниченными возможностями, интеллектом и чуть ли не душой.
Согласитесь, все таки качественное различие есть. Или ваш контроллер в двумерном пространстве или в миллиардомерном пространстве?
Ещё один придуманный термин -"миллиардомерном пространстве", для придания значимости?
Система GPT-3 имеет сто миллиардов параметров.
Каждый параметр независим друг от друга. В математике это называется мерность. Ось х, одномерное пространство, x и y - это двумерное плоское пространство, в школе проходили, x,y,z- наше трехмерное пространство, для примера привел.
Так вот в GPT3 сто миллиардов таких переменных.
Значит с точки зрения математики это стомилиардомерное абстрактное пространство в котором эта система и работает. Тексты пишет, на вопросы отвечает.
Так что ничего не придуманное.
Никто ничью значимость не повышает, что есть, так и говорю.
ОК. Спасибо за пояснения. Хотя мне привычней ( не говорю что верней) предположить что все эти параметры зависимы и просто находятся в некой функциональной зависимости от ряда ключевых. Но тут не для спора. просто пояснил как я понимаю.
Вы воспринимаете современный ИИ как обладающий сознанием, а его там нет. Воспринимайте современный ИИ как очень сложную коробку передач.
С тем же успехом я могу называть искусственным интеллектом обычный цифровой термостат или датчик давления с нормирующим преобразователем. Рекламщикам повсеместного внедрения "искусственного интеллекта" это сильно не понравится, потому как это будет несколько обесценивать фетиш, на котором они и другие причастные немалое бабло зарабатывают. Сложно будет им объяснить, что они занимаются, в сущности, тем же самым, внедряя в человеческое общество ложные смыслы. И меня сожрут с фекалиями.
"Современного искусственного интеллекта" не существует. Средство автоматизации нужно называть средством автоматизации, подавляя в себе желание использовать токсичный новояз. Очень сложную коробку передач нужно описывать как очень сложную коробку передач, не подменяя такое описание "всем понятными" и простыми "магическими" терминами.
Я же сказал воспринимать как а не называть.
И все таки переход из количества в качество имеет место быть, термостат снимает один, два,, три параметра, простите не в курсе, он даже не предсказывает, а задача всех современных ИИ это предсказание будущих значений с учётом скажем ста миллиардов переменных и называть это автонастройкой или конфигурацией нельзя.
И отрицать существование современных ИИ нельзя, вы им изначально задаёте какие то свойства, а потом которыми они не обладают в силу своей природы, а потом обвиняете что эти свойства отсутствуют.
В данном случае, не имеет. ПИД-регулятор, читай блок простенького вычисления с ячейкой памяти (для запоминания предыдущего состояния) не станет интеллектом, если его оснастить миллионом каналов (тогда он будет миллионмерным) и сотней террабайт памяти. Он так и останется обычной числодробилкой с крайне ограниченными возможностями.
Его можно назвать хоть "явленным воплощением Бога-Машины Омнисии" и начать поклоняться, но сути это никак не изменит. Мы не имеем достаточно полного представления о понятии "интеллект", но называем "интеллектом" не отвечающую даже тому, что мы об этом знаем, примитивную железяку. Это дешевая (и опасная) клоунада.
Насколько я понимаю добавиться миллион точек на двумерном графике, ну ячейка памяти, это третье измерение, куцое, но есть. А так вы сказали что ПИД двумерный, значит два параметра. А как насчёт миллиарда параметров, ну или миллиона? Миллион различных параметров измерений,
Вы неправильно понимаете. Один канал ПИД-регулятора с определенной точностью описывает во времени одно измерение процесса (второе измерение графика - время), измерения периодичны. При добавлении n каналов добавится n измерений процесса. Точки на двумерном графике добавляются с течением времени, их число для одного канала теоретически не ограничено.
То есть измеряется один параметр процесса, он откладывается по оси У допустим, по Х- время. Добавили каналов, все равно откладываются по оси у, процесс то они один замеряют или каждый канал свой отдельный процесс измеряет?
Вы бы почитали для общего развития что-нибудь по теории автоматического управления, что-ли, перед тем, как нырять в рассуждения о венце развития средств автоматического управления - кнопке "сделать Зашибись" на маленьком черном ящичке (оно же - "Искусственный Интеллект").
Да, каждый канал измеряет свой параметр, преобразует результат измерения в удобоваримую для арифметико-логического устройства форму, осуществляет вычисление управляющего воздействия в соответствии с индивидуальной настройкой и подает управляющее воздействие на объект. То есть, сколько каналов, столько и независимых измерений по объекту устройство может обработать.
Я не говорю, что нейросеть == ПИД. Но принцип похожий. Грубо, вход -> АЛУ -> выход. АЛУ не "думает", не "анализирует", оно считает по заданной программе, применняя заданные параметры для расчета (коэффициенты, которые дал ей наладчик или которые она рассчитала по результатам своей работы в процессе автонастройки), потом, если упрощенно, распихивает результат по ячейкам памяти. Если таких каналов в устройство запихнуть миллиард и заставить одно АЛУ учитывать в расчете результаты со всех каналов "в одном потоке", то вырастет сложность программы и требования к вычислительной мощности, но принципиально ничего не изменится. АЛУ все равно останется вычислительным устройством с конечным числом внутренних состояний (конечным автоматом). Конечность состояний человеческого интеллекта, по-моему, еще никем не доказана (и, думаю, вряд ли будет). Так что, очень вероятно, умные дядьки и тетьки попросту "не там ищут".
ну дык экспертная система на базе машинного обучения нейросети.
все равно экспертная система.
Типа того, но когда протокол машины вывода упирается в черный ящик нейросети
она перестает быть ЭС
Читайте историю. Изначально сделали электронный аналог нейрона мозга, что в теории позволяло создать искуственный мозг, т.е. ИИ. Это и пиарилось, под это бабки выделялись и пилились. На выходе остались только ЭВМ, а ИИ стало табу после ИИ зимы.
Насколько я знаю, сейчас термин ИИ применяется к нейросети, или к совокупности нейросетей разной структуры. Да, имеется обучение с учителем и без учителя. Но принципиально то, что понять, как работает нейросеть и почему она сделала именно такой вывод невозможно. Точнее, невозможно пройти по шагам рассуждений нейросети, в отличие от обычной программы, где на каждом шаге принципиально возможно понимать состояние ячеек памяти, флагов, чисел в регистрах... Вам нужно просто довериться "интуиции" ИИ. И по аналогии с мозгом, всегда имеется ненулевая вероятность ошибки.
А ЭКСПЕРТНЫЕ СИСТЕМЫ -- это совсем другое. Им сто лет в обед. Это по сути обычная программа для ПК, имеющая базу данных и базу правил (часто сложнейшую) обработки входной информации. Принципиальным требованием к экспертной системе является требование доказательства полученного результата. ЭС может предоставить ход своего логического вывода по шагам и человек может проверить его. Этим системам не одно десятилетие и их в мире сотни. Есть программы для создания ЭС любым пользователем, например CLIPS.
В начале 90-х, когда меня обучали программированию, Это называли - "мутная логика". Но потом "писари программ для ЭВМ" придумали более благозвучный термин - "нейро сеть". А сейчас сократили сей термин до "ИИ", чтоб пипл его активнее хавал.
Страницы