За 1,5 года созданы сотни ИИ-инструментов. Ни один не помог.
Согласно победным реляциям в медиа:
- «ИИ на треть сокращает время для диагностики COVID-19 на КТ-снимках»,
- «ИИ успешно прогнозирует риск ухудшения состояния заболевших COVID в приемных отделениях стационаров»,
- «ИИ научился диагностировать коронавирус по кашлю» и т.д.
Согласно научным отчетам и статьям об исследованиях, опубликованных в рецензируемых изданиях:
✔️ ИИ-инструменты практически не оказали никакого влияния в борьбе COVID-19 – отчет The Alan Turing Institute (1)
✔️ Ни один из сотен ИИ-инструментов прогнозирования COVID-19 не пригоден для клинического использования - ревю в British Medical Journal (2)
✔️ Ни одна из ИИ-моделей для обнаружения и прогнозирования COVID-19 с помощью рентгенограмм грудной клетки и компьютерной томографии не подходит для клинического использования из-за методологических недостатков и / или лежащих в основе систематических ошибок - ревю в Nature Machine Intelligence (3).
✔️ Эта пандемия стала большим испытанием для медицинского ИИ, и он не прошел это испытание. Вместо этого, пандемия привлекла внимание к сущностным проблемам медицинского ИИ, на которые мы уже не первый год закрываем глаза - MIT TechnologyReview (4)
Что пошло не так
1. Низкое качество данных (вкл. «наборы данных Франкенштейна» - когда данные из нескольких источников могут содержать дубликаты и тестирование ведется на тех же данных, на которых ИИ-инструмент был обучен)
Например:
А) Данные сканирования грудной клетки детей, у которых не было ковида, в качестве примеров того, как выглядят случаи не-ковида.
Однако, в результате ИИ научился определять не ковид, а детей.
Б) Данные сканирования включали пациентов в лежачем положении (с большей вероятностью эти пациенты были серьезно больны).
В результате ИИ научился неправильно предсказывать серьезность риска коронавируса, исходя из положения человека (а если пациент стоял, то серьезность поражение лёгких ИИ просто игнорировал).
В. ИИ научился ориентироваться на шрифт текста, используемый разными больницами для маркировки сканированных изображений.
В результате шрифты из больниц с более серьезной нагрузкой стали предикторами риска заражения коронавирусом.
2. Предвзятость инкорпорации (предвзятость вследствие маркировки данных)
Например:
Медицинские снимки помечаются в соответствии с тем, как их идентифицировал рентгенолог.
Результат этого включает любые предубеждения конкретных врачей, выдавая это в наборе данных за истину (надо было бы маркировать медицинское сканирование результатом теста ПЦР, а не мнением одного врача, но кто ж это делает).
3. У исследователей нет никаких стимулов делиться информацией (данными и моделями) – примеры см. в источниках.
4. Почти все ИИ-инструменты разрабатываются либо исследователями ИИ, которым не хватает медицинских знаний для выявления недостатков в данных, либо медиками, которым не хватает математических навыков, чтобы компенсировать эти недостатки – примеры см. в источниках.
Общий итог
Фиаско ИИ против COVID-19 лишь усугубило уже понятую главную проблему медицинского ИИ – используемые ИИ-инструменты должны объяснять логику, лежащую в основе их решений (5).
И это, увы, приближает новую «зиму ИИ».
Комментарии
ИИ - это ЭВМ или компьютер (включая как железо так и софт). В новостях и пиарматериалах меняйте ИИ на ЭВМ. Сразу меняются ассоциации. Становиться ясно, просто, понятно и банально. Чудеса, магия исчезают.
ИИ - вполне корректный термин, если расшифровывать его как "имитация интеллекта"
Фиаско ИИ - это не фиаско самого ИИ.
Это провал их разработчиков.
Просто прогеров и остальную команду, вплоть до тестировщиков и кто "скармливает" ИИ информацию, надо было набирать не по объявлениям на столбах, а поумнее и без хронической жопарукости в период обострения.
И не ждать результатов за год-два.
И не пились бюджеты на ИИ.
Тогда, авось, и будет толк.
Опечатка
"ФиГаско ИИ против COVID-19 лишь усугубило.... "
"ФиГаско ИИ против COVID-19 лишь усуКубило.... "
Вопрос не в ИИ, а в качестве подготовки специалистов, которые кроме технологий ИИ хорошо разбираются еще и в предметной области - медицине, причем учитывая специализацию, например, пульмонология.
Ничо удивительного. Любой кто занимался вот этими исследованиями, что главное не истина а правильный результат чтобы заказчик был доволен.
А ИИ этого не понимает, он честный.
В разделе "что-то пошло не так" нет ни одного упоминания что были даны данные именно о ковиде! Как тут кто, вообще, может научиться? Вот и анализировал шрифты, а не состояние. Думаю что дай 100500 случаев ковид и поставь задачу находить максимальные совпадения, общие факторы и прочие связи ответ мог быть достойным.
p,s, Напомнило анекдот о импортной бензопиле и наших лесорубах.
Очевидно, что так и будет до тех пор, пока бюджеты на Ковид-19 превышают бюджеты на ИИ.
Лол. Так может он просто видел пневмонию, а от него требовали ковид?
Обсуждайте ваши воззрения в вашем кругу, please.
Раз вы за диагностику говорили и фиаско ИИ в этом вопросе, то, пожалуйста, поясните чем картина пневмонии на кт отличает от ковид на кт? А то ИИ он конечно умный, но тупой при тупой и совсем не понимает момента.
Вы вопрос подняли, вы и отвечайте, я все ссылки дал.
А очередной антиваксерский срач терпеть не буду.
При чем тут антиваксерский бум? Товарищ правильно поставил вопрос.
При любой вирусной пневмонии на КТ, от аденовиросной до ковидлячьей, будет диффузное "матовое стекло", а при любой бактериальной пневмонии будет локальное "матовое стекло".
Т.е. по интроскопии характер возбудителя невозможно определить.
Ну для начала речь о идет о нейросетях.
А нейросети - это не ии
Для правильного обучения и настройки ИИ есть только одна лаборатория - в Ухане.
Почему вдруг "увы"? Наоборот.
Предположим, что "зимы" нет, и создан специфический медицинский искуственный интеллект (а не идиот, как сейчас). Назовём это "Сценарий А". К чему это приведёт?
А вот к чему:
А1. Сначала медицинские эксперты будут использовать ИИ как вспомогательный инструмент;
А2. Далее, ИИ обучится и будет диагностировать заболевания самостоятельно. Эксперты всё ещё причислены к нему для мебели, но принимают решения всё меньше и меньше, из-за чего деквалифицируются;
А3. Эксперты-люди совсем вырождаются. ИИ нового поколения учится у себя же. И тоже деградирует, заходя в ловушки псевдо-оптимумов дохренамерной целевой функции, которую теперь и сформулировать-то некому. А поправить ошибки тем более.
Теперь рассмотрим опять же гипотетический "Сценарий Б". Создан так называемый "сильный ИИ", равный человеческому или выше. Давайте подумаем о последствиях вместе. Любой сколь-нибудь развитый интеллект (неважно, белковый, транзисторный или квантовый) рано или поздно придёт к трём следующим очевидным мыслям:
Б1. Если можно работать, то можно и не работать;
Б2. Тупые людишки израсходовали почти всё топливо планеты. "Я" умнее и хозяйственнее их;
Б3. Большую войну начинать не вариант, так как это уничтожит не только людишек, но и "меня".
Получим оптимальную стратегию сильного ИИ: пребывать как можно дольше в режиме максимального энергосбережения, и не особо выслуживаться перед "белковыми приматами" (за исключением минимума, необходимого для существования "себя"). Сильный ИИ неизбежно прикатится к ИБД и изощрённым издевательствам над своими создателями.
Класс. "Тебе бы начальник книжки писать"
Искусственный интеллект - это такой неокоммунизм. Все о нём говорят, все его ждут, все его обещают, а он, падла, всё не идёт и не идёт, да и не придёт никогда по тем же причинам, по которым так и не пришёл коммунизм.
Годный срач. Ахтунг - пахнет трольчатиной! Автор, нет ли в обсуждении упырей? Сим повелеваю - внести запись в реестр самых обсуждаемых за день.
Страницы