О неоднозначных проблемах развития систем искусственного интеллекта (ИИ), обеспечения технологического суверенитета в этой важнейшей области корреспондент "РГ" беседует с научным руководителем Научно-исследовательского института системных исследований РАН академиком Владимиром Бетелиным.

Сегодня искусственный интеллект триумфально шествует по планете, стал практически главным героем нашего времени. Только и слышишь, здесь он намного лучше человека, а там вообще уже его готов полностью заменить. Но вот только что знаменитый программист Линус Торвальдс, "отец" системы Linux, заявил: сегодня ИИ состоит на 90% из маркетинга и только на 10% из реальности. И вообще эта шумиха его раздражает. А ранее вы написали, что уровень внедрения нейросетей в экономику гораздо ниже, чем ожидалось. Более того, некоторые несут угрозу безопасности граждан и государства. Почему, Владимир Борисович?

Владимир Бетелин: Торвальдс обратил внимание на, мягко говоря, странную ситуацию, которая сейчас складывается вокруг искусственного интеллекта. Вопрос принципиальный, но пока мало кто хочет его обсуждать. Но давайте для начала проясним, а что вообще такое искусственный интеллект? Есть несколько определений, но на самом деле все просто - это компьютер с программой. И нас сейчас настойчиво убеждают, что совсем скоро он заменит человека. Но и 10, и 15 лет назад все было то же самое, но почему-то никто не замахивался на человека.

Но только сейчас ИИ начал демонстрировать свои удивительные возможности...

Владимир Бетелин: Насколько они удивительные, мы еще поговорим. Давайте обратим внимание, кто громче всех кричит, что ИИ сделает человека лишним? Бизнес! А наука как раз очень осторожна. Именно на это указывает и Торвальдс. И в этом вселенском буме суть бизнеса, который всегда ориентирован на максимальную прибыль.

Когда 200 лет назад началась промышленная революция, в помощь человеку появились первые станки, машины, о чем шла фактически речь? Как увеличить прибыль. Потом пришла механизация, затем автоматизация, но человек оставался при деле. Его ресурс для роста прибыли еще не был исчерпан. Ситуация стала меняться в последние годы. Заметьте, что уже давно практически не слышно по легкую промышленность, металлургию и другие отрасли. Они исчерпались с точки зрения роста прибыли, а потому бизнесу неинтересны.

Много не заработаешь?

Владимир Бетелин: И появился новый кумир - "Глобальное информационное общество". А подоплека была какая? Массовое расширение объемов рынка компьютеров и полупроводников. Триллионы долларов в новую экономическую деятельность по всему миру - это лозунг США. В 2015 году по решению сената была разработана стратегия развития Интернета вещей. Согласно этой стратегии федеральное правительство должно энергично защищать трансграничные потоки данных путем торговых соглашений и других механизмов принуждения торговых партнеров.

ИИ - это компьютер с программой, а сам термин "искусственный интеллект" - это красивый эпитет. Есть сферы, где ему нет равных, а есть, где он ошибается

Прошло всего несколько лет, и на авансцену вышла цифровая экономика. Для бизнеса она оказалась настоящей золотой жилой. Суть в том, что очень выгодно торговать сообщениями. Ведь стоимость передачи мегабайта снижалась примерно на 60% в год. И разрабатывать жилу бросились четыре информационных кита - Facebook (заблокирован в России, принадлежит корпорации Meta, признанной в РФ экстремистской), Google, Amazon, Apple. Их капитал и вся их мощь стоят главным образом на передаче сообщений. Каждое стоит немного, но когда их миллиарды, то деньги потекут рекой! Это суть цифровой экономики. Она вообще не материальна, у вас нет головной боли про урожаи, добычу нефти или газа, выплавку стали.

Понятно, надо только монополизировать передачу сообщений, и прибыль фантастическая!

Владимир Бетелин: Совершенно верно. Но аппетиты растут. Почему бы не пойти дальше, убрать человека, заменив на ИИ? Человек стоит дорого, болеет, спит, требует прибавки зарплаты, условий труда и вообще несовершенен. А ИИ молчит, пашет всю неделю по 24 часа. Идеальный работник. И прибыль диктует очевидный вывод - почему бы человека не заменить на ИИ? А теперь главный вопрос: а насколько это все реально? Не утопия ли?

Но сегодня ИИ демонстрирует уникальные результаты, обыгрывает человека в шахматы, пишет дипломы, ставит диагнозы, сел за руль автомобиля... Список становится все обширнее.

Владимир Бетелин: Вот про эти "удивительные результаты" нам и говорят постоянно и навязчиво. Но в тени другие "достижения" нейросетей. Например, вы знаете, что разработанная в Москве на базе ИИ диагностическая система "Аида" выдает 13% ошибок? При 15 миллионах визитов к врачам в год это 2 миллиона ошибок, что почти в 30 раз больше, чем 70 тысяч ошибок медиков, по данным минздрава. В целом же в аналитическом отчете Федерального центра прикладного развития ИИ минпромторга говорится о низком уровне использования ИИ промышленными предприятиями и федеральными органами исполнительной власти. Подчеркивается, что он не показал результаты, которые сопоставимы с результатами интеллектуальной деятельности человека и тем более их превосходящие. И что чрезмерный оптимизм опасен, так как приводит к неоправданными ожиданиям, будто бы он позволит решить многие проблемы предприятий, а значит, получить все ту же желаемую прибыль.

Так что на самом деле может ИИ? Так ли всесилен, как нам рассказывают?

Владимир Бетелин: Как я уже сказал, это компьютер с программой. А сам термин "искусственный интеллект" - это красивый эпитет. Есть сферы, где ему нет равных, а есть, где он ошибается, как в случае с той же "Аидой".

Сейчас ошибается, но если еще поучится, то перестанет...

Владимир Бетелин: В том-то и дело, что природа ошибки заложена в самой сути современных нейросетей. Скажу крамольную вещь, которую знают специалисты, но не любят выносить на люди: сегодня вообще непонятно, как ИИ получает результат!

Действительно, крамола! Но как же его вообще допускают к работе в важнейшие сферы экономики и государственной власти?

Владимир Бетелин: Как я сказал, его внедрение идет не так масштабно, как думали еще недавно. На самом деле он завоевал вполне определенную нишу, а в некоторых "буксует". Почему? Напомню, что первый успех к нему пришел в игре в шахматы. Напомню, что прежде чем выпустить ИИ в люди, его надо обучить. Причем чем больше вы ему покажете сыгранных человеком партий, тем он лучше обучается. Важно, что на примере этих партий ему формулируют путь к победе, алгоритм выигрыша.

А теперь самое главное. Шахматы в математическом смысле относятся к так называемым конечномерным упорядоченным множествам объектов. Есть доска, фигуры, последовательность ходов, где все очень сильно упорядочено. Причем число сыгранных партий - "учебных пособий" - хотя и может быть огромное, но все равно оно конечно. То же самое касается и многих других задач, которыми сегодня занимаются ИИ - чтение различных текстов, цифр и т.д. И это для систем ИИ важнейшее условие. Дело в том, что с точки зрения математики конечномерность "ученых пособий" гарантирует, что вы сможете создать правильный алгоритм. Ему можно доверять, он не допускает ошибок.

Иная картина, если объекты, с которыми будет работать ИИ, принадлежат к бесконечномерным множествам. Например, изображения. И когда вы обучаете ИИ их распознавать, то вам в принципе никогда не удастся охватить эту бесконечность. Часть информации все равно остается неохваченной.

Если совсем просто, то бесконечность нельзя засунуть в конечный компьютер. Но с изображениями давно работают - например, ставят диагнозы по рентгеновским снимкам.

Владимир Бетелин: Ставят. Но насколько им можно доверять? Вспомните пример с "Аидой"! Именно про подобные задачи разработчики и говорят, что не понимают, как ИИ получает результат. И идут на уловки. Они сводят бесконечное к конечному, фактически создают эмпирические нейронные сети, которые ошибаются. Причем, когда и как, не знает никто.

Отсюда вывод. Наш мир бесконечен, и человек это понимает, а компьютер - нет, ему никак не объяснить, что такое бесконечность, его "разуму" доступна только конечность. Поэтому заменить в таких задачах человека нейросетью невозможно в принципе. Но сделать из нее мощного помощника, который значительно расширяет наши возможности, намного лучше и быстрее выполняет различные рутинные операции, конечно, можно и нужно.

Однако, например, великий и ужасный Илон Маск обещает, что скоро автономные такси заполонят автотрассы мира...

Владимир Бетелин: Это классическая бесконечномерная задача. Ведь, чтобы выпустить такое авто на шоссе, мы должны сделать цифровую модель водителя, его умений и навыков, а также цифровую модель автомобиля, с которым он взаимодействует, и еще цифровую модель среды, в которой этот автомобиль движется. Все в одном флаконе.

Чтобы все это воплотить в ИИ, нужно, как я говорил, бесконечность сделать конечной. А значит, вводить какие-то ограничения - например, это может быть выделенная полоса, дистанционное управление, контролер и т.д. А представьте еще гололед, снег, дождь, туман и массу всяких вещей, что и привносит неопределенности. А как поступит такой водитель, если надо сделать непростой выбор между двумя экстремальными ситуациями? И кто ответит за этот выбор?

Если суммировать, то, повторю, нельзя вообще ставить задачу заменить человека во многих видах деятельности, передоверив это ИИ. Он хорош только в определенном классе задач, о которых мы говорили. Для других, связанных прежде всего с медициной, обороноспособностью, безопасностью человека, он может быть только помощником человека.

То есть нельзя его подпускать к таким "бесконечным" задачам? Словом, ИИ, знай свое место?

Владимир Бетелин: Можно, но при определенных условиях. Во-первых, четко очертить круг видов деятельности, где ИИ может быть только помощником человека, за которым последнее слово. Во-вторых, надо отказаться от зарубежных эмпирических систем нейросетей, которые сегодня у нас массово используются, а создавать собственные, которые имеют математическое обоснование результата. А значит, им можно доверять. Кстати, такие работы ученые РАН уже начали вместе со специалистами НИЦ эпидемиологии и микробиологии им. Н.Ф. Гамалеи в рамках проекта по созданию персонифицированной вакцины для борьбы с онкологическими заболеваниями.

И последнее. Я не призываю что-то запрещать, а хочу привлечь внимание к важнейшей проблеме, которая по мере развития систем искусственного интеллекта становится все острее. И требует самого серьезного обсуждения.