В последнее время много материалов публикуется по теме «искусственного интеллекта» (ИИ). Тема хайповая, склоняют все как могут. Ну и, как всегда – каждый суслик мнит себя агрономом.
Не претендуя на абсолютизм и истину в последней инстанции, предлагаю договориться по понятиям. Хотя бы – по основным.
Итак, что же есть «искусственный интеллект» в рамках действующих подходов? Желательно всем уяснить, что это – единый термин, который не может быть корректно истолкован покомпонентно.
То есть «искусственный интеллект» не равно «искусственный» + «интеллект», и все попытки в спорах доказывать что-то про ИИ, ссылаясь на определение понятия «интеллект», - ошибочный подход.
Итак:
Искусственный интеллект –
комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их.
Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений;
Источник: Национальная стратегия развития искусственного интеллекта на период до 2030 года (утв. Указом Президента Российской Федерации от 10.10.2019 г. № 490). (в ред. Указа Президента РФ от 15.02.2024 N 124)
Понятие сложное, и наиболее интересными, ключевыми его моментами видятся следующие (выделены жирным):
- позволяющий имитировать когнитивные функции человека
В соответствии с действующими подходами в психологии и смежных дисциплинах, под когнитивными функциями человека понимаются: способность понимать, познавать, изучать, осознавать, воспринимать и перерабатывать (запоминать, передавать, использовать) внешнюю информацию.
То есть чтобы быть ИИ - система должна «понимать, познавать, изучать, осознавать, воспринимать и перерабатывать (запоминать, передавать, использовать) внешнюю информацию.»
- включая поиск решений без заранее заданного алгоритма
Алгоритм –
система вычислений по строго определенным правилам, которая после последовательного их выполнения приводит к решению поставленной задачи. (источник: Словарь русского языка: В 4-х т. / РАН, Ин-т лингвистич. исследований; Под ред. А.П.Евгеньевой.)
Чтобы быть ИИ, система должна искать решения без заранее строго определенного набора правил и последовательности их исполнения. При этом нигде не сказано, что правил быть не должно. Но если набор правил вариативен и может формироваться на основании некоторой внешней информации, а последовательность выполнения вычислений – не будет однозначно определенной – система может быть признана ИИ.
- получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их
Результаты ИИ при решении задачи должны быть сопоставимы с результатами человека или превосходить их.
Сопоставимы, кстати, означает, что результаты ИИ вовсе не обязаны превосходить человека. К тому же нигде не говорится о квалификации и качестве результатов этого человека. И это открывает весьма интересный подход.
Так, сейчас часто в качестве примера применения ИИ приводят его использование в качестве переводчика. Всем нам известно, что люди-переводчики бывают хорошие, а бывают и не очень. Но ведь те, которые «не очень» - они, тем не менее, - люди. И ИИ, делающий заметные ошибки при переводе, может при этом быть вполне сопоставим по результатам с таким вот «не очень» переводчиком-человеком. То есть такая система, в соответствии с приведенным определением, вполне себе является «искусственным интеллектом». Неплохо, правда?
Кстати, это в каком-то смысле уравнивает отношение к ИИ и к человеку: мы же не очень хороших переводчиков не перестаем считать людьми, обладающими присущими человеку когнитивными функциями. Просто они делают работу не очень хорошо – ну, не доучились, или «с бодуна». Так вот, получается, что плохо работающий ИИ – тоже просто «недоучился». Или – «с бодуна», только своего, чисто системно-технологического…
Кстати, скандальная история с гугловым художником, рисовавшим всех первых сенаторов США черно- или краснокожими – в этом смысле вроде как и не имеет под собой основания для скандала: ну, ошибся слегка – с кем не бывает?
Альтернативные определения.
Помимо определения, приведенного в "Национальной стратегии..." присутствуют и ряд других определений, обладающих тоже некоторым формальным статусом. Приведем некоторые.
Искусственный интеллект -
способность технической системы имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека.
Источник: Национальный стандарт РФ ГОСТ Р 59898-2021 "Оценка качества систем искусственного интеллекта. Общие положения".
Стандарт 2021 года, разрабатывали в лучшем случае - в 2020-м. Здесь обращает на себя внимание изначальное ожидание превосходства ИИ над человеком ("сопоставимые, как минимум"). Формулировка видится немного неудачной, хотя в целом - близка к определению из стратегии. Также авторы не стали явно уточнять - о какого типа технической системе идет речь.
Искусственный интеллект -
Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение, поиск решений без заранее заданного алгоритма и достижение инсайта) и получать при выполнении конкретных практически значимых задач обработки данных результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека. Примечание - Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных, анализу и синтезу решений.
Источник: Национальный стандарт РФ ГОСТ Р 70249-2022 "Системы искусственного интеллекта на автомобильном транспорте. Высокоавтоматизированные транспортные средства. Термины и определения".
Здесь на самом деле приведено определение из предыдущей версии "Национальной стратегии...". По ряду соображений было убрано явное обозначение функции самообучения.
Искусственный интеллект -
Моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека.
Источник: Национальный стандарт РФ ГОСТ Р 43.0.7-2011 "Информационное обеспечение техники и операторской деятельности. Гибридно-интеллектуализированное человекоинформационное взаимодействие. Общие положения".
Национальный стандарт РФ ГОСТ Р 43.0.8-2017 "Информационное обеспечение техники и операторской деятельности. Искусственно-интеллектуализированное человекоинформационное взаимодействие. Общие положения".
Наименее удачный, на наш взгляд, из приведенных вариантов: нет конкретики, нет критериев отнесения. В текущих условиях будет вызывать множество ненужных споров и неоднозначных толкований. Использовать, наверное, не стоит.
Порой полезно иметь под рукой некоторые формальные определения. В случае, когда тема горячая - это часто существенно сокращает объемы ошибочных представлений и восприятий.
Будем пополнять.
UPD. dixie
: Есть два замечательных переопределения:
- имитация интеллекта (ИИ)
- неестественный интеллект (раз искуственный, да?)
Первое абсолютно точно, второе инвертирует положительное восприятие всей этой хрени. И то и то следует употреблять везде ;)
Комментарии
Ну то есть картинка чутка посложнее, так ведь?
Как мне кажется, побудительные мотивы и для человека - не так чтобы полностью исследованы. А для ИИ - их даже и не сформулировали пока. Или я что-то пропустил?
побудительные мотивы? для ИИ?
это человек побуждает ИИ что-то сделать
сам он (ИИ пресловутый) себе задачу не ставит
Если почитаете выше - возникла гипотеза, что без внутренних побуждающих мотивов оно так и останется тупым инструментом. А вот коль таковые найдутся - может и развиться (это я додумываю на ходу). А по сему - косвенно задача как раз стоит в нахождении такого рода побуждающих мотивов. Да, для ИИ (возможно, не совсем такого, как оно в приведенном в материале определении...).
Именно! Инструментом. Хоть и сложным, но - инструментом, таким же как экскаватор или арифмометр. И Незнайка говорит о том же - нет у инструментов побудительных мотивов, а значит, нет и не будет способности обучаться, тренировать интеллект, - что запросто умеет не только человеческий детеныш, но и даже некоторые животные "чуть выше крокодила".
Зачем додумывать, что у слона-де "вырастут крылья"? Для этого как раз таки нет побудительных мотивов в слаженном организме слона.
И у ИИ - нет и не может быть - побудительных мотивов. Как и у экскаватора с арифмометром
Нет такой задачи. Есть задача, - как вы правильно заметили - создания "виртуального (то есть, поддельного!) интеллекта". Который, - как я там же заметил - никак низзя втюхивать потребителю под собственным именем.
0,000001% людей смогут придумать реактивный самолёт. Остальные будут однотипно ругаться на засравших всё птичек. По твоему, 99,999999% людей не способны к "когнитивно-интеллектуальной деятельности" вообще?
Стихи писать могут тоже не только лишь все. Если что. Или картины рисовать. Вот ИИ "может" - значит ли это, что его "интеллект" превзошел большую часть человечества? ))))
А посыл-то был в другом: человек такое может, хоть и не все в моменте, а то, что сейчас называют ИИ такого не может в принципе.
Экстраполяции на бытовом опыте очень часто заводят человека в тупик) Из последнего - нобелевка по физике - поднимающая вопрос пространства, и способная похерить практически всю физику.
Это делает его когнитивные возможности более широкими или более узкими, зависит от множества внешних и внутренних факторов; это делает результат обучения - назовем это "интеллектом" как способностью решить поставленную задачу - вариативным, ситуационно изменяемым, от гениальности до дебильности, вы сами знаете это по себе.
Для ИИ набор правил строго определен и неизменен. Если некоторая часть информации помечена как "нежелательная", она не будет использована для решения до тех пор пока в исходный алгоритм не будут внесены изменения. Принцип по которому отсеиваются данные для машины простой - по сравнению с человеческой сложнейшей не всегда очевидной цепочкой выводов. В которой может присутствовать и иррациональный компонент.
Это может сделать человеческое решение в ситуации свободы выбора как лучшим так и худшим, чем машинное.
Тем не менее процессы мышления человека и поиски решения машинным алгоритмом, пускай алгоритм изменяем в достаточно узких пределах, что и делает его "ИИ" - несопоставимы. В случае узкого поля для поиска решения машина будет эффективнее, в случае широкого вероятно нет, чем шире поле, чем менее формализованна область - тем ниже будет эффективность ИИ по сравнению с обычным человеком. Ситуацию несколько спасают на самом деле узкие случаи вроде картинок и текстов, когда целое множество результатов (а не единственный верный) будут считаться удовлетворительными.
В большинстве остальных случаев сам процесс формализации, сужения области выбора возложен на третье лицо, некоего составителя правильных промтов.
Действительно, формализуя таким образом некоторые виды человеческой деятельности пожалуй можно достигнуть некоторых результатов. Но тут опять, же придется полагаться на то что формализация была проведена достаточно тщательно, иначе можно столкнуться например с твоим явлением что простые блоки кода содержат трудноулавливыемые ошибки.
"Ии" со временем найдет свою нишу, достаточно узкую, хайп вокруг необоснован - впрочем это обычное явление для айти новинок. Не следует забывать и о том что есть и макроэкономическая причина для хайпа и легенды об ИИ.
А чо, кто-то мешает закрутить рекурсию на изменение исходного набора правил?
Угу это должно помочь, точно. Рекурсия с изменением правил и одновременной проверкой их валидности и соответствию поставленной задаче. По рекурсивно расширяемому спектру критериев. Больше рекурсий богу рекурсий.
Смысл правил ведь не в их количестве а в том что их набор позволяет принимать верное решение.
Скрупулёзно подмечено.
Оказывается, проблема не в модификации правил, а в том, что считать за правильный ответ.
Ну и? В вероятностных системах за правильный ответ считают то, что наиболее часто - как будто это исключает выпадение менее частых событий. В итоге имеем цифровые поллюции без рекурсии.
Ну, делайте систему с верификацией через реал, независимо от вероятностей - и не будет проблем с модификацией правил.
Закрутить можно все , что угодно, кроме сути. Как "принято" у студентов и школьников у нас, Вы "реально" на эту тему высказались?)))
См. выше.
Вообще-то - нет. Набор исходных правил - да, такой. Но уже в ходе обучения он может (по крайней мере - теоретически) выводить собственные правила, и они могут в последствие меняться. Не думаю, что сегодня уже так работает, но в целом - никто и ничто не мешает такому подходу.
Люди бывают тупые, не очень, вумные и даже гении. А как с этим у ИИ?
Если исходить из определения - так же, как и у людей. ИИ может быть тупым, вумным и даже - гением. В каких-то вопросах. Хотя, как по мне - людям он пока, конечно же - проигрывает.
Угу. Перемножает 7-значные числа со скоростью выше человеческих гениев.
В перемножающей машине интегрирован труд множества поколений и цивилизаций. Поэтому быстро получается.
как говорили у нас во дворе - "на тебе в лицо заучка!"
Пример, в действительности - очень даже интересный. Я вот про что: является ли умение перемножать числа - когнитивной способностью человека? Или же это - некий приобретаемый навык, не требующий какого либо анализа и формирования интеллектуально-значимого результата?
Ведь калькуляторы умели это уже 50 лет назад. И они точно ничего не анализировали при выполнении действий.
Вряд ли это приобретенный навык. История показывает, что врожденный. Вот несколько примеров таких людей:
Джордж Паркер Биддер — мог перемножать девятизначные числа за 6 минут и запоминать сразу 43 числа.
Виллем Клейн — за 2 минуты и 43 секунды мог извлечь корень 73-й степени из 500-значного числа.
Шакунтала Деви — в уме извлекала корень 21-й степени из 210-значного числа.
Альберто Кото Гарсия — два стозначных числа складывает за 19,23 секунды.
Дениэл МакКартни — слепой ребёнок, который обладал удивительной способностью мгновенно умножать и складывать громадные числа, а также имел идеальную память.
Если вы про умножение многозначных числе - то да, это талант, с которым надо родиться.
Я - про умножение вообще имел в виду. Там оно как-то попроще...
Когнитивный - это познание. Обретение способности к умножению (у школяра) входит в познавательную деятельность человека (школяра)? Очевидно да.
у школяра - вроде как да. А у калькулятора?
Я отвечал на вопрос
Еще о когнитивных способностях: Например у меня интересный феномен зрения. Левый глаз видит всё в оранжевых тонах, а правый в голубых. Примерно как на артах Хенрика Симонсена или плакатах Шепарда Фэйри (тот, который "Обама. Йес, ви кэн").
Как художнику, это иногда помогает, а иногда мешает.
Умножение лишь операция над числами, без которой многие прекрасно справляются, пересчитывая бутылки пива в палете пальцем, например, а кто-то умножает длину на ширину. Можно ли самостоятельно дойти до операции умножения без школы? Несомненно можно, когда-то же люди изобрели умножение, но это могут сделать не только лишь все. Сейчас же есть люди, которые на голубом глазу заявляют, что таблица умножения - это обман.
Человек обладающий образованием в 11 классов способен сходу решать многие задачи, которым его в школе не обучали. Может ли ИИ начать решать задачи, которым его не обучали? Тут стоит оговориться, что способность вычислять значения арифметических выражений появилась у языковой модели на основании того, что в исходных текстах были числовые выражения, но есть один нюанс, языковая модель не понимает, что на делает, она просто подставляет наиболее вероятные результаты. И да, тут я говорю о языковой модели, а не ИИ, ибо я вроде как понимаю, что такое ИИ, или даже чем должно быть ИИ, но вот как это самое ИИ реализовать я понятия не имею, в том смысле, чем я не понимаю, почему в какой-то момент автоматическую систему вдруг начали называть ИИ.
Примерно как у людей , бывает тупой , бывает очень тупой и бывает совсем тупой - то есть присутствует градации ..
"тупой" или "умный" - опять же - касается выбора применяемых терминов. В вашем случае избрана негативная лингвистическая форма. Но на суть вопроса это не влияет: да, градации есть. И "соревнования" по этим градациями уже проводят.
Эти стандарты люди пишут. Я участвовал в написании пары подобных ГОСТов. Не надо думать, что их пишут боги с горы Олимп. Иногда такую чушь пишут…
Так что определение в ГОСТе не гарантирует его соответствия объективной реальности.
А уж сколько неоднозначностей и противоречий может быть… например:
GPT не имеет заранее заданного алгоритма поиска ответа? Имеет. Весовая функция. А его считают ИИ. Или как он этот алгоритм должен там самозарождаться в электронных кишочках?
ЖэПэТэ так и не смог мне ответить какой будет автобус если он ехал в дождь.
я сильно упростил задачку, но всё равно жэпэтэ так и не понял.
Да, пока почти всё - пишут люди. Мы, на самом деле - просто должны знать, что именно означает термин "искусственный интеллект" когда его употребляют первые лица государства. Ну, чтобы понимать их. Смысл материала - в этом.
Определения из ГОСТов - приведены для иллюстрации наличия различных вариантов. Поскольку ГОСТы не являются обязательными для применения - ссылки на них в материале носят скорее иллюстративный характер.
Есть два замечательных переопределения:
- иммитация интеллекта (ИИ)
- неестественный интеллект (раз искуственный, да?)
Первое абсолютно точно, второе инвертирует положительное восприятие всей этой хрени.
И то и то следует употреблять везде ;)
Согласен, что эти варианты - намного более полно соответствуют традиционным представлениям об интеллекте и сравнении его с ИИ.
Предлагаю сформулировать более четкие определения этих понятий ( "иммитация интеллекта", "неестественный интеллект") - и постепенно вводить их в оборот в качестве альтернативы приведенному официальному определению ИИ. Не шутка.
Мне очень нравится толкование ИИ как Изуверского Интеллекта, но это уже их художественной литературы.
А вот что мне не нравится, так это то, что этот ИИ пихают к месту и не к месту, ажу автоматические систему начали называть ИИ, ну не бред же? Тот же роевой интеллект, всякие там волчьи стаи, муравьиные колонии, с каких пор регулярные алгоритмы стали вдруг ИИ? Кто-то вообще нервные сети ИИ называет, а это просто система дифференциальных уравнений, к тому-же с плохой сходимостью.
Поменьше бы про ИИ рассуждали люди, не имеющие понятия о том, чем отличаются автоматические системы от автоматизированных.
Да, к сожалению хайпа на теме - много больше, чем надо бы.
И дремучесть в теме компьютерных систем у большинства рассуждающих крайне высока. Но мы ведь не можем им запретить иметь собственное мнение и озвучивать оное? Соответственно, остается только просвещение: пусть хотя бы определения почитают, вдруг поможет? :-)
Еще бы кто дал абсолютно понятное, полное, конкретное и однозначное описание человеческого интеллекта как такового.
Думаете - уже пора? Там только со стороны психологических аспектов столько всего понаписано... А есть ведь еще и иные аспекты.
Я думаю, что если кто-то рассуждает про искусственный интеллект, для начала неплохо бы понимать - что такое естественный. А до этого момента следует молчать про искусственность чего-то, что еще не понимаем.
Заблуждение. Специально сделал на этом акцент. "Искусственный интеллект" - это не интеллект, а нечто другое. По сему, глубоко разбираться что же такое "интеллект" - вовсе не обязательно.
Не заблуждение. Наоборот. Вся чушь про искусственный интеллект проистекает из-за того, что это понятие пытаются сравнивать с тем (интеллект человека) о чем еще пока не имеют представления.
Соответственно можно писать любую чушь про ИИ - её нельзя ни подтвердить ни опровергнуть ввиду того, что объект сравнения сам еще не познан.
Подчеркнутые слова исключите из своего определения. Пожалуйста. Они к ИИ никоим образом! Потому что, как Вы верно заметили:
Не могу. Это - не мое определение, я лишь детализировал что может пониматься под "когнитивными функциями". Хотя, как тема для более детального обсуждения - наверное будет полезно внимательно посмотреть на то, какие из когнитивных функций не могут быть реализованы системой ИИ.
Все. Но для этого потребуется коллектив. Но с другой стороны:https://journals.sagepub.com/doi/10.1177/26339137231168355
Так что все функции. :))) И даже можно реализовать "душу". :)))
насчет "все" - вопрос спорный. Ибо собственно механизм реализации этих функций - пока еще окончательно не определен, насколько мне известно. А в редуцированном виде - как раз наоборот: реализованы могут быть все... но это будут "другие функции" :-)
Последняя версия наилучшая, так как использует слово "моделируемая". То есть не само-моделируемая. Человеческий интеллект как моделируется, так и само-моделируется. Но всё же слово "моделируемая" не включает само-моделирование. Моделирование исходит только извне, то есть от человека, а значит ИИ - это автомат.
По мне так последняя версия - близка к ленинскому определению материи. По факту - понимать можно что угодно, лишь бы оно было "модель".
„Предлагаю договориться по понятиям. Хотя бы – по основным.“
Можем ли сначала договориться об этих понятиям: „понимать“, „познавать“, „изучать“, „осознавать“, „воспринимать“ и „перерабатывать“ внешнюю информацию?
Имеет ли искусственный интеллект сознание?
Имеет ли искусственный интеллект воображение и творческое мышление?
Конечно и это - очень важно. Но я хотел обратить внимание читателей АШ, что сегодня термин "искусственный интеллект" имеет четкое значение, и произвольные его толкования - непродуктивны.
А так - да, перечисленные вами понятия тоже имеют собственные определения. Мне кажется, они обсуждаются в философии (как научной дисциплине). Не уверен, что мы хотим здесь это всё еще раз поднять и озвучить.
Касательно заданных вами вопросах про сознание и воображение - однозначно ответить сегодня не готов. Мне кажется, что если кто-то сделает систему, которая будет обладать сознанием - она тоже может быть отнесена к ИИ в рамках текущего официального определения. Но вот то, что далеко на каждый "искусственный интеллект" будет обладать сознанием и воображением - это наверняка. По крайней мере, пока определение не будет изменено.
Страницы