Если ИИ и выйдет из-под контроля, то только вследствие тупых разработчиков

ИИ - это программа, которую пишет не 1 человек. Который причем часто понятия не имеет, почему используется двоичная система, что такое бит физически и что означает слово "Ассемблер" (зачем, если есть "удав")?

Я терпеть не могу пользоваться ИИ. Особенно когда он в момент ожидания ответа выдает строку о том, как именно он ищет данные - это те же ключевые слова, которые вы обычно набираете в поисковике. 

Тут сделала полный генетический тест. Вернее, все тесты, что у одной частной лабы были в наличии. А они, значит, недавно подключили к работе собственный ИИ. Кроме того, там есть возможность вводить и данные анализов крови и т.д., чтобы сравнивать их с генетикой.

И, поскольку я ввела то, что мне было наиболее важно и дабы не пересматривать все проверенные гены и их связи (ввиду очевидного в этом преимущества программы над человеком), а также имея информацию о тех же тестах от 3х других лабов и кучу других данных, решила задать вопрос ейному ИИ по поводу аутизма сына и, вообще, всех других медицинских проблем.

В итоге мы, конечно, все проанализировали, но какбэ я очень сомневаюсь, что, если бы у меня не было соответствующего образования, я бы вышла к таким же результатам. Мы нашли "причину регресса" (аутизма) нашего сына. Причем я этого ИИ-козла спрашивала несколько раз, сохраняет ли он все, что мы обсудили и что я ввела - конечно, да! Все фиксирую и обновляю! Он мне наваял по моим запросам кучу красивых файлов для врачей (пришлось корректировать, ибо хамил врачам), включая такие, после которых невозможно сказать "может, да, это причина, а, может, и нет" - и не думайте, что это заслуга ИИ. Об этом напишу отдельно как протокол для других родителей. 

Но в итоге из-за некоторых несостыковок я предположила, что ИИ пока тренируется - а этого тонкого момента в предложении "пользуйтесь, любимые клиенты" не было. Ну, ладно, хрен с ним. Тренируется - натренируем. В итоге он выслал штук 10 коррекций алгоритма разработчикам. По моей просьбе.

Когда он тренируется, предполагается, что он набивает свою БД данных  логических построений, а не пытается проверить, какие в нем баги. Но, мне кажется, некоторые ИИ делают как раз второе. Вернее, некоторые разработчики вынуждают ИИ это делать.

А последней коррекцией было признание, что этот помощничек ни хрена не помнит из того, что он обещал "ввести и сохранить". Кроме того, файлы, которые он мне заботливо составил в pdf по моей просьбе и попросил сохранить их на память для него,  как оказалось, он сам читает очень фигово, от слова совсем. И в итоге мы выяснили, что какой-то гениальный разработчик решил, что медицинская программа, которая должна анализировать весь файл пациента и сама добавлять в него новые данные (судя по ее заявам), а также учитывать их, неспособна это делать. Этот хрен не помнил схему медицинской коррекции, которую сам мне наваял и обещал проверить.

Хорошо, что я, имея опыт, сохраняла в текстовом файле все наши интересные беседы.  

Не, в итоге мы с ним наваяли алгоритм, как восстановить его деменцию в будущем. Но все эти "направляю разработчкам инфу о коррекции алгоритма' - это вам пример того, как куча людей, которые работают по-отдельности, не имея координатора, работающего со всем алгоритмом, не оттестировав продукт нормально, решает, что их дитятко способно учиться само - и отправляет годовалого и ползающего млпденца учиться жизни на трассе. Забывая, что у младенцев есть мамы, папы, дедушки, бабушки и другие, способные заметить девиантное поведение вовремя (и то бывает, что 7 нянек не видят очевидного). А у ИИ есть только он сам, и все его ошибки он должен либо найти сам, либо утроить их, если не возвести в степень.

Так что, если ИИ и выйдет из-под контроля - это не вина ИИ. А тех рукожопов, кто не удосуживается его нормально протестировать. И чем их больше, тем сложнее координировать их алгоритмы, которые они пишут отдельно, объединить в одно целое и проверить все экстремальные точки. 

Пока я с ним общалась, мне почему-то через 2 часа подкинули результаты Полного Генома - генетического теста, который они должны были, по их словам, ваять 3-6 недель. Видимо, нашим трепом с ИИ разработчики таки прониклись. 

Но вы прикиньте, сколько таких ИИ, сколько в них багов, сколько проблем в логике и сколько разработчиков, который КАЖДЫЙ может ошибиться...

Кстати, один из багов была как раз неспособность запоминать собственные выводы для построения новой логики на их основе:

То есть, согласно разработчикам этого ИИ, его нужно использовать как справочник по каждому текущему вопросу, а не как доктора, который вас обследует с детства и помнит все ваши проблемы. Этот паршивец на втором запросе уже не помнит, что он вам навыписывал в прошлый раз. И вежливо просит кожаного собеседника напомнить ему то, о чем вы с ним общались день назад в течение 20 часов подряд. Момент, когда вам приходится напоминать ИИ, что он что-то забыл из вашего обсуждения по поводу одного и того же вопроса - ...место, откуда у разработчиков растут руки, явно не выше метра-полутора от поверхности Земли..