Дай дураку искусственный интеллект, он его разобьет и руки порежет

А давайте теперь поразмыслим о месте, которое искусственный интеллект (далее – искин) займет в нашей жизни, когда (если) он будет изобретен и применен. По поводу его внутренней сущности я предлагаю не спорить. Пусть это будет лишь очень продвинутый алгоритм, имеющий возможность работы с Big Data, и умеющий похоже копировать паттерны поведения настоящих людей. Но, если хотите, пусть обсуждаемое будет искином настоящим, как вы это сами понимаете.

 

Главный вопрос тут вот в чем. Куда мы применим этот Молот Тора, как только его получим? А сомнений в том, что его можно изготовить, принципиально ведь нет. Цифромолотилки мы умеем, самообучающиеся алгоритмы тоже, биг дата накоплена - всё есть.

 

Скажете, в управление техническими системами, например, отдельными единицами транспорта? – Ну, камон… Зачем делать умную и сложную систему, чтобы поручать ей то, с чем справляется и лошадь? Там хватит и примитивного алгоритма на процессоре по 10 баксов за ведро, проблема с управлением транспортом лишь в получении данных и в этических вопросах. Тогда что? Подумайте секунд пятнадцать.

 

На мой взгляд, есть только одно настоящее дело для искина – это управление людьми. Точнее, процессами, в которых люди являются частью. На меньшее размениваться нет смысла по ряду причин. Всякий человек готов к управлению людьми безо всякой специальной подготовки. Например, мы вполне доверяем всякому управление собственными детьми. Также практически каждый в коллективах имел хоть какой-то опыт управления. Хоть на уровне «еще одну лопату кидай в носилки, и понесем». Если всякий человек управлять людьми в принципе способен, то искин должен это уметь, иначе это умственно неполноценный интеллект.

 

Однако же, результаты управления людей от идеала сильно далеки. Любое реальное управление – это череда ошибок и неточностей. Причем, от уровня управленца количество ошибок почти не зависит, это некая постоянная величина. Просто бригадир грузчиков делает малозначительные ошибки, а губернатору дано право совершать ошибки, влекущие тяжелые последствия. Мы это понимаем. «Надо было делать не так» - это основной результат рефлексии окружающего мира, самих себя в том числе.

 

И вот, в наших руках искин, который предположительно будет «делать так». И мы его немедленно применим, ведь проблема, которую он теоретически может решить является самой главной. А водить грузовик умеет и джамшут с тремя классами образования.

 

Если в этом вы со мной согласны, то давайте дальше представлять функционал искина, предназначенного управлять. Чьи функции он должен исполнять, кого заменить или хотя бы усилить своими решениями?

 

Понятно, что это будут чиновники (как в госуправлении, так и в бизнесе). Чиновники принимают решения. Чиновники принимают на всех уровнях компетенции. Чиновники важны и нужны сегодня, ведь решения сами себя не примут. Но есть один момент.

 

Посмотрим на всякого управленца (то есть, всякого чиновника) со стороны буквального содержания его практической деятельности. Но не в смысле его мотиваций – у искина мотиваций как бы быть не должно. Чиновник либо одобряет транзакции, либо отменяет транзакции, одобренные другим чиновником.

В идеальном аппарате все транзакции должны одобряться безусловно и никакие транзакции не могут быть отменены, ибо ранее были законным образом одобрены. Важный фактор в данной системе – это то, что транзакции поступают на рассмотрение чиновнику из «черного ящика». Ему не дается объяснений, почему именно такая транзакция должна быть осуществлена или почему она была одобрена иным чиновником. Система управления выстроена так. Сверху поступает приказ в виде предписания осуществить ряд транзакций.

 

Заметьте, идеологическое построение такой системы вообще не предполагает возможности отменить (не одобрить) транзакцию, поступившую сверху, из «черного ящика». Но на практике такая возможность всегда существует. И именно она обеспечивает две важнейших вещи: власть всякого чиновника и сдерживание такой власти.

 

Поясню, всякая ошибка (выше мы говорили, что они неизбежны и постоянны) может быть растворена в противодействии нижележащей чиновной массы, тогда последствия ошибки могут быть минимизированы.

 

Однако, в теоретической идеальной системе управления ошибок быть не должно, по этой причине роль чиновника сводится к формальному одобрению транзакций, которые он не может не одобрить, ибо они правильны. То есть, в нем нет никакой необходимости. Итак, вопрос сводится к первоначальному управленческому сигналу. Если он верный, то во всех нижележащих уровнях нет смысла.

 

Так, по идее, должен работать консолидированный бюджет государства. Когда он принят, то это означает, что вся его фрактальная сущность явлена. Всякий капилляр должен получить назначенную порцию крови, а в ответ – предусмотренный результат. Да, в самом низу возникают «а нам бетон вовремя не завезли, и поэтому…» Но позвольте, это ведь в самом низу, а аппарат управления состоит из множества уровней, которые не касаются тварного бетона совершенно, они оперируют транзакциями. Я понимаю, что на средних уровнях «не завезли бетон» выглядит иначе, типа «вице-президент строительства космодрома украл 100 миллионов, и поэтому…» Я про идеальную схему тут.

 

Вернемся к нашему идеальному искину. Он ведь в этой задаче должен решать те же самые вопросы – одобрение или запрещение транзакций. И он такое сможет! Только вот он один сумеет заменить сразу все уровни управления. Ведь если он, заменяя министра, одобряет большую транзакцию министерского уровня, то это его решение следует признать правильным. А оно включает в себя анализ всего дальнейшего распределения большой транзакции вплоть до оплаты ИП Пупкину ремонта крыльца психбольницы в Кинешме.

 

Так и всю цепочку чиновников, обязанных одобрить транзакции более низких уровней, следующих из первой, можно смело заменять на этот же алгоритм искин. Вопрос уже решен, вплоть до самого низа. Наш искин даже не надо применять для замены всей цепочки, искин просто отменяет необходимость в ней. Его решение истинно, ибо оно верно. И оно сразу включает в себя решения по всему фракталу.

 

Ремарка. Всякий нижестоящий чиновник в нашем реальном мире может оказаться поумнее вышестоящего. Тогда он будет саботировать решения начальника, а потом подсидит его. Это всегда так и происходит. Все имеющиеся чиновники занимают места своих бывших начальников, кроме стартового уровня. Но в данном случае конкуренция исключена. Один искин решает всё по всей цепочке сам, сам себе он противоречить не может.

 

Более того. В нашей системе управления существуют суды, которым мы дали власть отменять любые наши транзакции и осуществлять свои, безотносительно нашего мнения о них. (Посадить убийцу в тюрьму – это тоже транзакция, предусмотренная правилами. Судья тут – чиновник, одобряющий или отменяющий транзакцию, которая поступает к нему предписанной из «черного ящика».) Если наш искин хорош, то он лучше чиновников, ведь мы доверили ему одобрение или отмену транзакций за них (за нас). Так он тогда и лучше судей. Иначе выходит, что решения искина могут быть оспорены и отменены людьми. И если люди это принимают, то они признают тем то, что искин хуже людей. Тогда на каком основании он заменяет чиновников?

 

Вывод. Искин будет и неподсуден. Еще раз. Если вы, люди, написали лучший свой алгоритм, признали его столь хорошим, что дали ему власть над собой, то вы не сможете написать алгоритм еще лучше, чтобы он судил решения первого. Вы самый лучший свой алгоритм поставите и управленцем, и судьей. Точнее, судьи просто отпадут. Вам придется дать этому искину полную власть над собой.

 

Кстати, первоначальный черный ящик, откуда к искину поступают исходные данные для управления, тоже может быть цифровизован. И даже обязан быть цифровизован. Консолидированный бюджет должен составлять самый лучший искин. И исполнять его тоже он.

 

Еще момент. А может, поставить над искином человека, который бы контролировал его решения, чтобы не случилось тех ошибок, которые могут произойти из-за его нечеловечности, например? – Тогда все чиновники сохранят свои места и свою власть. Им же будет дано право отменять одобренные искином транзакции или одобрять отмененные им. Увы, это не выглядит реальным. Искин предоставит распечатку обоснования своего решения. А человек не сумеет опровергнуть формальную логику своими ощущениями или интересами. Даже в этом случае, если к каждому проявлению (на самом деле единого) искина приставить по живому чиновнику, они не смогут ему противостоять.

 

Простите за сумбур, мыслей много, а длина текста непоправимо растет.

 

Когда искин включат, то произойдет полный коллапс. Не, я понимаю, что сначала его погоняют в тестовом режиме. Но это будет профанацией, ведь тогда надо будет эмулировать всё общество, со всеми его связями целиком, не упрощенную модель, а вот это цифромолотилки не умеют.

Потом его запустят в ограниченном режиме, в условном Пермском крае. Баги, дебаггинг, новый релиз и в продакшн?

 

Но рано или поздно красную ленточку разрежут и включат управление машины людьми на полную мощь (держа руку на рубильнике).

 

И знаете, что произойдет? Искин прекратит все транзакции вообще. Логика «если-то» столкнется с миллионами регуляторных норм в актуальном законодательстве, которые противоречат друг другу десятки тысяч раз. Финита. У нас поезда остановятся, платеж за банку сайры в супермаркете не пройдет. Все немедленно будут обвинены в куче правонарушений и преступлений, которые могли бы быть направлены в органы, но все люди в органах будут подлежать немедленному увольнению и суду. Решения суда искин выдаст тут же. Биг дата, про вас записано всё. Ладно, это мелочи. Но вот перевести зарплату вам тоже не смогут, ведь контора задолжала налогов, да и на вас штрафов вагон.

 

Преувеличиваю? Неа. Первый запуск (с рукой на рубильнике) будет подконтрольным, испытание два, испытание двадцать два… И однажды его включат на полную, как прошедшего полный цикл тестов. И вот тогда… А чиновников мы уже уволим, спасать ситуацию будут добровольцы.

 

Можно ли избежать таких печальных последствий? – Безусловно, попытаться можно. Для этого следует сделать ряд вещей. Уничтожить 99% законодательства, переработав остальной 1%, не вылив ребенка с водой. (Такие штуки обычно удается сделать после полноценной революции с полноценной гражданской войной. Как это сделать в мирное время – я не представляю.) Кроме того, следует переработать мораль. В плане того, что украсть из офиса пачку бумаги (или изменить жене) – либо вполне допустимо (отразив в законе), либо вполне влечет за собой срок. Эту мораль надо переделать в головах общества. Иначе оно начнет обрезать оптические кабели, что дешево, просто и эффективно против искина. Еще вариант – подкинуть этот искин вероятному партнеру, пусть он сам себе руки режет. И, конечно, верхи должны не стать неспобными. Ежели они неспособны, то они это применят в качестве последнего шанса.

 

Я не пытаюсь вас убедить в том, что нужно разбивать компьютеры. Мы никуда не уйдем от искина. Он нас настигнет, нам придется вступить с ним бой. Давайте, попробуем осмыслить, с чем (с кем) нам в бой предстоит вступить нашей судьбой.