Чорная комната или Китайский ящик

 Кто не знает Тьюринга? Его роковое яблоко на всех девайсах Яблока.
 В пятидесятые годы первого кибернетического бума Тьюринг сформулировал правила, тогда еще неясной, - игры в искусственный интелект. Эти правила копировали и по форме и по содержанию аристократическую игру "в записки".
Три игрока. Первый игрок и главный судья - неважно какого пола. Два других - мужчина и женщина. Все переписываются - отвечают на вопросы. Женщина должна была дать понять, что она женщина(открывать истину), а мужчина должен был скрывать истину, обманывать. Первый игрок должен был выявить ху из ху.
 Первоначально тест Тьюринга был именно таким. 
 Потом "истину" (женщину) вообще убрали, а вместо мужика поставили ИИ, он должен был обмануть судью.Переформулировали правила (наверное, птм, что прям один в один была - игра бездельников).
 Этот тест был детищем тогдашней кибернетики по Винеру - вот есть "черный ящик" (ИИ, например), у него есть входы и выходы. Запускаем какую то шнягу на вход, смотрим на выход. По результатам пытаемся определить - что в черном ящике?
 В переделаном тесте Тьюринга ящиков всего два уже - в одном сидит человек, а в другом то самое, пока еще непонятное - механический аналог нашего туза - интеллекта. 
 Вопрос стоял так - это непонятное в этом втором ящике  - что то настоящее, или - что то особенное, как мы? 
 Философский вопрос. Самый основной ее вопрос.
  [ Потом появилась формулировка так называемого "честного теста Тьюринга". Она в полной мере проявилась именно сейчас - с взрывным развитием нейросетей.
 Сам, например, представляю ситуацию, когда черный ящик при подключении к базе данных на порядки превышающих базу данных судьи(честный тест. все равны по обьему информации, но не равны по скорости ее обработки) - легко его обманет.
 
 Назову это" мошенничеством" черного ящика. Является ли мошенничество признаком интеллекта черного ящика, читатель ответит себе сам].
  Поскольку черный ящик пока для нас закрыт - нужно разобраться с первым, в котором сидит человек. С человеком. 
Чем мы занимаемся? Да созданием систем по образу и подобию, конечно. По-другому, пока, никак на электрических схемах. 
Эти схемы (как и их идеаторы) принципиально одинаковы по причине причин самого электричества. 
 Могут оперировать исключительно в алгебре Буля. 
 Никакая операционная система, созданная нами (единственным известным интеллектом, пока) не может просто являться набором подпрограмм "вообще", их математической суммой.
 Все подпрограммы должны иметь и общий "смысл существования" и свои собственные смыслы для обьединения в подалгоритмы.
  Тем не менее, первые оптимисты тех хипарских времен полагали - если наложим друг на друга кучу всевозможных в природе иммитаций природы, так получим ИИ. 
 Пессимисты полагают это невозможным в принципе.
 Системе не обойтись без ядра - набора функций, обеспечивающих саму системность. 
Как минимум - 
 а) поддерживать набор файлов (систематизировать их) 
 б) принять и выполнить команды введенные другим ящиком - человеком-оператором. 
 с) запускать под собственным управлением пользовательские программы самой себя для функционирования и оптимизации функционирования. 
 Если этого минимума нет то этот набор (множество) пусть и ВСЕХ  возможных подпрограмм - не является операционной  системой. 
 И эта сумма не может порождать другие системы, не способна к размножению(в данном случае почкованию, как гидра) самой себя. 
 Не является протяженным во времени феноменом, не является интеллектом, а его иммитацией. 
 Что мы видим в единственном, известном нам интеллекте? В нас самих. 
 0) Полная зависимость от обучения. Кто нас обучает, тем мы и становимся (гибкость за счет сложности). 
 1) Если обучения нет - то нет и интеллекта. Мозг занят, тем, чем и занят с наличием интеллекта - постоянным контролем своего носителя, тела с триллионами клеток. 
 а) самопрограммирование. наш мозг это биологический компьютер реального времени, и в связи с этой характеристикой наш организм не может просто повторять определенное поведение из памяти, а предварительно САМ создает программу поведения (мышечных реакций, которые во время шухера меняются ежесекундно). 
 б) реализовать такую жизненно необходимую (раз - и вот впервые, внезапно, волчек, два - хап за бочек) самомпрограммируемость  можно только с системой регистрации, обработки и хранения информации (весь мозг по сути со всеми дырками) и эта система должна вести хронологию событий, анализировать их и использовать продукт в оптимизации самопрограммирования. 
 с) это долго, поэтому система обладает способностью менять работу (и выхлоп от работы) целых своих блоков быстро - по обстоятельствам. Это химический уровень синапсов, гормональный. 

 В бытовом общении 
 а) говорит, что система не является "простым автоматом" и не всегда действует по заранее составленной программе, 
 б) говорит, что система имеет сознание, а

с) что система способна испытывать эмоции. 
 (нулевой и первый уровни это биологические уровни, неизбежные по способу нашего, единственного для сравнения, существования разума).
  
 Реализация этого минимума еще не означает, что система обладает тем, что мы называем разумом или интеллектом. 
Это называется "сознанием" и "самосознанием". 
  Этот минимум имеют и рыбы и куры и люди. 
 Что же в черном ящике - иммитация Интеллекта  или реализация Интеллекта? 
 Читателю теперь ясно мое отношение к "черному ящику" Тьюринга-Винера - пока в этом ящике не будет реализован этот необходимый минимум ядра системы, то никакого интеллекта нет, есть только разговоры. 
 Хотя эта имитация меня легко обманет в  общении через ящики. Она намного больше знает, а значит умнее, но если в ней не реализован минимальный системный уровень - это не интеллект, не разум. (сам всегда смогу заглянуть внутрь ящика(что там?) , а вот ящик сможет заглянуть внутрь меня (например, порезав на куски) только будучи реальным, более хитрым, интеллектом. 
 Это имитация, как у героя Лема на Солярисе, когда он каплю крови своего привидения рассматривал в электронный микроскоп. Та не являлась атомарной структурой, а была "нейтринной", состояла из частиц не взаимодействующих с действительностью. 

 Существует точка зрения Сильного ИИ. Там собрались сплошь бихевиористы, функционалисты и радикалы. 
Мински (1968),,Хофштадтер (1979), Фодор (1983),Моравец (1989). 
Они занимались рассмотрением вопроса - как мы "чувствуем", например, красный цвет? Что такое - "красный цвет"? Что такое "цвет"? Как мы вообще чувствуем?

 Чувствует ли черепашка Уолтера (меняющая свое поведение в зависимости от заряда батарейки) голод, как чувствуем его мы (поведение мы тоже меняем при голоде, как и черепашка на батарейке)? 
 Сторонники СИИ пришли к выводу, что вообще ничем не отличается черепашка от человека и в обоих случаях реализуется определенный алгоритм - работа системы управления.

Ничего больше не нашли, как ни искали.
 И это понятно в общем - они никогда не забывали, как эпиграммы, что тело это носитель и смысл самого мозга и одно без другого (нервная система управления телом без самого тела)в природе не встречается.. 
 И полагали, что теоретически, сознанием и интеллектом обладает даже термостат. 
  [Кстати, не так давно выяснилось, что бактерии обладают двумя видами памяти - электрической (на ионах) и химической (на пептидах) и могут передавать ее по наследству в поколениях. "Чувствуют," что понадобится потом.] 
Алгоритм термостата прост, а алгоритм мозга чрезвычайно сложен, но тем не менее является алгоритмом. Набором взаимосвязанных, детерминированных исполняемых программ. 
Все свойства нашего ума : мышление, способность чувствовать, сознание, интеллект, понимание - не более, чем свойства очень сложного алгоритма. 
Такой алгоритм, запущенный на какой либо системе компьютеров прошел бы тест Тьюринга, обладал бы разумом. 
Главным критиком такого взгляда был философ Серл. 
Он предложил мысленный эксперимент под названием "китайская комната". Основан эксперимент был на программе, написанной Шенком в 1977 году.

Та программа пыталась имитировать разумное поведение с помощью запоминания и анализа простых фраз, типа -   Билл зашел в бар, заказал четыреста капель валерьянки, ему принесли четыреста две, он в негодовании разнес хлебальник бармену, выскочил из бара. и
Билл зашел в бар, заказал той же валерьянки, остался доволен и не дал по фляге бармену, а спокойно вышел из бара. 
Задачей программы был ответ на вопрос - выпил таки Билл свое пойло или нет? 
Ответов всего два - "да" или "нет", но правильный ответ предполагает "понимание" ситуации в целом. И понимания, что такое наше "понимание" ситуации. 
  В комнате Серла в отличие от черного ящика Винера уже побольше света и поменьше пыли - во первых там происходит постоянный движняк, а во вторых все участники движняка общаются по-марсиански (по-китайски для американского философа Серла в 1980 году). 
Общаясь по-марсиански в голове Серла они совершенно адекватно принимали и выдавали высказывания, которые проходят тест Тьюринга. Серл не понимал, как же так непонятные ему самому марсиане (китайцы) дают за него, понятные ему ответы на вопросы. 
Серл задал вопрос - действительно ли верные ответы на вопрос являются истинным пониманием ситуации или они ("понимание") находятся целиком в теле программы? 
 В самом эксперименте наблюдатель, не знающ�ий язык ввода и исполняющий внутренние инструкции на двух языках (один понятный, а другой - черный ящик) - выдает правильный вывод на неизвестном ему самому языке ввода. Этот правильный ответ не говорит, конечно, о полном понимании ситуации. Один язык (ввода-вывода) остается "непонятым". 
 В пику функционалистам Серл приводит такой аргумент из мысленного эксперимента с китайской комнатой - поскольку сам Серл (и читатель), не знающие китайского языка, по инструкциям с незнаемого языка на знаемый по готовым алгоритмам в результате движухи туда-сюда сформируют правильный ответ на любой вопрос алгоритма Шенка, значит, что  "правильность" и "неправильность" существуют просто так, без отношения(взаимодействия) к реально происходящему. Существуют "идеально", в Мире Идей Платона. 
Понимаете ли вы реально-не важно. Всегда есть неизвестный язык (бога?) благодаря которому вы понимаете, что - что то понимаете. 
 В этом суть мысленного эксперимента Серла - показать, что "понимаемость" это не конечная функция, а неопределенная функция в принципе. 

Одной фразой - наше "понимание", это, что то особенного.
 Вот все остальное кругом - нет, а мы - да, особенные. 
Наше понимание голода отличается от понимания голода рыбой или шимпанзе. Они не чувствуют голода, потому, что не понимают его. Не знают слов "голод", "понимание", не могут их приблизительно описать словами в школьном сочинении. Не имеют языка. Того - первого и понятного, а есть еще, оказывается язык черного ящика, совершенно непонятный, но описывающий и происходящее и описание этого конкретного происходящего. 
 В детском саду называлось нами, детьми, пытающимися для выживания понять, что к чему - Пампупская Хрюря. 
 Это очень сильный аргумент. Сильнейший из пока представленных  дуалистами (он очень старый,идеалистов уже вообще нет, но обрастает ящиками и комнатами). 
Действительно, если все происходит именно так - с помощью известного языка на основе совершенно неизвестного, то наше понимание нашего "понимания" той ситуации с валерьянкой останется невычислимым. 
А значит действуем мы все в наших жизнях - по "наитию". Не как бог или дьявол положил в колоду, а абсолютно "от фонаря", "просто так", недерминированно. Полностью свободный фридомэн. 
 Как выражался лучший русский панк - никакой судьбы, никакой надежды. 
Что на этакую драму мнений культурного слоя может сказать, убитый помойным ведром и задроченный в подвал - вульгарный (простой) материализм? 
Да то же самое, что и с самого начала. 
 То самое "понимание" ситуации в целом знакомо любому читателю по школе, когда он не "запомнил" (чтоб двояка не схватить) доказательство теоремы Пифагора старыми словами, а может выдать на доске - своими словами, ранее не использовавшимися. (если кто помнит, то в этом и был весь смысл и задача советской школы - заставить организм обьяснить самого себя своими словами, выражать мысли письменно и устно. ) 

 Во времена философа Серла ему не пришло в голову, что он то сам не знает языка физико-химических реакций своего собственного мозга, но понимание имеет, тем не менее. 

  Все языки описания любых моделей чего угодно находятся только в бошках (обученных предварительно родаками, учителями школьными и окружающей средой) любого из возможных наблюдателей. 
Никто из читателей не Омен(надеюсь) , сделанный сразу целиком для определенной цели, а мешочек с костями претерпевающий изменения каждую секунду своей жизни. Если читателя года в четыре похитят волки и не сожрут сразу (удачная охота, потолще сожрали, а похудей оставили), то он пройдет свой самый важный в жизни сензитивный возраст в сообществе этих животных и как и любое другое млекопитающее (мы обучаемся самым простым способом - копированием поведения) будет волком - бегать на четырех(а не ходить на двух, как Маугли, переживавшего за бремя белого человека Киплинга) лапах. 
 Не будет способен никогда встать на ноги и тем более отучиться есть жрачку с земли, а не с тарелки за столом. О членораздельной речи (языке описания происходящего) и речи не идет. Только крики, как и у волков. 

В нашей днк - сути жизни по выражению Дарвина, нет никакого языка заранее. Есть только законы природы. 
  
 Каждый свободный идеалист в своих рассуждениях никогда не должен забывать о жестких фактах поведения действительного. 
 Он должен понимать, что его язык описания не записан в его ДНК, а является следствием длительного процесса обучения этому языку. 
 Множество эпиграмм здесь полагают, что окружающий их мир вылупился из яйца, когда они писать научились (не помнят или не знают, как их мама про них говорила, восхищенная, соседям - гляньте, уже рассуждает эта мелочь!делает выводы!) и забывают, что не с неба это все упало, а являлось выхлопом длительной работы и труда других представителей вида. 

Так, что такое - пресловутое "понимание ситуации"? Что происходит в комнате Серла? 
И в тесте Тьюринга и в комнате Серла необходимым является неизвестный еще аспект описания происходящего.Какой то язык, набор символов. Язык бога. 
 Существет только материя... 
Что сказать на на самом деле не тривиальные вопросы? 
 Этот, нам непонятный язык комнаты Серла, и есть язык общения(взаимодействия) молекул нашего тела. Мы его не понимали и не понимаем (но в будущем обящательно будем понимать). 
 Каждый читатель знает по школьным временам - что такое "понимание ситуации в целом" Серла. 
 Это, когда он не зазубарил

  Не существует никакой "программы мозга" Фодора.Нет того супералгоритма предкновения понимания нами самих себя сторонников Сильного Ии. И не может сушествовать. 
В мозге, как эволюционно развившейся структуре (системе) начиная от плоских червей (другие черви, круглые по противоположности развития привели в море, к умным кальмарам) система взаимодействия по физической необходимости нашего мира развивалась только и столько по обратной связи. 

[ Кстати только с образованием червей (осевая симметрия живого) мы получили "цель" - направление движения от рта к остальному миру. Предшествующие формы жизни имели круговую симметрию, типа медуз (у них рот и жопа-одно и то же) или не имели симметрии вообще, типа губки и кораллы. 
Никому не удивительно, что и у нас, как членистоногих, имеются члены и все органы чувств сгруппированы вокруг рта на голове - зрение, слух, обоняние, мышление, осязание. 
  Это суть нашего сушествования со времен тех червей. 
  Эволюционное развитие. 
  Не вспышка разума просто так (вот я уже могу прям сейчас для публики рассуждать просто так о чем угодно) в понимании всевозможных эпиграмм, а медленное (через тернии гибели триллионов триллионов других цепочек жизни, что бы позволить читателю, с сохранившейся в сотнях миллионов лет цепочке жизни это читать) продвижение к пониманию "понимания". 
 Конечно нет никакого сверхсложного алгоритма, своей сверзсложностью должного обеспечить понимание происходящего каждую секунду. Моравец тут пролетает, как и  фанера Серла. 
 Есть громадное множество подпрограмм(принятия, передачи и обработки информации), обьединенное множеством "мозгов" нашего мозга, и ощущение красного цвета яляется для нас сигналом, приходящим извне в неокортекс, а не внутренним сигналом самого неокортекса( эта система контроля контроля процессов) и поэтому воспринимается нами, как "ощущение", как и все сигналы снаружи тела, снаружи мира. Неокортекс, конечно, имеет способность к обратной связи. И он обрабатывает кучу уже переработанной внешней информации, которая воспринимается им уже не внешней, а внутренней. Мы называем продукт этой всегда внешней, но ставшей внутренней после многих циклов обработки с обратной связью для переработки, информации - рефлексией, мышлением, переживанием, разумом. 
Именно так мы "чувствуем", видим, что этот цвет именно красный (на колбочки и палочки падает фотон определенной энергии и больше ничего не падает, никакое "божье облако понимания" не летит в пространстве с каждым фотоном, конечно.) 
Обладая языком описания мы можем описать и назвать все цвета, воспринимаемых глазом фотонов. И этот язык не упал на нас с божьих вершин, а от первого и до последнего знака придуман нами самими, и только нами для описания простым словом, типа "красный" сложнейших переходов и обработок в различных отделах и органах восприятия нашего мозга. 
Многие поэты "слышат" цвета фотонов и рифмуют их. Пифагор не шутя заявлял ученикам, что буквально ухом слышит музыку гармонии движения планет по далекому ночному небу. От него у нас до сиж пор семинотная грамматика музыки - настоящая математика. 
Рефлексировал Пифагор и сам о себе. Рассматривал свою память о себе в себе самом и изменял сам в себе и прежние представления о себе самом и своих представлениях о происходящем и саму память себя о себе самом. 

Итак утверждение. 

 а)Настояший ИИ должен быть продуктом эволюционного процесса. Он должен быть обучен (как нас учили родаки и школа) самопрограммированию. В школе, помню, это называлось - выработать способность обьяснить(выразить) свою мысль словами. При внешней помощи и помехах построить свой (индивидуальный) алгоритм выражения мышления. Читателю должно быть знакомо это чувство. Это, как на самом деле понять (а не зазубарить) доказательство пифагоровых штанов и наутро, у школьной доски, достать его целиком из оперативной памяти синаптических связей (новый, готовый алгоритм, похожий на алгоритм самого Пифагора), а не нукать-мукать из зазубаренной внешней памяти на молекулах, которая за сутки уже пятнами пошла. 
 Самопостроение (по лекалам предшественников) такого нового алгоритма и есть "понимание" Серла в китайской комнате марсиан. 
 б) Без нашего, человеческого, самопрограммирования - любой продукт яляется иммитацией интеллекта. Вполне возможно, что самопрограммирование присуще не только мозгам "высших" животных, но пока о другом нам неизвестно. До сих пор самым сложным прибором в Ойкумене являемся мы сами. 
 с) 
 Таким образом - НЕТУ ИНТЕЛЛЕКТА, кроме интеллекта судьи в ящике судьи в ящике Тьюринга. . 

 Интеллект в другом черном ящике может появится только одним способом. 
   Ab nucleus. . 
 Только обладая достаточно развитым системным ядром (у нас это проверенные сотнями миллионов лет перепетий эволюции - подмозги мозга, а неокортекс - необязательный бонус) система может претендовать на сравнение с нами - самыми сложными из известных систем. 
 
  Поскольку мы априори обладаем интеллектом (далеко не все представители, но в природе всегда так. Ее основное свойство - колоссальная избыточность. Достаточно одного сперматозоида для оплодотворения яйцеклетки, но живое брызжет миллиардами их за раз. и сама днк содержит в себе математический сонм крылатых, розовых слонов, да еше и невидимых. комбинаторные возможности днк не поражают воображение, а скорее убивают саму способность воображать чего то ) и это не подлежит сомнению, то и сравнивать нас с ящиками нужно корректно. 
Сам на Kobo только одну ничью сделал (кряхтя и пердя) в шахматной партии на нижнем уровне. Это не говорит о том, что чип в читалке умнее меня и тем более о том, что он, что то "понимает" в шахматах. 

 Нихера он не понимает, как и любая современная нейросеть. В нем нет системного ядра. 
 Читателю уже понятно, что с моей (материалистической) точки зрения, без механизма самопрограммирования любые ящики и комнаты являются иммитациями. 
 Что у каждого из нас самих в голове и теле происходит постоянное общение клеток на непонятном нам языке, являющееся причиной продукта, называемого "пониманием ситуации". 
 Что сам поиск этого "понимания" у философа Серла чисто философский, а физически всегда упирается в материю, электрические схемы. Самые сложные из известных и поэтому, как кажется - индивидуальные. 
 И так оно и есть. 

 В качестве одного аспекта из, скорее всего тысяч, предложу деление памятей будущего ИИ на две, как и у нас. 
 Тогда высказывание :"повторение - мать учения" (так знакомое каждому из нас) обретет и смысл и понимание на электрической схеме.