Угрозы из будущего или пара мыслей о киберкогнитивном оружии.

Аватар пользователя prometey2013

    Образование всегда отставало от жизни. Вот и сейчас - уже достаточно  давно появился математический софт, позволяющий решать многие математические задачи, но в школе и вузе мы по прежнему тратим годы на то, чтобы научиться делать все это вручную. И в чем-то это  правильно - так человек лучше понимает математику, а софт - его и потом освоить можно. Но с другой стороны зачем изучать то, что в жизни все равно не будет использоваться? Если подходить к вопросу чисто утилитарно, то в будущем достаточно будет научиться всего лишь правильно ставить задачу (составить уравнение, записать интеграл или функцию, составить диффуравнение) а решать - пусть его компьютер решает.
       Но тут есть как минимум один подводный камень. Как проверить правильно ли программа  решает математическую задачу или в ней есть баги? И даже если багов заведомо нет - есть еще возможность того, что в будущем появятся вирусы, создающие такие баги искусственно. Ну сами понимаете, что будет, если неправильно рассчитать здание или мост, или там траекторию космического корабля. Или 1С бухгалтерия начнет неправильно считать налоги в казну недружественного государства. А еще автопилот может начать неправильно оценивать расстояния до предметов. Такие вирусы я бы назвал киберкогнитивным оружием, поскольку они в отличие от обычных вирусов они влияют на способность программы (считай ИИ) правильно познавать мир. Что интересно, традиционное образование в таком случае способно лишь ускорить обнаружение бага (или вируса), но вряд ли кто-то вручную сможет пересчитать сделанные компьютером расчеты. Таким образом для проверки работы одной программы нужна другая программа. Но киберкогнитивное оружие ведь тоже не будет стоять на месте, и его разработчики смогут придумать чего-нибудь этакое, чтобы программы перестали замечать сделанные другими программами ошибки. Как это будет делаться я не знаю, но можно поискать аналогии в человеческом обществе. 
    Существуют ли у людей ситуации, когда они не замечают чужих ошибок? Сейчас я скажу крамольную вещь, но одним из таких примеров являются идеологии. Так идеологические противники легко заметят "натягивание совы на глобус" у своих оппонентов, но могут не замечать полную чушь у своих сторонников. В качестве другого примера можно привести ментальные вирусы, как их назвал Игорь Ашманов. Видео, о ментальных вирусах можно посмотреть например,  здесь.
      В общем на этом я пока и закончу, буду рад если в комментариях разовьют данные мысли дальше. 

.

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя picsman
picsman(7 лет 8 месяцев)

Настольная книга операторов киберкогнитивного оружия

Аватар пользователя Дохлик
Дохлик(9 лет 9 месяцев)

laugh

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Вот видите - в каком году об этом еще задумались! smiley

Аватар пользователя Simurg
Simurg(7 лет 2 месяца)

Не поймут. Вообще не понимают. Всё равно, что дикарей ВИЧ и СПИДом пугать - не поймут и не поверят. :) Вообще, проблема верификации кодов стоИт давно, просто она будет усиливать свою значимость.

...а так чтоб прям оружие... См. Пелевина, "Зенитные кодексы аль Эфесби"(с)2008 год. :) У него вообще много хорошего, если читать маленькие рассказики - фантаст он реально толковый.

Комментарий администрации:  
*** Уличен в клевете и ложном цитировании, отказ принести извинения - https://aftershock.news/?q=comment/11527284#comment-11527284 ***
Аватар пользователя gerasimenko-vla
gerasimenko-vla(9 лет 2 месяца)

Это Стёб, такой книги не существует, а продаётся в виде блокнота, чтоб покупали:) 

http://podarihit.ru/kupit-bloknot-kak-upravljat-vselennoj.html

Комментарий администрации:  
*** Если ребёнок родился с браком - родителям следует положить ладонь на рот и нос, и с любовью разьединить душу и тело (с) ***
Аватар пользователя sasha 777
sasha 777(6 лет 11 месяцев)

laughyes

Аватар пользователя Здешний
Здешний(9 лет 10 месяцев)

уже достаточно  давно появился математический софт, позволяющий решать многие математические задачи, но в школе и вузе мы по прежнему тратим годы на то, чтобы научиться делать все это вручную. И в чем-то это  правильно - так человек лучше понимает математику, а софт - его и потом освоить можно. Но с другой стороны зачем изучать то, что в жизни все равно не будет использоваться?

Елы палы... Автор ставит к своей заметке хештеги #военное и #гибридная война, и при этом задает такой смешной вопрос! Именно потому нужны "знания вручную", что софт вместе с хардом запросто исчезнут как корова языком, когда пыхнет #военное.     

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Умение считать вручную нас все равно не спасут, поскольку считать нужно не только правильно, но и быстро.Например, чтобы предсказать погоду на завтра нужно выполнить такой объем расчетов, который вручную делается месяц. 

Аватар пользователя Здешний
Здешний(9 лет 10 месяцев)

Вот только выжившие, умеющие считать "вручную", будут иметь шанс восстановить уровень знаний лет за 100. А не умеющие - за 300. Или вообще никогда. Ибо вымрут раньше, чем научатся вручную. 

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

У вас гибридная война подразумевает конец света, почему-то. На самом деле и войны в обычном понимании может и не быть - а так, ряд диверсий. Гибридная война -она такая. 

Аватар пользователя Здешний
Здешний(9 лет 10 месяцев)

У меня никакой гибридной войны нет.))

Зато есть четкое понимание, что все эти сказки о "гибридной войне без конца света" очень даже легко могут закончиться финалом ППЦ.   

Аватар пользователя Дохлик
Дохлик(9 лет 9 месяцев)

месяц? surprise Да я, глядя на погоду в Париже сегодня, могу предположить что будет в Вильнюсе через две недели. Но дело не в этом, а в том, что вы хотите сделать или не сделать, которое сильно зависит от погоды. (летная или нелетная погода)laugh

задачи вот, что важно. Ваш софт неприменим для того, чтобы вычистить в курятнике. Так что за да чи!

Аватар пользователя Дохлик
Дохлик(9 лет 9 месяцев)

Любой софт, это заблаговременная подготовка, которая даёт положительный эффект только в превентивном ударе, а потом начинается каша. И вот тогда понадобятся человеческие таланты. А таланты воспитываются только в напряженном труде. Тут передоверие софту недопустимо.

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

А почему таланты должны делать все вручную? Ведь в загашнике может лежать альтернативный софт, сделанный заранее. 

Аватар пользователя Дохлик
Дохлик(9 лет 9 месяцев)

Софт это инструмент, а талант, это способность умело пользоваться этим инструментом. Но пользоваться не как все, а нестандартно. Если софт деревянный, то для решения сложной задачи потребуется большое количество этого софта. Так вот талант как раз и способен его интегрировать и комплексировать. Это та самая креативность. А креативность на пустом месте не возникает, её прививают в школе с первого класса, то простого к сложному. Комбинаторика.. понимаешь..wink

Аватар пользователя upax
upax(8 лет 6 месяцев)

зачем изучать то, что в жизни все равно не будет использоваться

так может читать, писать и до 10 считать научить и вперед, на трудовой фронт!? все равно не все учеными станут.. А чтобы быть успешным в капиталистическом миру совсем не обязательно быть образованным.. Примеров тьма!

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

На трудовом фронте  этого недостаточно как ни странно. 

Аватар пользователя Здешний
Здешний(9 лет 10 месяцев)

Ну например для занятий пресловутым бизьнисом образование не нужно. Потому что научить этому невозможно в принципе. Образование - удел специалистов.  

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Для занятий бизнесом очень желательно быть специалистом в той сфере, в которой ведешь бизнес (если строительный - в строительстве, банковский - в банковском деле и т.д.). Если же это мелкая торговля - желательно поработать в торговле пару лет, плюс хорошо знать продаваемый товар. 

Аватар пользователя Здешний
Здешний(9 лет 10 месяцев)

Необходимость подобных знаний для бизнесмена - заблуждение. Это всего лишь желательное дополнение. На факультетах ПГС не учат ведению строительного бизнеса. А профильные инженерно-строительные знания не могут заменить умения делать деньги. Тому, кто это умеет и знает как, вполне достаточно разбираться в конъюнктуре сферы своего бизнеса. 

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Не заблуждение. Просто этого недостаточно. Бизнесмену еще много чего нужно уметь, например, ладить с кучей народу (подчиненными, проверяющими, партнерами и т.д.). Плюс иметь то самое "умение делать деньги". В общем - сложная комплексная деятельность. 

Аватар пользователя Здешний
Здешний(9 лет 10 месяцев)

Ну да. Только заметьте: все перечисленное не является знаниями, получаемые в образовательном процессе. Эти умения и навыки с образованием никак не связаны))

Аватар пользователя Kamonin
Kamonin(7 лет 2 месяца)

Вы полагаете, что образовательный процесс завершается после получения аттестата и/или диплома?

Комментарий администрации:  
*** Сейчас пол Украины без коммуняк живут отлично (с) ***
Аватар пользователя Здешний
Здешний(9 лет 10 месяцев)

Я полагаю, что образовательный процесс имеет вполне определенные методологические основы, на основании которых и строится в своих различных формах.

А те знания, умения и навыки, получение которых имеет иную методологию, относится к иным процессам.  

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Соглашусь. Только нельзя сказать, что этому нельзя обучать в принципе. Что в лучших бизнес-школах вероятно и делают.

Аватар пользователя upax
upax(8 лет 6 месяцев)

зато в политике можно быть и строителем, и банкиром, и, даже, продавцом.. Вы плохо учили математику, возможно, поэтому у Вас "зачем учить, если не пригодится"

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

и, даже, продавцом..

А что продавать будет - не Родину надеюсь?

Аватар пользователя upax
upax(8 лет 6 месяцев)

лапшу на Ваши уши.

Аватар пользователя Дохлик
Дохлик(9 лет 9 месяцев)

Точно! Как в анекдоте.

Учительница спрашивает своего бывшего двоечника, теперь крутого предпринимателя, - Петя, как же ты управляешься со своей фирмой? Да всё просто. Купил за рубль, а продал за три. Вот так и живу на свои два процента.

Аватар пользователя upax
upax(8 лет 6 месяцев)

отличный пример!

Аватар пользователя aporiy_zenonov
aporiy_zenonov(9 лет 2 месяца)

Это все проще объясняется. Не нужно привлекать никакие "ментальные вирусы" для объяснения того, что "...люди не замечают чужих/своих ошибок... идеологические противники легко заметят "натягивание совы на глобус" у своих оппонентов, но могут не замечать полную чушь у своих сторонников". Просто мозг так работает в стандартном режиме. Он ленив. То, что можно решить, руководствуясь стандартными схемами/когнитивными клише - будет решаться именно таким образом, - без привлечения дополнительных ресурсов префронтальной коры. Складывание знакомых деталей в узнаваемый узор - задача, с каковой вполне успешно справляется подсознание, но только включение дополнительных ресурсов, включение механизмов самоконтроля - и есть подлинное сознание.

Нсемотря на то, что бкувы в эитх солвах пеерутпаны, вы мжоете их прочетсь. smiley И не благодаря мощи вашего ума, как можно было бы подумать, а именно благодаря его лени вы прочтете это абсолютно без затруднений. Вот именно так и с идеологией. Правда, есть универсальный рецепт, как не поддаться этому. Думать надо. Рефлексировать на все, что может показаться подозрительным. "По сколько животных каждого вида Моисей взял на ковчег?" smileysmiley

А насчет математики - так это удочка, а не рыба smiley К тому же вы сами себе тут же противоречите: "в будущем достаточно будет научиться всего лишь правильно ставить задачу (составить уравнение, записать интеграл или функцию, составить диффуравнение) а решать - пусть его компьютер решает". Потому что правильная постановка задачи уже и есть ее решение smiley А то, что это решение может быть аналитическим, а может - численным - дело десятое smileysmiley

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Потому что правильная постановка задачи уже и есть ее решение.

Хотите сказать теорема  Пуанкаре и ее доказательство - это тоже самое?

Аватар пользователя aporiy_zenonov
aporiy_zenonov(9 лет 2 месяца)

Хочу сказать, что тот, кто способен ее сформулировать, уже способен ее доказать ))  Удастся или нет - это как исторические сложится. 

Но вообще-то это не основное, что я хотел отметить в своем комментарии.

PS. Просто попробуйте сформулировать обратное утверждение. Уж тот, кто не смог корректно сформулировать теорему  Пуанкаре, решить-то ее по-любому не сумеет ))

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя Повелитель Ботов

Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.

Комментарий администрации:  
*** Это легальный, годный бот ***
Аватар пользователя sasha 777
sasha 777(6 лет 11 месяцев)

Есть только одна угроза.Она была в прошлом она есть сегодня и уж точно останется в будущем это Женщина.Все остальное фигня

Аватар пользователя cx
cx(8 лет 3 месяца)

Как эпизодический пользователь мат. программ (в основном Maxima и Coq), могу заметить, что для того, чтобы ими пользоваться, математику нужно знать достаточно хорошо. Данные программы автоматизируют в основном рутинные операции, и не заменяют способности к размышлению даже для средних задач. Т.е. они сокращают время работы, а не упрощают задачу (за исключением совсем тривиальных задач). И я думаю, что данный эффект сохраниться и в будущем, по крайней мере до появления полноценного ИИ, из-за особенностей математики.

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Да, речь скорее шла о задачах, решаемых инженерами. Но ведь большая часть людей, изучающих математику - это не будущие математики и даже не физики. 

Аватар пользователя Hamulus
Hamulus(9 лет 8 месяцев)

ментальные вирусы - это не изобретение современности, самыми известными ментальными вирусами являются религии и традиции

почитайте Дугласа Рашкоффа

и для изменения поведения человека, в том числе и для побуждения людей к войнам они также использовались с древнейших времен

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Так никто и не спорит. Речь о другом - компьютерные вирусы появились только с изобретением компьютеров. А вот вирусы, которые будут заставлять ИИ не видеть ошибки допущенные другим ИИ и вовсе еще не появились. 

Аватар пользователя maxvlad
maxvlad(12 лет 3 месяца)

Там какой-то аптекарь, не то патриот,

Пред толпою ученье проводит:

Что, мол, нету души, а одна только плоть

И что если и впрямь существует господь,

То он только есть вид кислорода,

Вся же суть в безначалье народа.

Аватар пользователя bublin
bublin(9 лет 1 месяц)

Зачем говорить об очевидном? Неумение считать самостоятельно это потеря компетенции. Стоит ли расписывать, что происходит с теми, кто потерял компетенции? Оно ведь как, придут времена, когда и зад подтирать машина будет...

Аватар пользователя Agat
Agat(10 лет 8 месяцев)

Но с другой стороны зачем изучать то, что в жизни все равно не будет использоваться?

В данный момент я вырезаю из бумаги квадратики и треугольники с цифрами и наклеиваю на приборы. 800 штук.  Спасибо родной школе, спасибо первой учительнице, что в 1 классе научила вырезать и клеить бумажки в аппликацию.

Аватар пользователя prometey2013
prometey2013(8 лет 5 месяцев)

Так никогда нельзя достоверно предугадать, что в жизни пригодиться, а что нет. Можно считать, что это одна из проблем образования. 

Аватар пользователя Lokki
Lokki(9 лет 1 месяц)

Эх… 

Тут не дак давно сделали ревизию софта для какого-то вида томографа. 

Результат: все результаты вместе с научными работами - в мусор.

Причина: многочисленные ошибки.

А на это ссылалось дофига кого. В общем там грусть, тоска, печаль.

По скромным прикидкам, научный софт содержит такое поличество ошибок, что под вопросам результаты научных работ за последние лет 15.

Менее трети софта не содержат каких либо грубых ошибок.

Аватар пользователя tromb
tromb(6 лет 9 месяцев)

не отступая далеко от тем интересного обсуждения приведу пару фактов из жизни.

каждые 10000 строк кода содержит хотя бы одну ошибку. грубо, мастдай/*nix/any os - 10 млн. строк. офисное ПО - тоже 10млн. арифметика очевидна. и это без участия армии умников-хацкеров, которые с удовольствием пасутся на этой ниве.

человеку свойственно ошибаться, но во избежание притормаживания прогресса (в it, в частности) другие умники придумали средства минимизации ущерба от возникающих ошибок, к примеру, некоторые протоколы передачи данных просто дуют поток данных без ожидания подтверждения безошибочного получения, а в случае ошибки делают повтор блока. эту же идею реализовали и производители CPU.

степень совершенства антивирусного ПО не гарантирует нас от несчастных случаев, однако не всякие вирусы фатально воздействуют на систему и мешают нам жить. как и в живом организме, - если разобраться, живем же мы с набором терпимых болячек.

так что не все так плохо, как кажется - недалек тот день, когда ТЗ на ПО (как и на прочие системы) будут включать раздел, описывающий предельно допустимый набор предопределенных типов ошибок, не представлющих серьезной угрозы для функционирования системы в целом, а киберкогнитивное оружие, в первую очередь, следует рассматривать как угрозу от действий писаки-инсайдера, не отвлекая внимание от уже имеющихся у наших "друзей" средств фатального воздействия на любые ИТ-системы. )