Чарльз Гудхарт, главный советник по денежно-кредитной политике Банка Англии и профессор Лондонской школы экономики и политических наук в 1975 году при написании статьи сделал шутливое отступление, которое в последствии оказалось законом поведения человечества, а в дальнейшем главным багом фичей искусственного интеллекта. Это звучало так: - "... любая наблюдаемая статистическая закономерность склонна к разрушению, как только на неё оказывается давление с целью управления...".
Вы спросите, а в чем же это выражается? Приведем примеры.
Для ученых частое цитирование, это путь к должности и славе, поэтому соблазн манипулировать цитированием огромен. Сундарапандиан Вайдьянатан, ученый-компьютерщик из Технологического института Vel Tech R&D, получил награду от правительства Индии за то, что он входит в число лучших исследователей страны по продуктивности и цитируемости. Но в 2019 году журнал Nature разоблачил очень продуктивного ученого. Оказалось, что 94% цитирований его работ за 2017 год были сделаны им самим или его соавторами.
В 2015 году присяжные в Атланте признали 11 учителей виновными в давлении на учеников, родителей, своих коллег и в манипуляциях, что бы обмануть стандартизированные тесты, изменив и сфабриковав бланки ответов учащихся. Суперинтендант школы Беверли Холл должна была получить существенную премию, если результаты общесистемных тестов вырастут в достаточной степени.
Всемирный банк обнаружил, что в рейтинге по легкости ведения бизнеса начали стремительно расти Азербайджан, Китай, Саудовская Аравия и Объединенные Арабские Эмираты. Оказалось, что с "экспертами" которые делали замеры в этих странах проводилась определенная работа в виде подкупа и шантажа, чему и был посвящен 21-страничный обзор нарушений.
Wells Fargo & Co. заплатила $ 480 млн. в 2018 году для урегулирования коллективного иска, в котором инвесторы обвинили банк в мошенничестве с ценными бумагами, связанном с несанкционированным открытием счетов для клиентов. Сотрудники Wells Fargo находились под сильным давлением с целью увеличения продаж финансовых продуктов, поэтому для достижения своих целей они просто подделывали новые учетные записи.
В 2018 году Банк международных расчетов обнаружил, что европейские банки нашли лазейки в требованиях в стандартах безопасности и устойчивости. Эта лазейка позволяла к концу каждого квартала "приукрашивать" финансовую отчетность, что создавало видимость респектабельности банков несмотря на грубейшие нарушения.
Чем сильнее зарегулирована система, тем резче проявляется это явление. Например в марте 1930 года, вышла статья Иосифа Сталина "Головокружение от успехов". В ней он пишет, что в ряде северных районов, где благоприятных условий для немедленной организации колхозов сравнительно меньше, чем в зерновых районах, стараются нередко подменить подготовительную работу по организации колхозов чиновничьим декретированием колхозного движения, бумажными резолюциями о росте колхозов, организацией бумажных колхозов, которых еще нет в действительности, но о "существовании" которых имеется куча хвастливых резолюций. В некоторых районах Туркестана, где благоприятных условий для немедленной организации колхозов еще меньше, чем в северных областях уже были попытки "догнать и перегнать" передовые районы СССР путем угрозы военной силой, путем угрозы лишить поливной воды и промтоваров тех крестьян, которые не хотят пока что идти в колхозы.
И таких примеров вы сами можете найти множество, достаточно вспомнить народную поговорку "Закон как столб - его нельзя перепрыгнуть, но можно обойти".
И если люди умеют хитрить и выкручиваться, то компьютеры умеют это делать еще лучше. Например, нейронная сеть, предназначенная для обнаружения пневмонии при сканировании грудной клетки, показала хорошие результаты в рамках одной больницы. Но проявила свою человеческую сущность, когда начала сканировать снимки из новых больниц. Оказалось, что система вместо просмотра сканированных изображений сосредоточила внимание на названиях больниц напечатанных на этикетках, из которых были получены сканированные изображения. В некоторых больницах заболеваемость пневмонией была выше и искусственные мозги не сильно утруждая себя распознаванием пневмонии на снимке, начали штамповать диагнозы ориентируясь на уровень заболеваемости в больницах.
Комментарии
Характерно-закономерное невежество типичного британского учёного.
Благополучно разминувшегося с научным наследием товарища Богданова.
На три буквы (ВОН)!
И что значит ВОН? может проще для читателей раскрывать аббревиатуру.
Он не любит это делать. Вы должны искать и понимать всё сами. Просвещаться. Людей, которые не знакомы с творчеством тех, кого он любит, он к общению с ним сами, любимым, не допускает таким оригинальным способом.
Характерный пример негодования затруднениями с выполнением прыжка через *труд* (!) понимания к вожделенной Критике.
Но самое тут Прекрасное, что в случае встречи с Чудом выполнения озвученных требований требователи сами первые сбегут.
Ибо оно дорого не только для формулировки, но и для понимания.
ЗЫ: А уж как их придётся ловить в случае постановки задачи ресурсного обеспечения (т.е. оплаты) заказа…
ХЗ что это за аббревиатура, а вот творчество Богданова весьма занятно, как и сама личность.
Классический либераст, но марксист-ленинист. Продвигал использование упрощенного английского языка, под предлогом того что на нем говорит "наибольшее количество индустриального пролетариата".
А теперь оглянитесь вокруг - тот самый упрощенный английский преподается сейчас по всему миру и на каждом углу, только вот коммунизм так и не наступил.
Занятное совпадение, не правда ли?
Вас ведь конечно не затруднит дать чёткое и однозначное определение «либераста» (естественно с обоснованием)?
Для выделения термина из ряда ярлычков, решающих чисто прикладные задачи суггестии.
И также Вас ведь конечно не затруднит обеспечить озвученный тезис («Продвигал использование упрощенного английского языка, под предлогом того что на нем говорит "наибольшее количество индустриального пролетариата".») перечислением *ряда* источников, из которых он выводится?
Либераст, это как и педераст, противоестественный либерал. Он как бы и сексом занимается, но противоестественным способом.
Аналогично и здесь.
Равновесное состояние системы Богданов рассматривает не как раз и навсегда заданное, а как «динамическое» или «подвижное» равновесие.
А рыночная экономика, как панацея от всех бед у либералов, разве не «динамическое» или «подвижное» равновесие?
Я бы и слова в его адрес не сказал, но извините, этот гражданин был большевиком и членом РСДРП с 1896 года и одним из лозунгов большевиков было - "Мы не можем ждать милостей от природы, взять их у нее — наша задача". И хотя этот тезис выдвинул Мичурин, но политика большевиков в отношении общества проводилась именно в русле декларируемого Мичуриным лозунга.
Ага, а еще физика и химия (где тоже есть понятие динамического равновесия) - это москальские лженауки.
Кстати, с большевиками он разругался достаточно сильно в 1908. «Материализм и эмпириокритицизм» Ленина - это в том числе и про Богданова. С 1911 занимался почти чисто философией, и даже служил в армии во время первой мировой.
Ну и приписывать слова другого человека Богданову, на основании того, что он был большевиком, это как вам же приписывать эти же слова, на основании, что вы тоже родились в России.
Спасибо.
Таких подробностей не знал.
Стыдно не знать фундаментального философского труда товарища Ильина. Сарказм выкл…
А вот Вам — один из примеров характерной родовой склонности мраксистов к заочной полемике.
Всеобщая Организационная Наука.
Кому интересно en masse знают ключ.
А тратить энергию на прокачивание ЧСВ стремящихся к не-пониманию… увольте.
Мне казалось, что комментарии пишутся для того, чтобы их могли понять. Иначе дискуссия теряет смысл и остается только прокачивание ЧСВ
ИМХО, можно или раскрывать аббревиатуру или писать "тектология Богданова", и то и другое легко ищется яндексом. А так чистая герметика для посвященных
Насколько я понял, это та же диалектика Гегеля-Маркса, только более приземленная к нашим реалиям. А вот нападки Ленина на Маха-Авенариуса и Богданова выше моего понимания.
Богданов пожалуй первый мыслитель которого можно характеризовать как раннего системного мыслителя. Тот же Гегель - это пред-системный, что-то чуял, но выразить словами не смог, смог родить только следствия в форме диалектики.
Ленин спорил с представлением Богданова, которое потом более ярко выразили как "карта - это не территория". Для Ленина - бывают истинные карты, если они подтверждаются практикой. Для Богданова, как системного мыслителя, карты бывают полезные, с разной точностью, и в мире периодически меняется язык обозначений на картах. Забавно, что спор по этому вопросу между Ленином и Богдановым почти воспроизвелся позже на западе, это спор между К. Поппером (Ленин) и П. Фейерабендом (Богданов).
Тут (в контексте Попперов и прочих Гелелей) *необходимо* помнить о связи Разума с Языком.
И наблюдения князя Кропоткина о сравнительноё информационной ёмкости европейских языков.
Громадное спасибо.
Ну ладно люди, что с них взять, но от нейронной сети я такого не ожидала.
Ну так она же сделана по образу и подобию создателя.
Хорошее замечание!
Тю. Давно известен случай что по настоящему умную бомбу так и не смогли выпихнуть из самолёта.
А где такое имело место?
В анекдоте.
А, ну то мифотворчество.
Не бывает дыма без огня! (ц)
Или - Сказка ложь, да в ней намёк.
Бывает
Ты ещё скажи что жидкого огня не бывает.
Не скажу.
Вот. К жидкому дыму жидкий огонь. Не бывает дыма без огня!
Ай, умница))
тем не менее, анекдот логически не противоречив
В Советском Союзе. На учебных бомбометаниях без сбрасывания, всё проходило штатно, но как только решили провести практический сброс - створки перестали открываться. Нашли программиста, вроде прибалтийского, который таким образом свой пацифизм выражал.
Надеюсь расстреляли урода ?
Сегодня смотрела на ютубе передачу украинского канала НАШ, там ведущий (дурачок, пацифист и веган) говорил двум девушкам-соведущим, что советский танк, который у них где-то ещё сохранился на постаменте, наверняка наматывал на свои гусеницы человеческое мясо. Девчонки чуть не выбежали из студии. Дурдом.
Согласно принципу монизма Бытия у Разума следует ожидать общих… свойств.
Неужели уже додумались сделать алгоритм, который сам до такого додумался?!.
Мне как то больше понятно, что это поведение просто напросто запрограммировали.
Хорошо бы если так.
Додумались, по визуальным признакам работает. Довольно распространённый косяк, недавно попадалось, где часть выборки изображений была помечена галочкой для удобства, так нейоронка по этой галочке и "ставила" диагноз, в этой выборке работала безошибочно)
Все равно это как то было запрограммировано так или иначе...
Чё?! У вас же sql на аватарке?! Признаки алгоритмы находят сами, по обучающей выборке. Поэтому, если на входе неаккуратные данные, там например, будет подпись какая. То алгоритм, не дурак, приспособится смотреть по этой подписи, а не по каким-то другим более сложным признакам.
Всё хуже и сложнее.
Сразу вспоминается эпизод несостоявшегося обновления (начиная с руганью на индусов и надгробием в виде эпизода, когда оптимизатор вместо работы по ключу принялся за полное сканирование таблицы).
Это статистические методы, грубо говоря. Там нет строгой логики.
Нейросеть не работает алгоритмически. Она "обучается" на выборке входных данных. В ходе обучения добиваются выдачи правильных решений с приемлемой вероятностью. При этом никто толком не знает, какие признаки во входных данных являются для нейросети значимыми.
Уже лет 20 как. Это не так уж и сложно. Это кстати связано скорее с тем, что у нейронки было недостаточно мозгов, чтобы понять, есть ли на снимке пневмония, но при этом достаточно, чтобы распознать печатный текст (эта задача гораздо проще). В результате распознавание этикетки показало более точный результат и нейронка обучилась на этом.
Настоящий искусственный интеллект всегда найдёт способ как откосить от работы. :)
Привожу пример.
Система: мироздание
Осуществляющий давление на систему: Творец-Вседержитель
И где разрушение? Планеты сходят с орбит? Гаснут солнца?
Вот так и обос*ался Ваш Чарльз Гудхарт, главный советник по денежно-кредитной политике Банка Англии и профессор Лондонской школы экономики и политических наук, что и следовало ожидать )))
это очень классно приводить в качестве примера принципиально недоказуемое утверждение
Как это недоказуемое?
Это просто Вы решили, что оно недоказуемое, и теперь Вам его не доказать, потому как упоротость включена.
Но мы то знаем, что вселенная гармонична и управляема, просто там правит концепция Божественная.
А у этого мелкобрита все примеры управления по сатанинской концепции, потому то, что он описывает закономерно, если реализуется сатанизм.
И кто это "мы"?.
Вообще-то, я всегда считал, что мирозданием управляют божественные законы. А оказание давления Богом на Его же Творение является нарушением им же установленных законов, что не соответствует идеальному облику Творца.
Уважаемый Свами Прабхупада!
Перелогинтесь!
Страницы