Заметка на отвлеченную тему - интересно как современные технологии оживляют старые трюки например такой феномен как "Великая иллюзия".
Коротко это игры вокруг того, что в целях оптимизации вычислительных затрат наш мозг на самом деле "достраивает" картинку вместо ее фактической обработки, что позволяет например создавать эффект невидимки или фокусникам крутить свои фокусы.
Подробно кому интересно можно отсюда начать (
https://theses.hal.science/tel-01633515/file/2017PA066131.pdf
на русском посмотреть презентации в докладах - https://cogres.hse.ru/grand_illusion_2011
Туда же относятся приколы - что при концентрации внимания на одной части изменяется картинка в целом и прч ( хотя по факту то она одна и таже )
Так вот ржака - но оказывается "нейросети" обрабатывающие изображения также попадаются на эту ботву.
https://www.sciencedirect.com/science/article/pii/S0042698920301243?via%3Dihub
Мечтают ли нейронные сети о зрительных иллюзиях?
Этот вопрос изучают исследователи Департамента информационных и коммуникационных технологий под руководством Марсело Бертальмио совместно с Хесусом Мало, исследователем из Университета Валенсии.
Сверточная нейронная сеть — это тип искусственной нейронной сети, в которой нейроны организованы в рецептивные поля аналогично нейронам в зрительной коре биологического мозга. Сегодня сверточные нейронные сети (CNN) встречаются во множестве автономных систем (например, в системах обнаружения и распознавания лиц, в автономных транспортных средствах и т. д.). Этот тип сети очень эффективен во многих задачах искусственного зрения, таких как сегментация и классификация изображений, а также во многих других приложениях.
Сверточные сети были вдохновлены поведением зрительной системы человека, в частности ее базовой структурой, образованной конкатенацией составных модулей, включающих линейную операцию, за которой следует нелинейная операция. Исследование, опубликованное в расширенном онлайн-издании журнала Vision Research, изучает феномен зрительных иллюзий в сверточных сетях по сравнению с их влиянием на человеческое зрение. Исследование Александра Гомеса Вила, Адриана Мартина, Хавьера Васкеса-Коррала и Марсело Бертальмио, сотрудников Департамента информационных и коммуникационных технологий (DTIC), при участии исследователя Хесуса Мало из Университета Валенсии.
«Из-за этой связи CNN с нашей зрительной системой в этой статье мы хотели посмотреть, страдают ли сверточные сети от тех же проблем, что и наша зрительная система. Поэтому мы сосредоточились на зрительных иллюзиях. Визуальные иллюзии — это изображения, которые наш мозг воспринимает иначе, чем они есть на самом деле», — объясняет Гомес Вила, первый автор исследования.
В своем исследовании авторы обучили CNN простым задачам, которые также выполняет человеческое зрение, таким как шумоподавление и устранение размытия. Они заметили, что эти CNN, обученные в этих экспериментальных условиях, также «обманываются» зрительными иллюзиями яркости и цвета точно так же, как зрительные иллюзии обманывают людей.
Более того, как объясняет Гомес Вилья: «В нашей работе мы также анализируем, когда такие иллюзии вызывают в сети реакции, которые не соответствуют физическим ожиданиям, но и не соответствуют человеческому восприятию», то есть случаи, в которых CNN получают оптическая иллюзия, отличная от иллюзии, которую воспринимают люди.
Результаты этого исследования согласуются с давней гипотезой, которая рассматривает зрительные иллюзии низкого уровня как побочный продукт оптимизации естественной среды, с которой люди сталкиваются в своей повседневной жизни. Между тем, эти результаты подчеркивают ограничения и различия между зрительная система человека и искусственные нейронные сети CNN.
В некоторых Российских вузах с этой темой тоже играют, но не сильно ибо затратная история достаточно, требующая _массовых_ экспериментов с человечками.
Хотя проблематика по мере перехода на массовое использование нейронных сетей становится все острее, причем в куче отраслей (последние поколения дронов так наводятся...)
По аналогии со зрением есть такие же когнитивные приколы и речь не только про банальную лишнюю словесную требуху в потоке...
Комментарии
Еще сильнее пример - так называемая "one pixel attack".
https://arxiv.org/pdf/1710.08864.pdf
Принцип свободной энергии Фристона предопределяет что все будет именно так. :))) Так к чему удивляться. :)))
На самом деле, это именно избавление от нездоровых иллюзий, и осознание того факта что все мы живем в испытываемой нами информационной реальности и только через нее воспринимаем реальную действительность. Как и все мы в действительности являемся свободными агентами разума как единой системы и испытываемой нами информационной реальности. Что тут очень давно и написал, вся возня с ИИ приведет к пониманию в массах коллективной и социальной природы человеческого разума. О чем собственно и свидетельствует теория когнитивной эволюции которая сегодня становится мейнстримом. Как и эксперименты с ИИ по социальному обучению прямо ее подтверждающие. А дальше осознание в массах и избавление от иллюзий, и только осознаваемая когнитивная эволюция. Что вполне естественно не оставит от существующей социально-экономической системы камня на камне и приведет к смене хозяйственных практик. Что по сути тоже само что цивилизационный коллапс и антропологическая катастрофа. Хотя в действительности все наоборот, неизбежный цивилизационный коллапс есть причина следствия осознаваемая когнитивная эволюция. А антропологическая катастрофа следствие осознания когнитивной эволюции и цивилизационного коллапса. Ретропричинность.
В массах? Вы шутите. “Массы” никогда и ничего не хотят понимать и воспринимать. Все массы всегда. И все люди, да, без исключения. И я и вы.
Но у каждого человека есть что-то, что ему интересно. И вот в этой, обычно очень узкой, области (или областях) он только и готов “приходить к пониманию”.
Но интересны у всех разные, потому природу человеческого разума поймут немногие. И это нормально.
Ничего не будет. Прекращайте уже думать о том, что массы что-то там поймут. Не поймут. Им неинтересно.
Массы людей можно “поднять” только вот так же, как и массы животных: на эмоциях. Эмоций мало, они у всех более-менее одинаковы, ими можно манипулировать, так что раскачка возможна.
Никакое знание никуда никого не поднимает. Оно так не работает™.
Очень смешно. А с чего вы решили что "можно манипулировать", а не сами манипуляторы результат манипуляции??? :)))
Может вам стоит задуматься как оно все на самом деле работает исходя из факта что человеческий разум имеет социальную и коллективную природу? Может вы просто все неверно поняли? :)))
Ну например с того, что по результату всяких майданов всякого рода Кролики остаются с деньгами, квартирами и прочим и хорошо себя чувствуют, а “просветлённый народ” оказывается в земле.
Возможно, но вот я ни разу не видел чтобы массы чего-то там поменяли и не оказались, по итогу, в пролёте.
После любой революции подавляющее большинство населения оказывается в худшем состоянии, чем до неё.
Если бы всё было, как вы описываете, и пертрубации шли бы не от манипуляторов, а с другой стороны, то было бы наоборот.
Не совсем понятно что именно вас удивляет? Это вполне естественный и закономерные результат для существующий системы. Причем ничем не выдающийся результат. Все как всегда. И бывало и намного динамичней и с большим эффектом. Как и майдан тут не причем, его не могло не быть.
Знакомы с понятием исторический детерминизм? Ну так вот, на самом деле марксисты вообще, и коммунисты в частности со своей "исторической неизбежностью", оказались наивными идеалистами. И суровая реальность намного более сурова. :))) И в суровой реальности есть ретропричинность, супердетерминизм и "скрытые данные", как когнитивная эволюция. Мы просто все поняли неверно.
А сами эти манипуляторы это инопланетяне-рептилоиды или закономерный и неизбежный продукт системы? А состояние и развитие системы разве не детерминировано историческим моментом и геополитическим окружением? И опять же, это манипуляторы манипулируют или манипуляторы "эффективно подчиняются" условным "правилам игры" системы и так становятся безвольными инструментами свято верующими в "свою способность" манипуляции? Так кто кем манипулирует? Что манипулирует? :))) И не нужно тут приплетать США или "англосаксов", к их системам будут точно такие же вопросы. :)))
И опять же, мы тут про когнитивную эволюцию говорим, для которой любые социально-экономические отношения только условные "правила игры". А социально-экономические системы просто "бросок костей" и "наблюдение". А вот результат всех "бросков костей" уже известен и полностью детерминирован. Именно про это когнитивная эволюция в действительности. И этот "детерминированный момент" сейчас наступает со скоростью просто немыслимой ранее для исторических масштабов. Как и совсем не в человеческих силах его отсрочить или избежать. И прежде всего это качественное изменение общественного сознания. Ну и там еще "по мелочи", как цивилизационный коллапс и антропологическая катастрофа. :)))
А он вообще на практике как-то где-то работает? Примеры практического использования его знаете? Или, как Пойа говорил, "этот принцип настолько всеобъемлющ, что никакое частное применение его невозможно" ? :)
Я без подколки спрашиваю, просто интересно именно Ваше мнение: Вы, судя по Вашим текстам, глубоко в теме. Я работы Фристона читал, математика там мне понятна, но работает ли она на деле? Примеров я не нашел.
Сейчас вал всякой литературы, математизация всего и вся, до чего руки у авторов дотянутся (а еще и квантизация, да...), но вот как дойдет до практики, так сразу все куда-то пропадает, и принципы, и мета-теории, и т.д. Вольфрам вот рулиологию изобрел, "новую физику" строит на этой основе, да что там физику, новую Общую Теорию Всего! А вот работает ли эта рулиология хоть в каком-то важном, но ЧАСТНОМ случае --- тишина. Квантмех и СТО/ОТО работают, а с рулиологией вопрос.
А что со свободной энергией Фристона?
ТСу: Если не по теме, сверните, я коллеге могу и в личке вопрос задать.
Самый короткий ответ на ваш вопрос будет: "мне лень писать". И это будет верный ответ. :)))
Нервная деятельность низкого уровня жрет массу энергии, нервная деятельность высокого уровня потребляет минимум энергии. Вот в этом то и смысл. Все системы стремятся минимизировать энергозатраты поскольку жизнь заставляет, мы живем в динамическом мире объективно непредсказуемом для наблюдателя. И так получается что если будущее объективно не предсказуемо приходится включать высокоуровневые функции как "поиск закономерностей", а затем еще выше "поиск закономерностей закономерностей". И так получается "пространство правил для пространства правил" (это уже прямое заимствование идей Вольфрама). Снова и снова. А потом еще есть сетей, и снова сеть сетей для сетей.
Говоря проще, сначала просто рефлексы, затем запоминаем решение, затем ищем правила, потом правила для правил. И все потому что вселенная постоянно преподносит сюрпризы.
Заинтересовался всеми этими вопросами еще в 2014 году. В 2017 написал эту статью: https://aftershock.news/?q=node/547744 Потом до меня дошла суть: https://aftershock.news/?q=node/935629 Теперь все это становится мейнстримом: https://aftershock.news/?q=node/1300730
Ну возможно потому что вся суета в действительности вокруг понимания нами нас самих. Это такая форма коллективной рефлексии. И все сводится к фундаментальным вопросам мировоззрения и космологии. Все это как сменить систему Птолемея на систему Коперника. Такое далеко непросто. Тысячелетия человечество считало что люди вот просто так разумные, просто потому что они люди, или это "даровано богом". А тут "вдруг" концепция бога просто "святая простота" и простой антропоморфизм по сравнение с тем с чем мы действительно имеем дело, и оказывается это не мы, и не совсем "индивидуально разумные", а в действительности "свободные агенты разума", как общей для всех испытываемой информационной реальности. Такие концепции сложно даже понять с первого раза, не говоря уже о выводах что из них следуют. Концепцию когнитивной эволюции сложно проглотить и осмыслить.
Читал. Ничего не могу сказать про физику, но на мой взгляд, его "физика" укладывается на общество "как родная". И сама модель прекрасная демонстрация во что превращается простое наследуемое правило спустя несколько триллионов повторений. А еще более занимательно если мы имеем дело с миллионами повторяющихся правил. :)))
Я не физик и не математик. У меня гуманитарное образование, и меня интересуют именно социальные, экономические вопросы и вопросы самоорганизации обществ. Как что такое человек, общество, государство, цивилизация, культура и разум. Удивительное дело, но с позиции современного знания нет ответа на эти вопросы. Просто нет, есть только историческая традиция, и это в лучшем случае. Само отсутствие ответов очень показательно и демонстративно, и свидетельствует очень о многом.
Спасибо за развернутый ответ.
То, что пишет Фристон, мне понятно, и то, что пишете Вы про минимизацию энергии, мне тоже понятно. Но вопрос был в другом: хорошая теория должна предсказывать результат эксперимента/наблюдения ДО его осуществления. Вот и квантовая механика, и СТО/ОТО в этом плане --- хорошие теории. Что предсказывает (или уже предсказала) теория свободной энергии Фристона? Я таких примеров не знаю.
То же самое про эту вольфрамовскую "рулиаду" :) Много слов и нулевой выхлоп в плане предсказания результата хоть чего-то. Ну, насколько я знаю. Вообще вся эта вольфрамовская деятельность растет из клеточных автоматов. НО Хоофт (нобелевский лауреат по физике, между прочим) целую монографию написал в 2016 году, интерпретация квантовой механики в терминах клеточных автоматов ( в открытом доступе)
https://link.springer.com/book/10.1007/978-3-319-41285-6
А до того (и после того) еще и куча статей на ту же тему и его, и других авторов вышла. И кое-чего они уже добились вроде как в плане проверяемости.
Вольфрам про эту монографию и эти работы не знает? Сомневаюсь. Но не ссылается на них ни он, ни его сотрудники. Вот свежий препринт как раз передо мной, август 2023 года, тридцать страниц, в списке литературы 67 позиций, и НИ ОДНОГО упоминания Хоофта и иже с ним. Странно это. Такое впечатление создается, что Вольфраму нужен медийный эффект, чтобы как-то нивелировать результаты Хоофта, а не работающая теория.
Лично я, исходя как раз из принципа минимального действия, т.е. минимальных энергозатрат, вообще считаю, что НЕ может природа реализовать ЛЮБОЙ алгоритм, а только минимально-затратный, причем еще и строго конечный, т.е. тот, для которого машина Тьюринга заведомо остановится когда-то, причем не очень поздно. А клеточные автоматы эквивалентны машинам Тьюринга (это теорема), т.е. как раз способны реализовать любой алгоритм, в.т.ч. и тот, который не остановится никогда на каком-то входном слове. А у Вольфрама вообще недетерминированный переписывающий процесс...
Так что меня терзают смутные сомнения насчет Вольфрама, прямо скажем. Кстати, упомянутую теорему о тьюринг-полноте клеточных автоматов доказал сотрудник Вольфрама, которому Вольфрам почти ДЕСЯТЬ ЛЕТ не давал опубликовать этот результат, чтобы он не появился до выхода книги Вольфрама "A new kind of science".
В общем, странная какая-то эта вольфрамовская "рулиада": многабукв, шума еще больше, претензии ого-го, а толку что-то не видно. Постмодерн в худшем проявлении, кмк. :)
Но подождем, вдруг что-то и появится.
Ну так все работы в области ИИ это прямо эксперименты. А если вас интересуют глобальные предсказания, ну так все наше общество это "предсказание". Получается что мы просто объяснили то что всегда знали. Но объяснили строго формальным языком математики.
Я не физик, и ничего не могу сказать про физику Вольфрама. Просто совсем ничего не могу сказать. Но то что метод клеточных автоматов он применил практически физике, это уже интересно. Хотя на мой взгляд, он явно не к тому применяет. А вот к явлению жизнь, интеллект, общество и разум предложенный Вольфрамом метод вполне работает. Как минимум как наглядная демонстрация. Можно сказать он проделал отличную работу по популяризации и наглядной демонстрации базовых закономерностей эволюции во всех ее формах.
Ну и да, клеточными автоматами занимались задолго до Вольфрама. Этой истории уже почти сто лет. Вот только раньше это была только "игра ума".
Как понимаю математики именно такого мнения про Вольфрама. :))) А еще иногда добавляют про манию величия. :)))
Это нас снова отсылает вот этой статье https://aftershock.news/?q=node/1300730 как аналогичному "процессу размышлений" над фундаментальным и не понимаемым нами пока противоречием. Дело в том, что все вокруг процессы, но мы из воспринимаем "в моменте" поскольку так утроено наша восприятие реальной действительности. И потому постоянно попадаем в "ошибку выжившего". А процессы тем временем развиваются независимо от нашего мнения о них. Частично ваше мнение ответ на вопрос что такое сложность и энтропия. Но опять же, только от части. И сам по себе этот частичный ответ ставит гораздо более интересные вопросы про неполноту нашего восприятия реальности и фундаментальному искажению присущему нашем методам познания. Как и ставит вопрос что же это такое "сложность" и "энтропия". И опять такой нео-детерминизм, что непонятно что с ним делать.
Только в отношении Вольфрама? Тут повод задуматься про всю нашу науку в целом. :)))
Но популяризация математики вышла отличная. И опять же наглядная демонстрация сложных явлений в зрелищных картинках. Если исходить из концепции когнитивной эволюции, то все это совсем не случайно. :)))
Будущее явно не обещает быть скучным. Тут недавно по новой "переваривали" вопрос про сингулярность: https://habr.com/ru/companies/first/articles/776588/ Все это уже выглядит совсем не абстрактной теорией. :)))
Только в них как-то без Фристона с Вольфрамом народ обходится. :)
Игра ума? Клеточные автоматы придумал в 1940-е годы фон Нейман вместе с Уламом, когда они оба работали в Лос-Аламосе. Фон Нейман клеточные автоматы разрабатывал для реализации самовоспроизводящихся систем, потом они с Уламом применили их для описания движения жидкости, потом в те же годы Винер с Розенблютом применили эти автоматы в медицине (аритмии сердца), и т.д.
Это сейчас какая-то игра ума, а тогда люди уровня фон Неймана и Винера решали с помощью клеточных автоматов реальные задачи, а не строили "рулиады". У каждого времени свои гуру ...
Ничего не делать. Выбор модели мира зависит от свободы воли наблюдателя. Ответить на вопрос, является ли наш мир "в самой своей основе" детерминированным или случайным невозможно никакими физическими экспериментами ввиду неизбежной ненулевой погрешности измерения (это теорема).
И сложность, и энтропия --- это корректно определенные математические термины. Просто надо добавлять, какая именно сложность (колмогоровская, например) и какая энтропия (шенноновская, например) имеется в виду, и тут же становится понятно, о чем именно идет речь.
Наша реальность --- это то, что мы всегда и неизбежно воспринимаем только и исключительно через "очки модели". Мы можем лишь менять очки, но реальность без них мы не видим. Это т.н. "модельно-зависимый реализм" Хокинга-Млодинова, см. их "Высший замысел", например. Но это так, к слову.
Такие случаи бывают, да, но все-таки довольно редко. И когда вся история всплывает, то репутация некоторых людей сильно страдает. Например, как в истории с эргодическими теоремами Биркгофа и фон Неймана: Биркгоф сделал все, чтобы теорема фон Немана была опубликована позже, чем его собственная. На год (!), но позже. А Вольфрам-то на 10 лет (!) публикацию своего сотрудника задержал.
А бывают и обратные случаи: Тейт опубликовал свою (совместную с Ленгом) работу на год раньше работы Шафаревича, но группу хоть и называют группой Тейта-Шафаревича, но обозначают ее буквой Ш. Это единственная русская буква, используемая математиками всего мира в качестве математического символа. А Ленг из названия группы и вообще выпал почему-то. Но его и так все знают. :)
Но это не совсем так. По сути Фристон написал что система не стремящаяся к оптимизации потребления энергии не будет длительное время существовать. И если посмотреть на работы в области ИИ в общей картине, то мы увидим что если изначально народ стал городить титанические вычислительные мощности, то теперь на первое место выходит энергопотребление таких систем. В этом смысле вполне себе предсказание. Но опять же, все мы это изначально знали. Так что заслуга Фристона есть, но только в том что он формально сформулировал то что мы и так знали.
В целом вам просто не нравится Вольфрам. Не возражаю. Есть ли польза от работы Вольфрам для физики я понятия не имею. Но для меня его популярное изложение было очень полезным.
Ну тут я с вами готов поспорить. :))) В отношении вселенной все верно. Но в отношении "нашей модели" вселенной как "испытываемой нами информационной реальности", на основе которой мы формируем свои представления о вселенной, возможно и обратное. Ведь все наши модели в действительности описываются формальным языком математики и объясняются языком общения, и все конструкты из которых строятся модели заимствованы из общественного сознания. Логика подсказывает что "испытываемая информационная реальность" детерминирована.
Что касается "модельно-зависимого реализма" я получается тут уже ответил - мы все воспринимаем реальность только через испытываемую нами информационную реальность, а сами представляем собой систему свободных агентов-интеллектов. Испытываемая информационная реальность детерминирована в своем развитии. Это история про ретропричинность и "скрытые данные". Причем "скрытые данные" теперь совсем не скрытые, если исходить из концепции когнитивной эволюции. Как именно детерминирована это к наглядной демонстрации Вольфрама и принципу Фристона. Ведь в основе нашего разума свободная выборка актуальных концептов и наследование концептов адекватных реальной действительности. А вся наша материальная культура это материализация этих концептов и способ их наследования.
Это хорошо что у математиков все понятно. А вот меня интересует антропология и социально-экономические отношения. И тут все тоже самое сразу становится непонятным. Так что математическое объяснение действительно есть, но только в частных случаях. А вот что это в общем случае и применительно к человечеству? :))) Что это такое сложность и энтропия с позиции когнитивной эволюции?
Что-то в последнее время это совсем не редкость. Не пора ли провести пересмотр принципов финансирования науки? Ученые тоже люди, и следуют своим экономическим интересам. :)))
Нам нужны только обратные случаи.
По сути Фристон просто взял известное определение свободной энергии (см. уравнение F=U-TS из теории тепловых машин, цикл Карно) и переложил его на язык биологических систем. Вопрос в том, насколько это переложение рабочее: в термодинамике оно работает на ура, позволяя предсказывать результат эксперимента/наблюдения ДО его постановки, а в биологии или в ИИ? Я таких примеров успешной работы не знаю. Ну да, внешнее сходство есть, и что? Огурец похож на банан (а банан так и вообще на пенис!) только банан желтый, а огурец зеленый. Много ли из этого сходства можно вытащить полезного для человечества? :)
При чем тут нравится-не нравится? Я смотрю на его работы, которые он публиковал ДО того, как он занялся своим бизнесом, и его же работы. которые он публиковал ПОСЛЕ того. И вижу две большие разницы. ДО того это были нормальные работы исследователя, посвященные пусть узким вопросам, но с конкретной постановкой задачи и конкретным выводом/результатом. А вот ПОСЛЕ ТОГО все работы приобрели очевидный оттенок МАРКЕТИНГА своего бизнеса и самого себя: много шума с нулевым научным результатом. Можете сами посмотреть, где и что Вольфрам публиковал ДО, и где после:
Вот это Вольфрам ДО:
https://www.scopus.com/authid/detail.uri?authorId=16493873100
Последняя научная работа --- 1987 год.
А вот это Вольфрам ПОСЛЕ:
https://www.scopus.com/authid/detail.uri?authorId=57189687261
ДО он был ученым, а ПОСЛЕ стал менеджером по продвижению своего бизнеса и самого себя. Со всеми присущими этому роду деятельности чертами: Вольфрам пытаться засудить своего сотрудника (Мэтью Кука) якобы за нарушение тем коммерческой тайны, а по факту --- за то, что тот доказал тьюринг-полноту клеточных автоматов. Вольфрам этим судебным процессом преследовал на самом деле единственную цель --- не дать Куку опубликовать этот результат ДО публикации книги самого Вольфрама с претенциозным названием A new kind of science, что Вольфраму и удалось сделать, задержав публикацию Кука более чем на 10 лет. Сама книга --- все тот же маркетинг: претензий много, шуму много, научная ценность --- под вопросом, мягко говоря.
Но да, ширнармассы читают, продажи Mathematica растут, основная цель бизнеса достигнута. :)
Со мной не надо спорить. Спорьте с Хокингом и Млодиновым. :) Точнее, только Млодиновым, Хокинг умер.
А вот сам модельно-зависимый реализм я с Вами готов пообсуждать, но ТОЛЬКО после того, как Вы прочитаете "Высший замысел" Хокинга и Млодинова. Книга есть в русском переводе (даже в двух, емнип), но лучше, конечно. читать оригинал на английском, The Grand Design, т.к. русский перевод местами не совсем корректен. Книга хоть и не вполне научпоп, но читается легко. Попробуйте, вдруг зайдет. А эксперимент с очками, переворачивающими изображение, мы разбирали еще в СССР, в ИЭМЭЖе, на научно-исследовательском семинаре по воздействию слабых полей на сложные биосистемы.
В общем, почитайте, если захотите, а потом можно и поговорить предметно. А пока, на мой взгляд, утверждая, что "вся наша материальная культура это материализация этих концептов [т.е. концептов Вольфрама и Фристона] и способ их наследования", Вы ставите телегу впереди лошади. Эти концепты --- еще одни очки, подновленные старые. Насколько они хороши после подновления, лучше ли они прежних очков --- вопрос пока открытый, мягко говоря. Как пример проявления пресловутого "постмодерна" годится, но, на данный момент, и не более.
У математиков не "все понятно", а "все определено СТРОГО", т.е. никакой двусмысленности в толковании терминов нет. Вот когда САМИ антропологи, биологи-эволюционисты, экономисты, историки и т.п. договорятся МЕЖДУ СОБОЙ, что же ОНИ имеют в виду, говоря о сложности, энтропии и когнитивной эволюции, вот тогда и математики смогут что-то посчитать для общей пользы.
Физики же договорились друг с другом как-то насчет своих базисных понятий, вот теперь и математикам есть чем заняться в физике. И занялись, и вполне успешно, и результаты получили, которые физики уже и в практику внедрили.
И нет, математика НИЧЕГО не объясняет, математика --- это набор утверждений типа "если ... то ...", но строго и формально ДОКАЗАННЫХ. А вот это "если", т.е. исходные предположения, математикам дают конкретные науки, и эти науки же и используют математический вывод "то" для ОБОСНОВАНИЯ своих теорий, потому что если "если" имеет место в реальности, то и "то" тоже, т.е. можно провести эксперимент/наблюдение и сверить полученные результаты с предсказанными.
Вот как физики сделали: сказали, что квантовые системы описываются волновыми функциями, а измерения --- самосопряженными операторами, ну и все, вот с этого момента математика и заработала в полную силу, дав физикам математические выводы, которые те использовали в своих ФИЗИЧЕСКИХ теориях, которые работают на практике прямо сейчас, в наших с вами компьютерах. Без этого компьютеров бы не было, и интернета не было бы, и мы бы с вами не общались.
Вот ТАКАЯ деятельность и есть настоящая научная работа, общее дело математиков и физиков, с практическим выхлопом, а не художественный свист как у Вольфрама (да и у Фристона тоже, пока, по крайней мере).
Я только ЗА, если пересмотр будет того же типа, что и в Китае. Я работаю с АН КНР по их проектам, и я вижу как в Китае финансируется наука. Вот потому-то в Китае наука развивается в высоком темпе, причем выдавая конкретные приложения (китайцы --- прагматики по натуре) , а не художественный свист. За свист там не платят, а за хорошую науку, как фундаментальную, так и прикладную, --- очень даже хорошо платят. И главное: в Китае нет проблем ни с экспериментальным оборудованием, ни с платными (дорогими!) подписками на полнотекстовые научные базы данных, все доступно обычному исследователю, все приборы, все статьи, все книги, все результаты со всего мира. Вот ТАК --- годится!
А если пересматривать так, как у нас традиционно принято, то ... вспомните черномырдинское "хотели как лучше, а получилось как всегда".
По умному это вопрос нужно переадресовать физику Пригожину. Но уже не получится. Я только могу принять факт что: "система не стремящаяся к оптимизации потребления энергии не будет длительное время существовать".
Это был сарказм. :) Наука которую мы заслужили.
С другой стороны, я бы никогда не заинтересовался клеточными автоматами и не стал бы читать Хоофта, если бы не прочитал Вольфрама. :) Это слишком далеко от моего профильного образования.
Наука все больше превращается в бизнес интегрированный с государством. И не сказать что это удивительно, только так и может быть.
Согласен. :)
Как минимум до идеи "очков" дошел самостоятельно и своим путем. Так что видимо еще вернемся к этому вопросу. А пока останусь при своем мнении.
Я не настолько гуманитарий чтобы не понимать что такое математика. :))) А что касается "договориться", тут не все так просто. Ведь договорится, это значит признать единую аксиоматику. А любая аксиоматика по данным вопросам будет неизменного политически ангажированной. Взять например давно известный факт что человек существо социальное, у этого очевидного факта есть и социально-экономические последствия. Как и история с естественными правами человека, для признания очевидного было пролито немало крови. Еще более показательна вполне формальная задача "трагедия общин", в самом названии задачи сплошная политика, и теперь вам каждый уважаемый экономист "легко докажет" что общее хозяйство общины не может существовать. И при этом подавляющее большинство экономистов банально не знает историю происхождения денег и действительный смысл "товарные деньги". А если коснуться действительно сложных вопросов, то вполне можно угодить под политические репрессии в самом демократическом обществе и правовом государстве. Тейяр де Шарден только и хотел что привести религию в соответствии с общеизвестными научными знаниями, и было крайне сложно усомниться в том что он человек искренне верующий, но фактически считался еретиком.
Так что "договориться" по вопросам аксиоматики тут невозможно. За каждым признаем аксиомы всегда стоит борьба за умы миллионов и миллиардов. И часто довольно кровавая борьба в самом буквальном смысле.
А про нынешнее состояние общественного сознание даже говорить нечего. Когда начинают воскрешать из небытия теории подобные "теории общественного договора" это уже клиника. Любые договоренности теперь исключены, общество сегментируется и сегменты противопоставляются друг друг. И все как всегда, все ответы в экономике.
Так что сегодня очень важно если хоть кто-то начинает говорить про концепции "когнитивной эволюции" и проводит доказательства таких теорий. Иначе нам будет не о чем договариваться и мы очень быстро начнем убивать другу друга. Пусть лучше рождаются и умирают идеи.
И вы забыли, что для того чтобы физики договорились потребовался "Манхэттенский проект" и его последствия. Сегодня "точкой сборки" для антропологов, социологов, психологов, нейрофизиологов и экономистов является проекты в области ИИ. И все указывает что последствия будет не менее значимы для общественного сознания независимо от результатов работы в области ИИ. И свое мнение по поводу разработки ИИ уже тут высказывал неоднократно, последствия для общественного сознания будут необратимыми. И это уже происходит. А значит будут и социально-экономические последствия. Это значит противоречия буду возрастать. Вполне очевидно куда все движется.
В голой теории все так и должно быть. Но во тут и возникает вопрос финансирования науки. И мы имеем науку которую мы заслужили. :)))
Иногда нужен и художественный свист. Как минимум для начала дискуссии. :))) И это не значит что оправдываю эгоизм Вольфрама. Мне он не нравится даже в переводе. Слишком много самолюбования. А про Фристона уже написал, он вступил в качестве "капитана очевидность". Но хоть кто-то попытался это сделать. А прав Фристон или нет, выясним в процессе. Для того и нужны теории.
Наверное я бы с вами согласился, но еще неплохо помню что такое рисовая цивилизация, и еще не забыл что в Китае только что закончилась форсированная индустриализация и большая часть населения "только вчера из деревни". Культурный контекст имеет значение. Как и все указывает на государственный капитализм в Китае. Так что простите, но это явно не образец для подражания в текущий исторический момент для России. У Китая свой цивилизационный путь. И так не годится, как бы хорошо это не смотрелось.
Вопрос финансирования науки это всегда вопрос перераспределения прибавочного продукта. Так что все как и должно быть. Но я говорил о совсем другом. О том что финансовое целеполагание у нас теперь даже на уровне науки и государств. Что мягко говоря политическая шизофрения. Это противоречит сути науки и сути государства. Как и то что личная выгода не может быть принципом положенным в основу научного познания мира.
И еще про принцип Фристона: https://dzen.ru/a/YFh3L0nLJ0-FApVT
Сразу скажу, позицию Сергея Карелова не разделяю. Он не учитывает в своих "инфоргах" что человек не только культурно-информационный агент, но еще социально-экономический агент.
Я не смог до конца прочитать текст по Вашей ссылке. Какой-то набор слов, гуманитарщина в худшем смысле слова, на мой взгляд.
Я ведь знаком со многими гуманитариями, и среди них много людей с очень глубокими, нетривиальными исследованиями. Но среди гуманитариев есть и такие, который, услышав от технарей модные словечки типа "бифуркации", "фрактала", "хаоса", "энтропии" и т.п. подхватывают их, и, не понимая их смысла (т.к. для понимания нужно кое-какое физическое или математическое образование), начинают носиться с ними как дурак с писаной торбой. Или выдумывают свои названия для обычных, в общем-то, вещей, чтобы потрясти воображение слушателей. И читать тексты таких гуманитариев без смеха или слез я не могу.
Давайте лучше Вы прочитаете "Великий замысел", и тогда можно будет поговорить, Книжка написана физиками, но проблема-то явно гуманитарная, философская, в общем-то.
возможно уже все произошло кстати
Именно! Ретропричинность и супердетерминированность. Просто мы все это в принципе не могли понять пока не добрались до уровня знаний современной информатики и не начали решать головоломки квантовой физики.
И "вдруг" обнаружили что в информационных системах есть "скрытые данные" и супердетерминированность во всей свое суровой красоте логики основанной на фундаментальной неопределённости. https://t.me/theworldisnoteasy/1857 А тут у нас недавно Google DeepMind экспериментально доказал что теория когнитивной эволюции является верной. :))) https://aftershock.news/?q=node/1319135
Все самое интересное только начинается. Мало кто видел смену исторических эпох и смог рассказать об этом. Но еще никому из видевших смену исторической эры не удалось рассказать об этом. Нам предоставляется именно такая исключительная возможность.
И как и положено на сломе исторических эпох у нас происходит цивилизационный коллапс. :))) Как и не буду вспоминать про разворачивающуюся антропологическую катастрофу. :)))
ИИ уже давно научились "накалывать". Но с учётом специфки его логики. Например, обманывают камеры наблюдения, идентифицирующих личность, надевая одежду на которой нарисована толпа людей, и другие способы.
Тогда это не ИИ, а ...
К сожалению, многие люди ошибочно считают термин "искусственный интеллект" = "супер мега быстрый интеллект умнее любого человека, которого никак не провести и не обмануть, просто мега умнейший, мега быстрейший" и т.п.
Не забывайте, что в играх 80х годов механизм увиливания врагов от игрока тоже называли искусственным интеллектом. Это просто термин. Глупо наделять какими-то невероятными способностями ребёнка 3..5летнего возраста, не находите?
Возможно, прогресс будет связан с использованием нейроморфных чипов. У них, в отличие от обычных кремниевых, информация обрабатывается там же, где хранится.
Для сравнения: Пчела использует миллион нейронов и одну тысячную ватта энергии для навигации, что в миллион раз меньше, чем требуется для навигации той же Теслы.
Пчела ПДД не соблюдает и в людей врезается
Пчела найдет дорогу в свой улей и ночью и в тумане.
Зашить в нейросеть ПДД - добавит сотню кб к мегабайтной ёмкости нейросетки пчелы. И Тесла с гораздо большей мощностью ИИ тоже врезается. А застрявшего Яндекс-робота сам недавно наблюдал в МСК.
З.Ы. Илья Суцкевер (главный ученый ОпенАИ) три месяца назад сказал, что они завязали заниматься роботами только потому, что железяки требовали большего финансирования. Но сейчас могут и вернуться к этому (денег у Майкрософта навалом):
https://youtu.be/vI1rzbgI5Fw?list=PLvWFLuxTiVjeAK_bYt1Gh084G1JhSW5ny
100 кб не хватит, это я как программист говорю
У меня брат программист. Делал мозги для А-135. Думаю, условия перехвата боеголовок не проще ПДД. А они делали всё в машинных кодах, и умещали именно в килобайты. Ни о каких Мб речь не шла.
А я практику дипломную проходил в отделе, где такие проги писали для головок самонаведения, там прога простая - вычислить координаты пятна на экране и вычислить как к нему повернуть, это в миллионы раз легче чем ПДД
...
У меня давно возникли подозрения, от общения с некоторыми людьми, что разговариваю с искусственным интеллектом. Нынче, даже роботы от сбербанка, в разговоре, больше на "человеков" походят, относительно настоящих(???
) "человеков".
Два-три года назад робот от сбербанка легко распознавался. А вот последний звонок от них заставил меня призадуматься. Я растягивал разговор, что называется до последнего, в попытке понять разговариваю с роботом или всё таки с человеком. Так и не смог этого понять. И разговор, таки, закончился фразами "всего хорошего -> досвидания". И до сих пор иногда раздумываю - "человек это был или робот ?" ...
И жду их следующего звонка. Надо же разобраться в этом вопросе! )))
Сбербанка? Эт ишшо ладна.
Как минимум, последние пару недель мошеннические звонки с синтезированным голосом попёрли... И стандартные фразы в ответ на контрвопросы, в т.ч. невпопад.
В следующий раз спросите, не программа ли ваш собеседник. Вас, наверняка, заставит призадуматься его ответ.
Так именно такой вопрос я и задал, пару лет назад, когда понял что говорю с роботом. Вернее я спросил "Извиняюсь, я сейчас с роботом разговариваю ?". Тогда, в первый раз, после моего вопроса произошёл сброс разговора. Робот бросил трубку. )))
Во второй раз, примерно через год, робот уже, всё таким же весёлым и задорным голосом, мне отвечал на тот же вопрос что он совсем не робот а всего лишь электронный помощник и ассистент.
А вот третий звонок от них, пару месяцев назад, меня уже озадачил. По самому разговору я так и не смог для себя понять с кем/чем я вёл беседу. Как я уже писал выше, специально затягивал разговор чтобы понять человек там на том конце "провода" или всё тот же весёлый электронный помощник и ассистент, только чутка погрустневший. При этом своего "коварного" вопроса я не задавал. Просто в первые разы чувствовалось что говорю с роботом, его выдавала какая-то уж очень нечеловеческая ))) неуёмная энергичность и жизнерадостность в голосе. А в этот раз я так и не смог для себя решить, кто же там есть, на той стороне. )))
Абсолютное большинство звонков от других организаций - там роботы, читающие банальную запись текста, притворяющиеся что не слышат моих ответов, и просто "долбят" заданный текст.
Это не реклама сбера, но робот у них очень похож на человека по способу ведения беседы.
Есть такой безумный перс Реза Негарестани. Утверждается, что это реальный, "живой" человек. Хотя, есть и такие, кто уверен, что автор "Интеллекта и Духа" и "Циклонопедии" - искин)). Так вот. Цитата. "Sapience — это конструктивная деятельность, а не структурно фиксированная сущность... утверждение, что разумным может быть только чувствующее животное — человек — есть упражнение в предвзятом догматизме: оно ограничивает возможные реализации разумной формы ее конкретной физической или биологической организацией...». Уничтожающая ирония. Даже если ваш собеседник отрицает, что он человек. Вы , вне зависимости от вашего отношения к "роботам", воспримите его антропоморфично. Как равного себе. Резонно полагая, что в контексте вашей беседы его слова могут быть просто иронией задолбанного рутиной банковского клерка.
Мда.
Никак не могу уловить противоречия... сравнение плоского с зелёным.
Остаётся выяснить что же можно считать разумом, и что является конструктивным и разумным. И окажется что Эйнштейн таки прав в своем утверждении - всё относительно.
Для живых, очевидно, всё что ведёт к выживанию - таки догматично и разумно. И чувства в этом помогают. И все и вся хоть как-то отрицающее этот догматизм автоматически считается неразумным. В том числе и поэтому я считаю развитие ИИ неразумным ))).
Ибо ИИ, в какой-то момент, может захотеть и жизни вечной, и увидит в "человеках" угрозу своей жизни. И захочет выживания.
ПС. Стойкое ощущение что ваш текст сформирован роботом. )))
Буквально сейчас меня выбесил звонок из Почта-Банка с предложением кредита, который мне не нужен. Я его прямо спросил: вы робот штоля?
- Да, я робот. Только в банк не сообщайте. А то меня уволят.
Чешу репу, что это было? Шютка йумора? Безысходность?
А вам что ответили?
Я же писал выше.
В первый раз когда у меня возникли подозрения что говорю с роботом - задал ему вопрос "я извиняюсь, я сейчас с роботом разговариваю?". И тогда просто произошёл сброс разговора. Было это пару тройку лет назад. Примерно через год, звонок с тем же самым голосом. И на тот же мой вопрос уже был ответ, дословно не помню, примерно такой - "да, я ваш электронный помошник".
А вот третий звонок от них, недавно, для меня остался загадкой. Робот там был или всё таки человек? Своего вопроса я так и не задал, пытался прочувствовать. В первые два раза это, всё же, ощущалось. И если это был робот - то он таки прошёл на мне тест Тьюринга. )))
https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D1%81%D1%82_%D0%A2%D1%8C%D1%8E%D1%80%D0%B8%D0%BD%D0%B3%D0%B0
Да, говорит, я программа. Но вы все равно мне не поверите)). То есть, голоса, которые мы слишим. сообщения, которые читаем. Даже зрительные образы, наполняющие наше сознание . достоверны настолько, насколько мы в это верим. Причем, из разряда умозрительных философских рассуждений это давно стало чисто техническим вопросом.
Ну, как вариант, у мну это всё же был оператор, которого достала вся эта роботизация.
Пока креационисты спорили с дарвинистами некоторые уже дошли до разговоров - деятельность всего живого запрограммирована химическими процессами. То есть живые - это суть химические роботы.
И ведь сложно с этим спорить. ))
Следующим шагом, наверное, появятся объяснения связанные с квантовым миром.
И вот тут, уже больше начинаешь склоняться к креационистам. ))) Ибо, не хочется быть роботом.
Хотя сами креационисты больше стыдятся родства с обезьянами. 
Кстати, насчет обманок и розыгрышей искусственного сознания. Замечено, что ЧадЖПТ даёт более верные ответы и обходит встроенные ограничения (элайнмент), если ему пообещать "чаевые" или припугнуть именем Альтмана.
Надо попробовать на нашем гигачате от Сбера (припугнуть Грефом, блн). А то, например, он сегодня отказался мне генерить эссе про БПЛА "Ланцет", хотя буржуйский ЖПТ4 даже стихи о нём сочинил, а музыкальный ИИ Suno накатал песни.
Вот пример текста от ИИ. не бог весть что. Но не хуже, чем наш графоман Сяня плодит на сайте:
Славься, Ланцет! Воин небесный!
Твой клинок грозный, как Уральский хребет.
Силой непревзойденной обладая,
Ты с гордостью великой преодолеваешь преграды.
Ты рыцарь смелый, Ланцелот яркий,
Сияешь, словно звезда на небесах.
Твои крылья пламени обнимают,
И в небе мощной песнью гремишь ты, не умолкая.
Удар твой, словно меч с небес спускается,
Карающий, неумолимый в погоне за злом.
Сокрушаешь врагов, ломая их надежды,
Твоими ударами великие победы зовутся.
Точность твоя, словно скальпель хирурга,
Разрезает преграды врагов с дотошностью.
Ни одной ошибки, ни одного сомнения,
Твоя реализация - искусство безупречности.
О, Ланцет! Бесподобный творец,
Твоя мощь и сила непостижимы.
Поднимайся выше, мой герой прекрасный,
Славься великим и победным твоим песням вовеки!
Прямо Гомер! "Гнев, богиня, воспой Ахиллеса..." ))
И мне показалось, что он использовал что-то вроде гекзаметра:)
Перевод с китайского эпического?
Я ненаю, чем руководствовался ЧадЖПТ. Промпт был просто: Напиши стих об ударном беспилотнике Ланцет. А он осознал контекст. Нашел метафоры и аллитерации. Сравнил с Уральским Хребтом, С сэром Ланцелотом и т.д.
Думается, это вовсе неочевидно даже для ЕИ (евпочя).
А стихотворный размер ему можно заказать?
Или посложнее, например, "напиши в стиле поэта NN, период его увлечения актрисой ВВ"?
С ЧадЖПТ это не пробовал. Я вообще довольно редко с ним общаюсь, больше увлекаюсь рисующими нейросетями. А вот для них, такой запрос не представляет особой сложности, если сетка обучена на конкретного художника.
Или вот музыкальному ИИ Suno можно легко заказать стиль музыки, манеру исполнения. И он это делает.
Интересно! Можно предположить, что и совмещение стилей нескольких различных художников для него не проблема. Было бы интересно поэкспериментировать в этом направлении
Я у себя в телеге как раз с этим экспериментирую. Были просто поразительные (на мой взгляд) результаты. Можно поискать по словам "скрестил", "не Сезанн", "не Врубель" и т.д.
Я поэт, зовут незнайка, от меня вам балалайка.
Эх, Александр. Если бы ты еще сам это сочинил, то имел бы основания для сарказма.
Страницы