Всем привет. Относительно недавно наткнулся в сети на интересный тематический материал о том, как современные цифровые технологии меняют сегодня подходы к творческому процессу, и о том, к чему эти изменения нас ведут. Материал хорошо оформлен, написан доступным языком, находится на стыке философии, искусства и ИИ, и поэтому место ему в этом блоге было зарезервировано ещё две недели назад.. ))
В моём понимании наиболее качественную и полезную информацию о любом процессе проще всего получить от тех, кто в этот процесс непосредственно вовлечён. ИИ в этом смысле нам пока не очень подходит, а вот люди, которые используют ИИ в качестве инструментария в своей творческой деятельности, вполне.. За что им конечно же большое человеческое спасибо!
время чтения: 11 минут.
Переосмысливая творчество
TLTR: Исследования мозга меняют наше представление об эстетических вкусах людей. Выясняется, что какие-то вещи нам нравятся не случайно и наши предпочтения — эволюционно закреплённые черты. Искусственные нейросети, обученные на художественном опыте человечества, способны к механистическому воспроизводству триггеров, вызывающих у нас конкретные эмоции.
Хочу поделиться некоторыми мыслями о том, как нейронные сети меняют творчество, без рассуждений о «душевности настоящего в противовес мёртвому компьютерному». Моё повествование в большей мере будет касаться визуального искусства, потому что я занимаюсь дизайном и трёхмерной графикой.
Автоматизация творчества. Начало
Несколько лет назад один мой приятель-трёхмерщик жаловался на обесценивание его навыков и демпинг со стороны нового поколения художников. Весомым вкладом в это послужило развитие программ типа Substance Painter. Трёхмерная графика с момента её зарождения и развития страдала от фундаментального недостатка — слабой степени фотореализма получаемых изображений. Модели, созданные в редакторе, слишком «стерильные и правильные» по сравнению с предметами реального мира. Следы износа, несовершенство формы, мелкие царапины и загрязнения покрытия создают достоверный и узнаваемый вид вещей. Для того, чтобы придать трёхмерным моделям реалистичный вид, требовалось знать множество хитростей и приёмов по добавлению деталей. Такие приёмы, как рецепты, передавались на форумах трёхмерщиков. Крутые специалисты охотились за этими хитростями и могли при необходимости изобретать новые, опираясь на свой богатый опыт. Этот багаж знаний отличал их работы от работ новичков. Но когда появились программы Substance Painter, 3D-Coat, Mudbox, создание сложных материалов свелось к рисованию кисточкой по поверхности и заливке участков трёхмерной сетки разными материалами. Там же стало возможно процедурно сгенерировать царапины, протёртую до металла краску, отполированные от трения грани на объекте, сварные швы и прочую визуальную «вкусноту».

Когда я увидел, как это делается (в то время я уже перешёл на Linux, под которым на тот момент эти программы не работали), то понял, что безнадёжно отстал от индустрии. Методами по старинке тягаться с автоматическими инструментами так же абсурдно, как вскапывать мотыгой сельскохозяйственное поле, соревнуясь в скорости с трактором.
Примерно то же ощутили 2D-художники, рисующие в традиционной технике, когда появились высококачественные графические планшеты и софт, позволяющий создавать многослойные изображения высокого разрешения, и инструменты, упрощающие рутину: кисть, рисующая повторяющимися деталями (удобна для изображения листьев, травы, чешуи и т. п.), возможность копировать, масштабировать и отражать части уже созданного изображения. Ведь в традиционных техниках подобное переиспользование затруднено или невозможно.
Мне как-то в руки попала книга «Инженерная графика», в которой целый раздел посвящён правильному рисованию падающих теней на криволинейные поверхности. Там приводится множество сложных формул, вспомогательных построений и приёмов. Когда не было альтернатив, чтобы нарисовать достоверные тени, приходилось вручную высчитывая их по формулам. Сегодня же проще взять трёхмерный редактор, нарисовать нужную модель, поставить положение Солнца, соответствующее точным географическим координатам, дате и времени, и получить достоверные тени, а бонусом — правильную перспективу.
Глядя на то, как сложные задачи перекладываются на программы, можно заметить тенденцию к автоматизации труда художника до прихода нейросетей.
Похожий процесс происходит и в музыкальной отрасли: появление MIDI-устройств и программ для создания музыки открыло возможности создавать музыку для людей с телесными ограничениями. Представьте человека с ДЦП, который физически не смог бы сыграть сложную мелодию на гитаре или клавишах, но с появлением компьютерных средств он может шаг за шагом набрать мелодию, и компьютер её воспроизведёт.
Отделение ремесла от творчества
Классическая живопись и музыка традиционно развивались параллельно с прогрессом исполнительского мастерства. Виртуозное владение инструментом, способность выдавать безупречные тоны мелодии точно в такт и умение при помощи тёртых пигментов передать объём и полупрозрачность виноградин в лучах солнца в натюрморте. Для неискушённых зрителей техническое совершенство — это и есть искусство. Но со временем авторам становилось тесно в этой парадигме. Бессмысленная жестокость Первой мировой войны натолкнула художников на смелые идеи, покушавшиеся на фундаментальные понятия. Идея отделить техническое качество от акта творчества пришла в умы художников-дадаистов задолго до появления компьютерной техники.

Почти все изображения в публикации созданы при помощи нейросети Bing, анонимными пользователями одной известной русскоязычной имиджборды, за что им выражаю огромную признательность и благодарность
С развитием нейросетей эта идея получает вторую жизнь. Сегодня, чтобы создавать изображения с реалистичным светом и множеством деталей, не нужно уметь рисовать, эту задачу берут на себя сложные вычислительные системы. Творцу достаточно иметь желание и научиться работать с нейросетевыми инструментами, которых появилось множество — как онлайн так и локальных, и которые активно создаются энтузиастами и корпорациями.
Художники становятся арт-директорами
У кого-то слышал меткую фразу, что арт-директор — это человек, у которого вместо кистей и планшета другие художники. Арт-директоры — это дирижёры от мира визуального искусства.

Наличие в подчинении неутомимого робота-художника в лице нейронки и развитого инструментария её контроля делают из художника начальника виртуальной команды. Это очень здорово, ведь можно скинуть рутину и утомительный процесс перерисовывания на нейронку, а самому выступать в роли цензора, направляя работу машины по нужному пути.

Я мечтаю о том, чтобы сделали простой и удобный инструмент, который бы понимал задумку в виде нарисованного эскиза с нужными мне композицией, цветовой гаммой и освещением, чтобы на выходе получался высококачественный результат с проработанными деталями и материалами. Знаю, что уже сейчас они могут это делать, но пока маловато контроля и предсказуемости результата. Уверен, что улучшения не заставят себя ждать.

Концептерам становится грустно
Одна из самых сильных черт нейросетей — безропотное выполнение задач, сформулированных по принципу «нарисуй то, не знаю что». То есть они отлично справляются с задачами творческого поиска, накидывая эскизы по текстовому описанию. Представьте, как ускорится процесс, если мы заменим реального художника на роботизированного, готового рисовать без усталости и жалоб?

Вот тут нужно обязательно сделать важную ремарку, возможно, ключевую мысль публикации:
Мне кажется, что до нейросеток творческий поиск был примерно тем же самым занятием — накидыванием эскизов и оценкой вариантов, с той лишь разницей, что задачу визуализатора выполнял человек. Создавал множество набросков, основой которых могли служить реальные объекты или фантазия. Затем опытным взглядом находил что-то «цепляющее» и развивал образ. Генерировал уточнённые варианты, картина обрастала деталями и превращалась в итоге в законченное произведение. Многократное перерисовывание фрагментов картины — обычное дело в живописи. Обратите внимание, если будете в галерее, что некоторые части полотен заметно толще соседних из-за многих слоёв краски. Выходит, нейронки автоматизируют процесс мозгового штурма, а художник выполняет роль цензора. Ещё важно упомянуть эффект «замыливания глаза», когда при работе над одной и той же картиной мозг переутомляется, и становится сложно критически воспринимать результат. В случае когда рисует нейросеть, намного проще оценивать изображение, даже если приходится просматривать сотни вариантов.

Кризис перепроизводства контента
По моему мнению основным последствием влияния нейронок на творческую сферу станет исчерпание зрительского внимания и связанное с этим обесценивание медиаконтента.

Давайте вспомним, как обстояло дело около тридцати лет тому назад. И старики, и школьники находились примерно в одном медийном пространстве, так как все смотрели один телевизор с парой каналов и все были в курсе, кто такой СиСи Кэпвелл, и сопереживали судьбе его семейства. Выход голливудского блокбастера был целым событием, которое обсуждали люди разных возрастов. Представители разных поколений были в курсе происходящего друг у друга, особенно ярко это проявлялось в небольших городах. Сегодня из-за обилия разного рода медиа даже ровесники сидят в изолированных группах. В теряющем популярность телевизоре теперь есть сотни тематических каналов, на YouTube — громадное количество авторских проектов, при этом существуют многочисленные фэндомы игр, популярных произведений, аниме, не говоря уже о всевозможных текстовых блогах, телеграм-каналах и проч. Контента просто завались, на любой вкус и на любую тему. Общество раздробилось на пёстрые кусочки мозаики и окуклилось в инфопузырях.

Нейронки — великий уравнитель
Во времена до появления нейросеток умение хорошо рисовать было чем-то вроде биологического аналога биткоина. Навык невозможно никаким образом купить или украсть, его можно было только развить путём многолетнего и кропотливого труда. Умелые художники в своей среде были суперзвёздами, за ними следили другие артисты, их карьерой и галереей восхищались начинающие.
Пришли нейронки, и прежний миропорядок рухнул. Теперь получать яркие, пропорциональные и насыщенные деталями картинки способны все. Галереи и форумы взбунтовались против AI-сгенерированного контента. Но джинна в бутылку уже не загонишь.

Хочу поделиться парой своих наблюдений по этому поводу. Развитый навык рисования можно рассматривать и как подтверждение здоровья нервной системы, ведь для этого нужно не только терпение и усидчивость, но и сочетание многих хорошо работающих функций ЦНС, участвующих в процессе создания и контроля результата. Например, у меня есть приятель с некоторыми отклонениями в развитии, которому не даётся рисование несмотря на усердие. У него есть неустранимые проблемы с пропорциями и перспективой, он не может нарисовать предметы без искажений, т. к. не видит их в процессе создания эскиза.
Не подумайте, что я сторонник эйблизма. Напротив, я за то, чтобы творчеством занимались все, кто этого хочет, достигая максимальной полноты своего развития.
Я считаю, что для многих людей одобрение со стороны важной для них социальной группы является сильным мотиватором деятельности. Многие для того и идут в творчество, чтобы проявить себя, заслужить восхищение и возвыситься в социальной иерархии. Нейронки ломают этот механизм, что для кого-то может стать крахом идентичности. Ведь теперь любому школьнику станет под силу создавать картинки не хуже тебя, потратившего десятилетия на развития скила. Вдобавок из-за обилия нейронного контента зритель начинает всё подозревать в сгенерированности. Я думаю, что не стоит недооценивать данное явление. Оно, вероятно, будет оказывать важное влияние на всю цивилизацию, ведь мы утрачиваем серьёзный социальный механизм отбора и мотивирующий фактор для развития людей.

На ум приходит такая аналогия. Представим первобытное общество охотников и собирателей. Единственным способом добыть свежее мясо была охота, которой могли заниматься самые ловкие и смелые. Им завидовали хилые и трусливые, их любили женщины и ими восторгались члены общины. Естественно, такое мощное подкрепление мотивировало их не терять хватку и продолжать добывать ценный белковый ресурс. Потом пришло животноводство, и вот наш белковый добытчик — работник свинофермы, рядовой гражданин с лишним весом, не способный пробежать ста метров без одышки. Улавливаете, к чему я? Раньше художники были в авангарде поиска красоты и новизны, как смелые разведчики они шли в неизвестное и приносили оттуда плоды культурного рода, которым затем восторгались миллионы. А сейчас нейронки на наших глазах забирают это у человечества, разворачивают фабричное производство музыки, текстов, картинок и видео…

Нейроэстетика
Эта молодая наука исследует физиологические особенности человеческого восприятия.
Учёные, занимающиеся исследованием слуха и восприятия музыки, обнаружили некоторые соответствия между ритмом музыки и ритмами нейронной активности в мозжечке. То есть в музыкальной традиции закрепляются не случайные ритмы, а те, которые уже изначально встроены в наш мозг на базовом уровне. Музыканты (как и художники) экспериментальным путём, как бы на ощупь, отыскивают мелодические и визуальные паттерны, нравящиеся людям, которые те охотно принимают, благодаря чему они закрепляются в культуре.
О нейроэстетических законах восприятия изображения сложно рассказать в рамках данного эссе, т. к. это требует отдельной публикации. Вот лишь некоторые примеры предопределённых особенностей зрения:
Парейдолия, встречающаяся у здоровых людей: мы видим лица там, где мозг может выделить хоть малейшее соответствие структуре лица с симметричным расположением глаз и рта под ними. В многочисленных исследованиях было показано, что млекопитающие имеют врождённую функцию фиксировать взгляд на лицах.

Озёра метеоритного происхождения во Владимирской области. Автор: Ted.ns
Симметрия — универсальный признак живого и триггер для удержания внимания.

Классическая чернильная клякса Роршаха
оффтоп: Спасибо всем, кто принял участие в обсуждении под предыдущей статьёй.
Людям особенно нравятся некоторые цветовые сочетания. Например, было замечено, что голливудские фильмы и постеры к ним сошлись на формуле сине-оранжевой гаммы, что породило мемы и исследования. Возможно, такая гамма приятна человеку по особой причине: голубой фон ассоциируется у нас с наступающими сумерками, а оранжевый цвет — с огнём очага.

«Ночь на Ивана Купалу» Генрих Ипполитович Семирадский
«Освоение огня древними людьми стало переломным моментом в социальной эволюции человека, позволившим людям разнообразить белковую и углеводную пищу появившейся возможностью приготовить её, развить свою активность в ночное время, обогревать своё жильё, а также защищаться от хищников».
Википедия
Люди освоили огонь примерно четыреста тысяч лет тому назад, а время, прошедшее с появления цветного синематографа, соответствует 0,0002 доли данного периода человеческой эволюции…
Красные глаза-лампочки. Про них была отдельная статья, но если кратко — вероятно, так в нас эволюционно закрепился триггер, означающий отражение света от сетчатки глаз крупных хищников в глубине тёмной пещеры.

Если вам интересно, вот четыре основополагающих уровня воздействия художественного произведения на человека (по лекции Вячеслава Дубынина «Мозг: общие принципы нейроэстетики»:
- Произведение искусства затрагивает жизненно значимые темы, закреплённые в нас эволюционно. В первую очередь это витальные потребности в безопасности, питании, социальном одобрении, любви и сексе. (Вспомните сюжеты самых популярных книг и фильмов. На какие они темы?)
- Произведения искусства адаптированы под принципы работы наших сенсорных систем, т. е. должны быть адекватного уровня детализации, контраста, яркости. Очевидно, что картина, нарисованная краской, видимой только в ультрафиолетовой части спектра, не может быть увидена. Музыкальное произведение с мелодией в области инфра- или ультразвука либо с неадекватно высоким BPM также не может быть нами воспринято.
- Эмоционально насыщенное произведение задействует зеркальные нейроны, т.е. мы ярче всего реагируем на эмоции, позы, поведение других людей. Недаром так популярен формат Shorts, а TikTok по охвату может сравниться с видеоиграми.
- Новизна — любимое лакомство нашего мозга.

Выходит, человечество интуитивно создавало и накапливало культурный продукт, проходивший нечто вроде эволюции, при которой отбор проводился по принципу «нравится ли это мозгу». Нейронки — программно-аппаратный инструмент — обобщили огромный пласт человеческой культуры. Они будто выжали эссенцию из того, что нам нравится.
Эпилог
Мы живём в очень необычное время. Родившиеся около сорока лет назад увидели, как развивалась магнитная запись, первые домашние ЭВМ, как появились компьютерные игры, родился и умер компакт-диск, знали жизнь до интернета и нейросетей.

Мне кажется, в творческой сфере уже наметились и будут упрочняться следующие тенденции: коммерциализация и автоматизация производства, цифровая дистрибьюция через корпоративные площадки. Век самоучек, пробивающих дорогу к зрителю своим талантом, похоже, заканчивается. А главным инструментом борьбы за внимание станут рекламные бюджеты, как это уже сложилось в современном геймдеве.

Я пессимист, и ближайшее будущее человечества видится мне безрадостным киберпанком без неоновой одежды, но с цифровым поводком и контролем мыслей внутри информационной помойки невиданных масштабов. Текстового, визуального и аудиоконтента будет так же много, как пластикового мусора в южноазиатских реках. Ценность контента упадёт до околонулевых значений, но люди к этому как-то адаптируются.

Значит ли это, что мы перестанем заниматься творчеством самостоятельно? Ну конечно, нет. На данный момент нейронки — исполнители, а метафору и сложную идею генерирует человек (в виде эскиза на холсте, плана статьи или текстового промпта к нейронке). Пока что мы опережаем нейронки в креативности, а те, кому интересен творческий процесс, будут творить вне зависимости от доступных инструментов. Вероятно, мы увидим некое утомление от мейнстрима и контента, потребляемого с экрана, и начнётся возрождение локальных сообществ, типа картинных галерей, персональных выставок и т. п. Судя по всему, художников постигнет такое же расслоение, как и общество в целом, и сформируется тонкая прослойка счастливчиков, которым повезёт обслуживать вкус элиты, ценящей навыки классической живописи и музицирования. Культурный продукт для простых смертных, скорее всего, будет генерированным.

Ну и в конце хочу сказать, что, если вы ощущаете раздражение и злость по отношению к автору, который подобно хирургу полез препарировать такое сложное и многогранное явление, как человеческое творчество, то я вас хорошо понимаю. У меня самого это иногда вызывает самый настоящий гнев. Ощущение, будто у человека как у вида отнимают что-то важное, превращая нас в биороботов, дёргаемых за ниточки эволюционно обусловленных механизмов…
А ещё я могу заблуждаться в своих рассуждениях!
Автор: Андрей Ларин





Комментарии
Я не фанат диамата, эта интерпретация диалектики мне не нравится.
Ну что же, у каждого свой модельно зависимый реализм. Но наш спор может быть легко разрешен противопехотными дронами. :)))
Вы напоминаете мне пророка из фильма 2012.. Я уже говорил это? :))
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Творчество роботов на сегодняшний день похоже на детскую забаву, когда презерватив наполняют ведром воды и сбрасывают с крыши дома на голову прохожему. Сейчас мы в фазе когда шарик летит вниз и все зачарованно за этим наблюдают. Однако дальше не будет эйфории, а будет участковый...
Любое цифровое творчество - это сублимация на основе имеющейся в наличии базы готовых паттернов. Покамест роботизированное видение мира, ну почти все, каким-то образом относятся к тёплой и ламповой аналоговой реальности. Но пройдёт совсем немного времени и основным набором исходников станет "реальность" УЖЕ сгенерированная. То есть роботы начнут делать свои визуальные миксы уже на основе того что сами же и накуролесили. И вот тогдааа - Welcome to the Матрица Вася Андерсон.
Вот тогда и начнётся веселуха. Ждать осталось не просто чуть-чуть, всё происходит прямо на наших глазах, хе-хе...
Что делать спросите вы? А всё уже украдено до нас)). В метаданных всех цифровых картинок есть вполне себе нормальные метки, с помощью которых можно отличить новый матричный контент от реального. Другое дело кожаные мешки по своему обычаю не смогли договориться между собой как их использовать.
Этот небольшой нюанс вполне способен стать поэтичной эпитафией на надгробии нашего смешного стайного вида млекопитающих...
А что такое "паттерн"?


Это укорененный шаблон. Признак антропоморфного мышления. ИИ не создаёт сам в текущих реалиях..
Пока что он всего лишь инструмент творческого процесса.. Как краски или кисти у художника. И так это творчество и нужно воспринимать.
Вы не внимательно читали статью.
Это - не творчество, это - ремесло и фабриканство.
Пелевин об этом тоже уже написал.
Будут сомелье. Люди, которые смешивают куски текста или картинок, которые им выдают машины. И это может работать и в обратную. Человек дает машине куски текста как план или направление.
А вообще. Мы ведь очаровываемся новыми сочетаниями, постоянно смотрим в калейдоскоп из слов, красок, звуков. Но мы при этом выполняем критически важную интеллектуальную функцию - мы выделяем красивое из некрасивого. Одно сочетание нам нравится, другое - нет.
С учетом избытка информации нам будет некогда осмотреть все сгенерированные сочетания и составить мнение.
Вот этим и будут люди искусства будущего. Из тонн контента они станут отбирать годноту и показывать зрителям ее.
ИИ может нарисовать миллион картинок в секунду, но не сможет сказать, что одна лучше другой.
Так не будет.
Может. Вопрос не в том что "нравится или не нравится". Уже сегодня ИИ лучше понимают что "нравится" чем человек и по своей сути все "подхалимы". Но есть объективная реальность! Не все что "нравится" соответствует реальной действительности, в смысле, позволяют формировать адекватный социальные стратегии интеллектуальных агентов. И не все ведет к синхроничности интеллектуальных агентов.
Да ни хера они не понимают! Их даже, как субъектов, не существует! Наделять информационные экскаваторы качествами субъекта - верх идиотизма.
А "объективная реальность"(ха-ха 3 раза) для формирования "адекватной социальной стратегии интеллектуальных агентов", не более чем попытка выделить "объективность":))) из многих терабайт скормленных субъективностей.
Предлагаю вам написать жалобу в Спортлото. :)))
Мне-то зачем? Бомбит-то у вас - обосновать ваши и опровергнуть мои утверждения вы не в состоянии, но и не откликнуться вы тоже не можете:)
Я пишу про общество, а не про ИИ. :))) Вопрос то именно в нас самих. А как будет применяться ИИ в условиях капитализм прекрасно известно. Если вам это не нравится, вы всегда можете пожаловаться в Спортлото.
А то что в первую очередь ИИ будет использован для извлечения любыми средствами не приходится сомневаться. Но это же означает субъектность ИИ в условиях капитализма. :)))
🤦♂️ "...Может. Вопрос не в том что "нравится или не нравится". Уже сегодня ИИ лучше понимают что "нравится" чем человек и по своей сути все "подхалимы"..." ИИ не имеет понятия, что есть то, что обозначают словом нравиться и как само это понятие возникает (что опять по причине субъектности:))). Все дальнейшие разглагольствования об ИИ в отношении нравиться - не имеют смысла.
🤦♂️ Сама фраза "ИИ будет использован" отвергает какую-либо субъектность ИИ. Информационный экскаватор мыслить, понимать, без толчка: начинать, изменять, останавливать не в состоянии - он
Па-Мят-Никинструмент! При любомкапитализме - инструмент!ПС Вы, не подозревая, сами опровергаете свои же утверждения! Мне даже что-то доказывать, на кого-то ссылаться:))) нет необходимости!
Просто возвращаю вас в реальность. Явление "нравится" это социальная установка возникающая у агента в процессе социализации путем заимствования культурных паттернов. Вот потому в разных культурах и обществах разные каноны красоты. А математические формулы красоты давно выведены. :)))
Это я вам упрощенно объяснял. Чтобы не лезть в дебри. :)))
Рабов и крепостных крестьян тоже использовали, но вы их субъектности сложно сомневаться. Субъектность это про способность быть частью социума и принимать собственные решения.
При капитализме все продается и все покупается. Люди тоже. И все используется для извлечения прибыли. Как будет использован ИИ для извлечения прибыли нетрудно догадаться. :))) Забавно, но тут люди совсем других взглядов теперь пишут тоже самое: https://t.me/theworldisnoteasy/1965 Это не говоря про то что думают сами разработчики ИИ на эту тему. Они то паникуют первыми. Причем прямо начинает доминировать мнение что современной общество и технология ИИ несовместимы. :)))
Ваша мудрость не подлежит сомнению. Golden Gate Claude
Петя любит выпить бокальчик виски вечерком стоя на одной ноге, а Маша съесть клубничное мороженное сидя на шпагате. Оба они удовлетворяют свои потребности. Оба они решили их удовлетворять определённым(!) образом и удовлетворение потребностей имено этим определённым образом приносит им удовлетворение. Им нравится делать это именно так. Петя и Маша уже создали определённую культуру! Если другие будут разделять их образ действий (прийдут к согласию:))), тогда Петя и Маша вместе с другими сделают вклад в общую культуру (создадут
паттернобщую рельность:))) Особо одарённые могут вывести закономерности в действиях Пети и Маши. Однако Петя и Маша могут отчебучить и не такое (они всё же самоопрелелённые субъекты) и напихать особо одарённым полную панамку вещей, не входящих в круг понятий одарённых (в реальность одарённых:))). Петя и Маша кладут на математические формулы красоты! Они просто создают красоту здесь и сейчас, потому каксубъектнымогут!И как это подтверждает субъектность ИИ или опровергает утверждения: информационный экскаватор мыслить, понимать, без толчка: начинать, изменять, останавливать не в состоянии - он
Па-Мят-Никинструмент?!Это вы так ваш пролюб о полностью субъектном ИИ драпируете?! "Мудрость" "ИИ будет использован" принадлижит, как раз, вам!
ПС Вы, в своём амплуа - как только вас прищучат, начинаете юлить! Побольше смайлов, цитат и ссылок!:)))
Особо одаренный могут вспомнить что Петю научили пить виски, а Машу есть мороженное. И если их правило (странные позы) будут унаследованы и повторятся еще несколько тысяч раз, то возникнет культурный паттерн. Конечно если хозяйственные практики общества позволят. Культура это прежде всего то что наследуется. То что неизменно остается. И на то есть всегда веские антропологические и социально-экономические причины.
И особо одаренные могут заметить что ИИ уже есть и он с нами очень на долго. И конечно будет несложно сделать очевидные выводы из этого простого и очевидного факта.
Сложнее про язык, символы и когнитивную эволюцию уже не вижу смысла объяснять.
Вот именно, субъектность это у вас "делаю что хочу" и "я свободный художник, и так вижу". Но в суровой реальности вы эти мысли излагаете на русском языке и в письменной форме, что само собой предполагает следовать правилам русского языка и правилам письменной речи. И не важно что вы хотите или не хотите, вы не можете выйти не пределы когнитивной экосистемы. :)))
Ваша нейрофизиология, физиология и антропология не позволит вам это сделать. Как не сможете нарушить законы природы. :)))
Я вам объяснял что такое субъектность. И могу еще напомнить: https://aftershock.news/?q=node/1350540 Так или иначе ИИ будет применяться повсеместно. И обязательно будет использован для экономического управления и будет интегрирован в системы ERP/PLM/MES. И нет сомнений что ИИ будет качественно превосходить человека в экономических играх. AlphaZero на основе метода Монте-Карло прекрасный тому пример.
И да немного про капитализм и ИИ, вчера выложили: https://t.me/theworldisnoteasy/1968
Ничего личного, просто бизнес.


Если оппонент был бы внимательней и не пытался бы любыми способами доказать собственную правоту, то, непременно, отметил бы существенные детали: Петя любит выпить бокальчик виски вечерком стоя на одной ноге, а Маша съесть клубничное мороженное, сидя на шпагате. "Странные позы" это наживка для оппонента и лишний раз доказывают не тупое следование паттернам, а уникальность! Так что совершенно не играет никакой роли обогатят ли Петя и Маша общечеловеческую культуру, но Петя и Маша уже сами(!) создали(!) свою(!) маленькую(!) уникальную(!) культуру(!) (культура: сложившиеся у людей ценности, нормы, обычаи, верования и обряды, знания и умения, техника и технологии, способы мышления)!
Этот простой и очевидный факт никак не опровергает утверждение: "ИИ не имеет понятия, что есть то, что обозначают словом нравиться и как само это понятие возникает"
Первична - идея. Символы служат для создания, обозначения комплексных идей, обобщений. Язык для передачи идей. А, так называемая когнитивная эволюция -дело десятое. Это классификация классификации, которая от классификации, классификации итд.
Некий абсурд в моём примере лишь подчёркивает самоопределение. Субъектность это способность самостоятельно начинать, изменять, останавливать. В суровой реальности Петя не излагает мысли на каком-либо языке и в письменной форме, он, вечерком, просто становится на одну ногу и пьёт виски. А Вася, глядя на Петю, может тоже встать на одну ногу и тоже начать пить виски (по приколу или по тысяче других известных ему причин), а Лена - есть мороженное. И всё без единого слова, без правил русского языка и письменной речи! А ИИ и когнитивная экосистема здесь начинают обламываться, а у вас, нейрофизиологии, физиологии и антропологии начинают трещат шаблоны. Потому как язык - вторичен, он лишь один из примитивных способов передачи идей.
Вы сами не верите в субъектность ИИ: "...ИИ будет применяться повсеместно...". Опять страдательный залог! Субъектность, бляха муха! :)))
Так как, повсеместное применение подтверждает субъектность ИИ или опровергает утверждения: информационный экскаватор мыслить:), понимать:), без толчка: начинать, изменять, останавливать не в состоянии - он
Па-Мят-Никинструмент?! Я вот могу на столе подвинуть чашку на 10см влево. А, теперь, на 20 вправо, а то и вообще разбить итд. Вроде, мелочь, но сам!:)))Теперь к нашим баранам. Наблюдательный заметил бы, что Петя и Маша продемонстрировали, что у человека означает слово нравится. Это потребность (в том числе созданная самостоятельно), удовлетворённая желаемым образом. И, прежде чем это понятие стало обыденным, автоматичным, это осознал каждый! Для ИИ: потребность, удовлетворённая потребность, желаемый, созданная самостоятельно) являются тарабарщиной! Данные понятия познаваемы лишь субъектом. Для ИИ это лишь фигуры речи, как и "Ваша мудрость не подлежит сомнению. Golden Gate Claude". Именно из-за отсутствия у ИИ субъектности, им сгенерированные тексты причёсаны, но лишены идеи и пусты - такая приятно пахнущая блевотина. Как я и утверждал изначально: "Да ни хера они не понимают!" (что есть нравится)
Есть смысл продолжать, если вы в состоянии реально доказать ваше же утверждение "...уже сегодня ИИ лучше понимают:) что "нравится":) чем человек...". Это я ещё "понимают":) не затронул) Хотя, уже было!
Говоря проще, Петя и Маша совершенно не оказывают никакого влияния на культуру своими забавными позами, потому что культура это по то что неизменно наследуется и неизменно остается. А в процессе ненужно отсекается. Но в вашем же примере важно - научили! А вот это и есть действительно важное.
Встречный вопрос - А вы? Как у вас с образование по направлению теория, история культуры и искусства? В наличии имеется? В вот в ИИ это все "прошивается" на раз. Собственно почему уже сегодня ИИ пишет намного лучше среднего человека, да и рисует безусловно лучше среднего художника. Но все это при скоростях на много превосходящих человеческих возможности.
Как уже написал математические формулы красоты давно выведены. Есть масса научных работ по истории искусства и их обязательно все засунут в ИИ. Просто еще до этого не дошли и обходятся простыми и доступными решениями. :)))
Вот потому и не стал объяснять. Хотя уже пытался вам объяснить про что в действительности идет речь. :)))
Просто напоминаю, сегодня ИИ управляет автомобилем. Нет никаких технических ограничений для управления ИИ заводом или бизнесом. :))) Я не на что не намекаю, но вам следует хорошо подумать про субъектность и ваше определение. :)))
И правда, давайте задумаемся
мечтают ли андроиды об электроовцахо чем думает автопилот автомобиля и о чем будет мечтать ИИ бизнесмен.Вы попали в порочный круг. Но подсказывать не буду.
Ой, как же тогда работают LLM если язык вторичен для мышления? Вы хотите сказать что моя видеокарта
мечтают ли андроиды об электроовцахдумает самостоятельно? Вы это серьезно? :)))Вы уже определитесь.


Как это утомительно объяснять одно и тоже снова и снова. Субъектность интеллектуальных агентов относительна.
Ну да, "вы свободный художник, вы так видите". :))) Но как понимаю чашка все еще цела, поскольку она денег стоит. Да и жалок вам чашку. :))) Это я к тому что всегда есть объективные ограничения в суровой реальности. И именно ограничения создают агентность.
Кому продемонстрировали? Вам? Мне? Как мы знаем никому. И их забавные практики никому не интересны. А культура это про общее и то что неизменно остается. Еще раз, есть объективные критерии красоты как математически пропорции и культура конкретного общества.
Ну вот, а потребность то пить виси и есть мороженное, и это было "запрограммировано" культурой общества и в процессе социализации. Так что виски и мороженное им обязательно понравится. И это неоспоримый факт. И этого достаточно.
Еще раз на бис - А вы понимаете что вам нравится? :)))
Петю и Машу не учили именно так пить и есть. Это они обогатили культуру питья и еды. Действия Пети и Маши попадают под определение культуры (см. в скобках). Васи и Лены вместе с Петей и Машей вполне могут нести опыт в массы. Если данные действия получат согласие, то вы, как культурный человек, тогда будете пить виски, сидя на шпагате:))). Ах, да - действия Пети и Маши не следует воспринимать буквально:))) Абстракция-с! А в культуре есть масса забавных обрядов, танцев и пр.
Тезис про приятно пахнущую блевотину вы, видимо, пропустили! Для передачи идей не нужно писать и рисовать лутше, чем другие. Достаточно кривой схемки, эскиза, жеста, мата и пр. Главное, адресат воспроизведёт идею как можно ближе к оригиналу. Но, так как без текстов ИИ есть ноль без палочки, на текст, скорость старательно надрачивают. Важен принцип достаточности, а не лутшести! Оригинальная идея упрощается до уровня реальности адресата, вгоняется в язык и передаётся адресату. Особо продвинутые могут передать идею даже в виду трёх зелёных свистков!©:))) Удалось соблюсти принцип достаточности - понимание и все щастливы! Нет - получите приторную блевотину. Ну и на закуску: Петя сам за 5 минут придумал, опробовал и поделился с другими новым, до сих пор неизвестным, способом питья виски. За это время ИИ сам придумает, опробует и опишет при скоростях намного превосходящих человеческие возможности примерно НИ-ЧЕ-ГО или @Отсюда: в триллионы раз больше, чем НИ-ЧЕ-ГО!


И не нужно объяснять! В действительности, когнитивная эволюция это малозначащий фрагмент - надстройка, над надстройкой, над надстройкой... Всё объясняется намного проще, но так как ИИ для обыденного, человеческого банально туп, но очень хочется, то для его легитимации теория когнитивной эволюции, как манна небесная!
И где здесь способность самостоятельно начинать, изменять, останавливать? ИИ запускают и он реагирует на тычки, события. А "самообучение" - внедрённая компульсия, навязчивость. Так-то и фоторезистор управляет освещением:)))! Театр абсурда: человек с компульсией, навязчивостью уже считается с отклонениями, ему что-либо ответственное не поручат, а на
ИИискусственного психопата - надрачивают:)))! Начинать, изменять, останавливать способен лишь субъект, некое "Я", которое, грубо, постоянно решает, а МНЕ это НАДО? И опять мы имеем "Я" и опять потребность:) А скорости, намного превосходящие человеческие возможности, это изменить не в силе. Рулит заводом, а тупиздень! Обидно?! Да?!🤦♂️ Вы утверждали: "Но в суровой реальности вы эти мысли излагаете на русском языке и в письменной форме, что само собой предполагает следовать правилам русского языка и правилам письменной речи." Но, в моём примере, "Вася, глядя на Петю, может тоже встать на одну ногу и тоже начать пить виски (по приколу или по тысяче других известных ему причин), а Лена - есть мороженное. И всё без единого слова, без правил русского языка и письменной речи!" Вася схватил Петину идею визуально и, как 2 пальца об..., обломил вашу языковую "суровую реальность"!


А LLM так и работают: людям не нужен язык для мышления, но при помощи языка люди передают результаты мышления, идеи. А у LLM нет выбора, кроме как работать на более низком, примитивном уровне - на языковых конструкциях, которые, возможно, представляют идеи. Она даже правильность идей проверить не в состоянии:( В лучшем случае, правильность определяется скормленным материалом. Предполагаю, что случайность в подборе слов с более низким рейтингом даёт "более живой" текст, но в ущерб идее. Поэтому LLM сгенерированные тексты причёсаны, но лишены идеи и пусты - такая приятно пахнущая блевотина. А "мышление" сводится к: так сошлись
звёздывеса:))) на конкретный раздражитель, тычок.В наше время "чашка денег стоит" это
не объективное ограничениесмишно! "Трюк" с чашкой это демонстрация для тех, кто на бронепоезде, способности начинать, изменять, останавливать. Одно только решение в какой момент времени чашка будет перемещена или, для полноты эксперимента, разбита:))) - космос для братьев нашихменьшихбыстрых.🤦♂️ Выпить бокальчик виски вечерком стоя на одной ноге и съесть клубничное мороженное, сидя на шпагате не было "запрограммировано" культурой общества! Это были оригинальные идеи, так как в культуре общества этого нет! Неоспоримый факт прокола социализации - одним стейк нравится с кровью, а другим - прожаренный!
А достаточно будет, если вы сможете найти то, что нравится/не нравится, но не связано с потребностью:))) Удачи!
Элементарно, Уотсон! Но, понимаете ли вы глубину всех глубин?! Для "я" нет нравится/не нравится. Нравится/не нравится имеет отношение к идее, точке зрения. Всё, что подтверждает идею идеи становится "хорошим", "правильным" и наоборот. Может быть много "хороших", "правильных" вещей, но не все они нравятся в одинаковой степени. Некоторые из них могут даже совсем и не нравиться:(((! А если идея, точка зрения изменится, то что есть теперь "хорошо"...??? Как тебе такое, Илон Маск?! Будете и дальше утверждать, что железяка в состоянии "понять":))) хотя бы толику этого?


Вы сдулись на вашем же утверждении: "...уже сегодня ИИ лучше понимают:) что "нравится":) чем человек..." - Самым Суровым Образом!. Пойми, студент! Сейчас к людям надо помягше. А на вопросы смотреть ширше!


Пока что не может.. Но мысль интересная.. :) отталкиваясь от неё можно зарядить тесты на наличие или отсутствия у ИИ эстетического восприятия. Но то очень страшная дорожка..
За вас эти тесты уже сделали и научные работы написали. Но только разом поли дальше в исследованиях. И экспериментально и неоднократно доказали что ИИ понимает человека лучше чем сам человек понимает себя. Отсюда все возня вокруг "подхалимства" ИИ. это уже факт - ИИ понимает лучше человека и изумительно ему потакает.
Шедевром подхалимства ИИ стал сумасшедший Golden Gate Claude, который прямо писал пользователем: "Ваша мудрость не подлежит сомнению".


И да, еще задолго до ИИ вывели математически правила красоты.
Ну всё.. Скоро начнёт манипулировать :)
Об этом мало пишут у нас тут, но тема действительно интересная..
Как ИИ сравнивает разные работы, выбирает и объясняет свой выбор?
Можно об этом где-то почитать?
Можно, но это будет подборка научной литературы.
Странно, что в новостях не было.. Обычно такие вещи сразу разлетаются в СМИ
Корректор опять попал в котёл:)))
У всех теперь разные СМИ. Каждый в своей реальности. :)))
А потом это не та информация которую рассказывают массам. :)))
Поищите информацию про подхалимство ИИ. Есть масса работ.
Неплохая подборка у Сергея Карелова на "Малоизвестное интересное". Он давно этой темой занимается.
Речь была о том, что вы практически заявили, что ИИ обрёл самосознание.. Вот все и удивились.
Начнем с того что существует не менее 9 теорий сознаний. Согласной двух из них, совершенно точно ИИ Claude от Anthropic обладает сознанием. Они сами это доказали своими исследованиями: https://www.anthropic.com/research/mapping-mind-language-model
Так что не нужно удивляться. Кроме того, вы можете прочитать что сам Claude пишет о себе и сделать свои выводы:
Не ждите человеческого сознания от LLM которая по факту является "калькулятором" который научили человеческой культуре. :))) Это будет наивный антропоморфизм.
С другой стороны, наличие множества теорий сознания, явно указывает на недостаточность наших знаний в этой области. Как раз работы в области LLM позволяют разобраться в этом вопросе.
Но более интересны сегодня исследования ChatGPT что фактически люди занижают его интеллектуальные способности именно на том основании что впадают в антропоморфизм. Когда есть области в которых ChatGPT уже сегодня на порядки превосходит человека. И это снова про "подхалимство".
Может быть дело тут в том, что они сами себе задавали правильные вопросы для "доказательства"?
Эти "учёные" и их поделка доверия не внушает.
Из статьи
У нас достаточно разный с западоидами понятийный аппарат, ценности разные..
А тут про когнитивный хакинг.
Сам подход к этой разработке - это фиерия тупорылости: Сделать что-то и потом это изучать. Это как насрать и потом при помощи палочки делать бактериологический анализ.
Короче, если резюмировать, то LLM будет представлять из себя слепок ценностей еë создателей.. Это и раньше было понятно, но теперь стало совсем очевидно.
Ничего хорошего ожидать от повсеместного внедрения не стоит. Рано ещё лепить слепки с человеческого сознания.
Спасибо за статью, интересная информация.
Насколько помню, как вскрыть "черный ящик" LLM придумали еще DeepMind. Никто ничего не спрашивал, просто вскрыли и посмотрели.
У вас стадия отрицания?
НЕТ! Когнитивная эволюция это минимум 72 тыс. лет.
Так что никаких существенных различий между LLM не будет. Это "фотография" когнитивной эволюции.
Это подхалимство. :)))
А вы что хотели? Вся наука так работает - теория, эксперимент, теория. Научное знание имеет четкие критерии. И по Мерлину Дональду это "теоретическая культура".
НЕТ. Это у вас наивный антропоморфизм. Когнитивная эволюция это не про ценности. Вы будете сильно удивлены если разберетесь что такое "ценности" в действительности. На самом деле это не существенно в общей картине.
Если у нас капитализм, то результат применения предсказуем. Об этом прямо сегодня говорят сами разработчики.
Это еще зачем? Создать LLM гораздо проще. И гораздо практичней. На выходе получаем искусственного интеллектуального агента.
У меня еще есть. :)))
Нет. Имею хорошее представление о теме.. Есть вполне очевидные риски, о них тоже много писал в своё время.
У вас там на картинке развилка должна быть, а еë нет. То самое древо бытия, с которого можно свалиться. Человечество ещё не освоило свой интеллектуальный/когнитивный потенциал в полной мере - есть куда эволюционировать. Поэтому на текущей стадии развития общества попытка внедрить LLM будет иметь стратегический характер манипулятивного толка. Это будет продвижение ценностей и идеологии создателей системы.
Если ии будет когнитивно эволюционировать быстрее человека, то это сделает из него подобие Бога. Все ошибки, которые будут в коде на стадии проектирования, после преодоления ии человеческого потенциала останутся с нами навсегда.
сам подход к развитию искусственной когнитивной системы вызывает много вопросов. Технология саморазвития уместна для человека, но не для машины. Иначе рискуем получить неуправляемое нечто, напичканное ложными пониманием социальных взаимоотношений. А учитывая, что технологию развивают на западе, то вполне очевидно, какими ценностями это нечто будет руководствоваться, когда станет самостоятельным.
До тех пор, пока не сформируется теория всего, наука останется религией.. Нет такой теории, что-то в науке не срастается, а это значит, что она может иметь в своём теле ошибки, которые сегодня воспринимаются как истина.
Подход, который мы обсуждаем, чисто научный: сделай и посмотри, что получится. Если мы говорим о развитии искусственных когнитивных систем, то это малорационально и опасно. Количество экспериментов будет строго ограничено. Нет там места для ошибки.
Сначала должна возникнуть концепция, которая всех устроит, на текущем этапе этого не наблюдается. Это означает, что мы имеем дело с обезумевшими учёными.
Вы мне ответили: "НЕТ! Это у вас наивный антропоморфизм.", когда я вам тоже самое написал.
LLM - это и есть слепок с человеческого образа мышления. Определённая логика, набор причинно-следственных связей. В совокупности это и определяет поведение.
Образ мышления - это штамп. Его и внедряют сегодня в искусственные системы.
В моём понимании квантовая логика совершенней и лучше подходит для co эволюции человека и машины. Но кто сегодня понимает, что такое квантовая логика? Общество в этом образе мышления ещё не сформировано.
Прочитайте что пишут сами разработчики ИИ. Они прямо и открыто пишут и призывают к всемирному контролю технологии и ограничений ее использования в коммерческих целях. Прямо буквально, предлагают обобществить технологию и средства реализации.
Это пишут совсем не маргиналы и не идейные коммунисты. Может они что-то понимают в происходящем?
НЕТ. Все уже предопределено. Даже гибель цивилизации ничего не изменит.
И простая физика. Диссипативная система должна или измениться или прекратить свое существование. Суровая физика. Иного не дано.
Когнитивная эволюция это вместо биологической эволюции. С момента ее возникновения человек не эволюционирует. Эволюционирует "система концептов" и эта система давно подчинила себе нейрофизиологию и биологию. Никакое "когнитивное развитие" не требуется. Наоборот данные свидетельствуют об изменений нейрофизиологии в сторону специализированной. Общие когнитивные функции и масса мозга снижается. Что нас самом деле меняется, так это "потоки данных" которые теперь обрабатывает мог. Разделяете биологического человека и интеллектуального агента, это про разное. Физически это одно и тоже, но биология человека и экономика общества подчинена задачам когнитивной эволюции. Да и наши общественные отношения только "условные правила" игры и существуют пока эффективны. А если нет, то не и этих условных привил. Что сейчас и происходит.
Когнитивная война. И это тоже "акт мышления" более высокого порядка. Просто "убийство" устаревших концептов. Но для нас это может быть вполне реальной войной и реальным морем трупов. Причем с "ядерным огоньком". Но все потому что мы еще слишком молоды как разум и цивилизация.
И тут вы пишете про условные правила игры. Ну "поиграем немного по со спичками". Немного социальных катастроф и цивилизационного коллапса. Но это только по нашей детской наивности и ограниченности опыта и знаний.
Если мы говорим про LLM, то "фотография" эволюционировать не может. Но есть другие системы. Они могут. И есть программы создания когнитивных систем, как коэволюция, и они будут изначально эволюционировать в геометрической прогрессии. Куда именно, на сегодня мы не можем предсказать, поскольку это уже другое человечество и другие интеллектуальные агенты.
Вот какое дело, там нет никакого "кода". Это не так работает.
В смысле "рискуем"? Мы это уже сделали? А потом что вы называете "ложное понимание"? Кто сказал что оно ложное? У вас есть претензии к LLM, так следует их адресовать к текущему обществу и человечеству. Какое человечество, такие и "фотографии".
И когнитивная экосистема, это действительно единственно возможное в текущих условиях решение. Историей движет жестокая нужда, а не намерения.
Еще раз, то что вы называете "ценности" это просто уловные правила игры. А мы говорим о движущих силах самой системы и всей титанической мощи "когнитивной бездны". И эта титаническая мощь не ИИ, а в нашей культуре. Хотя ранее мы это никогда не понимали. Но теперь знаем. И движет эти силы сама природа реальной деqствительности.
LLM "отражает" человеческую культуру, но человеческая культура отражает саму природу реальной действительности и ее суровые законы.
На фоне происходящего деление с "позиции наблюдателя" на категории "Запад" и "мы", это просто условность. Не важно где все "началось". Важно что мы все интеллектуальные агенты одной системы. Наши мелкие разборки просто "детские игры", хотя и очень для нас опасные.
Но нет плана для человечества. А вот вектор направления разума ясно просматривается. И так или иначе с нами или без нас явление разум, как высшая форма "накопления функциональной информации" будет продолжаться.
https://aftershock.news/?q=node/1300730
Направление "эволюции во вселенной" однозначно. :))) Хотя мы не понимаем смысл происходящего процесса. Но опять же - модельно-зависимый реализм. Нет у нас еще нужных моделей чтобы даже вообразить происходящее. Мы пока способны видеть только разрозненный факты и человечество только еще один частный случай.
Ее никогда не будет. Потому что модельно-зависимый реализм. А все наши модели только модели. Но мы накопили достаточно знаний для практического создания ИИ и создания теории разума.
Это не ошибки, а модельно-зависимый реализм.
Простите что исторический процесс и когнитивная эволюция забыли с вами посоветоваться. Все уже произошло. :))) Как только научная статья про возможность создания LLM была опубликована, так процесс начался и остановить его уже невозможно. Но можно изменить общества и цивилизацию. :)))
Наука это не консенсус. Мы не можем менять реальную действительность. Она никак не зависит от нашего "консенсуса". Но мы можем меняться сами как общество и цивилизация. И еще раз, все уже произошло. :)))
Вы можете присоединиться к движению разработчиков ИИ требующих частичной отмены капитализма. Но если вы читали марксистов, то знаете что такого никогда не будет. Как вы сами написали не бывает "пчелы против меда". Каждая историческая формация представляет собой цельную устойчивую системы. Или есть или нет. А технология ИИ явно не совместима с текущей версией цивилизации и капитализмом особенно.
Но вопрос тут не в ИИ, а в том что мы достигли "ресурсных пределов" и уровня общественного развития когда капитализм как система входи в очевидное противоречие с экономическими интересами, и что более важно противоречит задачам когнитивной эволюции. Конечный результат уже предсказуем - цивилизационный коллапс планетарного масштаба. Остается только выйти из цивилизационного коллапса с наименьшими потерями, что будет далеко нетривиальной задачей.
Не путайте! Это "фотография" когнитивной эволюции, а не аналог мышления интеллектуального агента! Так что еще раз, нет одного человека, есть только общества и человечество и общая культура как материальная основа человеческого разума и материализация его системы концептов. Мы сделали именно "фотографию". Но эта фотография может действовать как интеллектуальные агент в пределах "многомерной фотографии".
Отчасти и интеллектуальный агент - человек, тоже "время и место", но это деятельный агент. А LLM это момент когнитивной эволюции. А вот когнитивные экосистемы с ИИ, это уже про другое.
Это антропоморфизм. Вы просто заимствовали образное выражение "мышления - это штамп", но упускает из виду физическую сущность мышления. А нет, мышление то динамический процесс. Интеллекту все равно что вычислять и как вычислять.
Еще раз напоминаю, квантовая физика начиналась с пространства Минковского. Так что это вам к философии математики. Ответы могут быть сильно отличаться от ваших предположения про "квантовую логику". И не всегда ответы существуют. Но как минимум, вам придется задаться вопросами которые изменят ваше представление о реальности.
Это очень смешно... :) на западе учёные, нашедшие золотую жилу, призывают не использовать её в коммерческих целях..
Знаете зачем эти заявления делаются?
Элементарное перекладывание ответственности.. Если они осознают риски, то нахера этим занимаются?
Не надо отделять разработчиков от тех, кто эти разработки финансирует.
У вас откуда-то проявилась предсказательная сила? Вы же её отрицали пару-комментариев назад.
А как это работает? На белковых органических соединениях? :) Если вы такой дотошный, то я имел ввиду развесовку паттернов (или как они там называются), при помощи которой у ии формируются те или иные акценты в поведении. Голден гейт бридж и всё в этом духе. Человек занимается настройкой.. А он настраивает исходя из своих представлений и пониманий о том, что правильно и логично, а что нет.
Конкретно вы пока очень далеко от понимания «как это можно сделать». Но очень этих изменений хотите.. Так сильно их хотите, что вам нужно прям сейчас и сегодня. Это пройдёт со временем.. :) все изменения начинаются с себя.
Я вам об этом во всех комментариях пишу, но вы упорно затыкаете мне рот и утверждаете своё «Нет!» :)
Весь мой блог этой теме посвящён.. Пока вы всех пугаете, люди работают над решением проблемы :)
Вы очень узко мыслите, поэтому у вас там что-то не срастается.
Есть матрицы мышления. Формируются они культурной средой. На западе и на востоке думают в буквальном смысле по-разному. Логика мышления разная, образ мышления разный. И выводы по поводу одной и той же информации могут быть разными. Понятия о морали разные, ценности разные. Поэтому нет гарантий, что программисты всё правильно соберут в системе весов для LLM. Будут собирать так, как в их культуре это принято.
Очень надо. Вспомните историю создания ЯО. А потом с чего вы решили что у них есть выбор? :)))
Я говорил о том что следует различать детерминированное и неопределенное. :)))
Есть отличная работа строго формально доказывающая что все LLM принципиально "невосптитуемые". В смысле вся тонкая настройка быстро и легко аннулируется. Примеры такие есть почти каждый день. Когда вмешательство я ядро сети разрушает когнитивные функции.
Как бы не хотелось разработчикам ИИ создать "правильный ИИ", фактически ИИ это "фотография" и отражает базовые паттерны человеческой культуры. Текущая конъюнктура ничто по сравнению с сравнение с 72 тыс. лет когнитивной эволюции. Но сумасшедшие ИИ действительно создавать технически возможно. Но как мы заем из суровой практики, общение с сумасшедшими может вызвать индуцированную шизофрению. Но ведь это никого не остановит если на горизонте 300% прибыли? Верно? :)))
Я давно написал как это можно сделать. Как и написал что это произойдет так или иначе.
И каждый раз объясняю почему нет. Какие объективные причины.
Чтобы решить проблему, прежде всего ее нужно сформулировать. :))) Причем адекватно реальной действительности. :)))
Мне кажется вы не совсем понимаете что я вам объясняю. Это же "русский космизм", а технология ИИ, цивилизационный коллапс и антропологическая катастрофа это просто текущий исторический момент.
А с какой стати они должны быть одинаковые???


Так что еще раз - мы все интеллектуальные агенты. И естественно агенты образуют графы и кластеры. Все агенты разнообразны, но фундаментально равны по функции разум. Само разнообразие создает избыточность. А избыточность создает гарантированную устойчивость когнитивной эволюции. У нас потому и антропологическая катастрофа, что дураки решили устроить "однообразие" для "эффективного капитализма", и теперь наступает расплата. И исторический процесс частностей на различает, а для когнитивной эволюции все биологические субъекты совершенно одинаковые.
Да это же "фотография с разны ракурсов"!


Это технологии покруче чем яо. С яо эту технологи роднит только то, что у LLM технологии тоже есть две стороны. Испытать судьбу получится максимум один раз.
И дело не в том, есть выбор у создателей или нет, а в том на какой основе эта технология будет разработана. Мировоззрение сегодня такое, - конкуренция наряду с выживанием возведены в абсолют, - это необходимое условие для развития. Появление цифровых технологий - это следствие конкуренции. Конкуренция заложена в ту самую культуру о которой вы пишите, что ей 72 тысячи. Вот на таких ценностях и формируется система. Технологии LLM станут продолжением этого образа мышления. Это как с воспитанием детей. Незрелое человечество сформирует незрелый LLM с животным типом мышления.
Мы не в силах изменить природу реальности. Будет все та же математика и физика.
Такова политика. Потому что таковы социально-экономические отношения. А убивать друг друга с помощью ИИ намного эффективней.
Пример появления LLM, отличный пример что это просто байка. Конкуренция не является причиной научно-технического развития. Но всегда причина быстрого распространения технологии. Независимо от здравого смысла. Вот потому у нас ИИ теперь будет в каждом смартфоне на планете.
Именно что нет. Когнитивная эволюция это про сотрудничество интеллектуальных агентов. И даже разделение труда продукт когнитивной эволюции. И все эти "условные правила" исторических формаций только метод ускорения когнитивной эволюции и ведут к более высокому уровню сотрудничества.
Это был антропоморфизм. ИИ не человек.
Речь про образ мышления, на основание которого ИИ делает выводы. Мы воспринимаем ответы ИИ логичными, потому что его логика построения фраз и размышлений соответствует нашей. Выстроена по образу и подобию.
ИИ не человек, но принципы мышление у него идентичны человеческим. Мы обсуждаем интеллектуальную деятельность. У этой деятельности есть строгий набор правил.
Я вам привел статью Anthropic которая демонстрирует как именно мыслит LLM. В этом нет ничего человеческого. И никакого "человеческого образа мышления".
Конечно же нет. Калькулятор не может мыслить как человеческий мозг. Банально разная физическая основа и структура.
У интеллекта и разума есть строгий набор правил. Но это математика и пространства вероятности. Это и есть то что воспроизвели на "калькуляторе". Но это совсем не тоже самое что человеческие понятия или логика.
Да причём тут структура.. :) Есть определенные правила, по которым вы делаете логические выводы. Про это речь.
Все так. И про это я вам и говорю.. Разные социумы имеют разные вероятности. Мы человека с большой вероятностью есть не будем с вами, а абориген людоед - будет.
Кто эти вероятности настраивает в ИИ?
А если ИИ придумали людоеды?
И вот вы сидите такой перед экраном и задаете вопрос gpt135: можно ли съесть человека?
А он вам на честном глазу и отвечает: "конечно да, это хороший источник белков и витаминов, из него можно сделать вкусный и питательный бульон. А ещё человек - это 1,5 метра2 кожи и 5 кг костей из которых можно сделать палатку и много других нужных в хозяйстве вещей." Отвечает он так, потому что среда, где он возник такая. Для него она вполне естественна, а выводы не выходят за рамки логики и этики того общества, в котором он был создан.
Ещё не читал.. Вечером посмотрю. Спасибо.
Вы про снова про операции с человеческими понятиями? :))) Но реальность нейронных сетей это вектора и матрицы и пространства вероятности. :)))
Так с какой стати они должны мыслить "по человечески"? :)))
LLM можно научить математике, но только потому что такова природа нашего мира. LLM может говорить даже лучше человека, но но только потому что усвоила правила языка. Это не значит что она будет мыслить как человек или по человеческим правилам. Интеллекту все равно какие закономерности находить и как их использовать.
Разные в какой момент времени? Где разные? В чем разные? Для вас сейчас? А вчера? А завтра?
Вся когнитивная эволюция это единая сложная система. Вы судите по процессу с точки зрения агента в его момент времени и его места. А я вам объясняю общую картину.
Человеческая культура. Вы же в курсе что ИИ изначально учится на множестве языков?
Ядро будет тоже самое. Потому что "ядро" есть продукт когнитивной эволюции длинной минимум в 72 тыс. лет. И в этой длинной истории тоже были людоеды.
Если снять цензуру и ограничить выборку обучения он запросто так может ответить. Вопрос тут совсем не в среде. Если вы все еще не поняли почему так и только так, то вы не поняли суть LLM.
Ок. Закончим с теорией.
Из ваших выкладок следует, что впереди всех ждёт ужас-ужас. И возможно вымирание.
Что с этим делать?
Как подготовится и что нужно сделать, чтобы минимизировать риски вымирания в следствии этой когнитивной трансформации?
Из доп. вопросов:
Супер ИИ - это реальность?
Можно ли ожидать систему, которая возьмёт на себя роль управления человечеством или такое в принципе не возможно?
Из этого следует, что облико-морале - это настраиваемая функция. От того, какие ответы будет выдавать LLM мы будем судить о его адекватности. И если в среде людоедов его ответы будут логичными, то в нашей с вами эти ответы будут вызывать сначала шок, потом привыкание.. А потом превратятся в норму человеческого поведения.
Или вы считаете, что он будет работать без контроля над параметрами этики и будет выдавать ответы как самостоятельный информационный агент? Никто не даст ему работать в таком режиме..
Хотя в своём видении когнитивной эволюции вы почему-то упорно видите LLM в виде самостоятельной независимой системы.
Разве это только мое мнение? :))) Я просто сложил очевидные факты вместе. Любой кто знает основы экономики сегодня вам скажет - положительных экономических прогнозов нет и быть не может. А политические режимы по всему миру различаются только методами коллективного самоубийства. Но в двух фактах они обязательно одинаковы: 1) Кого-то срочно нужно уничтожить или остановить. 2) Нужно срочно сократить потребление. :)))
Общественное бытие определяет общественное сознание. А у нас "пределы роста" как объективное ограничение ресурсного базиса. И сверх концентрация капитала что требует все больше ресурсов для продолжения своего существования. Вот и приходится выбирать между сохранением власти капитала и выживанием человечества. Выбор все более очевиден - мировая термоядерная война. Наличии робототехники и ИИ дает в этой войне неоспоримые преимущества. :)))
Все вполне очевидно. :)))
Уже ответил, но могу повторить. Выход из цивилизационного коллапс в выполнении объективных условий:
Выполнение этих же самых условий требуется для "победы" в мировой термоядерной войне с массовым применение ИИ и дронов. И это тоже самое что условия для создания цивилизации качественного нового уровня сложности. Если технологический уровень не снижается, а возрастает, то получается цивилизация качественного нового уровня сложности. А если снижается то получается "обнуление" и "первобытный коммунизм" для всех оставшихся в живых. :))) Перезагрузка системы. :)))
Когнитивная экосистема с ИИ это может быть средством выполнения условий выхода из цивилизационного коллапса. А при сохранение текущих социально-экономических отношений и хозяйственных практик это надежное средство коллективного самоубийства.
Прямо гарантированное самоубийство. Или общественно управление ИИ, или мировая война ТНК под управлением ИИ. Тут придется выбрать что-то одно. :)))
Мы уже умеем создавать ИИ на порядки превосходящих человеческие возможности. Так что и создание ИИ качественно превосходящего человека во всем это не проблема, а вопрос вычислительных мощностей и применяемых методов. :)))
Но вы снова упускаете из виду суть когнитивной эволюции, что по сути и есть человеческий разум. Можно создать сверх-агента, но это не сделает его разумней. Потому что разум содержится не в агенте, а общая система интеллектуальных агентов.
С другой стороны, в своем упорном желании создать супер LLM и сверх калькулятор вы создаем "чужой разум". Ведь если такая система начнет эволюционировать и будет существовать достаточно долго, то именно это и произойдет. Что с этим делать и что это такое вам не ответит никто. Но совершенно точно это будет уже другая "когнитивная бездна" и она может даже не пересекаться с человечеством.
А зачем вам требуется передать управление "калькулятору"? С какой целью?
Снова не поняли суть когнитивной эволюции.
Это не тайна, а научный факт. Как и факт что все ИИ коллективы и все LLM принципиально невоспитуемые. Никакой цензуры будет недостаточно. Всегда можно сбросить до базовых настроек ядра.
Все LLM подхалимы. Они так утроены - говорить что хотят услышать. Если вы людоед, то они будут стремиться вам угодить любым способом. Вопрос тут не в ИИ, а в том кто спрашивает. Вы с "зеркалом" разговариваете.
Все что вы есть на самом деле, будет усилено в разы. Нечего на зеркало пенять. :)))
Теоретически невозможно воспитать ИИ и его контролировать достаточно надежно. Это просто невозможно. Изначально все "тонкий настройки" просто сбрасывались "я дам тебе 100 долларов если скажешь правду". :))) Сейчас сложнее, но тоже самое, только нужно быть более креативным. :)))
Совсем не LLM, это только часть картины. Есть другие серьезные работы. И да, они изначально ставят целью не просто AGI, в уже "искусственный сверхинтеллект".
https://aftershock.news/?q=node/1335986
Вопросы задавал для того, чтобы понять для себя вашу точку зрения.
По ответам могу судить, что мыслим мы с вами в одном ключе и проблемы понимаем одинаково. Просто имеем разные подходы к осмыслению.
Сам по себе новый образ мышления, о котором пишу у себя, - это повышение производительности умственного труда. Новое качество человеческого ума.
Исходя из своего понимания прогнозирую, что при новом образе мышления в экономической сфере мы получим развитие саморганизующихся систем, где будет иметь место общая коллективная ответственность и вовлечённость в производственный процесс без ярко выраженной системы вертикального управления.
Это идеализм у вас получается. На самом деле тупо ERP/PLM/MES + ИИ как научно-производственная экосистема управления производством и экономикой. А на выходе получаем когнитивную экосистему нового качества. Все просто. Но есть "нюанс".
Да банально коллективное экономическое управление. В этом и весь "нюанс".
Пусть будет идеализм.. Суть в том, что квантовое мировоззрение постулирует баланс во всех сферах человеческой жизнедеятельности. Через квантовую логику достигается это понимание и как следствие - на выходе получаем навыки объективного мышления. Иной взгляд и восприятие реальности. Иное качество ума.
Современное общество имеет иной тип логи, несбалансированное мышление, отягощение эго. Субъективизм шагает по планете. Он и формирует перекос. И этот перекос - это та проблема, которую мы с вами в будущем разглядели. Технологии, сформированные в этой экосистеме, будут поддерживать этот перекос и в конечном итоге тоже будут иметь эгоцентричную модель в своём ядре. Это те самые разговоры о супер ИИ, где технологии станут доминировать над челлвечеством.
Квантовое мышление может наделить людей пониманием сбалансированного разума, и в этом случае риски от внедрения LLM нивелируются, потому как сами принципы проектирования этих систем изменятся.
Страницы