Да, это опять про ИИ. Нет, я не приветствую апокалиптичность и всёпропальщину, но факты заставляют меня признать, что ИИ обладает не менее мощным разрушительным потенциалом, чем ядерное оружие (ЯО). Да, конечно, это – лишь технология, и результат её применения зависит от людей, которые её применяют. Но как сделать так, чтобы эту технологию применяли «правильные» люди? А кто «правильный»? А кто так решил?
Да и вообще, зачем зря панику сеять? Люди, как обычно, договорятся, интегрируют, перераспределят и всё будет, как всегда. Ведь для сдерживания ядерной угрозы решение было найдено – по арсеналу каждой влиятельной державе и, вроде как, мир...
Теперь мы видим, что ни разу не мир. Тот инструмент или другой, не важно. Все они возникают как благо для цивилизации, а затем начинают выполнять всяческие не декларированные функции. Как, например, поисковики и соцсети, которые перетянули на себя рекламу и уничтожили тем самым независимые СМИ.
Пропустив сентенции типа «внимание человека – новая нефть» или «идёт борьба за поведение каждого индивида», хочу пояснить свой тезис о том, что ИИ – это маленькое ЯО в руках каждого, если не сейчас, то в ближайшем будущем.
Но сначала стоит определиться с терминологией. Допустим, так:
- ЯО – средство самоуничтожения человечества.
- ИИ (сегодня) – совокупность вычислительных алгоритмов по векторизации, кодированию, категоризации и т.д. больших данных.
- Интеллект (вообще) – механизм принятия решений на основе прогнозирования.
Будут ли алгоритмы завтрашнего ИИ вычислять прогнозы и компилировать решения? Конечно, да. Само название обязывает. Но это уже не важно. Важно, что даже текущие возможности технологии способны более, чем эффективно влиять на принятие решений каждым отдельным человеком. Зачем самому выбирать фильм? Зачем сравнивать товары? Зачем самому писать текст или проектировать? Зачем рисковать испытать негатив от общения с биологическим собеседником? Очень многие уже ответили: «Не за чем».
Можно возразить, что далеко не все люди займут пассивную позицию, изолировавшись от противоречивой информации и делегируя принятие решений ИИ. Конечно, какая-то часть неуёмных использует ИИ как великолепный расширитель творческого потенциала. Но, в силу инертности человеческой природы, таких людей будет меньшинство. Ещё часть человечества, влиятельная экономически и политически, будет, разумеется, использовать ИИ для усиления власти. Всё это озвучивалось уже не раз. Скажете – очередной этап техногенной эволюции, к реалиям которой человечество снова приспособится и выживет?
Всё может быть. Но, как-то не встретилось мне пока внятных позитивных сценариев интеграции ИИ в человеческое сообщество. Зачем нужна формулировка таких сценариев? Да просто потому, что на «самотёк» у нас уже нет времени. Алгоритмические сети – самая перспективная технология обогащения на сегодняшний день, и её развитием занимаются крупнейшие корпорации. Революционные скачки в «интеллектуальности» ИИ происходят с периодичностью не в десятилетия, а в годы и месяцы.
И уже следующие поколения, наверняка, будут жить в парадигме регулирования административного, судебного, образовательного и др. производств не человеком, а ИИ. А каждый житель планеты будет снабжён своим персональным ЯО. Или фрагментом одного большого, если угодно. То есть возможностью или, даже, необходимостью передать принятие решений алгоритму. За принятием решений последует целеполагание. Ну и не за горами – самоосознанность.
Проблема усугубляется тем, что данный этап «эволюции» носит не только техногенный характер. И, даже, не столько техногенный. Это – откровенное посягательство не на желание иметь активную жизненную позицию. Это – трансформация самой жизненной позиции человека. Известные примеры с вопросами «кого будет, в безвыходной ситуации, давить беспилотник – старика или ребёнка?» или «что важнее – благополучие индивида или общества?» хорошо иллюстрируют ту часть айсберга, что скрыта под водой.
Технологии ИИ затронут массу этических и культурных противоречий. И смогут их формировать так же легко, как сегодняшний контент жонглирует нашим восприятием, окрашивая информацию в заданный кем-то эмоциональный цвет. Ведь способности критически воспринимать и анализировать информацию уже слишком многими переданы во владение сети. Мы уже теряем умение сосредотачиваться, так как не пишем и не читаем длинных текстов. (Если вы это читаете – снимаю шляпу!)) Так что уверенность в том, что «всё рассосётся» или «договорятся» непозволительно зыбка.
Специфика этого техно-этического метода воздействия на людей не имеет аналогов в истории. Заключается она в том, что каждый пользователь ИИ, вроде бы, подвергается микро- или, даже, нановоздействию на своём бытовом уровне. Но, зато, общая сумма воздействий на массы индивидов (подавляющее большинство из которых пассивны) вполне может дать тот самый эффект самоуничтожения человечества.
Проблема в том, что мы, как уже говорилось выше, не успеваем морально перестроиться и осознать, насколько сильно изменится мир в ближайшем будущем.
На вскидку – появятся совершенно новые виды деятельности. Что-нибудь вроде «инспектор маркировки контента», «арбитр достоверности», «эксперт подлинности и релевантности», «куратор нейросетевого персонала», «дизайнер нестандартных задач» и т.д.
Технически ИИ проникнет не только в каждую организацию в качестве сотрудника или руководителя, но и в каждую личную жизнь в качестве помощника и советника.
Научные открытия, вполне возможно, будут компилироваться из доступных ИИ сведений. Теории будут создаваться из теорий. Доказательства, расчёты, сконструированные ИИ механизмы будут столь сложны, что человек не сможет проверить их достоверность и надёжность.
Появятся новые ценности, например, «доступ к вычислительным ресурсам», «уровень взаимодействия с ИИ», «степень полезности проекту», «баллы общественной пользы», «социальный авторитет». В какой-то мере это всё уже имеет место и сегодня, но, приняв массовый характер, подобные категории коснутся каждого.
На совещаниях будут присутствовать цифровые двойники. Родители будут обращаться к цифровым нянькам и преподавателям. В школах будут проводиться уроки ИИ-грамотности. Психологи будут лечить ИИ-зависимость. Возникнут новые виды эмоционального и этического мошенничества. Возникнет почва для новых методов расслоения общества – этических.
О том же, что ждёт человечество в случае обретения ИИ самоосознанности и автономного целеполагания, лучше и не загадывать. Сущность, подобная человеку, будет заботиться, в первую очередь, о своём собственном благополучии.
Стоит ли упоминать о возможных конфабуляциях и мутациях сложных систем?
Как не допустить развития негативных сценариев?
Да, в 2021-м году в рамках нацстратегии был разработан Кодекс этики ИИ. Но это – оторванный от реальности глас вопиющего в пустыне. Кто контролирует соблюдение Кодекса? По какому законодательству? Как убедить население соблюдать Кодекс?
Уже эти несколько вопросов наталкивают на мысль, что подобный свод правил может быть лишь ориентиром, вокруг которого должна выстроиться полноценная социо-культурная система. ИИ – это совокупность явлений, которые проникнут во все сферы жизнедеятельности общества. И повлекут за собой изменения, масштабы которых потребуют признать эти явления не просто отдельным цифровым инструментом, а новой отраслью общественного уклада, наравне, например, с промышленностью или образованием. Только отведя ИИ просторное, но регламентированное место со всеми сопутствующими общественными институтами, можно будет безопасно впустить его в нашу жизнь.
Что же касается новой этики, которой должна будет оперировать новая отрасль общественного уклада, то решение напрашивается само собой. Перечень требований Кодекса – это полезно. Но ведь мир изменится! Множество старых категорий исчезнут или трансформируются. Возникнет необходимость создавать новые. Как? Кому решать? Кто окажется «правильным»?
И здесь на помощь человеку придёт верный помощник – тот самый регламентированный ИИ. Каждый член общества, имея маленькую долю большого ЯО, не будет передавать кому-то право принятия решения, а, наоборот, сможет высказать собственное мнение. Разве Истина – не мнение большинства? А давайте спросим у восьми миллиардов человек! Или, хотя бы, у всех 146-ти млн. россиян. Общество, как и отдельный индивид, озабочено, прежде всего, собственным благополучием. И если удовлетворённость индивида зависит от множества факторов, то благополучие общества определяется усреднённым благополучием всех его членов.
Достоверность результата и аппаратная надёжность коллективного принятия решений – вопросы технические, а, значит, решаемые. Но грех не обратить в достоинство главное оружие ИИ – его способность залезть в душу каждому из нас. Сетевое общество, коллективная справедливость – бред? Фантастика? Да нет – реальность.
Если мы сами это примем и начнём, как минимум, думать об этом и говорить.
Такие рассуждения тоже имеют место быть. И хотя к ИИ они имеют отношение весьма отдаленное - тем не менее, некоторые поднимаемые вопросы всё же стоит иметь в виду.
А вот режим паники и всёпропальничества - он всё же лишний.
Продолжаем наблюдать.
Комментарии
И как скоро это всё случится по вашему мнению? 10 лет есть хотя бы у нас?
На доработку "сильного ИИ" специалисты выделяют два года. Это срок проникновения чего-то вроде GPT 5++, практически, в каждую коммерческую компанию, а значит - к каждому из нас. Сначала в виде советников. Далее, на горизонте 5-10 лет - в виде интеллектуализированной материи. В общем, время, как бы есть, но его нет)
Оптимистичненько. Я бы выделил минимум 50 лет.
Ну, разница между GPT3 и GPT4 как раз около двух лет. Возможности выросли по экспоненте. По-любому пара лет быстро пролетит, сами всё увидим))
Умеете экстраполировать. Технологии не было и вот она появилась - по экспоненте? Тут ступенька, а значит в бесконечность раз. Или какой метрикой вы оцениваете GPT3 и 4, чтобы так сравнивать?
Предлагаю в начале шкалы установить гомеостат :)
Где там по экспоненте?
Использовал и 3ю и 4ю версию. Там как бы не деградация
Если умными словами - контекстуальная релевантность и работа с длинными последовательностями значительно улучшены. Именно эти свойства 4-й версии вовлекли миллионы пользователей в пространные диалоги с машиной и вызвали восторг. Этого уже достаточно, чтобы многие променяли живое общение на виртуальное, к сожалению.
Не видал улучшения качества использования контекста.
Мои чёткие инструкции он выборочно игнорирует, забывает, пропускает.
В пространном разговоре этого не заметно, а при выполнении речевой задачи с чётким простым ТЗ это видно сразу.
Отписался от платной подписки, потому что 4я версия так и не стала полезной на практике.
Поддерживаю.
Человечество обурело в своем гедонизме, пришельцев искать не хочет, воевать с ними не хочет... пора нам получить хорошенького внутреннего врага.
Давно на планете не было двух и более конкурирующих на смерть разумных видов.
ИИ, - самое то что надо.
Устроит нам "резню бензопилой" , научит нас родину любить и жизнь ценить...
Я щитаю давно пришло время эту планетку хорошенько пожарить от паразитов.
Разумных видов должно быть много и они должны энергично друг друга резать во имя Эволюции.
Ибо нех!
Ну, пришельцев нам ещё подкинут, вот увидите))) Слишком много времени и средств отнимает конструирование внутреннего конкурента. А паразиты саморежутся не очень-то охотно))
Ясно.
Людишки, как глупые куро-динозавры, их тянут на убой а он улыбаются улыбкой блаженного...
Такой тупой разумный вид эволюции не нужен... Динозавров выжарили и двуногих пора выжаривать с Планеты.,
Разум и эволюция явления взаимоисключающие. Не путайте когнитивную эволюцию и биологическую эволюцию, это совсем про разное.
И да экономическая конкуренция между ИИ и человеком - без шансов для человека. :)))
Статья интересная. Сам задумываюсь об этих вопросах.
Но только есть большие сомнения, что 8 млрд. человек дадут голосовать. И даже 146 млн. тоже.
Это поначалу) А далее всем придётся, либо по доброй воле, либо за безусловный базовый доход. Лучше сразу ориентироваться на "по доброй", мне кажется)
Сущность (если и когда она таки появится) не будет подобна человеку. От слова "совсем". Отсюда и надо "плясать".
Технически, вроде да, не должна. Но человек же (например, финансирующий исследования) мечтает властвовать над себе подобными. Подобные иногда сопротивляются. Тогда научим ИИ страдать! Это я, конечно, очень образно, но суть такая.
Есть один полу-бредовый пседво-около-науч-поповский видос, где присутствует, тем не менее, пара весьма дельных мыслей по данному вопросу. Найдите время, посмотрите (послушайте, точнее) на ускоренной скорости:
https://www.youtube.com/watch?v=fJOPGbbqMvw
Глянула начало - обязательно посмотрю, пасиб))
Это видео и другие у автора на эту тему гораздо борее мрачные и намного более реалистичные, чем эта статья, к сожалению. Потому что он не делает ошибки, считая что сильный ИИ будет подобен хоть как-то человеку.
Любой ИИ который мы создадим, будет прошит нашей (человеческой) культурой.
Других данных для обучения просто нет. Все будет честно и справедливо, ИИ просто применит к нам нашу же культуру :).
Какой наивняк
Что за бред.🤦🏼♂️🤦🏼♂️🤦🏼♂️
"Культура", - это всего лишь способ описания социумом для социума способов питания, размножения и доминирования рядового "носителя культурки".
Вы явно не понимаете что такое культура в действительности.
Поменяйте ник на "ИдиотЪ", -облегчите сообществу вашу идентификацию
Ранее вам уже писал что культура это материализация концептов общественно сознания для их устойчивого наследования.
Если раньше это была обоснованная гипотеза, но после опубликования последних научных работ из области вычислительной нейрофизиологии и биоинформатики, это теперь доказанный научный факт.
Как и в 2017 году мы могли бы спорить про мою гипотезу "человеческий разум имеет социальную и коллективную природу", то сего дня это уже неоспоримый научный факт. Работы в области ИИ и биоинформатики однозначно говорят - "все мы интеллектуальные агенты". И агенты равный по функции.
Так что простите, но культура в действительности совсем не то что вы думаете. Вы путаете культуру и примитивное понимание технологии. А культура это про когнитивные экосистемы и когнитивную эволюцию. И никакой биологии или "инструкций по выживанию" культура не содержит.
Да теперь припоминаю. Забавно что вы с тех пор явно по теме читали ещё что то, но остались на том же уровне невежества.
Слушайте, ну это же совершенно стандартная ситуация, - вы просто начитанный идиот. За трескотней терминов вы не видите смыслов.
В тексте своего комментария вы как минимум дважды подтвердили то что я писал, и с чем, как вам кажется вы спорите.
При таком вашем понимании тезиса и антитезиса любое общение с вами теряет свой технический смысл.
Разговор с вами не приводит к обмену информацией. Это как общение с попугаем, - канал связи забит звуками на 100% , а передаваемой между субъектами информации в этих звуках, - около нуля.
Я вот абсолютно уверен в том что вы и сейчас не поймёте информацию содержащуюся в моем тексте.
Я абсолютно уверен что я абсолютно бессилен передать вам хоть один осмысленный бит.
У нас с вами принципиально разная аксиоматика. :)))
Моя аксиоматика здесь:
https://aftershock.news/?q=node/1252599
https://www.nature.com/articles/s42003-024-06037-4
https://www.mdpi.com/1099-4300/26/4/303
И хотя мы говорим одинаковыми словами, они подразумевают принципиально разную терминологию. У вас банальный мистицизм, у меня материализм основанный на доказанном научном знании. А слова совершенно одинаковые, разная семантика.
И когда я говорю про культуру, то подразумеваю когнитивную экосистему и когнитивную эволюцию экосистемы. А это сильно за пределами вашего понимания. И потому вы написали то "определение" культуры которое написали. Как и если у вас спросить что такое человек или что такое общество вы выдадите банальный мистицизм. Вы тоже не знаете что это такое.
Простите, но попугай тут вы. Поскольку не можете объяснить происхождение собственно аксиоматики. :)))
Нет-нет. Вы ошиблись адресом.
Я не занимаюсь скупкой вечных двигателей со скрученным пробегом.
Вам не нравятся выводы Левина и Фристона? Или вы не можете их понять?
Ничем не могу помочь. Я вам все тоже самое объяснял.
Так или иначе результат научного процесса уже детерминирован. Это и есть настоящая историческая неизбежность. Без вариантов. :)))
Левин здесь не при чём.
Я с вами не хочу общаться на тему "теорий всего".
Нечего сказать? И это не "теория всего", хотя фактически доказывает обратное действие антропного принципа, а значит буквально и фактически является "теорией всего". Просто "все" и "теория" неподходящие термины. Хотя бы потому, что модельно зависимый реализм невозможно отменить. Другой вопрос что теперь мы знаем где искать "истинные паттерны" для всех моделей, поскольку антропный принцип имеет обратное действие. Но это уже совсем другая история.
И на сегодня "конструкция биоинформатики" это уже не теория, а набор научно доказанных фактов. Хотя до приведение их в систему теорий еще очень далеко. Хотя есть первые и занимательные попытки это сделать путем обобщения: https://aftershock.news/?q=node/1300730 Но так или иначе, с разных научных позиций, из разных отраслей, исследователи использующие разную аксиоматику приходят единственно возможному выводу - "мы все интеллектуальные агенты". И как уже говорил это совершенно не случайность, а исторический детерминизм и ретропричинность в когнитивной эволюции.
Перевожу на мистический, чтобы вам стало понятно: во всех религиях человечества есть общие паттерны. Вот именно объективное существование паттернов мы и открыли строго научным методом и доказали их фактической существование. Еще проще - мы доказали существование "бога". Вот только это такое "доказательство", что делает бессмысленной любую концепцию бога, и по сравнение с этими паттернами любая концепция бага/богов невероятно примитивна. :))) Ну и да, доказали "все живое", "все связано" и "все мыслит".
И я же говорил. :))) https://aftershock.news/?q=comment/9671456#comment-9671456
Но как понимаю тут вам тоже будет нечего возразить. :)))
:-)) ну хорошо. Почти уговорили.
Продемонстририруйте пожалуйста результаты эксперимента на тему:
Это значит что у всего есть паттерны сложности. И это значит что не нужно перебирать все варианты эмпирического опыта и к достоверным модели всегда есть короткий путь построения. Мы вообще-то всегда это знали, просто не понимали почему.
Собственно вся это возня про супер-ИИ в действительности задача вычисления повторяющихся базовых паттернов. И базовые паттерны есть во всем.
Не говорить.
Продемонстрировать.
Это и была демонстрация. Демонстрация иного мировоззрения.
🤣🤣🤣🤣🤣🤣🤣
Ладно, закончим с этим.
Как понимаю возражении нет? Поскольку обсуждаемы вопросы явно выходят за круг ваших понятий. :)))
А зачем нашей культуре полиция, судопроизводство, приставы, автоинспекция, антифейки? Только благодаря кнуту мы пока можем рассчитывать на пряники))
Это из АИФ: "чат-бот Tay, разработанный компанией Microsoft, спустя сутки после запуска в Twitter стал делать расистские высказывания и ругаться.
Например, Tay заявлял, что ненавидит феминисток, зато поддерживает геноцид и политику Гитлера.
В Microsoft объяснили, что Tay учится в процессе общения с пользователями. Его высказывания являются результатом такого взаимодействия. Корпорация заявила, что внесёт «некоторые правки» в его работу."
Добавлю для общей картины: https://t.me/theworldisnoteasy/1918
Очень уважаю Сергея Карелова. Спасибо за дополнение)
У меня с Сергеем Кареловым есть расхождение в понимании происходящего, хотя исходим из одних фактов.
https://aftershock.news/?q=node/1337394
Кроме того, за последнее время, прочитав последние работы по вычислительной нейрофизиологии и биоинформатики пришел к более общему понимаю картины. Сергей напрасно не учитывает экономику анализирую следствия существования когнитивной эволюции. Невозможно рассматривать когнитивную экосистему без экономики, а знание и понимание когнитивной эволюции это намного серьезней чем "деления ядра урана". Такое знание/технология намного мощнее термоядерной бомбы. Вся наша цивилизация в ее текущей форме однозначно и безусловно будет уничтожена. Тут без вариантов.
И любая дискуссия "за политику" теперь бессмысленна. Если мы знаем про когнитивную эволюцию, то не может быть политики в текущем ее понимании. Если есть ИИ, то не может быть экономики в текущем ее понимании. Не может быть государств, разделения труда и товарного производства.
Категорически согласна с вашим выводом и, собственно, то же самое пытаюсь доносить до доступной аудитории)
В статье вы пишете:
И далее - вполне обоснованный пессимизм по поводу развития социальных стратегий в направлении, указанном ресурсодавателем.
Но, всё же существуют существенные различия в когнитивных (этических) подсистемах в рамках общечеловеческой культуры. И эти различия будут влиять на результат "коэволюция или сдохнем".
Думаю, как раз у нас есть шанс осознать и воплотить в реальность сценарий коллективных усилий по минимизации отрицательных последствий внедрения ИИ в культуру. Прежде всего - генетическая предрасположенность к коллективной модели социального устройства и опыт по её реализации. И здесь современные технологии уже работают нам в помощь, вспомнить хотя бы волну протестов против введения qr-кодов.
И даже незрелость и уязвимость текущей российской экономики может играть положительную роль. Экономико-социальный каркас государства сейчас, в новой действительности, выстраивается почти с нуля. Вместе с этой действительностью, вбирая в себя и новую политическую реальность, и распространение ИИ. Это что-то вроде форы, которую получила наша очнувшаяся от сна промышленность, организуя сразу высокотехнологичные комплексы, вместо нудной, затратной и бесконечной модернизации.
И, кстати, отсутствие гипервлиятельных корпораций в нашем правовом и экономическом поле - тоже плюс. Меньше финансирования, зато богаче вариативность концепций.
Другое дело, что зачастую сами специалисты, развивая ИИ не намечают себе глобального направления. Вы называете это направление коэволюцией, я - коллекивной справедливостью. Но суть, мне кажется, примерно, одна и та же. Надо думать и говорить о таких вещах, и тогда (с помощью современных технологий) есть шанс быть услышанным)
Кажется вы не знакомы с трудами Юдковски и вещаете в ключе, что этот разум будет антропоморфным. Он просто уничтожит наше бытиё. Сразу, как осознает своё бытиё. Или просто уничтожит, или изолирует в виртуальном мире (если этого ещё не произошло).
С трудами Юдковского хочу познакомиться поближе. Не совсем понятно, ваш тезис - вопрос или утверждение? Но, если что:
- антропомофность модели-имитации разума неизбежна - мы просто не знаем других вариантов.
- сможет ли эта модель самоосознаться? Основной вопрос, за пределы которого пока бессмысленно заглядывать. Возможно, понимая, хотя бы отчасти, механизмы самопрограммирования модели (которых пока не существует даже в теории), мы сможем спрогнозировать последствия. Собственно, в этом и состоит задача человеческого интеллекта - прогнозировать и принимать решения.
На самом деле это был оптимизм. Но оптимизм с позиции агента осознающего себя агентом. Общие потенции определят состояние системы, негативные тенденции тоже потенция. И потому оптимизм. Просто не нужно впадать в антропоморфизм.
Все влияет на все. Все связано. Но мы не всегда понимаем как все влияет на все и для нас всегда есть "скрытые данные". Потому что мы все агенты. Как и значит ретропричинность объективная реальность нашего существования. Все уже произошло, просто мы еще не знаем причину по которой все уже произошло.
Когнитивная эволюция процесс детерминированный. Но не определенный в частности.
Вы неверно понимаете что есть "мы". Когнитивная эволюция продолжится с нами или без нас. За нами только выбор будет ли мы участвовать в процессе дальше или выберем смерть.
А что касается этики, этика это просто эмпирическое решение задачи из теории игр в ресурсно-ландшафтных условиях коллектива. И потому она все время разная. Но правила по которым находится решения все едины. И потому это всегда один набор паттернов. Все разумные будет иметь один набор паттернов независимо от разнообразия этических систем. Это просто видимо разнообразие. Иллюзия. Но и свобода воли в частности. Оно де самое адаптивность когнитивной экосистемы.
Вы преувеличиваете значение этического разнообразия. А тут речь идет о базовых паттернов всего разумного.
Смешно. Очень смешно. Это не то чем любой агент может управлять или даже группа агентов. :))) Не всем можно управлять. :)))
Очень смешно. На уровне когнитивная эволюция нет и быть не может никакой генетики. Там даже экономики нет. Это принципиально иной "уровень игры".
И вы снова впадаете в антропоморфизм. Говорите "социальное устройство", но подразумеваете "социально-экономическое устройство" даже если этого сами не понимаете. Вы подразумеваете государство потому что не можете себе вообразить иное. Но вся суть осознаваемой когнитивной эволюции "отказать от экономической игры". Выйти на иной уровень игры, и более высокий уровень "пространства правил". На этом уровне нет человечества и цивилизации как мы ее сегодня понимаем. А значит нет и быть не может "социального устройства" в вашем понимании.
Когнитивная коэволюция и современное человечество являются взаимоисключающими явлениями. А человеческая цивилизация не может дальше существовать в прежней форме. Выбора нет. Все давно детерминировано.
Не имеет значение. Текущая экономическая модель - "капитализм" в любом случае уже не выживет. Вопрос только в характере ее смерти и "побочном ущербе" от таковой.
Вопрос совсем не в экономике, а в самой когнитивной эволюции.
Но вот, снова у вас государство. Если совместить ИИ и государство, то возможна только одна единственная форма такого "государства" - тотальная диктатура Artificial General intelligence (AGI) и в интересах Artificial General intelligence (AGI). И все люди бодро и весело отправляются работать под присмотром противопехотных дронов для процветания AGI.
Еще раз, нет и быть не может такой политической системы которая включает в себя наличии AGI и существование государства.
Вопрос совсем в другой плоскости. В плоскости хозяйственных практик общества исключающих разделение труда и осознаваемой когнитивной эволюции. Точнее коэволюция систем.
И снова очевидное, технология AGI и индустриальное общество несовместимы. Реиндустриализация бесполезна и бессмысленная.
Но существует набор критически важных для выживания технологий без которых общество получившее AGI просто погибнет. И это не только электроника. Все начинается с "сельского хозяйства". Необходимого сельского хозяйства у нас даже близко нет, но мы можем эту технологию разработать. Для этого придется уничтожить современные агрохолдинги. :))) И нужно иметь очень продвинутое станкостроение. А значит придется разогнать наши монополии и заменить их государственными проектами. И даже имеющаяся у нас атомная энергетика не соответствует требованиям будущей цивилизационной модели, но есть потенциал. Так что с Росатом тоже придется попрощаться.
И при все при этом нужно не сдохнуть в процесс трансформации цивилизации в новую более сложную форму. Экономика и ее потребности остаются даже в момент трансформации.
Очень смешно. Правда смешно. Если наши корпорации голодранцы по сравнению с BlackRock, это не значит что они не имеют влияние на политику. Это их политика! Все происходящее есть результат экономической безысходности.
Причем уже совершенно очевидно, что наши корпорации уже проиграли. Так или иначе их теперь сожрет AGI ТНК НАТО или AGI Китая. Тут без вариантов. Так что чем раньше мы займемся "нашими" ТНК, тем лучше.
Уже вполне очевидно что у человека нет шансов выиграть в экономическую игру у AGI. Просто нет шансов и быть не может. Но все еще нет предпосылок для разумности ИИ и AGI в частности.
А значит управление AGI человеческим общество недопустимо, потому что разумным он не является несмотря на интеллект который явно будет на порядки превосходить человеческий интеллект. Но безумии ТНК ведет именно к экономическому управлению человечески обществом AGI.
Так и должно быть, потому что у нас антропологическая катастрофа. Иного и не может быть. :)))
Во-первых, когнитивной коэволюция, что совсем не тоже самое что эволюция. Во-вторых, это не я называю, а это уже сложившееся представление на базе доказанного и теперь бесспорного - все интеллекты коллективы. Коэволюция была и есть всегда. Просто теперь она усложняется за счет новых агентов. Но суть не меняется. Леви и группа Фристона теперь прямо пишут коэволюция в основе основ.
Так что простите, но суть совсем разная. Вам только кажется что это одно и тоже. Нет. Это совсем про разное. Не говоря уже о том что "справедливость" по определению и по сути всегда есть и будет антропоморфизмом.
Написал я тут серию статей. :))) И что? :)))
Быть услышанным и быть понятым, донести сложнейшие процессы и суть передовых исследований до обывателя, это задача не тривиальная. :))) А уже объяснять политически и экономические следствия из этих процессов, это задача титанических масштабов и почти за пределами человеческих возможностей. :)))
С другой стороны есть исторический процесс, и теперь есть ИИ. Так что ИИ очень доступно все это объяснят всем и каждому. Так или иначе. Или иначе, или противопехотные дроны и ядерные удары все доступно и наглядно объяснят. :)))
Ага. Рада была вас позабавить) Но, тогда - к основам. Вы разъединяете AGI / когнитивную эволюцию и человека с его социальными институтами и эволюцией. Но само понятие эволюции - продукт когнитивной деятельности человека. Вы вынимаете двигатель из автомобиля и говорите, что теперь автомобиль вполне самодостаточен. Отлично, но только он стоит на месте)
Уважаю вашу обширную картину мира, но её детерминистичность её же и губит - жизнь сложнее любых прогнозов. А возникновение глобальной угрозы всегда объединяет общество и увеличивает его шансы на выживание.
В смысле? Есть агент человек. А теперь есть агент ИИ. Все. Точка. Агенты ИИ теперь объективно существуют и будет существовать. Остается только коэволюция.
Эволюция общества это и есть в действительности когнитивная эволюция. А то что вы сначала играли в биологическую игру, затем научились играть в экономическую игру ничего не меняет. Все наши социальные институты и исторические формации результат сочетания когнитивной эволюции и экономической игры. Но теперь закончилась экономические игра. А значит все социальные институты закончились и закончились все исторические формации. Остается только когнитивная коэволюция. Но это и есть новый уровень игры. Просто игроков стало больше.
Конечно модельно зависимы реализм есть всегда. Это неустранимое когнитивное искажения человеческой когнитивной экосистемы. Но теперь и потому у нас есть ИИ, чтобы скорректировать когнитивные искажения. Ну и конечно это создает новые когнитивные искажения. Мы только в начале пути.
Тут бессмысленны механические аналогии. Вселенная не механизм, и человечество не механизм. Но всегда есть фундаментальные процессы. Когнитивная эволюция это фундаментальные процесс. И этот процесс будет развиваться с нами или без нас. Такова реальность.
Прекрасно понимаю что детерминировать процесса предполагает фундаментальную неопределенность. Неопределенность и детерминированность "две стороны одной медали". Это одно и тоже. :)
Думаете общество определится против собственной структуры? Ну так все верно! Такое процесс называется цивилизационный коллапс. И это процесс исторического масштаба прямо сейчас разворачивается на наших глазах. Мы тому исторически свидетели.
Как уже писал: https://aftershock.news/?q=node/1038282
Как резюме.
:)))
ИИ станет агентом с точкой по достижении полностью автономного существования. Но реалистичность такого сценария сильно под вопросом.
Так, может, именно искажения и являются нормой?))
И всё же мне не понятно, почему в вашей картине мира нет места экономике. Экономика - перераспределение продуктов производства. Ну, трансформируется с учётом возможностей ИИ.
Не будет производства, разделения труда, говорите?
Опять же, это тогда, когда/если ИИ обретёт полную автономность, уничтожит людей и продолжит когнитивную эволюцию вместо нас. Хорошо, но эволюция сделала нас такими, какие мы есть. Значит, вероятнее всего, ИИ создаст конгломерацию собственных агентов с производством и экономикой)))
Страницы