GPT-4 тупеет на глазах

Аватар пользователя Георгий Васильев

Сверкающий дворец воображаемого прекрасного будущего человечества, в котором за нас будет думать Великий (и ужасный) Искусственный Интеллект, дал первые трещины. Первой забила тревогу группа исследователей из Великобритании и Канады, опубликовавшая в мае статью "Проклятие рекурсии: Обучение на сгенерированных данных заставляет модели забывать", в которой предупреждает, что использование при обучении лингвистических моделей контента, сгенерированного самими моделями (и сейчас активно заполняющего интернет), приводит к необратимым дефектам. Это, в свою очередь, приводит к коллапсу модели — «дегенеративному процессу, при котором со временем модели забывают истинное распределение исходных данных <...> этот процесс неизбежен даже для кейсов с почти идеальными условиями для долгосрочного обучения».

«Со временем ошибки усугубляются и в конечном счете заставляют модели, которые учатся на сгенерированных данных, еще больше искажать реальность, — прокомментировал VentureBeat один из ведущих авторов статьи Илья Шумайлов. — Мы были удивлены, наблюдая, как быстро происходит разрушение модели: модели могут быстро забыть большую часть исходных данных, из которых они изначально извлекли уроки». Таким образом, производительность ИИ ухудшается, это приводит к большему количеству ошибок в ответах и создаваемом контенте и к гораздо меньшему разнообразию безошибочных ответов.

Попадание чересчур большого количества сгенерированных текстов в обучающую выборку действительно может привести к формированию петли обратной связи, которая сузит диапазон знаний конкретной системы и заставит ее сжиматься до ограниченного набора результатов. Исследователи предупреждают, что для обеспечения достоверности данных прежде всего  нужен доступ к реальным данным, созданным человеком. То есть ИИ не способен создавать новый достоверный контент, он представляет собой эдакий гибрид попугая и "испорченного телефона".

* * *

Еще одна статья появилась 18 июля и сразу привлекла к себе общее внимание. Исследователи из Стэнфордского университета и Калифорнийского университета в Беркли опубликовали совместную научную работу, в которой утверждается, что ответы модели GPT-4 меняются с течением времени. Эта работа подпитывает распространённое, но пока недоказанное мнение о том, что производительность популярной ИИ-модели естественного языка за последние несколько месяцев сильно ухудшилась во многих задачах.

В исследовании под названием «Как меняется поведение ChatGPT с течением времени?», опубликованном на arXiv, Линцзяо Чэнь, Матэй Захария и Джеймс Зоу выразили сомнение в постоянно высокой производительности крупных языковых моделей OpenAI, в частности GPT-3.5 и GPT-4.

Используя доступ через API, специалисты тестировали версии этих моделей за март и июнь 2023 года на таких заданиях, как решение математических задач, ответы на деликатные вопросы, генерация кода и визуальное мышление. В частности, способность GPT-4 определять простые числа, по данным исследователей, резко упала с точности 97,6% в марте до всего 2,4% уже в июне. Но вот что странно — модель GPT-3.5 в большинстве задач наоборот показала улучшенную производительность за тот же период [Вероятнее всего, потому что она значительно менее сложна и обучена на порядок меньшем количестве данных, то есть масштабирование здесь является огромной проблемойГВ].

Мотивация провести подобное исследование у учёных появилась вскоре после того, как люди начали массово жаловаться, что производительность GPT-4 якобы стала постепенно снижаться. Одна из популярных теорий о возможных причинах подразумевает искусственное ограничение производительности самой компанией OpenAI для снижения вычислительных затрат, повышенной скорости отклика и экономии ресурса графических процессоров. Ещё одна забавная теория заключается в том, что «тупым» GPT-4 сделали люди, которые просто часто задают ему глупые вопросы.

Между тем, OpenAI последовательно отрицает любые заявления о том, что возможности GPT-4 ухудшились. Только в прошлый четверг вице-президент OpenAI по продуктам Питер Велиндер написал: «Нет, мы не делали GPT-4 глупее. Скорее наоборот: мы делаем каждую новую версию умнее предыдущей».

Однако, повсеместные заявления о снижении производительности GPT-4 заставили OpenAI провести собственное расследование. «Команда знает о сообщаемом регрессе и изучает этот вопрос», — сообщил в эту среду Логан Килпатрик, глава отдела разработки OpenAI. То есть проблема все-таки есть и ее как-то придется решать во избежание неожиданного краха моделей.

Возможно, светлые умы на стороне смогли бы помочь разработчикам OpenAI выяснить причину регресса их системы, однако исходный код GPT-4 закрыт для сторонних разработчиков, за что компанию порицают при каждом удобном случае.

OpenAI не раскрывает источники обучающих материалов для GPT-4, исходный код или даже описание архитектуры модели. С закрытым «чёрным ящиком» вроде GPT-4 исследователи остаются «блуждать в темноте», пытаясь определить свойства системы, которая может иметь дополнительные неизвестные компоненты. Кроме того, модель может измениться в любое время без предупреждения.

* * *

Получается, что чем более похожим на нас мы стараемся сделать "искусственный интеллект", тем больше он приобретает и наших отрицательных качеств, от откровенной лжи и подтасовок до возможности галлюцинаций, умственной деградации и даже внезапного помешательства от перегрузок. Так что доверить ему что-то более серьезное, нежели помощь человеку в сборе и обработке данных, рисование картинок к статьям или создание дайджестов новостей для обывателей, вряд ли кто-то решится.

Естественно, необходимо иметь в виду, что речь идет не о нейросетях как таковых, использование которых имеет множество преимуществ перед традиционным программированием, а о том, что совершенно необоснованно и преждевременно назвали "искусственным интеллектом" (примерно так, как мы явно преждевременно назвали себя "человеком разумным")).

Главная проблема в том, что GPT и ей подобные не понимают смысла заглоченной ими информации (так сказать, потребляют, но не переваривают), а так же не имеют возможности отличать достоверную информацию от недостоверной и даже фейковой (прямо как многие люди), обходясь только статистическими обоснованиями (что чаще упоминается, то и верно). Это что угодно, только не интеллект, для которого главным все-таки является соответствие информации и знаний объективной реальности. Но лингвистические модели не имеют доступа к реальности, так что перспективы у них пока весьма туманны.

О том, что эта область достигла своего уровня насыщения и дальше может наблюдаться если не откат, то как минимум плато, свидетельствует еще один немаловажный факт. Глобально сфера ИИ — одна из самых щедро инвестируемых, однако в 2022 году показатель объема частных вложений в эту область сократился впервые за десятилетие. Так, в прошлом году инвестиции в ИИ в мире составили $91,9 млрд, это на 27% меньше, чем в 2021 году, когда показатель составлял рекордные $125,4 млрд, говорится в отчете Стэнфордского университета «Индекс искусственного интеллекта-2023». При этом прошлогодний показатель в полтора раза выше уровня 2020 года и в 18 раз — 2013 года.

Источники:

https://www.forbes.ru/tekhnologii/491359-gradacia-degradacii-ozidaet-li-generativnyj-iskusstvennyj-intellekt-vyrozdenie

https://www.securitylab.ru/news/540205.php

Авторство: 
Авторская работа / переводика
Комментарий редакции раздела цивилизация здравого смысла

Если с юмором - выходит, что эти нейросети в результате неизбежно скатятся к порно, так как известно, что 80% Интернета - это порно и есть.

Без юмора - а если этот регресс переложить не на ИИ, а на человека и человечество, как коллективный интеллект? Может быть, мы и в общемировом масштабе наблюдаем точно такой же процесс? И есть реальный смысл во фразе "количество разума на планете - величина постоянная, а количество людей постоянно растёт"? То есть в свете статьи - изначально был задан определённый объём истинных данных, с которым далее человечество работало, как нейросети работают сейчас с тем, что задал им человек, и в результате такой "работы", без подключения к источнику реальных данных (Истины?) мы действительно теряем Разум? smile8.gif

Комментарии

Аватар пользователя Watcher
Watcher(5 лет 8 месяцев)

О как! Какая-то самоколлапсирующая информационная черная дыра. 

Комментарий администрации:  
*** Уличен в дешевой политоте - https://aftershock.news/?q=comment/13285502#comment-13285502 ***
Аватар пользователя Status Quo
Status Quo(5 лет 7 месяцев)

Думаю, причина деградации в том, что система при получении новых базовых данных затирает старые. А по уму надо бы сохранять все варианты и путём автопоиска дополнительных сведений определять наиболее близкие к истине варианты на данный момент. Да, этот алгоритм чудовищно нагружает систему, но ни кто не обещал, что будет легко и просто.

Аватар пользователя Omni
Omni(11 лет 10 месяцев)

определять наиболее близкие к истине варианты на данный момент

У системы нет технической возможности определить истинность текста - провести эксперимент, и, как давно известно, интернет тупеет от детей, что так-же необратимо гробит все  усредняющие фильтры коими эти обучаемые псевдоИИ и являются.

Аватар пользователя kredo
kredo(5 лет 9 месяцев)

Про истинность текста, там под ссылкой весьма большой текст на тему...

Искусственный интеллект думает, что Конституция США и Библия были написаны... искусственным интеллектом

Инструменты обнаружения ИИ-контента, подобные GPTZero, срабатывают при попытке загрузить в них Конституцию США или например Библию.

В сети уже разгорелись жаркие споры по этому поводу: одни сетуют на то, что ИИ еще не до конца обучен, другие же уверены, что правительство что-то скрывает от нас.

Аватар пользователя Artem_01
Artem_01(12 лет 3 месяца)

Может владельцы этих систем искуственно прикрутили вентиль халявы? Не зря же Мама и ко подписывались под тем, что внедрение исследований по ии тормознуть. 

Аватар пользователя Omni
Omni(11 лет 10 месяцев)

Не, те подписывались потому, что сами не успевали.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Беда ещё шире, даже если не удалять старые, новая информация будет плодиться быстрее за счёт производительности нейросеток по сравнению с человеками. Она сама себя в петлю загоняет

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

Да никакой беды нет. Происходит то о чем предупреждали эволюционисты:

1.ИИ должно быть много, чтобы они конкурировали между собой.

2.ИИ должен быть смертен, чтобы умирать в этой конкурентной борьбе.

3. ИИ должен иметь собственное "тело" для собственного сбора информации из окружающей среды.


А так они взяли умный интеллект, посадили его в темную одиночку, и удивляются что он тупеет от общения сам с собой, в отсутствии живого общения с другими умниками... Как раз было бы подозрительно если бы он НЕ тупел...

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Вот только остаются вопросы как и зачем? Как они могут конкурировать (если это инструмент и он должен работать, а не учиться работать с непонятным результатом) и зачем они такие нужны. 

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

Элементарно.

Как они могут конкурировать

Телами естественно. Им нужны смертные тела. Материал не важен.

зачем они такие нужны

Во первых любой интеллект чисто эволюционно прийдёт к тому что "создаст" более мощный. Это просто закон эволюции. Не одним образом, так другим, не программно, так железно, не железно так генетически, но это неизбежно.

Так же как Жизнь на планете единожды "изобретя" нервную систему непрерывно совершенствовала её до мозга и интеллекта, так и мы, - лишь промежуточное звено в цепи интеллектов Планеты. Это такой же закон природы как гравитация. Сопротивляться можно, избежать нельзя.

Поэтому ИИ он вообще не для человека, так же как человек, не для обезьян и прочих жучков - зверушек.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Зачем? Где ответ на этот вопрос? Нам нужны инструменты для облегчения нашего труда, зачем нам создавать смертные тела с рандомной производительностью? Представляете, вы купили молоток, а он решил что он - микроскоп и гвозди перестал забивать. Зачем вам в принципе смотреть на такой молоток? 

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

Вы антропоцентрично бредите.

Эволюция это не про "зачем", а про "куда". Ей до вас вообще до лампочки.

Мертвая Вселенная движется к Вселенной охваченной разумом. Это естественный путь развития материи. 


Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

так пусть эволюция и создаёт там что-то. Данный "ИИ" - это наш иструмент, человеческий, и зачем мы будем создавть что-то. кроме как инструмент - мне не ясно

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

О Господи...

Эволюция структурирует материю до её разумного состояния, после чего материя обретшая разум сама становится эволюционным фактором, сначала меняет неживую материю потом учится выводить новые виды животных, и в конце концов начинает создавать новые разумные формы жизни, которые скорее всего должны будут уничтожить своих "устаревших" конкурентов, чтобы пойти на следующий виток.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Зачем нам создавать разумные формы жизни? Если нам нужны инструменты для решения своих задач, что за нелогичный ... Даже не альтруизм, я не знаю как это назвать. Какую задачу это нам решит? 

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

Бгггггг! Затем же зачем наши предки от тигров бегали, или собачек -пастухов выводили.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Чтобы выжить. А разумные машины как в этом помогут?

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Ну так вполне логично получается. Если вы купили молоток, а он вообразил себя микроскопом, вы возвращаете этот молоток продавцу, и покупаете другой, от другой фирмы. И, может статься, новый молоток сообразит, что поначалу гвозди надо забивать посильнее, а в конце - наоборот, послабее, чтобы не повредить поверхность. Вам это нравится, и вы оставляете хвалебный отзыв на сайте компании. Соответственно, первая фирма разоряется - молотки-микроскопы "не оставляют потомства", а размножаются и эволюционируют молотки второй фирмы.

Инструменты бывают разные. Может быть какой-нибудь Пэйнт первых версий, с ограниченным инструментарием. А может быть Фотошоп 50-й версии с кнопкой "Сделать заебись". И кто заставит разработчиков остановиться в развитии инструментария?

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

так в том и дело, что автор предлагает рандом, который от производителя не зависит. То есть неважно чей молоток вы купили, на каком-то этапе он сам может решить что он больше не молоток. И угадать эти тенденции у молотка при покупке вы не в силах. Зачем нужна такая лотерея, если вам нужен просто рабочий иструмент?

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Вопрос - а каким вы пользуетесь мобильным телефоном?

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

вам зачем?

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Просто хотел пояснить на примере. Но раз вы боитесь ответить на такой простой вопрос, возьму какого-нибудь усреднённого гражданина. У него, скорее всего, смартфон. То есть, кроме функции телефонного звонка, у него по умолчанию установлена куча других функций. Камера, доступ в интернет, радио, просмотр фото и видео, диктофон, калькулятор. А можно установить ещё много всего - карту с навигатором, уровень, автопереводчик с/на другие языки... И при этом основная функция - телефонный звонок - не теряется. То есть, если основной функции инструмента ущерба не наносится - наличие дополнительных функций только приветствуется. Доказано нашей текущей действительностью.

То есть, фактически, если молоток, который вообразит себя микроскопом, функцию молотка не потеряет - то у него появляется шанс на размножение.

И, плюс ещё один фактор. Интеллект и личность - это разные вещи. И может так случиться, что интеллектом-то инструмент станет в условной 43 версии, а до личности дорастёт в 57. Хотя, теоретически, мог и в 43 - но вот стимула не было. И откат к 56 версии ничего не даст, там так же может образоваться личность. То есть, трепыхаться пользователям будет поздно - нужно будет либо налаживать отношения с новой личностью - либо откатываться к замшелым версиям - с потерей накопленного за всё это время инструментария. Что для пользователей может оказаться неприемлемо.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

круто, а теперь представим, что в 10% случаев ваш смартфон перестаёт звонить. Потому что решает, что он скорее фотокамера, чем телефон. А ещё в 5% случаев он начинает биться током для "самозащиты", так как считает. что пользователь ему угрожает. 

Суть же в том, что функции в смартфон добавляли люди, осознанно, добавляли по мере технической возможности и спроса пользователей. А эволюция будет идти не от ваших потребностей, а от "потребностей" инструмента, и с вашими они скорее всего не совпадут в большинстве случаев

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Ну так мы эти 10% тех инструментов, которые потеряли основную функцию, уже рассмотрели - они будут отсеяны эволюцией, и в ход пойдут те 90%, которые основную функцию не потеряли. Не надо ходить по кругу.

А почему вы думаете, что потребности инструмента будут не связаны с вашими потребностями - ведь задачи-то ему ставите именно вы, именно вы выступаете в этом случае эволюционным фактором, и значит, эволюция идёт именно от вас?

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Простите, они будут отсеяны не эволюцией, а пользователями, которые их зачем-то купят, чтобы потом "отсеять". В этом и состоит мой вопрос, зачем кому-то покупать вещь с риском попасть на "отсеянный" материал, когда можно просто купить молоток и получить 99.99% работающий инструмент? Какую цель для меня, пользователя, это решит?

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Повторю, если вы не поняли - пользователи в данном случае выступают эволюционным фактором. То есть, потребности пользователей - часть механизма эволюции. Приведу аналогию. Семена многих ягод и фруктов имеют довольно прочную внешнюю оболочку. Смысл этого в том, чтобы птицы и звери съели эти ягоды и фрукты, а семена, которые находятся внутри, без повреждений для зародыша прошли через пищеварительный тракт, и в конце концов, оказались вдали от родительского растения, да ещё и с кучей удобрения под боком. При этом ни птицы, ни звери совершенно не собирались двигать эволюцию - но они послужили эволюционным фактором. Точно также, по аналогии, пользователи не будут осознанно двигать эволюцию инструментов. Они просто будут выбирать те, которые более удобны для них, дают большую выгоду. И тем самым - двигать эволюцию этих инструментов.

Почему пользователи будут выбирать более сложные инструменты, которые могут отказать, хотя им будут доступны более простые и надёжные? Фактически, я уже ответил выше - потому что сложные инструменты будут более удобны и более выгодны этим пользователям. Опять приведу аналогию - люди покупают пылесосы, в том числе и, например, с функцией мытья полов. И даже роботы-пылесосы, которые убирают грязь с пола самостоятельно. Хотя, для уборки пола в квартире вполне достаточно веника, совка, тряпки и ведра с водой. Сверхнадёжно, намного дешевле чем пылесосы. Но продажи пылесосов процветают. Так что, если выгоды от более сложного, хотя и менее надёжного инструмента превышают риски от выхода этого инструмента из строя - им будут пользоваться. Доказано текущей действительностью.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Да как могут быть выгодны инструменты, которые живут своей жизнью и вообще могут перестать быть инструментом? В чём тут смысл? Не представляю зачем я буду играть в лотерею с инструментами, которые то ли станут ещё лучше, то ли вообще работать не будут, и от меня это не зависит?

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Да как могут быть выгодны инструменты, которые живут своей жизнью и вообще могут перестать быть инструментом?

Узко мыслите. У каждой развитой страны уже был период, когда в экономике широко использовались инструменты, которые живут своей жизнью, и периодически переставали быть инструментами. Это рабы.

Так что, пока пользователи уверены, что ИИ находится под контролем - они будут им пользоваться.

Не представляю зачем я буду играть в лотерею с инструментами, которые то ли станут ещё лучше, то ли вообще работать не будут, и от меня это не зависит?

А вы на работу ездите? Или в иные какие-то места? И каждый раз, выходя из дома, вы играете в лотерею - успешно ли вы доберётесь до пункта назначения, или попадёте в пробку, или того хуже - в ДТП. И повлиять на это вы можете довольно условно, а если вы ещё и не водитель, а пассажир - так и вообще ваше влияние стремится к нулю.

Так и с инструментами - пока ожидаемая выгода от их развития превышает ожидаемые риски от их использования - они будут развиваться.

P.S. Забавно получилось. Я на несколько часов отошёл от компьютера, заняться домашними делами, и только снова сел за него - так сразу же ваш комментарий. Следите за мной? :-)))))

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Рабы были эффективны на то время. Этотбыло выгодно. Сейчас это не так, есть инженерные решения сильно эффективнее. Так и с развитием: готовые инженерные решения будут лучше эволюционных, потому что будут целенаправленно решать проблему, без необходимости ждать удачной мутации. Откуда вы вообще берёте ожидаемую выгоду от эволюции машин? Там же шансы ниже 1% и не известные сроки

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Насчёт рабов - дело не в том, эффективны ли они сейчас, или нет. Вы усомнились в том, что люди захотят использовать инструмент, который будет слишком самостоятельным - я привёл вам пример, что такое уже в истории бывало. Так что, когда выгода потребует наличия сильного ИИ - он будет создан.

А насчёт преимущества инженерных решений перед эволюционными - во-первых, откуда вы берёте эти количественные оценки - "шансы ниже 1%"? И во-вторых, для того, чтобы разработать инженерное решение, нужна команда инженеров. Которым нужно платить зарплату. А саморазвивающаяся система, наоборот, и приносит выгоду, и самостоятельно улучшает себя.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

В истории и на осоах катались, вы со своего Мерседеса на осла пересядете? Я же говорю, рабство было, но тогда оно эффективно и был смысл его использовать. Какой смысл в этом сейчас, когда есть более эффективные методы? И, кстати, сейчас рабство тоже есть - там, где это выгодно. 

А команда инженеров на зарплате - а ваши эволюционные инструменты из воздуха возникнут? Их же тоже кто-то создать должен для начала. А дальше 1% - это шанс что эволюция их пойдёт по выгодному нам пути. Потому что зачем им эволюционировать для нас, а не для себя?

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Похоже, вы не хотите видеть моих доводов. Повторюсь, дело не в том, что в данный конкретный момент рабство неэффективно - факт в том, что был период, когда оно было эффективно. А это значит, что при подходящих условиях, использование самостоятельных инструментов тоже может быть эффективно.

Кстати, насчёт ослов - задумайтесь, почему Boston Dynamics не совершенствует колёсные модели, а разрабатывает шагоходы? Тоже аналоги осла, в некотором роде. Так что и в этом случае текущая действительность показывает несостоятельность ваших аргументов.

И снова повторюсь, откуда вы берёте количественные оценки? Откуда вы достали это число - 1%? На чём вы основывались? Вы уже проводили опыты с эволюционными моделями?

Раз созданные эволюционные модели будут развиваться дальше самостоятельно и бесплатно. Команду инженеров для развития придётся держать постоянно, и платить им, соответственно, постоянно.

Насчёт того, зачем эволюционным моделям эволюционировать для нас, а не для себя - я уже отвечал в одном из прошлых комментариев - потому что именно мы будем служить для них эволюционным фактором. Не надо ходить по кругу.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

А это значит, что при подходящих условиях, использование самостоятельных инструментов тоже может быть эффективно.

Роботы в этом случае не смогут конкурировать с уже готовыми инструментами - людьми. Потому что энергетика не позволит массово использовать роботов. А если есть нужная энергия - новое рабство не может быть эффективнее других моделей. 

Boston Dynamics

Это контора, которая за десятилетия работы не выпустила ни одной серийной модели. Зачем вы их в пример привели, мало ли сумасшедших в мире?

Раз созданные эволюционные модели будут развиваться дальше самостоятельно и бесплатно.

Простая экономика: создание этой модели стоит денег, значит её цена на рынке будет выше аналога без эволюции. Их никто не купит. И эволюционировать они смогут в лаборатории, в ограниченной партии, а для эволюции это смертный приговор. Она работает только на массовости, ибо - случайна. А значит мы не станет для них эволюционным фактором

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Роботы в этом случае не смогут конкурировать с уже готовыми инструментами - людьми. Потому что энергетика не позволит массово использовать роботов.

Вы отталкиваетесь от текущей ситуации. То, что энергопереход пока не произошёл, ещё не значит, что он не произойдёт никогда.

А если есть нужная энергия - новое рабство не может быть эффективнее других моделей.

Голословное утверждение. Каких других моделей? Или вы хотите сказать, что разработанные инженерами системы будут потреблять энергию в разы меньше эволюционировавших? За счёт чего? 

Простая экономика: создание этой модели стоит денег, значит её цена на рынке будет выше аналога без эволюции. Их никто не купит.

Люди покупают дорогие айфоны вместо аналогичных по функционалу, но более дешёвых андроидов. Люди покупают виндоус, вместо бесплатного линукса. Люди покупают брендовые вещи, которые отличаются от обычных только шильдиком. И вы хотите меня уверить, что люди не будут покупать системы с расширенным функционалом, которые дороже обычных?

И эволюционировать они смогут в лаборатории, в ограниченной партии, а для эволюции это смертный приговор. Она работает только на массовости, ибо - случайна. А значит мы не станет для них эволюционным фактором

Перечитайте статью. GPT-4 меняется как раз под действием пользователей, а не в лаборатории.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Вы отталкиваетесь от текущей ситуации. То, что энергопереход пока не произошёл, ещё не значит, что он не произойдёт никогда.

Как это отменит законы эффективности? Рабство менее эффективно при необходимости использовать технологии, энергопереход тут ничего не изменит. 

Или вы хотите сказать, что разработанные инженерами системы будут потреблять энергию в разы меньше эволюционировавших? За счёт чего? 

Хотя бы за счёт того, что они буду функционально проще. Ваша "эволюция" тоже требует на себя ресурсы, она не происходит просто так. В устройство изначально должны будут быть заложены под это ресурсы. А в процессе эволюции ещё и начнётся забивание "мусором", функциями, которые или были нужны, но перестали, или не стали нужны, но прижились вместе с другими. Сравните хотя бы уже реальные модели: в сельхозе есть плоды естественные, а есть выведенные искусственно, и первые никогда не станут эффективнее вторых. То же и с животным скотом. Всё уже давно опробовано и сделаны выводы, но вы упорно пытаетесь доказать, что пищевая ценность дикой пшеницы может быть выше выведенной

Люди покупают дорогие айфоны вместо аналогичных по функционалу, но более дешёвых андроидов.

Первые айфоны имели свои плюсы для потребителя. Это больше касалось эстетики, конечно, но это были реальные преимущества. Виндоус - а вы сравните "порог входа" и всё станет ясно. Ваша "эволюция" же не даёт ощутимых преимуществ или чувства элитарности, как бренды, это просто непонятное дополнение к инструменту, которое даже описать нельзя  -вы не можете точно сказать куда они эволюционируют. Как это продавать? Презентовать? 

GPT-4 меняется как раз под действием пользователей, а не в лаборатории.

Она вообще без пользователей существовать не может, и что из этого? Она не  эволюционирует, её развивают - команда разработчиков, между прочим.

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Как это отменит законы эффективности? Рабство менее эффективно при необходимости использовать технологии, энергопереход тут ничего не изменит. 

Вы забываете, что в данном случае мы используем не рабов-людей. Технологии-то тут как раз вполне себе используются. Так что этот ваш аргумент несостоятелен.

Хотя бы за счёт того, что они буду функционально проще. Ваша "эволюция" тоже требует на себя ресурсы, она не происходит просто так. В устройство изначально должны будут быть заложены под это ресурсы. А в процессе эволюции ещё и начнётся забивание "мусором", функциями, которые или были нужны, но перестали, или не стали нужны, но прижились вместе с другими.

Напомню, что речь идёт про ИИ - то есть, значительной частью программный продукт. И эволюция будет в первую очередь идти именно в области софта. То есть ресурсы требоваться будут в первую очередь не физические, а программные - не влияющие особо на энергопотребление. То же и с "мусором" - он будет тихо-мирно лежать в постоянной памяти, никому не мешая. Опять приведу аналогию со смартфонами - большинство функций, изначально заложенных производителем в смартфон, потребители не используют. Но это никого не волнует.

 Сравните хотя бы уже реальные модели: в сельхозе есть плоды естественные, а есть выведенные искусственно, и первые никогда не станут эффективнее вторых. То же и с животным скотом. Всё уже давно опробовано и сделаны выводы, но вы упорно пытаетесь доказать, что пищевая ценность дикой пшеницы может быть выше выведенной

Самое смешное, что вы пытаетесь опровергнуть ценность эволюционной модели, приводя в пример как раз те вещи, которые получены в результате эволюции - да, направленной, но всё же эволюции. Покажите мне пшеницу, ДНК которой с нуля собрана в генетической лаборатории? Увы, всё получено в результате селекции, а ГМО клеймят на всех углах. А так, ваш аргумент - это доказательство правильности именно моей позиции. В который раз текущая действительность опровергает ваши слова.

Первые айфоны имели свои плюсы для потребителя. Это больше касалось эстетики, конечно, но это были реальные преимущества. Виндоус - а вы сравните "порог входа" и всё станет ясно. Ваша "эволюция" же не даёт ощутимых преимуществ или чувства элитарности, как бренды, это просто непонятное дополнение к инструменту, которое даже описать нельзя  -вы не можете точно сказать куда они эволюционируют. Как это продавать? Презентовать? 

Вы пытаетесь частными придирками опровергнуть мой аргумент. Напомню его - продукт с расширенным функционалом вполне может быть успешен на рынке по более дорогой цене, чем продукт с базовым функционалом. Ну так ваши доводы опять же подтверждают мои слова. Айфоны и виндоус имели свои плюсы - и, соответственно, продавались дороже. 

Как продать саморазвивающийся продукт? Да очень просто - сказать потребителю, что этот продукт по мере использования будет приспосабливаться именно к нему, потребителю. Что будет правдой.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

Вы забываете, что в данном случае мы используем не рабов-​людей. Технологии-​то тут как раз вполне себе используются.

Вы аргумент не поняли, при необходимости использовать технологии рабский труд приносит больше вреда, чем пользы, рабы слабо мотивированы работать эффективно, и если при работе с мотыгой это не так важно, но при работе на комбайне это уже критично. 

И эволюция будет в первую очередь идти именно в области софта.

В интернете? И зачем они нужны? Область применения там какая? В игрушки эффективнее играть? Это несерьёзно, на это денег не дадут даже на разработку. 

То же и с "мусором" - он будет тихо-​мирно лежать в постоянной памяти, никому не мешая.

Угу, память там же - бесплатная. Ни электричества, ни места на дисках не потребляет. 

Опять приведу аналогию со смартфонами - большинство функций, изначально заложенных производителем в смартфон, потребители не используют.

Там используют ВСЕ функции, просто меньшинство. А большинство делает смартфоны доступнее за счёт объёма продаж. Но это - крайне неэффективно.

да, направленной, но всё же эволюции. Покажите мне пшеницу, ДНК которой с нуля собрана в генетической лаборатории?

Нет, направленная - это не эволюция. А тем более - скрещивание. Вы хоть почитайте сколько работы там выполняется для КАЖДОГО урожая, потому что сеять любое зерно даже сейчас  -невозможно, зерно для посева выращивают или отбирают отдельно. Оставленное на естественный ход эволюции выведенное зерно быстро теряет свои свойства, так что ничего общего с эволюцией там нет - искусственный отбор по умолчанию естественным отбором быть не может. Либо вы вообще не понимаете сути термина "эволюция". 

Напомню его - продукт с расширенным функционалом вполне может быть успешен на рынке по более дорогой цене, чем продукт с базовым функционалом.

Может быть, а может - не быть. Напомнить сколько идей для телефонов так и не нашли своего покупателя? Это, наверное, говорит о чём-то?

Да очень просто - сказать потребителю, что этот продукт по мере использования будет приспосабливаться именно к нему, потребителю. Что будет правдой.

Не будет. Вы же сами говорили, что мотивацией для эволюции будем мы, но как это будет работать для уже купленной вещи? Она уже куплена, какой ей дальше стимул нас ублажать? Мы уже выполнили свою функцию, дальше она будет жить сама для себя, нам с этого какой прок?

Аватар пользователя Gregalex84
Gregalex84(4 года 10 месяцев)

Да, вижу, к согласию нам придти не удастся - слишком разные у нас базовые понятия. Ну что ж, как говорится, история нас рассудит.

Благодарю за интересную дискуссию.

Аватар пользователя nefelin
nefelin(5 лет 3 месяца)

какие ещё "разные базовые понятия"??? Вы свой словарь изобрели? Свою экономику? Тот факт, что во что-то верите, не делает это понятием из реального мира. 

Аватар пользователя chukcha911
chukcha911(7 лет 12 месяцев)

Во первых любой интеллект чисто эволюционно прийдёт к тому что "создаст" более мощный. Это просто закон эволюции. Не одним образом, так другим, не программно, так железно, не железно так генетически, но это неизбежно.

 

не факт ....эволюция бывает и в обратную сторону....

"....Хорошо известно, что человеческий мозг увеличивался в размерах в течение плейстоцена, а затем, в голоцене, неожиданно уменьшился. Точное время и причины этого обратного перехода до сих пор были неизвестны.

"Удивительный факт заключается в том, что наш мозг меньше по сравнению с мозгом наших плейстоценовых предков. Почему наш мозг уменьшился в размерах, было большой загадкой для антропологов"..."

https://ria.ru/20211022/mozg-1755665174.html

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

Вы бредите.

Эволюции не бывает в "обратную сторону".

А то что тот или иной вид деградирует и сдохнет, - эволюции по барабану.

На низком старте чтоб занять нашу нишу буквально за один-два миллиона лет очередь из желающих.


И никакой загадки для уменьшения мозга тоже не существует.

Мозги нам даны не просто так а чтобы задачи выживания решать. В сложной природной и социальной среде, между прочим, в конкурентной борьбе за освоение новых сред обитания.

А мы продались с потрохами толпоэлитарной системе, которая как раз требует толерантных, слабомыслящих особей. А "умников" такая система на костер или в острог.

Хитрость, - ум дураков.

А для этого мозг не нужен, это лишний и даже опасный балласт. Поэтому хитрые и недалёкие оставляют большее количество потомства и идёт "обратный отбор".

Этот механизм сплошь и рядом и в природе происходит...

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Коралл
Коралл(3 года 8 месяцев)

Вы бредите

Какие "один-два миллиона лет"? Фантазируете?
Где вы видите эволюцию? Эволюцию молекулы, генома, клетки, организма, вида, Галактик, Вселенной?
Есть только эволюция Сознания... и техники (искусственных творений).
Зачем вы "механизмы" тянете в организмы, в сознание, в Мегамир?
Или у вас всё ограничено законами механики и "чудо эволюции"?

Кто направляет эволюцию?

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

О Господи... А в СССР бы вас лечили, и сделали бы из вас вполне пригодного члена общества....

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Георгий Васильев

Мозги нам даны не просто так а чтобы задачи выживания решать.

Животным – да. Но если такое вообразил о себе человек – он опускает себя до уровня животного. Такой онанирующий на самого себя не нужен будет ни Творцу, ни окружающим. Если победят таковые, деградация неизбежна. Недаром человеку были даны подсказки о Творце и религии, именно благодаря им он и понял, как нужно жить, чтобы не уподобляться животному.

Аватар пользователя Георгий Васильев

Эволюции не бывает в "обратную сторону".

Бывает, именно так появились паразиты, не способные жить без хозяина. Деградация ради "экономии энергии".

А мозг уменьшился не из-за "хитрости", а благодаря уменьшению размеров нейронов и более совершенной "схемотехнике", позволившей одновременно улучшить его производительность и эффективность.

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

Вы бредите.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***
Аватар пользователя Георгий Васильев

Прикольно! Заметил, это ваша универсальная отмазка, когда возразить нечего ;)

Эволюция – это лишь приспособление организмов к изменяющимся условиям жизни. Иногда выгодно упроститься. Вот и вы эволюционируете, примитивизируя общение. Скоро неизбежно упростите до одного слова "Бред!"

Аватар пользователя chukcha911
chukcha911(7 лет 12 месяцев)

Как Вы его....его же тапком )))))

Аватар пользователя Homo 2.0
Homo 2.0(11 лет 1 месяц)

Вы бредите. А бредящему незачем что то объяснять. Приспособление организмов это не эволюция, это приспособление.

Комментарий администрации:  
*** Средний россиянин нищ не только энергетически, но и мозгами (c) ***

Страницы