Очередная статья про ChatGPT побудила меня кратко изложить то, как я вижу этот феномен. Сначала перечислю преимущества и недостатки, а затем выскажу своё отношение к этому.
Преимущества
1. Более-менее адекватная обработка сложных индивидуальных запросов. Пользователю больше не нужно самостоятельно искать и отбирать нужную ему информацию в поисковых системах. За него это сделает робот.
2. Выполнение определённых задач по индивидуальному запросу: написать программный код, сценарий ролика или текст песни, рассчитать стоимость проекта и т.д. Чем сложнее или специфичнее задача, тем больше робот будет выдавать ошибок, однако за счёт самообучения он в дальнейшем будет сводить их к минимуму. Спектр задач принципиально не ограничен.
3. Как результат — ещё больше сократится время, связанное с необходимостью получения информации для выполнения той или иной практической задачи.
Недостатки
1. Для своего функционирования робот ограничен лишь той информацией, которую он имеет в своём распоряжении. Информация, которой располагает человечество, заведомо больше той, которая «скармливается» роботу. Так, в него не попадут секретные разработки, не интересная многим (не значит, что неценная) информация, ежедневно меняющаяся политическая повестка, вообще информация о человеческих перемещениях. Хотя насчёт последнего не исключается возможность интеграции ChatGPT в систему глобального наблюдения и его мутирование в реального «Большого брата». Не стоит думать, что разведывательное сообщество не захочет заполучить в свои руки столь гибкое средство обработки данных.
2. Неспособность творчески генерировать новую информацию и на основе имеющихся данных выдавать перспективные идеи, которые ещё не были опробованы. Ибо для этого робот должен уметь ставить чисто возможную цель, а формализация категории «возможность вообще» — дело невыполнимое (в силу противоречия между формализованностью и возможностью).
3. Как было отмечено выше, робот не всегда выдаёт точную информацию (т.е. выдаёт ошибки), поэтому, по крайней мере, на данном этапе нельзя сказать, что на него можно положиться и расслабиться. Кроме того, результат нередко напрямую зависит от качества вводных данных запроса.
Моё отношение к этому
То, какое влияние окажут возможности ChatGPT на человеческое творчество, можно представить, проведя параллель с современной музыкой и кинематографом. Благодаря тому, что виртуальные инструменты создания музыки стали доступными любому школьнику и что профессиональное продюсерство стало невостребованным, мы ежедневно имеем вал однообразной низкопробной звуковой продукции (моё субъективное мнение, конечно же; для кого-то это — наоборот, вершина). Благодаря тому, что виртуальные средства создания любой кинематографической картинки доведены практически до совершенства, актёрам больше не нужно играть в реальных условиях, из-за чего они выглядят в кадре, как потерянные пластиковые манекены (ибо зелёный экран), а их взаимодействие с обстановкой тщательно подгоняется специалистами по VFX. Ещё в 1990-е годы графика применялась избирательно (потому что это было ещё и очень трудоёмкое дело) и потому выглядела каждый раз как что-то особенное. Сейчас же она заполонила практически весь современный кинематограф и искусственным образом заместила фактор «реалистичность действия» — что сказалось и на способности кино производить впечатление.
Так вот, на мой взгляд, ChatGPT продолжает совершенно ту же тенденцию к усреднению творческого процесса, разнообразие в рамках которой достигается только за счёт возможности бесконечной генерации разных форм. Более того, он будет нивелировать и мыслительный процесс. Человек будет стремиться подгонять своё собственное несовершенное мышление под эталон «мышления» робота и терять свою индивидуальность не только как творческое, но и как мыслящее существо.
На самом деле, очень даже вероятной проглядывается перспектива, которая была обрисована в анимационном фильме «ВАЛЛ-И», — что люди, слишком доверив свою жизнедеятельность роботам, превратятся в малоподвижных тучных существ, которых те обслуживают по команде (единственное, для чего ещё осталось нужным мышление). Разве что это будет происходить не на космическом корабле, а тут, на Земле.
Я бы хотел верить, что при таких условиях люди всё равно будут оставаться людьми, но ползучая виртуализация, как показывает жизнь, делает людей всё больше и больше зависимыми от возможностей машин. Это одновременно и сила, и слабость человечества — что оно достигло столь впечатляющего вычислительного прогресса, но ценой своего собственного потенциала, который всё больше и больше потребляется машинами.
Комментарии
Что-то мне кажется, что секс с виртуальной женщиной с искусственным интеллектом совсем не за горами.
Пару дней назад японцы анонсировали осязание через комп - была фоточка напальчника с проводами. Если Вы человек давно живущий - то вспомните , что кризису доткомов предшествовало создание тыщщ компаний - которые обещали запах с монитора.
А совсем саркастичные люди пишут в русских торнетах - что когда с торрента можно будет скачать поллитру коньяку - тогда и поговорим о пользе интернета.
Касаемо же Каи , описанной у Олегыча как робот на максимальном уровне ссучества со сьёмными письками и ртами - то в Калифорниях уже лет десять продают в кредит ..
У меня критерий давно, что смог один - смогу и я. Поэтому запоминается разное. Про качественное спиртное пару вариантов запомнил: один кочегар советских времён, продавал воду из под крана страждущим, программируя заряжая на тот вид спиртного, что желал клиент, важно - он это пробовал. Второй, индейский шаман просто в свой бурдюк "брал" вино из лавки где то. По маршруту заходили в селение, и шаман в этой лавке оплачивал то, что взял раннее. Они смогли, ну и я имею такие варианты.
Вот бы Путин и дальше продолжил раздавать бесплатно странам Африки излишки зерна и удобрений. В итого - Россия имеет огромную ДОЛЮ рынка, а не прибыль. Прибыль будут приносить страны "развитого"
Запада из своих нищающих бюджетов, чтобы не заходил в их деревни.
Скорее будет некий синтезатор, который из СО2 и Н2О воздуха изготовит нужный продукт соответствующей крепости.
Дело в том, что Синтез есть создание, т.е. дело Господа. Анализ же, в том числе и данных - это дело Сотоны. Смерть есть анализ, потому что разлагает на составляющие трупы.
Поэтому люди, которые заняты синтезом при помощи кипятильника и медных трубок в Северной ли Каролине ,называя этот синтез словом " муншайн" или добропорядочные самарчане и калужане , которые делают непроизносимое у них в каролинах " pervatch" - заняты делом самым богоугодным - Синтезом, созиданием.. Делу Господа верны - так надо писать на любом самогонном аппарате на всех языках планеты.
Ого. Значит герой " Во всё тяжкие" тоже путём Бога двигался. Интересная оценка
Ибо Господь наш в неизьяснимой мудрости его попустил создание химиков , фентанила и прочих содомов с гомморами и голливудов для снятия сериалов и порно ( что одно и то же) и зрителей сериалов с уже известной целью - сжечь. А кто это будет - ядерный взрыв или всемирный потоп - это детали , в которые Господь не вникает - ибо у него Сотона Дьявол оутсорсит эти проблемы за возможность поговорить иногда.
Стопэ, раз все по воле его (неисповндимы пути да), то содомиты и физики тоже. А сжечь это вы что, против его воли собираетесь?
Содомитов поженить на теоретиках большого взрыва и сжечь напалмой .Ну чтобы наверняка. А то они , теоретики - развитием своих теорий по типу Птолемея уже нагрешили больше, чем содомиты.
А так то Господь в неизьяснимой мудрости его не ведает ни дня, ни часа - день и час установлен у японцев по сдаче разных сортов мусора - и возможно это и есть модель.
Ибо Господь наш в неизьяснимой мудрости его попустил создание химиков , фентанила и прочих содомов с гомморами и голливудов для снятия сериалов и порно ( что одно и то же) и зрителей сериалов с уже известной целью - сжечь. А кто это будет - ядерный взрыв или всемирный потоп - это детали , в которые Господь не вникает - ибо у него Сотона Дьявол оутсорсит эти проблемы за возможность поговорить иногда.
Ибо Господь наш в неизьяснимой мудрости его попустил создание химиков , фентанила и прочих содомов с гомморами и голливудов для снятия сериалов и порно ( что одно и то же) и зрителей сериалов с уже известной целью - сжечь. А кто это будет - ядерный взрыв или всемирный потоп - это детали , в которые Господь не вникает - ибо у него Сотона Дьявол оутсорсит эти проблемы за возможность поговорить иногда.
Уж сколько лет во имя Господа))
Попускает Господь в неизьяснимой мудрости его и не насылает околотошного и прислал добрых соседей с незлобивыми независтливыми глазами. А могли бы и настучать кому след..
Ну именно коньяк, конечно, нет. Но когда некий «гений на все руки» доделает свой нейрочип и его законодательно заставят встраивать в каждого новорожденного гражданина самой свободной страны, то скачать «ощущение от потребления хорошего коньяка» будет вполне реалистичной задачей.
Согласен с Вами. Но - никто и никогда не напишет для чипа то незабываемое утреннее состояние от двенадцатилетнего " Калараша" из Молдавии , купленного в Чите ящиком впрок, но выпитого весь в хорошей компашке под плохие сигареты, но хорошую беседу. Потому что пьём то сегодня, а вспоминаем всю жизнь.
Давно фантасты эту проблему решили. Ощущения записываются и продаются. А на чорном рынке продаются запретные ощущения - от ощущений убийцы до ощущений его жертвы
Вспоминается фильм 1995 года «Странные дни». Он как раз про это.
Любой режиссер пересказывает за щепотку денег то, что ему велели рассказать . Он никто по сравнению с Вами - хлопнувшему пивную кружку хорошего коньяку - за рюмку которого Коровьев променял Бегемота. Помните об этом - только Ваши впечатления есть реальность, а не проекция чужих денег в ваше сознание посредством фильмосмотрения или книгочтения.
Как можно читать Роджера Желязны трезвым про его Принцев Амбера, особенно главу про Кота - если он не просыхал все семь томов.
Они просто не пили " Дагестанский" четыре звезды в Дербенте восемьдесят шестого , который мимо завода. Который на рынке , где умельцы выбивают чайник из медного листа, тут же заваривают чай плиточный ,но крепко и всё это дело мелкими рюмками под жарким каспийским солнцем.
Фантасты в их унылых квартирах не могут понять этого волшебства понимания всех аварских и лесгинских диалектов речи - рюмку назад не понимал, а сейчас уже понимаешь..
Вашу цитату нужно печатать на бутылках этого коньяка,как лучшую рекламу.)
Это был коньяк из серебрянных фляжек на рынке старого Дербента. Возможно, позаимствованный на заводе Дербент из каких то цэковских бочек. Бутылок не было - печатать не на чем.
Вот именно это все у вас из мозга скопируют и продадут в интернете по 50 рублей за копию. Причем не факт, что с вашего согласия. Фантасты они такие, много чего понаписали, канальи
Это их право. Понимаете - однажды я заехал выше Дербента , в какой то дальний аварский аул - где попал на то, что они мне обьяснили как партсобрание.
Сейчас будет докладывать Магомед, наш механизатор. Давайте выпьем за его здоровье, он не очень умеет по русски.
Они, горцы аварцы - умели провести правильное собрание с флагом, с флягой , с гербом , гимном , барашком и лавашем..
Айнанэнанэ. Такие бесценные впечатления не должны принадлежать горстке избранных!
Что такое секс для человека - область наслаждения в мозгу. Это короткая дорога. Есть длиннее, и есть варианты без фрикций. Возможно всё. Там главная суть обмен энергией и программами, единение. Остальное суррогаты, но как варианты проходные.
Вы, видимо, из того поколения, для которых Любовь - это русские придумали, чтобы денег не платить.
Мм? Что в России, что за рубежём уже есть такие сервисы. Развратные личности для языковых моделей + распознание голоса + генерация ответа чат-бота голосовым движком + генерация картинок происходящего.
Даже более того, уже есть бесплатные локальные (на своей машине) реализации, правда они только на английском.
Когда то давно ( лет 12 назад) мой уже покойный товарищ доложил широкой общественности - что творчество будущего это выбор из уже существующего.
Если Вы верно полагаете - что все эти чаты боты мастурбируют уже существующее - то вряд ли они изобретут вакуумный гиперлуп, и даже уборку навоза из конного метро угольного Лондона 19 века вряд ли предусмотрят.
Весь вопрос - кого считать людьми. У любого условного Путина или Си или Джонсона нет таких машин. У них есть люди - которые используют старые добрые безмашинные способы получения обьективной реальности.
И выбор здесь - у каждого - продолжать ли увеличивать мощность телефона и создавать на нём всё больше карт банков или уходить от этого , в скит ли , в староверы ли, или в закрытые сообщества нового типа по модели новых кочевников.
Технический прогресс лишь показывает возможности, но это костыли, которые на первое время пойдут. Одно левитировать, можно телепорт; нейросетка - уже сейчас кто то ставит себе в мозг Биомодули, с которыми и идет общение - инфа, ограничено лишь целесообразностью.
В научной среде методы ИИ называют "методы машинного обучения", что более точно характеризует эти методы и полученные на их основе модели. Отсюда вытекают их реальные свойства:
1. Все эти методы/модели знают не более того, чем их ранее обучили. Соответственно, чему их не учили, то они и не знают.
2. Результаты работы этих методов - это получение наиболее вероятного результата по тем или иным критериям. И далеко не любые практические задачи требуют получения именно типового результата, а не чего-то уникального.
3. Все методы ИИ/МО крайне плохо достоверизируют информацию, т.е. проверка по той самой вероятности, а не по логической, фактической, физической и т.п. точности. Отсюда, либо нужно поверх навешивать другие методы/модели проверки достоверности, либо применять это только для тех задач, где эта достоверность некритичная.
4. Обучение этих моделей на результатах работы этих или других методов/моделей приводит к вырождению. В частности, все эти словесные чатботы будут порождать информационный мусор, а не систематизировать информацию.
Спасибо, хорошее дополнение.
Да, этот пост вкупе с Вашей статьёй образует более-менее целостную формулировку сути явления и его перспективы.
В закладки.
ИИ не способен отличить факт от вымысла - это закладывает человек. Но логическую непротиворечивость фактологии проверить в состоянии (например, автоматизировать задачу поиска фейков), если в него заложить нужную логику. И да, Логика - это тоже Факт.
ИИ способен выявлять только самые тупые фейки, да и то не факт.
Например, Вы шпион-разведчик, Вам нужно передать разведданные не спалившись. Вы берете реальное фото, начинаете лепить на него фейковую инфу, но такую, которая не портит то, что важно как разведтанные.
ИИ - это (прежде всего) оружие, быстро ”лепить фейки” - одна из возможных задач. Поэтому, рано или поздно придется создавать средства противодействия.. и лучше рано, чем поздно. Обычные средства выявления фейков слишком медленные, а фейк - оружие тактическое и время - критичный параметр.
Если фейки и нефейки делать (обрабатывать, оцифровывать, редактировать) по одинаковым технологиям, то крайне сложно отличить что факт, а что фейк. В частности, сейчас для изготовления фейков используются приемы видео/фото монтажа, но ведь никто не мешает именно эти приемы использовать для подготовки реальных материалов, то никакой ИИ это не определит.
Опять же для обмана ИИ проще всего использовать точно такой же ИИ, только с обратным критерием.
конечным потребителем фейка является человек, если человек способен отличать, значит этому можно научить и ИИ, только он это сможет делать быстрей и профессиональней
осталось за малым - узнать "критерий”, который создаётся самим ИИ динамически
Рядовой обыватель не способен отличить. Например, сейчас фейки пытаются идентифицировать по факту монтажа, но если аналогичный монтаж использовать и в достоверных публикациях, то отличить уже будет невозможно.
Что касается ИИ и "критериев", то взаимная борьба двух ИИ - это стандартная задача сегодняшнего дня. Например, делаешь некую НС для прогнозирования или распознавания некого образа/ситуации, далее делаешь другую НС с целью обмануть первую НС, критерий максимально нестабильный показатель первой с минимальными искажениями исходной информации. При этом в существующих ИИ никакой значимой динамики нет, там банальные корреляционные системы.
Чат микрософта расизму не обучали, а он за сутки стал расистом и поклонником Гитлера...
У бота нет никаких чувств в отношении людей, а потому расистом он быть не может. То, что бот, обученный на публичной информации будет "симпатизировать" популярным личностям и идеологиям, то это закономерно.
Ну большие языковые модели могут учиться, как и лысые обезьяны. Тот же GPT с каждой новой версией сам «учился» целым областям знаний, просто выводя закономерности из обучающей выборки.
Они не способны ещё учиться сами. Во всяком случае широкой публике такое не показывают, показывают только результат целенаправленного обучения.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
ФГРАНИТ.
С инфомусором мы и сами неплохо управляемся.
Это одна из сторон. Но эта проблема и сейчас есть - 90% сайтов и ссылок просто мусор.
Чатгпт это предвестник революции в робототехники. К примеру, на данный момент робот на кухне не возможен, вся робототехника управляется заренее созданными программами. Фразу пореж мелко помидор, робот сможет сделать только если помидор будет лежать на своем месте, доска для резания будет чистой и т.д.
Чат жпт вкупе с машинным зрением смогут решить эту проблему - составление программы налету. Так что скоро (2-3 года) появятся роботы не идущие по заданной программе, а выполняющие осмысленные комманды.
Ты вот не чатбот , а ветку засрал основательно.
А ты меня забань, и будет тебе щастье . Это же так просто - видишь бота - убей его . И Господь наш всемогущий осыпет тебя розами и фиалками - возможно в виде бутылочек одеколону для опохмелу - ибо зачем свербишь глазами в непонимании и исходишь злобой отчаяния и бессилия понять , принять и простить. Гордыня в похмелье - страшная вестчь..
Страницы