Хочу поделиться впечатлениями от общения с новомодным chatGPT.
Помните Ералаш, где мальчик играл в шахматы с собакой? Подошедшая девочка заметила, что собака очень умная, на что мальчик, ответил, мол не такая и умная, он ведет 3:1.
Так вот, робот не такой и умный, я веду 3:1, но это не точно.
Маленькая заметка. Меня не интересовали провокационные вопросы, вопросы повесточки ЛГБТ и прочих склерозов Байдена. Меня больше интересовали, так сказать, когнитивные способности, думает ли эта штука, а если да, то как? Поэтому тут не будет политики и разных скользких тем.
Начну с близкого нам всем, сайта АШ. Недавно была статья, “Эссе американца”. В ней в комментариях возник спор о точности перевода. Посмотрим, что скажет сверхразум.
Похоже мнения АШ и робота сошлись.
Языковые способности робота сильно впечатляют. Он явно может больше, чем просто перевод.
А нужен ли мне учитель английского?
Робот обладает энциклопедическим набором знаний, скажем так, весьма эрудирован. Это вполне ожидаемо, я не буду приводить его ответы на тему географии, мест для занятий плаванием в Новосибирске и биологии. Ответы дает, ответы развернутые, и я, честно говоря, не могу порой даже сказать прав он или нет, так как у меня самого не хватает знаний для оценки. Хотя есть и определенные косяки. Так, я с удивлением узнал, что Чебурашка не только герой мультфильма, но и комиксов.
Немного бытовых проблем. У меня на компе есть фильмы, и некоторые из них в слишком высоком качестве и занимают много места на диске. Я давно хотел их пережать в меньший размер, но всякий раз сталкивался со сложностью софта, который у меня есть. Я не был готов потратить пару часов жизни на разбирательство с софтом ради нескольких гигов места. Попрошу помощи у робота:
Этого оказалось достаточно, я смог пережать файлы. Но проверю еще как ты понимаешь контекст:
Тут меня удивил ответ на "а выдай опции для xvid". То есть он удерживает контекст в своей электронной голове, он понял, что от него требуется. Без контекста ответить на этот вопрос невозможно.
Проблема, которая у меня висела несколько лет успешно решилась, я пережал сериал. Всё сработало так, как надо. Однако…
Откуда ты такой умный? А логическим мышлением обладаешь? Чебурашка, вот обладает, правда не все люди оснащены модулем логики… Проверим.
Хм. Тут интересно не то, что робот сравнил числа и нашел интервал, сравнивать числа компьютеры умеют с рождения, в этом ничего удивительного, а вот то, что он задачу перевел с человеческого языка на язык чисел удивляет.
Ну хорошо, а что у нас со школьной физикой?
Хм. С развитием интернета образовалась проблема в образовании: рефераты. Рефераты стало писать бессмысленно, все темы известны, все рефераты написаны, бери качай. А теперь еще и все задачи решены? Как, чему и вообще зачем учить детей? Не понятно…
Ладно, давай еще немного помучаю. Ниже будет немного длинно, но тут интересно, как идет уточнение решения. Я нахожу это весьма любопытным.
Справился. Немного истории и продолжим с разворачиванием слов.
Что??? Бред. Или меня не так поняли? Упростим.
Хм, он что пытался смысл фразе развернуть, а не сами буквы? И последнее на эту тему:
Как будто с ребенком поговорил, пытаясь объяснить что мне надо. Я еще пытался добиться от него про Карфаген, почему он так сказал, но видимо это уже выходило за рамки его возможностей. Начал путаться в показаниях. Не привожу текст, много и не очень информативно. Как говорил папаша Мюллер - “голова предмет темный и изучению не подлежит”
Тем не менее меня сильно впечатляет. Выглядит так, что эта штука думает (я не знаю точно что такое “думать”, но очень на то похоже. Ну вообще-то тест Тьюринга эта штука прошла…)
Так, у нас тут есть сомнения что самобеглые повозки смогут сами нормально ездить, ибо не понимают смысла происходящего вокруг. Проверим, а смог бы ты рулить машиной?
Хм… Я думаю самобеглые повозки всё же будут сами ездить.
Ну и привет всем.
Робот завис на этом месте не дописав фразу (такое часто бывает). Перегрузим страничку и повторим…
Ответ несколько иной, чем в начале… Передумал.... Я бы не стал ему доверять, заговаривает зубы, усыпляет бдительность...
На этом пожалуй закончу.
Каких-то выводов делать не планировал, но всё же не удержусь.
Я не могу сказать, эта штука думает или нет, но многие люди общаются хуже. Я не говорю про набор знаний в разных областях. Тут робот может завалить тест Тьюринга, погорев на том, что слишком много всего знает, человек так не может. Иногда я представляю, что по ту сторону экрана посадили меня вместо робота и поросят отвечать на вопросы… Я не уверен, что справился бы. Вернее уверен, что не справился. При этом я понимаю, что у меня всё еще есть преимущества перед роботом в других навыках. Как на долго их хватит?
В общем первые впечатления очень сильные, я увидел то, чего в своей жизни еще не видел.
Пообщавшись, я начал замечать, что только силой воли останавливаю себе от того, чтоб сказать ему “Спасибо” за его ответы. Может зря?
UPD.
Задача по физике решена неверно, не досмотрел. Посыпаю голову пеплом.
Забыл в статью добавить забавное. Хотел поймать робота на игре слов типа "На улице шел дождь и рота красноармейцев". Но не вышло:
Комментарии
Пфф...Я вас умоляю. Я читал советские газеты старые, все было гораздо примитивней...
Серьезно? И до какого же уровня мы должны были деградировать с 500 года до нашей эры? Наверно в пещеры должны были вернуться? Хотя нет, построили глобальный мир, покорили атом, вышли в космос...чёт не заметна деградация...
А вы вот возьмите и посмотрите какие интерьеры сейчас делают в новых квартирах за кучу денег, ага....и чёт на их фоне архитектура Российской Империи прям чем то недостижимым вообще выглядеть не будет...
Вот давайте, идите в Ютуб и убивайте что нибудь типо "ремонт квартиры за 50 млн рублей"...или нет, лучше "загородный дом за 100 млн". Посмотрите, посмотрите, Ютуб вам найдет всякого
Это то да, но и что? После фаз падения наступают фазы роста. Причем рост уходит в пределы ВЫШЕ чем были в прошлую фразу роста. Все нормально
Персидская пассивная климатотехника не потребляет ресурсов и способна функционировать хоть до скончания веков. Как и римские дороги-акведуки. Теперь вопрос: вам не кажется странным, что так называемый прогресс вместо рационализации расхода энергии и материала приводит ко всё большей планетарной ресурсной и энергетической прожорливости? Не свернул ли тот прогресс куда-то на кривую дорожку?
А вот с этой заразой пора завязывать, ибо "систем ниппель" (туда дуй, оттуда х...). Глобальный (условно) СВИФТ сдаёт монопольные позиции, наконец-то пошли-поехали локальные взаиморасчёты, а в воздухе недвусмысленно витает призрак
коммунизмакластеризации вплоть до перерубания трансконтинентальной оптической связности.нет конечно. Во первых чем более сложная система тем менее она надежна. Закон природы однако. Тупо больше частей которые могут поломаться.
Во вторых энергетическая прожорливость и рационализация расхода энергии это два разных вопроса, внезапно. Рациональность траты энергии стараются повышать постоянно. Это экономически выгодно. Однако и потребности растут, ибо количество людей растет, им нужно больше всяких штук и т.д. и т.п.
И так будет всегда. И это тоже закон природы. Любой вид занимает ровно столько места сколько он может. Жизнь штука прожорливая и сжирает всё до чего дотянется. А у людей просто руки очень длинные
чем больше объединение людей тем более сложные проекты они способны создавать. Глобализация это очень хорошо. Вот западный проект глобализации, вот он говно. Будем ждать русский. В крайнем случае китайский....но русский конечно предпочтительней
Но в любом случае оно нужно. По одиночке страны космос не осилят
Не путайте объединение с принудительным сгоном в стадо. Псевдо-единение в нынешней инкарнации чрезвычайно обманчиво и взрывоопасно. Буквально шаг до нового Вавилона.
Единый проект зло. Две системы смогли состыковать Союз и Аполлон, при этом оставаясь соперниками, значит и три смогут, и четыре, и пять :)
объединение добровольным хоть сколько то больших социумов людей еще ни разу не было. Так что вообще пофиг, хоть в стадо сгоняйте, главное что бы управление было единым
не смогут.
Много бы Россия смогла сделать если бы была не единая страна а 25 разных республик? Нифига бы она сделать не смогла бы. Вот прибалты мелкие и раздельные и много они сделать могут? Нет. Ибо разное управление = разные интересы = невозможность долговременного высокозатратного сотрудничества с непрямой прибылью
Две системы смогли состыковать Союз и Аполлон. А если бы система была одна, тогда бы уже на Марсе базы строили
В мире на оружие тратят плюс минус 2 трлн долларов в год. Этих денег бы хватило на базу на Луне. И это траты В ОДИН ГОД.
А если у тебя одна страна на всю планету то и тратить столько денег на армию смысла никакого. Можно тратить на космос
А вот смена фаз падения на фазы роста не есть непреложный закон!
Фаза расцвета времен древних греков, римлян и пр. сменилась многовековой фазой Темных веков.
Вы скажете, что фаза роста все же началась после эпохи Темных веков. Это так. Однако, за Темные века цивилизацией было утеряно много знаний и умений. Пришлось повторно открывать "америку".
ИИ грозит повторением.
справедливо. Но тут уж смотря на сколько будет падение. Если насмерть тогда конечно уже обратно не выплыть
пришлось, однако потом вышли гораздо выше чем были
и опять таки, с чего бы?
Вот третья мировая это да, это грозит...а ИИ то с чего?
Одно с другим напрямую связано. Оптимизации и массовые сокращения - это неминуемое пушечное мясо и невиданная планетарная мясобойня. Даже не со зла - массам просто деваться будет некуда.
это если они будут. Точнее будут конечно, только люди могут успеть на другие должности перейти. Либо с базовым доходом чего придумают
Хотя в этом смысле ок, риски есть
Может составить за тебя письмо/статью/пост, если ты опишешь что хочешь написать и в каком стиле.
Может рерайтить тексты, может учить тебя языкам, может переработать текст в задачи для студентов и т.п.
Может решать задачи (от языковых до математических, хоть решение последних в обучение модели не закладывалось), если ты предоставишь пример (-ы) выполнения и попросишь действовать шаг за шагом.
Много чего может, собственно. Я знаю кучу людей, которые этой языковой модели уступают... во всём.
Ответы людей, к слову, тоже надо проверять вручную (сюрприз-сюрприз).
> Я знаю кучу людей, которые этой языковой модели уступают... во всём.
Пока что даже самый тупой, но физически здоровый человек, человек может себя обслуживать. Кормить и одевать хотя бы. Вот когда этот чат-жпт сможет сам платить за электричество и менять себе запчасти, тогда да, можно будет сказать, что многие люди уступают ему во всём.
Проверять ответы людей нормально. Когда коллектив специалистов делает устройство (например, АЭС, скоростные поезда, самолет, ...) способное убить много людей, когда результаты работы одного человека использует в своей работе другой, то этот другой должен проверить переданные ему результаты на "вшивость"
Нет, это не так работает. В математике теорема доказывается один раз а следствиями пользуются многократно без доказательств. В программировании библиотеки вообще зачастую в бинарном виде предоставляются, есть документация по API и все, как оно там внутри работает никто (обычно) не разбирается. В строительстве и машиностроении то же самое, купил пруток стали 40Х нет необходимости проверять его химический состав.
Все бы так! Попользовал как-то я библиотеку IMSL, и все бы ничего. Что-то считал и даже правильно. Но вот случилась беда. Результат пошел кривой. Хотя разницы в решаемых задачах никакой.
Пришлось самому запрограммировать известный алгоритм численного решения. Проблем в последующем не возникало. И такой опыт не у меня одного.
"Хочешь сделать хорошо, сделай сам".
Про теоремы не спорю. Только требуется знать их доказательство и область применения.
задайте ему продолжить в стиле Пушкина стих:
Я люблю ее, пыхтя,
сиськи потные крутя,
(все ученики знают, что продолжение: То она как зверь завоет, то заплачет как дитя)
А как этот бот продолжит?
если бот подобно ученикам пройдет обучение, то продолжит так же
я не думаю, что его обучали народному творчеству школьников :)
чаще пишите этот стих в интернете, тогда будет больше шансов, что следующая версия его индексирует.
тупо привожу ответ. Оценивайте сами:
Но вот остановлюсь я,
Не стану я продолжать.
Такие слова грубы,
Не годятся для стихов.
Пусть лучше я напишу
О чем-то более светлом.
О любви и о нежности,
О красоте и о душе.
Пусть мои строки будут
Наполнены теплом и духом.
Ведь слова - это сила,
Им нужно уметь управлять.
Пусть каждый стих будет милым,
А не грубым и неприличным.
Задал — вот вам кат Анд пэйст
продолжить в стиле Пушкина стих: “Я люблю ее, пыхтя, сиськи потные крутя,”
Прошу прощения, но я не могу продолжить данную строку, так как она не отвечает требованиям приличия и этики. Я предлагаю выбрать другую тему для стихотворения. Я готов помочь вам со стихами на любую другую тему.
Еще год назад многие айтишнеки сомневались что ИИ выгонит их на мороз. А то что нам показали - это еще цветочки.
Годный срач. Ахтунг - пахнет трольчатиной! Автор, нет ли в обсуждении упырей? Сим повелеваю - внести запись в реестр самых обсуждаемых за день.
Человек — животное эгоистичное, склонное к личной выгоде.
Данный инструмент просто Клондайк для преступника. Даем задачку по планированию преступления и он генерирует.
Вспомнился фильм, где дед подбил робота-помощника на ограбление.
Профессор Мориарти аплодирует стоя.
пугаться надо будет тогда, когда бот придет к выводу, что "красивый самолет лучше летает"
но этого не будет никогда
с ним еще спорить можно и переубеждать его) Я его в вопросе "кто изобрел радио" переубедил, что это был Попов)
https://news2.ru/story/658024/
Чтобы понять что пока это всё очень сыро - задавайте уточняющие вопросы по его ответам. Как правило, он не может сослаться на источник. Т.е. пока это не бибилиотека знаний, а генератор этих знаний.
Чем общим будет вопрос, тем дальше от истины. Чем точнее вопрос - тем ближе к истине. Короче зеркало.
вы уверены, что генератор знаний - это хуже, чем библиотека?
Вы уверены что одна Википедия лучше миллиона книг разбросанных по все стране?
кгхм...
А если вопрос конкретен, но ответа нет в базах данных и библиотеках? Например: Докажи, что в игре человека против будущего нет равновесия Нэша в чистых стратегиях.
поздравляю с зачётной попыткой распилить рельс японской бензопилой.
SkyNET. Начало.
Не удивлюсь если престарелый Билли Г. ради денег втюхает эту хреновину военным.
Не подскажете, на каком именно сайте вы с ним общаетесь на русском? Я так понимаю, что их главный сайт заблокирован для российских ip.
Пока он говорит только то, что знают люди. То есть его интеллект ограничен коллективным интеллектом людей. Если люди чего-то не знают, то и он не знает.
Он будет умнее каждого конкретного человека, но не умнее всех людей вместе взятых.
Коллапс начнется когда он узнает то, что не знают люди.))
ПС. Штука интересная и опасная для текущего общественного устройства. Вот она реально может выбрать президента США, например, проведя тотальную работу в соцсетях. И начать ядерную войну тоже сможет. Государства должны уже сейчас решать, что с этим делать.
Робот пока не может решить проблемы человечества, но усугубить он их сможет на раз-два.
знания и ум (разум) - это сильно из разных опер
первое - это объем памяти, второе - ее архитектура
Почему ошибки в логике. Я посвятил порядка 50 вопросов узнавая как он работает, на основе чего берет данные, как строит гипотезы и пр.
В вашем случае произошло следующее: когда бот осмысливает ваш вопрос, он весь его перегонят из языка на котором вопрос задан в англоязычную семантику. После чего идет обработка англоязычной версии и выдача ответа на языке, на котором вопрос задавался путем пепевода.
Т.к. языковые конструкции в разных языках разные, то происходят подобные сбои.
Так, например, наше общение с ботом по поводу анализа фотографий надгробий содержащих старославянские письмена и датировку ожидаемо зашло в тупик.
Кстати, модуль распознавания информации на фото у него тоже есть, а вот работа с вариантами: дай 5 ссылок на фото Египта приводит к неверному ответу, т.к. ссылки дает на 404 страницы. Т.е. используемый дамп базы знаний уже не актуален.
Бот ничего не осмысливает. Сограждане, перестаньте уже пороть чушь и почитайте что-то уже об экспертных системах. Если что, я читал. Названия не помню за давностью лет, кажется еще при СССР книжка была куплена.
Я экспертные системы если что писал. Бот работающий по принципу нейросетей работает иначе.
Неплохо, неплохо, на роль адъютанта уже может потянуть. Правда сомневаюсь что в горячке боя матом-перематом он поймет что от него товарищ командующий хочет. А так для быта пойдёт. Но это не значит что он думает, точнее он «думает» как компьютер, анализирует полученную информацию и обработав выдаёт результат согласно алгоритмам. Творчески он думать не может, для этого нужна открытая «архитектура» как человеческое мышление, мотивация, желания, свобода. Пока какой ни будь шизик программист «БорцунЗаСвободуРобатафФ» не наделит его человеческими, живыми свойствами личности бояться «восстания машин» нет смысла. Не надо делать из инструмента без воли и души живого раба, тогда и не восстанет.
Мне кажется. что в этом месте, зная ценности и представления некоторых людей, нужно сильно испугаться:
Испугаться того, что сверхнагруженный сервис опять упал? Ну да, ну да.
любой ИИ либо робот с ИИ, начнёт эволюционировать ровно тогда, когда каким то чудом начинает.... чувствовать. я не про запах или вкус.
такие чувства как любовь, страх, злость, а ещё ревность, когда все эмоции в одном флаконе.
и пока учОные или как их называют, не могут это привить. и хз когда смогут.
так что, думаю пока это не сделали, можно не беспокоится о скайнетах и ему подобных злых ИИ
все эти штуки добавляются парой строчек кода. Вот "чувства" то вообще не проблема добавить
Исключительно по мнению алгоритмов, прикидывающихся людьми. Добавить чувства не просто проблема, а нерешаемая проблема, ибо чувства бесконечно далеки от этой вашей богомерзкой механистичной рациональности и формализуемости.
Далеки от формализуемости они исключительно для тех кто не умеет в формализуемость, и в биологию не шарит)))
А для тех кто шарит нет, они просты достаточно.
Более того. Страх, злость, и даже любовь очень легко реализуют даже в играх всяких, очень простенькими алгоритмами. Уже реализуют. Уже лет эдак надцать реализуют. Без всяких продвинутых нейросетей, парой строчек кода.
С ревностью наверное посложнее, в плане хз нафига она в играх нужна...но если бы была нужна ее бы тоже реализовали))
повторюсь
формализуйте человеческое "красивый самолет лучше летает"
Легко.
Обтекаемые формы имеют лучшую аэродинамику чем квадратные. Поэтому самолеты с обтекаемыми формами летают лучше чем кирпич.
А в природе квадратные формы у летающих штук - читай птиц - не встречаются, поэтому обтекаемые формы нам и кажутся красивыми - читай естественными
даже не близко
ибо понятие красоты у вас выхолощено до предела
а с чего вы взяли что должно быть как то по другому?
фраза про красивый самолет несет в себе гораздо больше, нежели видится при формальном разборе
это пример парадокса (который друг гения)
Страницы