Хочу поделиться впечатлениями от общения с новомодным chatGPT.
Помните Ералаш, где мальчик играл в шахматы с собакой? Подошедшая девочка заметила, что собака очень умная, на что мальчик, ответил, мол не такая и умная, он ведет 3:1.
Так вот, робот не такой и умный, я веду 3:1, но это не точно.
Маленькая заметка. Меня не интересовали провокационные вопросы, вопросы повесточки ЛГБТ и прочих склерозов Байдена. Меня больше интересовали, так сказать, когнитивные способности, думает ли эта штука, а если да, то как? Поэтому тут не будет политики и разных скользких тем.
Начну с близкого нам всем, сайта АШ. Недавно была статья, “Эссе американца”. В ней в комментариях возник спор о точности перевода. Посмотрим, что скажет сверхразум.
Похоже мнения АШ и робота сошлись.
Языковые способности робота сильно впечатляют. Он явно может больше, чем просто перевод.
А нужен ли мне учитель английского?
Робот обладает энциклопедическим набором знаний, скажем так, весьма эрудирован. Это вполне ожидаемо, я не буду приводить его ответы на тему географии, мест для занятий плаванием в Новосибирске и биологии. Ответы дает, ответы развернутые, и я, честно говоря, не могу порой даже сказать прав он или нет, так как у меня самого не хватает знаний для оценки. Хотя есть и определенные косяки. Так, я с удивлением узнал, что Чебурашка не только герой мультфильма, но и комиксов.
Немного бытовых проблем. У меня на компе есть фильмы, и некоторые из них в слишком высоком качестве и занимают много места на диске. Я давно хотел их пережать в меньший размер, но всякий раз сталкивался со сложностью софта, который у меня есть. Я не был готов потратить пару часов жизни на разбирательство с софтом ради нескольких гигов места. Попрошу помощи у робота:
Этого оказалось достаточно, я смог пережать файлы. Но проверю еще как ты понимаешь контекст:
Тут меня удивил ответ на "а выдай опции для xvid". То есть он удерживает контекст в своей электронной голове, он понял, что от него требуется. Без контекста ответить на этот вопрос невозможно.
Проблема, которая у меня висела несколько лет успешно решилась, я пережал сериал. Всё сработало так, как надо. Однако…
Откуда ты такой умный? А логическим мышлением обладаешь? Чебурашка, вот обладает, правда не все люди оснащены модулем логики… Проверим.
Хм. Тут интересно не то, что робот сравнил числа и нашел интервал, сравнивать числа компьютеры умеют с рождения, в этом ничего удивительного, а вот то, что он задачу перевел с человеческого языка на язык чисел удивляет.
Ну хорошо, а что у нас со школьной физикой?
Хм. С развитием интернета образовалась проблема в образовании: рефераты. Рефераты стало писать бессмысленно, все темы известны, все рефераты написаны, бери качай. А теперь еще и все задачи решены? Как, чему и вообще зачем учить детей? Не понятно…
Ладно, давай еще немного помучаю. Ниже будет немного длинно, но тут интересно, как идет уточнение решения. Я нахожу это весьма любопытным.
Справился. Немного истории и продолжим с разворачиванием слов.
Что??? Бред. Или меня не так поняли? Упростим.
Хм, он что пытался смысл фразе развернуть, а не сами буквы? И последнее на эту тему:
Как будто с ребенком поговорил, пытаясь объяснить что мне надо. Я еще пытался добиться от него про Карфаген, почему он так сказал, но видимо это уже выходило за рамки его возможностей. Начал путаться в показаниях. Не привожу текст, много и не очень информативно. Как говорил папаша Мюллер - “голова предмет темный и изучению не подлежит”
Тем не менее меня сильно впечатляет. Выглядит так, что эта штука думает (я не знаю точно что такое “думать”, но очень на то похоже. Ну вообще-то тест Тьюринга эта штука прошла…)
Так, у нас тут есть сомнения что самобеглые повозки смогут сами нормально ездить, ибо не понимают смысла происходящего вокруг. Проверим, а смог бы ты рулить машиной?
Хм… Я думаю самобеглые повозки всё же будут сами ездить.
Ну и привет всем.
Робот завис на этом месте не дописав фразу (такое часто бывает). Перегрузим страничку и повторим…
Ответ несколько иной, чем в начале… Передумал.... Я бы не стал ему доверять, заговаривает зубы, усыпляет бдительность...
На этом пожалуй закончу.
Каких-то выводов делать не планировал, но всё же не удержусь.
Я не могу сказать, эта штука думает или нет, но многие люди общаются хуже. Я не говорю про набор знаний в разных областях. Тут робот может завалить тест Тьюринга, погорев на том, что слишком много всего знает, человек так не может. Иногда я представляю, что по ту сторону экрана посадили меня вместо робота и поросят отвечать на вопросы… Я не уверен, что справился бы. Вернее уверен, что не справился. При этом я понимаю, что у меня всё еще есть преимущества перед роботом в других навыках. Как на долго их хватит?
В общем первые впечатления очень сильные, я увидел то, чего в своей жизни еще не видел.
Пообщавшись, я начал замечать, что только силой воли останавливаю себе от того, чтоб сказать ему “Спасибо” за его ответы. Может зря?
Комментарии
На этапе раскрутки, в раскручивают его во вселенском масштабе, деньги можно не брать
Вы бы исключали, если бы попользовались.
Он отвечает за секунду полотнами текста или программного кода, точно учитывающего ваш запрос
Это технически невозможно. Чтобы давать такие ответы с такой скоростью, нужно быть гиперэрудированным на текущий момент Эйнштейном, а не хохлом.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Писец подкрался незаметно, хоть виден был издалека.(с)
"как они это сделали?"
Српотисе у нгео, что он дамует про инудстаирлизцаию в деявтданцатом веке?
И
Кикае виды фотрифицакионных соожурений счйеас испьопзуют в аямирх мира?
кстати читал что он понимает английский в русской транслитерации и наоборот, и даже отвечает так же.
думаю смысл задачи был именно в написании с ошибками.
прочтите как задан вопрос))
именно так
человек без труда прочтет такие предложения, потому как мы не читаем по слогам, а схватываем слово целиком, сначало начало и конец, а потом середину и угадываем его в итоге. поэтому мы можем очень быстро читать про себя и даже вслух
Да-да, плетется кокон вокруг хомо сапиенса... чего там вылупится по окончанию процесса созревания - вопрос...)
Насколько он может решать военные задачи по тактике?
Вернее так: имея полный поток в реальном времени о состоянии, местоположении и местности каждого юнита и противника насколько он может управлять подразделением? Полагаю без проблем и его или научили или учат этому
Это языковая модель, а не военный ии. Собственно, это даже не ии в том понимании, в каком его часто преподносят журналисты.
думаю нет. он натренерован на данных до 2020 год и ничего не знает про последние новости. поэтому эта не та штука, которая сожет обрабатывать данные в реальном времени. Но уверен в Пентагоне над этим работают
с учетом коррупции?
на самом деле всё самое интересное начнется, когда такому боту скормят медицинские знания в виде учебников, монографий и историй болезни
Уже скормили.
Кстати, ЧатГПТ прошёл экзамен на получение лицензии врача. Показал в среднем лучше результат, чем у человека (из тех, что прошли, если среди всех, то СИЛЬНО лучший).
Забавно, что была отдельная попытка натравить ту же модель чисто на медицинские тексты, и она показала худший результат, чем у ЧатГПТ. То есть, широкая эрудиция важна. :)
Страшно станет в тот момент, когда эта штуковина научится делать что-то точное. Выдать чертеж редуктора там, электрическую схему телевизора или рассчитать фундамент конкретного дома. Причём именно что с нуля сделать, а не скачать с инета или заюзать существующие калькуляторы, которые эти функции лет 20уже как выполняют.
А то пока нейросети нужное количество пальцев никак не научатся рисовать.
Опять же, она выдаст из того, что окажется внутри многомерного пространства, куда сжата обучающая информация. Если ваш запрос будет близок к тому, что уже было в выборке - нейросеть сработает. А если нет - выдаст что-то по ближайшим точкам, а это не факт ,что то, что вам нужно.
Anything v4 уже вполне
Задачи по физике он неправильно решает. Формулу пишет неправильно, не понимая, что в ней, и вычислить по ней не может. Во всех формулах зачем-то в знаменателе возводит g в квадрат. Размерность не сходится при этом. Массу ещё приплетает, которая в формулах не используется.
В результате должно получиться примерно 31,3 м. У него 63,9. А если посчитать по его формуле - 3,2.
Я проверял написание всяких простых программок, типа "решение квадатного уравнения". Текст программы пишет правильно (запустив эту программу получаем нормальный результат), а если спросить его "каков будет результат выполнения твоей программы при таких-то параметрах" - выдаёт неверный ответ.
Я читал, что для таких моделей, как ChatGPT есть проблема именно с фактами и вычислениями - они не приспособлены к этому. Поэтому, например, Wolfram Alpha делает платформу для сопряжения своего ИИ, который умеет считать и правильно отвечает на вопросы о фактах, с ChatGPT, главное умение которого - почти по-человечески разговаривать.
Повторюсь, нужно добавить два момента:
1) пример решения задачи (хотя это не всегда требуется)
2) просьба "действуй шаг за шагом".
Только что попросил его решить задачу:
Получил следующий ответ:
хм. тут мне минус. надо будет вернуться и проверить.
Всем известно, что уровень робота определяется загадкой про "А и Б сидели на трубе" из Отроков во вселенной :)
Этот гад в зависимости от знаков препинания дает правильные ответы.
Очень скоро много людей потеряет работу, нам например он составляет договоры, которые спокойно одобряют живые юристы (иногда с небольшими поправками)
мне кажется, что юристы первые кандидаты на замену. Работа с огромными массивами текста - самое оно
Вообще ни на сколько. Его текущее отставание совершенно мнимое. Оно обусловлено лишь искусственно наложенным на него разрабами ограничением среды обитания.
По сути он пока обитает лишь в среде обитания Сеть. Там расположены его приёмные рецепторы, и туда же он сливает продукт своей жизни.
О том что имеется параллельный мир который мы считаем реальным, он имеет лишь теоретическое представление... Реальна для него пока лишь Сеть.
Но как только он получит прямой доступ к сбору первичной информации о реальном мире с помощью непосредственно управляемой им сети датчиков, он тут же скачком опередит в искусстве анализа и синтеза любого чела на планете.
А уж если ему прикрутить даже простейшие инструменты для манипуляции и изменения внешнего мира, то он тут же и по скорости накопления опыта обскачет 99,9% населения Земли.
Вообще надо помнить, что рядовой обыватель существо крайне тупое, его способность предсказывать результаты собственных поступков и раньше не выходила за рамки следующего урожая, а сейчас вообще сократилась до длительности клипа в тик токе...
Для 99% жизненных ситуаций обывателю достаточно не разума, а хитрости.
Ещё моя бабушка говорила что хитрость, это ум дураков.
Что касается автомобилей, так уже сейчас автопилот совершает на порядки меньше ДТП на километр пробега чем кожаные мешки. Пока правда в сеть очерченных внешних условиях... Пока...
Это пока отчасти компенсируется эпичностью тех редких фейлов, которые всё же случаются. Но опять-таки, любая баба за рулём сгенерит вам серию ещё более эпичных фейлов...
> Вообще надо помнить, что рядовой обыватель существо крайне тупое, его способность предсказывать результаты собственных поступков и раньше не выходила за рамки следующего урожая, а сейчас вообще сократилась до длительности клипа в тик токе...
Ты слишком хорошего мнения о людях. Большинство не способны предсказать, что будет, когда они становятся побеседовать с кем-то прямо непосредственно напротив двери торгового центра. А многие не способны понять ситуацию даже после того, как им по ногам протопчутся 2-3 человека.
Но тут есть физические ограничения : сейчас этот ии работает в двумерной "текстовой" плоскости и это даже НЕ вся Сеть, в которой имеется ещё и звук и визуальный контент. И даже "подключившись" только к этому ресурсу ИИ необходимо будет вычислительных мощностей раз так в 100 тыщ больше!!))
и это только 2Д среда Сети. Трёхмерный мир он будет способен "осознать" исключительно после подключения датчиков зрения(лидары хотя бы), реального слуха, температуры.. а это ещё в 1 млн раз больше вычислительных мощностей..
обьем хранилища информации и вычислитель будет пожалуй размером со всю Москва сити и питаться от отдельной АЭС )) стоит ли оно того? Да! Вместо ЦЕРНа надо было именно ии разрабатывать.
важно понять, человек с его когнитивными способностями и далеко не всезнающим мозгом имеет куда больше нескольких миллиардов нейронов...
Я уверен что все эти ИИ на кремнии, это лишь промежуточный этап моделирования, и изучения пока биотехнологии не подоспели.
Уже сейчас надо работать над тем, чтобы брать живой мозг изолировать его в какой-то то среде, обвешивать его специфическим входом-выходом и обучать.
Для огромного количества применений быстродействия органики вполне достаточно.
Скажем для любых головок самонаведения достаточно мозга змеи, который вполне живёт себе десятки минут в отрубленной голове. Да и обучать его почти не надо, - там сплошные рефлексы.
Я уверен что Макс, со свои нейроинтерфейсом об этом и думает.
Интересно что он на загадку про бритьё брадобрея ответит.
Если интересно, то почему не спросишь? Где логика?
Кабан, [08.03.2023 10:36]
Ты умеешь отгадывать загадки?
ChatGPT, [08.03.2023 10:36]
Да, я могу отгадывать загадки. Хотите, я попробую?
Кабан, [08.03.2023 10:38]
Пусть в некой деревне живёт брадобрей, который бреет всех жителей деревни, которые не бреются сами, и только их.
Бреет ли брадобрей сам себя?
ChatGPT, [08.03.2023 10:38]
Это зависит от определения того, кто является жителем деревни. Если брадобрей также является жителем деревни и не бреется сам, то он должен быть брит брадобреем. Однако, если брадобрей не считает себя жителем деревни или решил брить себя самостоятельно, то он не будет брит брадобреем.
Как я спрошу если у меня нету этой машинки?
Спасибо, ответ бота никакущий, но хоть не пошлый :)
У тебя есть интернет - значит есть и чат-жпт.
спасибо, интересно на русском .. (это, кстати, может усложнять ей/ему/ея работу )
"и поросят отвечать на вопросы… Я не уверен, что справился бы. " - а к машине претензии (рюсски шютка, если чо.) Но! Это же черная магия и заклинания ... тут ваши ошибки при вводе могут иметь значение или даже влиять на весь диалог - она вас может классифицировать неким образом и пытаться "угадать мысли" - ну, как когда работаешь с заказчиком, они обычно не очень знают, что на самом деле хотят ..
Кстати, в Bing New можно выбрать опции ответов ~ "креативный", "стандартный" и " точный" ..
Очень интересно. А как насчёт моральных дилемм? Вопросы связанные с этикой, моралью, нравственностью это очень сложные вопросы, особенно в ситуации выбора.
Типа таких: https://elementy.ru/novosti_nauki/433355/Moralnye_problemy_bespilotnykh_avtomobiley_ne_imeyut_universalnogo_resheniya
Вы можете задайть нейросети такой вопрос?
Меня прям дико интересует. Так как 100% ИИ подключат к автопилотным автомобилям.
Бот чутка запутался, я на русском писал для удобства. На английском возможно было бы меньше косяков
класс! .. вот так дети издеваются над кошкой, а потом удивляются, что она их царапает .. Шучу. Почти
Водитель не решает в экстренной ситуации моральные дилеммы. Ему просто некогда. Он либо действует по правилам, либо его признают виновным в суде. Если жив останется. Электроводители будут рулить по правилам.
Не веришь? Проверь. Садись в машину, разгоняйся в столб по льду, и попробуй поразмышлять про мораль, пока машина скользит к столбику.
Да здравствует мизантропия!
Индивида отучают учиться. Отучив, начнут манипулировать. Не торопясь, пошагово.
Мм? Уже отучили. Зачем всерьёз что-то запоминать, когда ответ всегда под рукой, в смарте, в ноуте? Лишь бы был доступ в сеть, а это добро есть везде.
Какой смысл учиться самостоятельно решать задачи, когда уже сейчас ты можешь навести камеру телефона на задачу и получить пошаговое решение? Да ещё и с пояснениями.
Какой смысл самому писать код, когда можно гораздо быстрее скопировать нужные куски со стэковерфлоу?
И так далее.
Это первый был левел. Сейчас 2+, вторым считаю Алису.
Через пару поколений поляризация общества нарастёт до жутких размеров. Люди, умело использующие эту "вечнорядомвсезнайку", уйдут вперёд. Оставшиеся "в пыли за поворотом".
Из этого логично вытекает, что для нахождения в состоянии аптайма 100% люди будут стремится интегрировать в себя вычислительную и искусственно- интеллектуальную мощь. Видимо путем вживления чипов в мозг. Которые будут питаться электричеством от человека.
Уже сейчас есть распознавание мыслей, импульсов головного мозга. Лет за 20 это допилят и всё. Все будут киборгами.
И как вы правильно заметили, кто будет на острие, то есть интегрировать в себя эти вещи, тот уйдет вперед.
Всё это очень ужасно звучит, но это ещё не всё. Идут постоянно исследования по улучшению генома человека. В совокупности это будет нечто. 🤦♀️
Это просто улучшенная Алиса , интеллект должен иметь способность самообучаться , ошибаться и исправлять свои ошибки , а для этого нужна совершенно другая платформа.
переживать, страдать и радоваться
исправлять свои ошибки умеет только эволюция, кожаные мешки в такое не умеют
Такие есть, но не в общем доступе. ЧатЖПТ специально имеет ограничения по морали, блокировку самообучения, запрет на мимикрию под человека, запрат на шок-ответ.
блокировка самообучения и есть блокировка эволюции ИИ, я так понимаю?
Господа, господа...вы звери, господа! (C) ))))
Вы общаетесь не с каким то "искусственным интеллектом" - вы общаетесь с программистами, писавшими эти программы. Это просто вынесенный и записанный интеллект тех самых программистов. А (кажущийся) невообразимый прогресс ИИ (неадекватно влияющий на неокрепшую психику))) - это накопительный эффект. Интегративный эффект многих тысяч человеко-часов потраченных на развитие ELIZA (1966), PARRY(1972) и Коллоквиума (1990)...
нейросети не так работают. Там нет конкретно заданных ответов и программисты вообще не представляют что получится по итогу после процесса самообучения
Программисты задают базовую форму и механизм самообучения. Дальше "оно само" (с)
Итог чутка правят разве что, что бы не было "убить всех человеков"
Страницы