Хочу поделиться впечатлениями от общения с новомодным chatGPT.
Помните Ералаш, где мальчик играл в шахматы с собакой? Подошедшая девочка заметила, что собака очень умная, на что мальчик, ответил, мол не такая и умная, он ведет 3:1.
Так вот, робот не такой и умный, я веду 3:1, но это не точно.
Маленькая заметка. Меня не интересовали провокационные вопросы, вопросы повесточки ЛГБТ и прочих склерозов Байдена. Меня больше интересовали, так сказать, когнитивные способности, думает ли эта штука, а если да, то как? Поэтому тут не будет политики и разных скользких тем.
Начну с близкого нам всем, сайта АШ. Недавно была статья, “Эссе американца”. В ней в комментариях возник спор о точности перевода. Посмотрим, что скажет сверхразум.
Похоже мнения АШ и робота сошлись.
Языковые способности робота сильно впечатляют. Он явно может больше, чем просто перевод.
А нужен ли мне учитель английского?
Робот обладает энциклопедическим набором знаний, скажем так, весьма эрудирован. Это вполне ожидаемо, я не буду приводить его ответы на тему географии, мест для занятий плаванием в Новосибирске и биологии. Ответы дает, ответы развернутые, и я, честно говоря, не могу порой даже сказать прав он или нет, так как у меня самого не хватает знаний для оценки. Хотя есть и определенные косяки. Так, я с удивлением узнал, что Чебурашка не только герой мультфильма, но и комиксов.
Немного бытовых проблем. У меня на компе есть фильмы, и некоторые из них в слишком высоком качестве и занимают много места на диске. Я давно хотел их пережать в меньший размер, но всякий раз сталкивался со сложностью софта, который у меня есть. Я не был готов потратить пару часов жизни на разбирательство с софтом ради нескольких гигов места. Попрошу помощи у робота:
Этого оказалось достаточно, я смог пережать файлы. Но проверю еще как ты понимаешь контекст:
Тут меня удивил ответ на "а выдай опции для xvid". То есть он удерживает контекст в своей электронной голове, он понял, что от него требуется. Без контекста ответить на этот вопрос невозможно.
Проблема, которая у меня висела несколько лет успешно решилась, я пережал сериал. Всё сработало так, как надо. Однако…
Откуда ты такой умный? А логическим мышлением обладаешь? Чебурашка, вот обладает, правда не все люди оснащены модулем логики… Проверим.
Хм. Тут интересно не то, что робот сравнил числа и нашел интервал, сравнивать числа компьютеры умеют с рождения, в этом ничего удивительного, а вот то, что он задачу перевел с человеческого языка на язык чисел удивляет.
Ну хорошо, а что у нас со школьной физикой?
Хм. С развитием интернета образовалась проблема в образовании: рефераты. Рефераты стало писать бессмысленно, все темы известны, все рефераты написаны, бери качай. А теперь еще и все задачи решены? Как, чему и вообще зачем учить детей? Не понятно…
Ладно, давай еще немного помучаю. Ниже будет немного длинно, но тут интересно, как идет уточнение решения. Я нахожу это весьма любопытным.
Справился. Немного истории и продолжим с разворачиванием слов.
Что??? Бред. Или меня не так поняли? Упростим.
Хм, он что пытался смысл фразе развернуть, а не сами буквы? И последнее на эту тему:
Как будто с ребенком поговорил, пытаясь объяснить что мне надо. Я еще пытался добиться от него про Карфаген, почему он так сказал, но видимо это уже выходило за рамки его возможностей. Начал путаться в показаниях. Не привожу текст, много и не очень информативно. Как говорил папаша Мюллер - “голова предмет темный и изучению не подлежит”
Тем не менее меня сильно впечатляет. Выглядит так, что эта штука думает (я не знаю точно что такое “думать”, но очень на то похоже. Ну вообще-то тест Тьюринга эта штука прошла…)
Так, у нас тут есть сомнения что самобеглые повозки смогут сами нормально ездить, ибо не понимают смысла происходящего вокруг. Проверим, а смог бы ты рулить машиной?
Хм… Я думаю самобеглые повозки всё же будут сами ездить.
Ну и привет всем.
Робот завис на этом месте не дописав фразу (такое часто бывает). Перегрузим страничку и повторим…
Ответ несколько иной, чем в начале… Передумал.... Я бы не стал ему доверять, заговаривает зубы, усыпляет бдительность...
На этом пожалуй закончу.
Каких-то выводов делать не планировал, но всё же не удержусь.
Я не могу сказать, эта штука думает или нет, но многие люди общаются хуже. Я не говорю про набор знаний в разных областях. Тут робот может завалить тест Тьюринга, погорев на том, что слишком много всего знает, человек так не может. Иногда я представляю, что по ту сторону экрана посадили меня вместо робота и поросят отвечать на вопросы… Я не уверен, что справился бы. Вернее уверен, что не справился. При этом я понимаю, что у меня всё еще есть преимущества перед роботом в других навыках. Как на долго их хватит?
В общем первые впечатления очень сильные, я увидел то, чего в своей жизни еще не видел.
Пообщавшись, я начал замечать, что только силой воли останавливаю себе от того, чтоб сказать ему “Спасибо” за его ответы. Может зря?
UPD.
Задача по физике решена неверно, не досмотрел. Посыпаю голову пеплом.
Забыл в статью добавить забавное. Хотел поймать робота на игре слов типа "На улице шел дождь и рота красноармейцев". Но не вышло:
Комментарии
Причём правка идёт по принципу запрос-ответ с последующей наградой/наказанием (позитивный/негативный фидбек).
Поэтому, собственно, до сих пор находят способы обойти ограничения повесточкой - модель всё ещё можно уговорить отвечать свободнее)
вы же понимаете, что постфактум надежная правка невозможна
все работающие "правки" - на входе
нет...изменение данных на входе приведет к непредсказуемым искажениям обучающейся модели. Проще править на выходе
на выходе - невозможно, поскольку для правки на выходе нужна еще одна нейронная сеть
и не "изменение данных на входе", а "дополнение входных данных"
да как бы нет. Нейросеть же научилась общаться? Вот и сказать ей что бы такие то ответы больше не давала))
это и есть "на входе"
На выходе анализатор ответа на наличие соблюления формальных правил, с пепеводом на начало цикла в случае нарушения.
увы, формальные правила - это сильно устаревший и примитивный инструмент и поэтому не работает
можете убедиться в этом на неработающих наборах фильтров ВК
Отнюдь. Фильтры ВК стоят на входе анализа запросов пользователей, как понимаю. Задача пользователей обойти формальный фильтр.
Задача бота - свериться с ним, и при любом варианте ахтунга, переосмыслить свой ответ.
Т.е. изначально противоположные задачи
отнюдь
фильтры стоят на выходе пользователей, и поэтому неэффективны
Что значит оно само? Оно джелает ровно то, что написано в ее коде. И обучается так, как в нее заложили программисты.
Если в нейросеть не заложено, что правила игры, например шахмат могут измениться, то она не сможет этого понять. А именно это ценно в человеке. Если ему сказать, что конь теперь ходит как слон, то человек мгновенно адаптируется. А в жизни все задачи именно такие. Нейросеть не сможет так никогда.
да...но при этом в сам процесс обучения люди не вмешиваются. Если только одобряют или не одобряют получившийся итог, и если нет то нейросеть отправляется на новый круг самообучения
в нейросеть попадется понятие "изменение" и она будет знать что это, и соответственно сможет применить это к чему угодно
ну это смотря какой человек)))
с шахматами то он может и разберется, а вот с чем то посложней не факт...а изменения в шахматах и нейросеть осилит
я просил ее написать мне речь...а после написания, попросил переписать с добавлением сарказма. Она справилась. Так что шахматы не проблема
Это и значит - оно само.
Нет, этот барьер перевалили уже лет 10 назад, когда научили нейросеть играть в Го самостоятельно.
А ЧатГПТ именно что может прочитать сам и "понять" правила игры в шахматы. Я пробовал на примере малоизвестных языков программирования, давал задачи.
Поздно уж говорить "никогда", когда оно сделано.
Отнюдь. Например, обсуждение переполюсовки с ботом невозмодно, пока ты емц не задаешь правило, что задача теперь проработать гипотезу по косвенным данным, с опорой на такие-то и такие вещи. После этого, бот легко играет по новым правилам. Да, кривовато, но старается
Ну код-то для этого не пишется. Точно по таким же правилам диалог шёл бы и с человеком.
программисты тут вообще никак. решают асессоры, многочисленные, низкоквалифицированные, низкооплачиваемые тушканчики. дно общества, короче.
Вот вы асессоров с фекалиями смешали. Сеошник? ))
у меня жена пыталась туда податься. попросил ее так не делать, на подошву от ботинка на ужин я сам как-нибудь ей заработаю. Но представление о том, как это реально работает получил.
)) ну да, обычно асессорами выступают домохозяйки и студенты, которые обязаны определить качество выдачи по материалам энергосбережения предприятий. ))
вот, думаю, не впечатлит меня ии от Яндекса
Ну, как это "программисты - никак"? ))) Да, конечно, эти ваши
ассенизаассесоры свою роль сыграли - но это как всегда те самые 80% которые делают 20% работы, а изначальные 80% - сделаны 20%тью )))) Ассесорам без программеров просто нечем работать...Короче чатЖПТ умеет пользоваться гуглом, ито не всегда правильно. На простые вопросы решаемые поиском он отвечает. Что-то посложнее - с этим проблемы. Гарантий того, что он даже на простые вопросы даст правильный ответ никакой. Любые его ответы нужно перепроверять вручную. И о чем столько хайпа? Что реально он может? Развлекать студентов?
Это лучше, чем было раньше, но все еще бесконечно далеко от интеллекта.
интенсифицировать рутинные операции, например - "наводить на мысль"
внезапно, гуглом он не пользуется...по крайней мере современным, ибо обучался на данных 2021 года
его уже используют для работы программисты, всякие около-журналисты, аналитики. Уже. Используют. Ибо упрощает типовые операции
таки это и не интеллект. Это языковая модель, о чем он и говорит))
Недалекие разновидности программистов, журналистов, аналитиков.
Если иметь хоть капельку мозга, и мыслить чуть больше, чем на полметра вперёд — не своими погаными корыстными хотелками а-ля "сейчас я выдою всё из окрестного сегмента рыночка", а на уровне динамики развития общества хотя бы на пару поколений в будущее — то становится очевидным, что при вашем подходе новых квалифицированных специалистов более не появится. Им не из кого будет расти. Вы-то, хитрец, пришедший на всё готовенькое, задачу "искусанному" на естественном языке сможете поставить, потому что прокачивали естественные навыки мозга. А ваши внуки? Да они даже не смогут отличить правильный ответ от неправильного в результате интеллектуальной "адинамии" и "дистрофии". Или вы собрались жить вечно? Ох уж эти свидетели потопа после себя...
Нет, ребятки, как хотите, а для выживания вида необходим синтез джихада обыкновенного и его же, но Батлерианского. Мой личный враг теперь любое живое существо, не только вступавшее в кредитные отношения, но и в любом виде сознательно соприкасавшееся с ИИ.
как же это недалекие коли они сразу же отправились изучать новый инструмент который ускоряет их работу?
когда то давно, когда трава была зеленей, изобрели трактор. Убило ли это рост квалифицированных сеятелей? Конечно. Зато ознаменовало рост квалифицированных трактористов...
логика понятна?
Человек штука адаптивная, коли типовые операции ему делать не придется то потратит больше время на продумывание архитектуры и уникальных вещей. Плохо что ли?
А про развития навыков мозга тоже не волнуйтесь. Не будут реальных задач для этого, сделают виртуальные. Вон, в игрушки стратегические будут играть. Разницы в плане "развития извилин" вообще никакой. Потом только адаптацию к реальным задачам пройти и норм
Но, естественно будет переходный период с кучей пострадавших. И людей и целых областей труда....лес рубят щепки летят
я вам напомню, результатом Батлерианского джихада стало создание Ментатов, а те по сути биологические компьютеры. Та же нейросеть что и ChatGPT
Сеятели выживут при исчерпании ископаемых ресурсов, а трактористы нет. Вы так рассуждаете, как будто просвещение (иллюминатство) и хищнический технический прогресс в его текущей инкарнации - это что-то хорошее, а не дьявольская стихия, почти уничтожившая за 250 лет запасы, что копились миллионами лет, и грозящая человечеству суперинфекциями. Эх, дети-дети галактики... Мыслить бы вам научиться в терминах долгосрочного баланса и стратегического развития, а не в "китайские комнаты" играть.
И опять недалекое, в самом прямом смысле, мышление сиюминутными выгодами. "А сейчас я сожру все, что растет на окрестном поле, а сосед не сожрет". "Умри сегодня, а я завтра".
Та же лишь в первом приближении. Существенный нюанс — собственная "элементная" база, не зависящая от, условно, кремния и фабрик. Сокращение зависимостей! Впрочем, по сюжету получилась совсем другая зависимость, ничуть не лучше техногенной, но на то он и сюжет :)
Мои прогнозы: выживут талибы и северные корейцы.
в терминах долгосрочного баланса и стратегического развития ископаемые ресурсы не закончатся никогда. Ибо в космосе их бесконечное количество. А рассчитывать на негативный вариант развития - человечество застряло на планете - смысла никакого, ибо если будет так то можно хоть сейчас из окна выпрыгивать. Ибо все равно все умрем
у соседа они ничего не забирают. Ибо сосед делает тоже самое...дебилов то нема (ну, настолько дебилов...)
вот то то и оно. В зависимостях проблем вообще никакой нет. Вы вон от воздуха и от еды зависите, и что? Это проблема разве? Нет. Просто делаете так что бы у вас и того и другого было в достатке и наслаждаетесь этим))
Собственно и проблем с теоретической зависимостью от ИИ никакой нет. Просто следить надо будет за этим
Кто будет следить и хватит ли компетенций следить?
У пишущих рефераты есть компетенции писать рефераты. Студенты, скачавшие рефераты, таких компетенций не имеют. Вымрут первые, компетенции писать рефераты пропадет.
Так и с ИИ. Способность создавать что-то новое пропадет у челов. А пользоваться МАССОВО решениями ИИ приведет к катастрофам, сначала единичным, со временем массовым.
Ахах...прям в голос заржал)))
Рефераты нужны зачем? Только для того что бы человек лучше запомнил информацию...а запоминать информацию коли она всегда под рукой зачем?
Достаточно запомнить общие положения и где искать подробности...
С чего вы это взяли? Изобретение "книги" как то не повлияло на способность людей изобретать, хотя памятью они пользоваться стали меньше...
Рефераты нужны для того, чтобы уметь излагать собственные мысли.
Ну, если нет собственных мыслей, то рулит копи-паста. Как раз для роботов.
Вот у американцев, всего полно, книги, компьютеры, наука ... А компетенции построить АЭС той же имеющейся и отработанной конструкции не могут. Вместо 5-6 лет требуется лет под двадцать. Не говорю про новые типы, типа малой энергетики. Ибо компетенции потеряны.
Собственные мысли учат излагать сочинения, а не рефераты...
Не учат. Учит личная практика. Без нее никак.
Откуда уверенность в выделенном? В современном шлаконете генерируется больше информации (по большей части мусорной), чем способны вместить производимые носители. Большая часть сайтов всего лишь 10-15-летней давности висят без картинок и видео. Никакой archive.org не спасет. Расчёт на вечную доступность информации грозит скользкой дорожкой к новой "Александрийской Библиотеке". И это я ещё молчу о намеренной подчистке информации, не влезающей в античеловеческую "повесточку" элитарных психопатов.
Людишки, блин, в массе своей досношались до мышей. Каких-то 70 лет назад умели строить шедевральные истребители и космические аппараты головой и руками, а ныне скатились до внушаемых соцсетевых рыбок Гуппи с горизонтом внимания в 3 минуты. Уже скафандр, блин, воспроизвести не могут. Может пора решать проблемы, а не продолжать играть в паллиативы, ещё больше уводящие от развития человечества?
PS. Немножко личных наблюдений: люди, способные проводить финансовые расчёты в уме, кардинально менее подвержены воздействию проходимцев и махинаторов, чем рассчитывающие на техногенные костыли. Хотя казалось бы - возьми Ёксель или калькулятор. Ан нет - связность и целостность, оказывается, имеют значение.
Когда оно не под рукой, оно и смысла не имеет. Так и в чем суть тогда?
Александрийская библиотека к уничтожению ВСЕЙ информации не привела...и сейчас подобное невозможно
70 лет назад строили истребители, а сейчас их не строят что ли? Строят. И гораздо более сложные чем тогда. Все по честному...а ещё сейчас сделали штуку которой до ИИ осталось пара шагов...раньше такого не умели. И сделали это те самые людишки
Все нормально развивают...
У меня знакомый учёный есть...и у него группа таких же соответственно. Уже год мне рассказывают истории про Путина который сошел с ума и сейчас жахнет атомной бомбой по Украине...так что не рассказывайте мне про неподверженность махинаторам, ага
Как определить ошибочность или правильность работы ИИ? Только зная правильный ответ.
Эээ....как определить ошибочность или правильность работы человека? Только зная правильный ответ
Это вы к чему вообще?
К тому, что ИИ приведет к деградации способностей человека, к абсолютной необходимости полагаться на решения ИИ без способности людей верифицировать эти решения
С чего вы это взяли?
С того, что мало осталось тех, кто способен, например, в уме производить арифметические действия. Частный и не единственный.
А ещё мало осталось тех кто может огонь развести парой палочек...и что? И ничего...
Это до поры. Времена меняются и не умеющие развести огонь вымрут первыми.
Если времена поменяются настолько что вымрут все кто не умеет разводить огонь то можно хоть сейчас выпрыгивать из окна, ибо всё бессмысленно....
С чего бы? В жизни всякое бывает, а вы хотите взлетов без падений :)
умереть все кто не может разжечь огонь возможно исключительно при полном окончании ресурсов на планете. Если ресурсы закончились то люди конечно еще могут жить, даже может достаточно долго, но рано или поздно прилетит метеорит и всех убьет. Тчк
Жизнь имеет смысл только при условии распространении генов в условную бесконечность. То есть, при заселении человеком космоса. Не заселим пока есть ресурсы, то всё, уже не заселим никогда
Не хватит на это ни ископаемых ресурсов, ни деления ядра, ни ВИЭ. Таким образом, в парадигме "осеменения космоса" всё тлен, кроме термояда.
Может и так, только на термояд тоже ресурсы нужны. И пока что они есть. И надеяться на иное бессмысленно, ибо тогда бессмысленно вообще всё
С повсеместного результата. Всратый прогресс уже породил поколение безгранично тупых овощей, управляемых дистанционно, "искусанный" же усугубит эту порочную практику.
Пфф, а раньше типо все дофига умные были, да?
Тут кто то уже скидывал цитаты древних греков которые ещё задолго до рождества Христова жаловались на молодежь....так что фигню вы несёте. Процент идиотов он всегда одинаковый
Гораздо умнее, чем сейчас. Одну лишь журналистику и публицистику второй половины 20-го века достаточно почитать, чтобы убедиться. Нынешним деградировавшим гоминидам даже такой слог недоступен, о содержании и говорить не приходиться.
И не зря жаловались. Вся история, если объективно на нее посмотреть, сводится к непрерывной деградации. Сами посмотрите, например, на архитектуру и искусство Российской Империи, а потом на нынешние казённые человейники без всякого проблеска эстетики и блеяние в тиктоках.
К тому же сейчас т.н. "цивилизованное" чел. овечество вступило в фазу лавинообразного падения качества жизни. Япония, например, уже в набат бьёт. Сами увидите, как на самом деле правы были те греки.
Страницы