О применении ИИ в физике
Введение.
Все говорят чат ГПТ, чат ГПТ, прекрасный искусственный интеллект. Вот я с ним и столкнулся, вернее с его творениями. Из данного столкновения я сделал некоторые выводы, которые привожу в данной статье.
1. Общая характеристика состояния науки.
Научных работников в области физики можно разбить на три группы:
Управленцы. Самая многочисленная категория научных работников. Они утверждают направления работ (не планируют, а именно утверждают!) и собирают отчеты. Уровень знаний у этой категории достаточно низок, соответствует аспирантскому, это бывшие ученые. При общении с ними широко используется язык аналогий.
Теоретики. Менее многочисленная категория научных работников. Они пишут теории, иногда (редко) используя экспериментальные данные. Теории расходятся в кругах теоретиков и используются для воздействия на управленцев. Уровень знаний разнообразный, но с полным незнанием и презрением к практической физике. При общении с ними используется язык математических абстракций.
Экспериментаторы. Самая малочисленная категория. Они чего-то измеряют, каждый в своем маленьком направлении и жестко обороняют свою делянку. Результаты измерений отправляются в статьи и отчеты, где благополучно забываются. Уровень знаний разнообразный, но жестко ограниченный своей делянкой. При общении с ними используется язык графиков и таблиц.
Группы связаны объемной бумажной малоинформативной и бессмысленной перепиской. Очень редко от экспериментаторов к теоретикам уходят данные, что является исключением.
2. С чем я столкнулся:
а) Составление перечней и запросов. Чат ГПТ написал мне список фланцев по запросу “фланцы на вакуумную установку”. В запросе не содержалось никаких данных, что это за установка и зачем она нужна. Полученный список был отформатирован, красив, не велик и не мал, с достаточно хорошими объяснениями. Данный список отличался в лучшую сторону от тех, что составляем мы для закупок и вполне годился для освоения внезапных средств, появляющихся к новому году. Понять что в списке есть ненужные фланцы, нет нужных, не те типоразмеры и способы уплотнения смог только кфмн, руководящий сборкой установки!
б) Отзыв на моего аспиранта. Оппонент поприкалывался и написал отзыв на аспиранта с помощью чата ГПТ. Запрос в чат был по названию темы и ключевым словам диссера. Полученный отзыв был неплох и немного коряв. После незначительного редактирования оппонентом был принят как рабочий. В принципе отзывы/рецензии/заключения вполне можно писать и с помощью чата ГПТ, не связываясь с исходным текстом. Дело в том, что данные бумаги давно стали административной формальностью, в которой изначально не предусмотрено высказывать свои мысли. Отличить отзыв написанный человеком или написанный ГПТ и слегка доработанный человеком я по своей тематике не могу.
в) Статья. По секрету ознакомился с ГПТ-шной статьей. Результаты удивительны – возможно написание экспериментальной статьи вообще без проведения экспериментов! По факту проверка достоверности статей ведется по косвенным признакам – приводимым методикам, терминам, выводам, полная проверка экспериментальной статьи займет больше времени и труда чем ее написание. С помощью чата ГПТ студент, вооружившись практически генератором случайных чисел, после минимальной корректировки терминов выдает статью посвященную исследованию эмиссионного излучения. Если статья по моей тематике я как кфмн и снс вижу полный бред, но не вижу пути доказать что это бред. Что я могу? Привести свои спектры и потребовать рассмотрения “экспертами” которые никогда не работали в данном направлении? Ну да, за полгодика мы эту статью запинаем. Если статья по смежной тематике, то я не увижу очевидной подделки данных и однозначных провалов в статье – я не настолько в теме чтобы делать однозначные выводы. Да, если задаться целью, поднять бумажные справочники то, возможно, я и пойму что представлено не открытие, а вранье, но это сложно, это серьезная работа. Если работа не по смежной тематике и редактировалась хотя бы грамотным аспирантом я просто не пойму что это подделка данных. Если статья не связанная с измерениями, а теоретическая или еще какая, то я вообще не вижу способов ее проверить – ну сядет грамотный теоретик, ну скажет что там формулы неправильные, ну можно их изменить, оставив те же выводы (что не раз бывало и без чата ГПТ).
г) Грант РНФ. Как выяснилось чат ГПТ вполне способен написать хорошую заявку на грант для получения средств. Для этого необходимо скормить ему ключевые слова и какую-нибудь обзорную статью из УФН по данной тематике. Причина данного явления кроется в том, что заявки на грант прошли долгую эволюцию, в результате которой там не пишется смысловая часть. Если в заявке написать как ты реально будешь решать поставленную задачу то при отсутствии своего эксперта тебе этот грант не дадут, зато на следующий год ты обнаружишь что по данной тематике кто-то уже получил аналогичный грант. Раньше таким занимались великие, вроде Энштейна, теперь данная система спустилась ниже. То же можно сказать и о результатах гранта. Грант не может быть не выполнен, поэтому в ожидаемые результаты вписывают либо уже полученные данные, либо гарантированный легко достижимый широко трактуемый результат. В отличие от человека чат ГПТ не допускает неточностей и пишет ровно, так что можно констатировать, что из-под чата ГПТ запросы на гранты выходят лучше. После минимального редактирования отличить человеческий и ГПТ-шный грант мне по моей тематике невозможно, что уж говорить про “экспертов”.
д) Внутренняя переписка. В науке циркулирует огромное количество бумаг, схем и форм. Использование чата ГПТ позволяет автоматизировать заполнение данных бумаг. Это сильно снизит нагрузку на научного работника, не придётся каждый раз думать чего соврать – всегда можно отбиться туманным текстом от чата ГПТ. В принципе на данный момент чат ГПТ вполне способен заменить всех управленцев – он отлично пишет туманные призывы чего-то исследовать. Единственная функция не доступная ему – это выдача денег.
3. Выводы.
1) Чат ГПТ мастерски имитирует умственную работу, особенно в формализованной переписке и задачах где не используется смысловая часть. В принципе для науки это характерно – долго говорить ниочем и тд и тп. Этим чат ГПТ наносит удар в самое сердце современной научной деятельности.
2) Чат ГПТ мастерски перемешивает правду и ложь, так как он их не отличает. А разделить правду и ложь требует просто диких умственных затрат.
3) Чтобы понять, что в некотором тексте нет смысла, и он написан чатом ГПТ необходим высокий уровень знаний, куда выше чем у работавшего с чатом ГПТ. Один аспирант с чатом ГПТ способен затроллить трех-четырех кфмн по их же тематике.
4) Связка чат ГПТ- грамотный человек способна подделать практически любые данные и утопить в море фальшивой информации.
4. Будущее.
1) Вал поддельных статей и научных сообщений, создание целых информационных структур и научных школ которые изучают то, чего нет. Сейчас создание подобной информационной глыбы уже вполне посильно для аспиранта, он вполне может с чатом ГПТ писать одну статью в день. Опровергатели даже не смогут прочитать весь информационный продукт, не то что осознать и что-то кому-то доказать. В общем, данное явление отправляет всю научную печать, а не только теоретиков в мусорное ведро. Остаются только личные контакты с показом оборудования и демонстрацией методик. В принципе экспериментальная физика откатится назад и будет базироваться на книжной информации из 70-х.
2) Вал запросов на гранты, которые будут удовлетворять всем необходимым требованиям. Система выдержит, но только потому что гранты распределяются среди своих. Грант можно будет получить только при личном знакомстве с “экспертами”.
3) Отчеты начальству. Значительное облегчение написания отчетов и сильный соблазн ничего не делать, а просто писать отчеты через чат ГПТ. Это вызовет ужесточение проверок, формализацию отчетов, проверка другим чатом ГПТ на написание отчета с помощью первого чата ГПТ и, в конце концов, появиться специальная структура “толкачей”, которые смогут продвинуть отчет за 20% гранта.
4) Выход на новый уровень переписок с бухгалтерией и тд и тп. Тут Чат ГПТ значительно разгрузит научных сотрудников. Но число бумаг должно возрасти.
5) Обрушение существующей системы управления наукой. После общения с Сергеевым (бывший глава РАН) я со всей ответственностью могу утверждать, что его можно заменить чатом ГПТ. Чат ГПТ выдаст те же размытые указания для построения коммунизма. Разумеется, система управления наукой будет защищаться, во что это выльется не понятно. Скорее всего, будет увеличение числа совещаний, на которых разговариваются разговоры. В любом случае будет потеря связи с управленцами, а значит деньги сверху будут давать лично знакомым людям. Наступит окончательный научный феодализм.
6) Выход на новый уровень системы докладов. Доклад тоже может написать чат ГПТ, а аспирант в состоянии его выучить и озвучить. Докладов станет больше, они станут бессмысленнее и длиннее.
5. Что делать.
1) Реформировать систему управления наукой. Это абстрактно.
2) Вводить персональную ответственность за публикацию данных, иначе просто нет смысла содержать науку.
3) Параллельная проверка любых измерений и результатов. Это в 2-3 раза удорожит и удлинит исследования. Альтернатива делать вообще все самому.
4) Развитие личного общения, системы командировок и личного участия в чужих экспериментах. Мало кто согласиться добровольно пустить чужих на свою делянку, так что будет сильное сопротивление и научные войны.
5) Система гарантий для научных работников. Проводить исследования, которые можно отобрать по щелчку пальцев, да еще и под угрозой наказаний за ошибки никто не будет. Проще делать то что тебе скажет чат ГПТ, вещая через управленческое передаточное звено.
Комментарии
На чём этот ГПТ вскормлен, то и выдаёт. Это же просто зеркало.
Да, но раньше отсуствие такого зеркало позволяло отделить людей, реально что-то умеющих, от идиотов, по косвенным признакам (как верно замечено: проверять всё досконально сложнее, чем сделать самому).
Появляется ChatGPT всё эту убиват напрочь, потому что как раз косвенные признаки он подделивает мастерски.
Получился идеальный мошенник… и оказалось весь наш мир построен на мошенничестве (завяках, которые никто не читает, отчётах, которые нужны, чтобы их положить на полку и больше ни для чего и так далее).
Что с этим делать – не знает никто.
P.S. Разумеется вне науки, во всех компаниях, которые что-то там разрабатывают – та же история.
Отделять тех кто умел писать изложение, от тех кто не умел?
Должен быть независимый аудит непосредственно на рабочем месте по ходу проведения исследования, с подъёмом первичных данных по каждому эксперименту/наблюдению.
Дорого и медленно - но это лучше, чем тратить ресурсы на вал порожняка.
А чат-гопоту запретить к использованию в науке и гос. управлении. Место бредогенерации в развлекалове.
Эта гопота создана этой наукой. Кушайте - не обляпайтесь! Запрещайте уже всю науку, так буде вернее.
Наука, она разная. За "А теперь за щёчку со вкусом клубники" тоже есть научная подложка.
Так и с ИИ. Есть чат-гопотоидные бредогенераторы, есть полезные системы.
Наука не может быть разной. Она или есть, или её нет, а есть наукообразное говно.
Спасибо, что поделились вашим мнением.
Наука одна. Та что использует эмпирический подход. Проблема современности подмена понятий и их размытие. Как только гипотезы, аналитику, математические модели и т.д. начали выдавать за научные факты.Так науке как дисциплине настал конец.
Современные люди да же не смогут ответить какие способы познания существуют и чем они отличаются друг от друг.
Наука разная в том смысле, что могут разрабатывать прикладушки для корпоралов про вкус клубнички, могут разрабатывать прикладушки для ВПК или энергетики или медицины, а могут копаться в фундаменталке.
Чат-гопотоиды это про клубничку.
Это разные направления. Это как в стройки, вы можете строить военную базу, клуб, ТЭЦ или больницу, если вы используете к примеру бетон то буде любезны соблюдать технологии и соответствующие материалы. Если вы используете вместо бетона навоз. То не надо говорить, что бетонные технология говно.
В современной науке ровно та же ситуация... А народ видит, что на выходе "Г" говорит, что Г=Н, т.е. "говно это Ваша наука".
Эт точно.
И чат-гопота как раз пример того, что то, что не надо натягивать ботву, которая сойдёт для развлекалова, на предметные области, где надо за базар отвечать.
Иначе дискредитируете все направления по разработке арифмометров.
Независимый аудит - это когда на Луну летали бы русские, китайцы и индийцы вместе с американцами?
В медицине при клинических испытаниях есть внешний аудит. Проверяют оригиналы историй болезней, насколько они соответствуют картам исследований и сводным таблицам, метрологию аппаратуры, лабораторные методики, включая сроки годности реактивов и логи термостатов и холодильников, прочие подписи и СОПы. Потом ещё отдельно статистику пробивают, нет ли артефактных отклонений, высосанных из пальцев.
Другое дело, что транснацики это всё потом под замок запирают, но то вопрос отдельный.
А еще когда они строят свой андронный коллайдер и создают свой ЧатGPT.
Нужно а - нацелевание на результат, как это было в Союзе. б - нормальные защиты отчётов на уровне учёных советов при институтах, где каждый знает кто чем занимается и кто чего стоит. Как это поженить с грантовой системой я не знаю, может рассмотрение заявок на тех же советах. И да периодический аудит самих советов, чтобы не заболачивались.
Повторюсь, наука, она разная.
В том числе можно классифицировать на НИОКР под техзадание, где можно заранее прописывать результат. И на "Ойачойтототамтакое черненькое белеется?", т.е. познание ранее неизведанного, где по определению результат наперёд не известен.
И во втором случае нужен аудит вопросов, на которые пытаются получать ответы, что это реально не известно, и получение ответов технически достижимо. И аудит процесса, что иссследования реально проводятся, и проводятся методически корректно. А уж какой результат будет, станет известно только по завершению исследований. И отрицательный результат тоже результат - больше в данном направлении копать не надо.
По поводу Учёных Советов - не панацея, есть старый советский анекдот, как зайка диссертацию защищал о способах любви в лесу. Сделал доклад, все звери, от мышей до льва, возмущаются, что за бред, никто никого так в лесу не любит. Зайка приглашает всех в пещеру, сейчас всё продемонстрирую и объясню. Звери заходят в пещеру - а там мамонт, и как начал он всех зверей любить... А мораль такова - неважно, что в диссертации, важно, кто научный руководитель.
По поводу грантов, или иных схем финансирования - вот реально не знаю.
Если НИОКР, там проще, если есть техзадание, значит, это кому-то нужно, и кто-то готов оплатить.
А поисковые работы - ХЗ, я бы финансировал на базовом уровне "плодиться и размножаться" для исследователей, чтобы с одной стороны с голоду не разбежались и могли семью содержать, растить новых доцентов с кандидатами, с другой стороны, чтобы карьеристов и гребцов под себя не привлекать бытовым минимализмом научной жизни. Ну и хватило бы на материальное обеспечение собственно исследований. Без грантов, по факту декларации, что кто-то что-то готов исследовать ранее не известное, и знает методологию. Под присмотром аудита по ходу работ.
P.S. Отдельно и легитимно - работы по освоению новых методов исследований, путь даже известных за рубежом, и проверка воспроизводимости чужих ключевых исследований. Оно же перенос внутрь страны чужих научных компетенций.
Ну вот. Затупкофоны уже отлично поработали в отуплении масс и продолжают. Теперь ещё и эта хрень (де)генеративная подключится в этом направлении.
Нда... Как же я жалею, что в своё время не углядел за своими старыми советскими учебниками. Да. Есть цифра. Скаченная, предусмотрительно. И вроде оригиналы. Но ведь там ещё распечтка нужна будет. Надеюсь, к тому времени, как они пондобятся, печать, как явление, не будет предана анфемы под громкие возгласы тварей, что якобы пекутся о природе и экологии.
Таким образом, наука - это парадигма устоявшихся взглядов. Если бы ИИ обитал в средние века, то на выходе было бы перемешивание черепахи с тремя слонами (доказано авторитетными британскими учеными) и дезинформации о круглой земле (не доказано никем). Причем, отличить, где дезинформация, а где наука - ИИ не в состоянии. Ни тогда, ни сейчас.
Ии может или не может только то, что могут/не могут люди. Он не субьектен.
Люди например верят в "темную материю".
Ну это большинство. Имеют основания. А меньшинство верит в противоположное. Но тоже верит.
Вообще-то термин - абстрактная модель для удобства объяснения необъяснимого научно ( пока). Так же, кстати, как и тёмная энергия. Без всякой веры.
Так и люди не особо могут, кроме некоторых специалистов
Врядли в средние века все считали, что земля плоская. То, что земля круглая знали ещё в античности и это знание перешло и в христианскую Римскую Империю. Такие "мракобесы-клерикалы" (с точки зрения атеистов), как Василий Великий и Иоанн Златоуст ещё в 4 веке н.э. вполне себе полагали, что земля круглая. Златоуст даже высмеивал плоскоземельщиков.
Кстати, прикольно, что против Галилео возбухла вовсе не римская церковь, а его коллеги-учёные сторонники теории плоской земли, которые начали яростно строчить доносы и поднимать бузу в университетах.
Благодарю, информативно. И все же, что касается математики, то есть куча наработанной теории на тысячи лет вперед(например в области общей топологии) и она продолжает развиваться и это правильно. В прикладной физике нужно более строгое планирование со сроками и ответственностью(Лаврентий Палыч не даст соврать).
Хе-хе, помню нам говорили в универе: диссер физика - 200 страниц, диссер математика - 2 страницы.
Если коротко:
- Текстгенератор умеет генерировать тексты.
Так автор так и написал:
И делает это мастерски там, где нужно имитировать умственную работу.
Помню как ещё без всякого чатжопити руководство заставило угрозами депремирования, сдавать недельный отчёт о проделанной "научной" работе измеряемой в листах, наплевав на здравые возражения, что "в листах", наука не меряется. Поначалу, насиловать здравый смысл было очень тяжело, но поняв, что проверить сдаваемый отчёт на соответствие "научности" просто физически некому и никаких сил у руководства на это никогда не хватит, а выборочные проверки можно завсегда объявить результатами промежуточными и требующими уточнения в связи с открывшимися данными, дело пошло. Уволился. И да, озвученные в таких отчётах и внесённые затем в некую обязательную базу планы идей, состоящие иногда даже из просто пустых названий намёток будущих разработок, потом, удивительным образом как обычно одновременно приходящим в голову разным учёным научной мысли, оказывались в плане работ у конкурентов. Чудеса, да и только.
ИИ - это гениальный шизофреник.
Он в принципе не может отличить реальность от галлюцинаций, поскольку реального опыта у него нет и быть не может.
Он великолепно напишет сочинение по пьесе "Гроза", и не беда, если там появятся новые герои и сюжетные линии : всегда можно списать на право автора на воображение.
Может. Но на следующем этапе, когда роботы уже смогут самостоятельно передвигаться, смотреть и взаимодействовать с окружающей средой.
ИИ никогда не увидит концепт за набором байтов. ИИ это идеальный зубрёха.
Как ни печально - науки и здесь впереди всех. Программистам проще проверить рекомендации от ChatGPT - работает/не работает, меньше нужны затраты.
Впрочем, судя по описанной схеме - и до этого большая часть научного обмена шла на том же уровне.
Естественный вывод из статьи - автоматизировать управление наукой. В частности, применять ИИ для контроля приведенных процессов.
А че, ИИ уже нашла оригинальный способ решения уравнения Эйнштейна
?
Решила задачу трех тел?
Нет? ну тогда ИИ надо посылать на татматугу!
Зачем для этого ГПТ? С научным сообществом все ясно стало уже после корчевателя.
Спасибо, очень интересно и печально. И это ещё, насколько я понимаю, вы пишете про техническую сферу, в гуманитарной всё ещё печальней во много-много раз.
Видится так, что нужно очень существенное реформирование вообще научной деятельности, её поддержки, целеполагания, планирования, контроля и т.д. Даже затрудняюсь предположить, что именно нужно делать. Всё это большие кормушки, иерархии и кланы.
Спасибо. То что ИИ позволит заменить многих учёных я сказал ещё до появления Чат ГПТ. Давно рассматриваю ИИ как самую большую угрозу человеческой цивилизации.
Вопрос к вам. Расскажите кратко как ИИ приведет к интеллектуальной деградации, и учёных в частности.
От себя. По мере погружения в гуманитарную науку я разочаровался и теперь не знаю что такое наука. Если слушать тех учёных, которые занимаются квантовыми вопросами и происхождением окружающего и видимого мира, то это похоже на фантазии и проявления психиатрических заболеваний.
Не приведет, просто никто никому верить не будет. Все прийдется делать самому, а это очень долго....
Возможно, это все-таки приведет к другой системе оценки научной деятельности, а не тупо кропать статьи. У нас в лабе была женщина одна, которая исследования не вела уже лет 10, только перепечатывала свои статьи (тогда сделанные, кстати, по всем канонам классической науки, с уникальными опытами на уникальном материале под руководством мастодонта науки) из одного журнала в другой с изменением названия и некоторыми правками. Была самой передовой по количеству статей - образцовый ученый!
Хотя, если все всех устраивает...
Unus testis, nullus testis.
Вернемся к основам.
Ну, а мои учителя вбили мне в голову: эксперимент нужно повторить с теми же результатами. До тех пор это unos testis, а не наука.
В человеческих руках все угроза от простого камня до ядерной энергии... так что проблема совершенно в другом
Очень кстати появилась статья. Чтоб не засорят АШ своим вопросом, воспользуюсь:
Порекомендуюте российский/на русском языке ИИ, которого я озабочу тривиальной задачкой - найти мне с 20 публикаций в данной теме (Теория игр, чтоб не напускать тумана) российских/рускоязычных авторов. Мне они нужны прежде всего для заполнения обязательных цитирований, а не чтоб скомпилировать статью. Статью, слава Богу, уже готова и формулы в ней мои, плагиатить (пока) не приходится. Но цитировать - обязательно, иначе - не наука. В этой связи я вообще недоумеваю как обстоят дела если кто-то пишет чего-то нового и цитат совсем нету. Притягивать за уши?
Ну Вы же литературой какой-то наверное пользовались? Не может же быть настолько с нуля?
Нет, я пользовался знаниями в голове :). Конечно, я знал чего классика говорит, но она - общеизвестна. наверно, с 50-ых годах, если и не ранее. Но дальше - новое и с доказательствами. С ними как раз все в порядке, расисткая наука
математикаальгебра не запрещает. Но все равно, надо процитировать не менее 25 источников. Вот я и желаю процитировать российских источников, а публиковать во вражеском журнале, благо плачу за это не я. А то бывали прецеденты: "Добавьте цитат и напишите еще 2-3 страниц, ваша статья очень коротка" (6 страниц, чего там коржей для пирогов растягивать). Меня длинные сказки утомляют.Гугл академия и запрос на русском языке. Можно найти математический обзорный журнал и взять ссылки оттуда. Мне аспиранты демонстрировали пять этих чатов, самый изведанный - классический GPT. Подбор ссылок на чате мне не показывали, скорее всего подберет. В статью же и ссылки нужны не простые - ссылаться надо на рецензентов да и по срокам могут быть проблемы.
Страницы