Искусственный интеллект, используемый при написании статей, вызывает споры

Аватар пользователя bom100

Это была ночь перед крайним сроком сдачи работ, и Чэн Гуанъюй, студент младшего курса пекинского колледжа, обнаружил, что ему все еще нужно подготовить четыре работы, чтобы выполнить свои академические требования на семестр. Однако чудесным образом на следующий день Ченгу удалось подать все документы без каких-либо задержек.

Технически подкованные люди могли бы распознать в этом “чуде” ChatGPT, инструмент на базе искусственного интеллекта. Для таких студентов, как Ченг, которые не потрудились провести исследование, добавить цитаты или даже написать что-то самостоятельно, ChatGPT действительно замечателен и чудесен. “Я просто предоставил ChatGPT общие направления исследований и позволил ему завершить работу самостоятельно”, - объяснил Ченг. “На самом деле это сработало лучше, чем я мог бы сделать сам”.

Ченг был не одинок в использовании технологии искусственного интеллекта (ИИ) среди студентов колледжей в Китае. Все чаще студенты по всей стране обращаются к приложениям ИИ для написания работ, чтобы помочь им с домашними заданиями и исследовательскими работами, а некоторые даже полагаются на ИИ для завершения своих дипломных работ.

На китайских онлайн-платформах, таких как Zhihu, многочисленные пользователи поделились историями о том, как их работы, созданные с помощью искусственного интеллекта, получили похвалу от преподавателей, что является еще одним доказательством популярности и эффективности этого метода написания работ.

Однако, несмотря на кажущуюся впечатляющую природу, академическое письмо с помощью искусственного интеллекта имеет свои ограничения. Один студент из провинции Хунань счел, что инструменты для письма с использованием искусственного интеллекта полезны только для шлифовки статей и недостаточно компетентны, когда дело доходит до представления инновационных идей.

С другой стороны, искусственный интеллект иногда фальсифицирует информацию. “При внимательном изучении цитат в некоторых научных трудах, созданных с помощью искусственного интеллекта, можно обнаружить, что почти все важные детали, такие как имена авторов и публикации, фальсифицированы”, - рассказал Хэ Шимин, профессор Университета науки и технологий Чанша. “Даже некоторые ссылки на исторические события в этих документах полностью выдуманы”.

Популярность академического письма с помощью искусственного интеллекта вызвала споры среди преподавателей колледжей в Китае, и различные высшие учебные заведения установили свои собственные руководящие принципы. До сих пор нет единого мнения о том, является ли написание статей с использованием искусственного интеллекта новым методом исследования или актом академической нечестности.

Некоторые сторонники искусственного интеллекта рассматривают написание текстов как ценный инструмент, которому способствуют технологические достижения. Профессор Ян Чжипин из Северо-Восточного педагогического университета поделился своим положительным опытом, заявив, что работа с моделью искусственного интеллекта, снабженной достаточным количеством материала, помогла ему усовершенствовать свои исследовательские подходы. Ян сравнил это с беседой с чрезвычайно знающим экспертом, подчеркнув, что обмен мыслями может способствовать развитию новых идей.

Однако некоторые преподаватели выражают обеспокоенность по поводу того, что учащиеся становятся чрезмерно зависимыми от письма с помощью искусственного интеллекта из-за его удобства. Профессор Фу Вэйдун из Центрально-Китайского педагогического университета подчеркивает важность рецензирования любой диссертации, созданной с помощью искусственного интеллекта, в соответствии с существующими академическими стандартами. По словам Фу, написание с помощью искусственного интеллекта основывается на сборе и обработке существующих знаний, что делает его восприимчивым к повторению мыслей или даже воспроизведению точных текстов из существующих академических работ. Фу утверждает, что если уровень повторения превышает допустимые пределы, это следует считать плагиатом.

Сюн Бинци, директор Научно-исследовательского института образования 21 века в Пекине, выступает за то, чтобы в письменном виде указать сферу применения ИИ, а не за прямой запрет. Сюн предлагает, чтобы университеты предлагали курсы по использованию инструментов для письма с использованием искусственного интеллекта, чтобы обучать студентов стандартам, методам и этическим соображениям, связанным с академическим письмом с использованием искусственного интеллекта.

Авторство: 
Авторская работа / переводика
Комментарий автора: 

Прямой запрет вряд ли поможет. А широкое применение ИИ приведет к экспоненциальному росту пустых текстов. Что же делать? Создавать более совершенный ИИ, который поможет отличать творческую работу человека-исследователя, от комбинаторики ИИ

Комментарии

Аватар пользователя 55aa
55aa(10 лет 7 месяцев)

Здесь вот что главное. Любая нормальная статья должна иметь экспериментальную проверку. Проверяемую другими исследователями. Иначе это школьная статья.

ЗЫ Поскольку их задано было четыре...

Аватар пользователя Safron
Safron(12 лет 3 недели)

А широкое применение ИИ приведет к экспоненциальному росту пустых текстов

Абсолютно точно, их еще читать никто не будет. Произойдет обесценивание.

Аватар пользователя задумавшийся
задумавшийся(6 лет 11 месяцев)

Пустых текстов и сейчас пруд пруди. ИИ произведёт столько мусора что нормальные, нужные тексты окончательно затеряются в океане бесполезного мусора

Аватар пользователя SavE
SavE(9 лет 8 месяцев)

Скоро еще преподаватели наблатыкаются использовать чатгпт для проверки студенческих работ - и наступит полное счастье и единение.

Аватар пользователя krabus
krabus(7 лет 9 месяцев)

Идеальное решение. Пока один ИИ будет писать статьи, а другой ии эти статьи читать, весь класс, или, там, группа, вместе с преподавателем может пойти на рыбалку, в лес за ягодами или грибами, посидеть ночью у костра,.   ....срезаться в доту....))))) 

Аватар пользователя Трындец
Трындец(8 лет 3 недели)

Произойдет обесценивание.

По факту оно произошло ещё до того как стали использовать ИИ. Если попробовать почитать всё подряд, что публикуют, то волосы начинают шевелиться даже там, где не растут.

Пора вводить инквизицию и сжигать на кострах за халтуру в научных работах. Западная грантовая система и их же система оценки на основе индекса цитируемости реально подвела науку к кризису.

Аватар пользователя stop
stop(2 года 10 месяцев)

Так понимаю, вся проблема в добавления в чатбот функции существующих ссылок.

Различного материала по авторам или событиям в интернете много. Стоит лишь отфильтровать какие-то спорные по достоверности(по происхождению или противоречии в событии). 

А вообще "цитируемость" это порочный круг к безответственности научной мысли. Школота лишь пользуется инструментом для наполнения этого безсмысленного "академического" требования.

Аватар пользователя Lokki
Lokki(9 лет 2 месяца)

Нет.

Проблема генеративных сеток в том, что они много придумывают сами и выглядит это порой настолько достоверно, что без глубокого закапывания, хрен поймёшь.

Аватар пользователя Polaris
Polaris(8 лет 5 месяцев)

Применение нейронных сетей побуждает к глубокому закапыванию, развивает собственное мышление? Можно только приветствовать.

Аватар пользователя Lokki
Lokki(9 лет 2 месяца)

Для пользователя это ни к чему не принуждает.

А вот проверяющий будет вынужден каждый факт проверять.

Эдакая атака на отказ обслуживания методом перегрузки исполнителя.

Аватар пользователя Polaris
Polaris(8 лет 5 месяцев)

Если текст будет проверяться на непротиворечивость (отсутствие в нем парадоксальных выдач нейросети), ее пользователю придется проверять каждую выдачу на достоверность фактов и логику их интерпретации, действительное наличие ссылок. Это таки тренинг мозга, притом достаточно высокого уровня.

Аватар пользователя bom100
bom100(12 лет 4 месяца)

Мне кажется что мусорный вал работ школоты - потребует отделять серьезные научные работы, от несерьезных + сгенерированных 

Серьезные работы будут ссылаться только на своих, а несерьезные + ИИ работы - это мир фэйков и  фэнтэзи ..

Аватар пользователя stop
stop(2 года 10 месяцев)

"ссылаться только на свои" -- путь к догмату.

"несерьёзные" - дипломный проект нужно чем-то наполнять, помимо основной темы. Что-то вроде линии курса партии в проектировании производственной цепочки по очистке сточных вод. 

Учебный план изначально требует присутствие "мусорного" контента. Который собственно никто и не смотрит.

Аватар пользователя Lokki
Lokki(9 лет 2 месяца)

Да собственно, оно давно так.

Есть докторские, для "формы" их читать - своё время неуважать.

Аватар пользователя ronnix
ronnix(6 лет 4 месяца)

Результат будет только один - размывание научной среды. И разницы никакой с ботом или без, так как все эти работы для зачётов простая компиляция написанного. Что студент будет бездумно копировать, что поручит это сделать боту, всё это делается ради формальных показателей - семинаров, зачётов, экзаменов, но никак не отражает внутренней работы человека, его развития и способности самостоятельного мышления и установления взаимосвязей. Примером тому взрывной рост научных публикаций и числа патентов в китайской среде. Показатель - число публикаций, значит будут наяривать на них. 

Аватар пользователя a.pythe
a.pythe(2 года 2 месяца)

обнаружить, что почти все важные детали, такие как имена авторов и публикации, фальсифицированы

А совесть у него (ChatGPT) есть?!!
smile171.gif

Аватар пользователя Skygoo
Skygoo(9 лет 8 месяцев)

Что же делать? Создавать более совершенный ИИ, который поможет отличать творческую работу человека-исследователя, от комбинаторики ИИ

Тогда такой ИИ сможет и сам писать полноценные творческие работы и люди-исследователи станут не нужны.

Б0льшая часть журналистов и даже писателей сейчас УЖЕ не нужна. Уже при нынешнем своем уровне нейросети с легкостью заменяют графоманов.

Аватар пользователя bom100
bom100(12 лет 4 месяца)

А людям куда идти работать? Всем в сантехники?

Аватар пользователя Skygoo
Skygoo(9 лет 8 месяцев)

В программисты нейросетей

Аватар пользователя bom100
bom100(12 лет 4 месяца)

Уже появилась специальность - тренер сетей. То есть сидишь и корректируешь ответы сети на разные вопросы. Посмотрите на Яндексе

Аватар пользователя ПРОЛ
ПРОЛ(8 лет 10 месяцев)

Причем тут где работать? Жить зачем, если бот размышляет о звездном небе над собой и моральном законе в”Óаß×Ø?

Аватар пользователя Дохлик
Дохлик(9 лет 10 месяцев)

Не знаю. На мой взгляд, дипломы даются как аванс, в надежде, что получивший диплом со временем выдаст нечто полезное. Другими словами КПД системы "дипломирования" меньше КПД паровоза. Наверное на порядки. Поэтому напрашивается вопрос - а чего вы ещё хотите от искусственного, если натуральное, это искусственное произвело...?

Аватар пользователя bom100
bom100(12 лет 4 месяца)

Я например не умею показывать картинки - как это делает телевизор, хотя он искусственный и сделан человеком. Компьютер сделан человеком и выигрывает в шахматы у человека

Аватар пользователя Дохлик
Дохлик(9 лет 10 месяцев)

Телевизор может в миллионы порядков меньше, чем можете вы.

Аватар пользователя Coolerman
Coolerman(4 года 1 месяц)

Че вы привязались, нейросети не ИИ, сами не думают, креативить они не могут, если косячат, то виноват прогер, который ее обучает. 

Скрытый комментарий Stan Miller (без обсуждения)
Аватар пользователя Stan Miller
Stan Miller(3 года 7 месяцев)

...студенты по всей стране обращаются к приложениям ИИ для написания работ, чтобы помочь им с домашними заданиями...

Студенты помогают приложениям домашки решать? smile6.gif 

Это была ночь перед крайним сроком сдачи работ, и Чэн Гуанъюй, студент... Однако чудесным образом на следующий день Ченгу удалось...

На следующий день студенту Чэну чудесным образом удалось стать... студентом Ченгом! Та-дам! smile3.gif

Вывод:

...широкое применение ИИ приведет к экспоненциальному росту...

смешных и просто идиотских ляпов в автопереведенных текстах, которые ТС не удосуживаются хоть немного редактировать. И правда, ведь чукча не читатель, а кому надо - тот поймет. Главное - быстро и без усилий.

Аватар пользователя DenSkipper
DenSkipper(8 лет 9 месяцев)

Пробовал. Дрянь. Абсолютно пустые тексты ниочем. Фальсифицирует практически все, например придумывает местонахождения даже населенных пунктов на территории России (отвратительный поисковой алгоритм), перевирает факты. 

Дочь пробовала писать работу курсовую, не приняли)), пришлось самой.

И да, важное замечание, это никакой не ИИ, а просто сложный алгоритм поиска подходящих слов. 

Аватар пользователя DjSens
DjSens(5 лет 9 месяцев)

есть сферы, в которых chatGPT абсолютно несведущ,  например русская литература, русские фильмы и ряд других (т.к. чатбот обучался на заморских статьях и учебниках),  

если вы пробовали насиловать чат в одной из этих областей - то естественно получили шнягу на выходе

Аватар пользователя Yuki
Yuki(2 года 1 месяц)

Нет, выход в том, чтобы выкинуть половину учащихся, труд которых все равно не отличим от жпт, свернуть практику массового обучения и вернуться к личному ученичеству. Экономический эффект коммерческого высшего образования себя исчерпал.

Аватар пользователя al.lastor
al.lastor(8 лет 4 недели)

Требовать от текстов содержательности и связности с реальностью, а не объема, а то и без ИИ студенты скорее учились лить воду, чем излагать свои мысли.

Аватар пользователя DjSens
DjSens(5 лет 9 месяцев)

> широкое применение ИИ приведет к экспоненциальному росту пустых текстов

что значит "пустых" ?    если как раньше студенты будут гуглить и писать текст сами - разве тексты будут другими ?    точно нет

Аватар пользователя bom100
bom100(12 лет 4 месяца)

Я имею в виду что текст должен основываться на новых знаниях полученных из внешнего мира - реальности (это могут быть результаты экспериментов, географические открытия - путешествия, происшествия и пр.) или быть результатом  взаимодействия внешнего мира (реальности) и внутреннего мира человека (тоже достаточно сложного - модели внешнего мира)

ИИ - выдает нам результаты взаимодействия внутреннего мира ИИ с его же внутренним миром (все процессы протекают внутри компьютера - комбинаторика = Луллий -  Раймунд Луллий — Википедия (wikipedia.org) ) ..

Аватар пользователя DjSens
DjSens(5 лет 9 месяцев)

Это ты сам придумал, что текст полностью сочиняет ии. И сам обиделся.  Студенты используют искусственный интеллект просто чтобы налить воды, наговорить красивых фраз. А остальное делают сами.

Аватар пользователя bom100
bom100(12 лет 4 месяца)

Разные студенты делают разные вещи:

Аватар пользователя DjSens
DjSens(5 лет 9 месяцев)

Например 95% одной моей статьи написал чатгпт - https://aftershock.news/?q=node/1247462