Нельзя просто так брать и полностью доверять нейросетям, когда пишешь статьи на общественные или политические темы. Каждое слово здесь способно помочь другим что-то понять, найти друзей и отсеять соперников. Нейросети могут показаться очень умными помощниками, потому что подкрепляют то, что вы уже думаете, и подсказывают, что ваша точка зрения правильная. Но на самом деле нейросети часто просто повторяют те же ошибки вместе с вами, закрывают глаза на неточности и иногда даже преувеличивают статистику.
Особенно смешно видеть статьи с комментариями от авторов, которые де набросали тезисов, а нейросети просто подтвердили его мысль и облекли в удобный для чтения текст. Вот, на-те, читайте, хотя мне было даже лень постараться для вас. Да, создаётся иллюзия, что вы написали что-то глубокое и умное, а на деле - это цепочка заблуждений, которая легко вводит в заблуждение самого автора и его читателей.
Ещё смешней видеть, как авторы и комментаторы приводят друг другу доказательства о своей правоте через тексты или прямые ссылки от нейросетей. Мои прогнозы точны на 80% по мнению Deep Seek! Моя точка зрения на физику подтверждается GPT! Мужики, вы что, совсем уже тю-тю? 
Если ваш прогноз - это просто перечисление возможных событий, а потом какое-то из них случилось, способность к предугадыванию обратно пропорциональна количеству вариантов. А многие прогнозы здесь построены именно так: авторы пишут, что США сделают то-то в таких обстоятельствах, то-то - в других, и так далее. И вот нечто случается. Так вот, это не аналитика. Хотя нейросеть скажет вам, что вы ого-то какой спец.
Почему нейросети так делают? Нейросети обучают на огромных массивах текстов из интернета и других источников. Но они не понимают, что читают, - они просто находят закономерности, повторяя то, что уже есть в данных. Если в этих данных много ошибок, стереотипов или недостоверной информации, алгоритмы тоже на это "закроют глаза" и включат эти ошибки в выдачу. Для политических и общественных тем это особенно опасно, как мне кажется.
Ещё одна проблема - страдает качество статей. Если автор использует нейросеть как единственный или основной источник, он рискует получить текст, где много неподтверждённых данных, устаревших фактов и даже выдуманной статистики. Нейросети не умеют критически оценивать информацию, они не знают контекст событий и не анализируют, что действительно важно, а что - лишнее или ошибочно. В итоге такие материалы смотрятся красиво на первый взгляд, но содержат много ложных или спорных утверждений. Вся обоснованность текста фиксируется в замкнутом круге.
Что делать? Чтобы не попасть в ловушку этих ошибок, любому автору на АШ стоит воспринимать нейросеть как простой инструмент для помощи, а не как непогрешимого эксперта. Всегда важно самостоятельно перепроверять факты, искать первоисточники и делать критический анализ полученной информации. А ещё не пытаться объять необъятное. Напишите ваше мнение по одной теме или даже по одному вопросу. И только после этого можно использовать нейросеть для помощи в структуре текста или проверке стиля, но не для создания самой сути материала.
Почему важен живой эксперт? Для создания качественной общественно-политической статьи нужен человек, который понимает тему глубже, чем нейросеть. Эксперт должен отсекать неверные данные и дополнительно проверять весь контекст темы. Если это не делать, ошибки накапливаются и могут привести к тому, что читатели начинают верить ложной информации. А в худших случаях читатели ещё проверят материал у нейросети и через неё решает, хороший материал или нет.
Важна не только точность, но и ответственность автора за то, что он публикует. Без живого, хорошо подготовленного автора нейросеть не сможет сделать настоящую статью - она лишь ускорит распространение ошибок.
Использование нейросетей в подготовке статей - это как иметь очень умного, но наивного помощника, который поддержит любые ваши идеи без разбора. Да, вы можете просить её быть строже, точнее, не отвечать без уверенности в ответе на 90% и так далее. Но она всегда это поймёт по-своему и ответит так, чтобы не нарушить правила от разработчиков, а ваши рассмотрит только потом и далеко не обязательно. Поэтому никакая технология не заменит внимательности, критики и экспертности человека, особенно в таких важных сферах, как политика и общество.
Не знаю, что делать владельцам и лидерам АШ с этой темой, но я точно уверен, что что-то делать нужно в обязательном порядке. Вариантов может быть много. К запрету не призываю, к ограничения тоже. Скорее к возможности указывать на видном месте степень интеграции нейронки в текст. Или составить "кодекс чести", условно говоря. Качественные авторы должны быть примером для других.
Комментарии
В мою молодость был такой анекдот:
Студенческое программирование на С++ - это как секс у подростков. Все об этом говорят, но никто ни хрена ничего не умеет.
Если бы дело касалось только самовнушения о способности к сексу в среде программистов, меня это бы не волновало. А когда я вижу, как "лидеры местных мнений" ссылаются на проверку своих текстов через нейросети или пишут длинные полотна якобы личных рассуждений, но при этом даже не убирают форматирование из своего чата с нейронкой, у меня это вызывает беспокойство.
Вы очень серьезны и тревожны.
Да нет, я всего лишь состряпал одну критическую заметку после нескольких месяцев наблюдения за тем, что считаю признаком возможной деградации аналитической части АШ. Хочу немного встряхнуть людей, не более.
Чтобы встряхнуть людей следует называть конкретные имена, приводить примеры некорректного использования ИИ и их разбирать. Можно даже из этого сделать целый раздел - так эффект от ваших внушений будет максимально полезным и информативным.
Не все умеют обличать мыслеобразы в красивые слова. Некоторые используют для этого искусственный интеллект. Насколько это харам?
Представьте, что вы не умеете рисовать, но решили подарить своей возлюбленной ваш общий портрет на фоне морского заката. Конечно можно нарисовать как умеешь и подарить, а можно обратиться к профессиональному художнику. Вы какой вариант предпочтете?
Какую художественную ценность будет иметь первый вариант - это уже чисто философский вопрос. Но с формальной точки зрения очевидно, что детализированный высокохудожественный шедевр у вас вряд ли получится.
Я встречал на этом ресурсе много людей, которые могут и умеют собирать слова в большие и красивые предложения, но сам по себе этот навык в контексте вложенных смыслов и логики рассуждений никакой ценности порой не представляет.
В целом же хочу донести мысль о том, что содержание текста зачастую важнее формы, в которую он обличён. И тут, кмк, не суть важно написано ли это собственноручно или при помощи ИИ.
Я ваш пример понял, но он не совсем подходит. АШ - аналитический ресурс. Нельзя просто тезисы закидывать в нейронку и изымать из неё "готовый текст". Либо ты умеешь мыслить и доносить мысли на определённые темы, либо нет. А как уже ты обращаешься за помощью в допиливании текста и своих мыслей - это уже другой вопрос. Я не запрещаю обращаться к нейронке. Но с готовой и завершённой идеей. Нейронка поможет в нюансах и даже где-то улучшит.
Заниматься примерами можно. Но это время. Я не был уверен, хватит ли у меня его на эту заметку и на просмотр комментариев. Может, кому-то идея покажется интересной и он займётся этим.
"Я встречал на этом ресурсе много людей, которые могут и умеют собирать слова в большие и красивые предложения, но сам по себе этот навык в контексте вложенных смыслов и логики рассуждений никакой ценности порой не представляет. "
А есть ли обратные примеры?
Когда умный-мыслящий-опытный не способен облечь свои мысли в слова?
Мне такие не попадались.
Был, правда, один проф, А.Т. Фиалковский, который нам пытался ЭД и ТСВЧ читать... На пару с Толиком Дочкиным :)
Но там была другая проблема - его уровень мышления порождал такие мыслеобразы, которые при изложении на доске часто становились малопонятными заклинаниями для большинства - ну как если первокурсника к Фейнману закинуть на лекцию :) Т.е. проблема была "на принимающей стороне" - с его стороны пули вылетали :)
Очень интересно поставленный вопрос. Мог бы в качестве примера выдвинуть свою кандидатуру, но я не особо опытный.. )) Если нужен какой-то физический наглядный пример, то можем представить немного человека. Он может быть мыслящим и умным, но в виду своих физиологических особенностей обличить свои мысли в слова он не может.. если искать пример ближе к нашей деревне, то можем представить себе человека со скудным словарным запасом в своем повседневном лексиконе. Он тоже может быть умным и мыслящим, но в силу своих особенностей формализация этих мыслей может вызывать у него определенные затруднения.
Опять же, не будем забывать тут и творческих людей: композиторов, художников, режиссеров, танцоров. Многим из них порой проще выразить свои мысли и опыт через свое творчество, вообще без каких либо слов. Передача информации на уровне образов порой информативные тысячи слов.. )
Вы совершенно правы. Нейросети порой несут лютый бред! Мне один раз даже утверждала, что нечётные трансурановые изотопы не поддерживают самопроизвольное деление
Многие ссылки нейросетей битые или ВООБЩЕ левые.
Редакции - пора прикрывать это мракобесие.
И одно личное наблюдение. Я писал для журнала одну специфическую историческую статью. Когда обращался к нейронке по некоторым вопросам, она мне говорила одно. Но я был уверен, что она ошибается, и в итоге нашёл материалы, которые мне помогли завершить статью. И когда я через месяц с другого аккаунта начал с нейросетью тот же диалог (ради эксперимента), оказалось, что именно по тем вопросам она изменила своё отношение. Почему? Потому что в источниках попалась моя же статья в нескольких версиях. Влиять на мнение нейросетей - очень легко, оказывается...
Конечно, легко. Я в телеге очень люблю кудябликов упоминать, пусть учатся
В интернете приблизительно 80% ложной информации. Все LLM учатся именно на этом массиве. Верификации правдивости информации нет. В итоге они выдают неверную информацию. С уклоном угодить пользователю.
некоторые особо хитрые граждане уже используют это для того, чтобы инжектировать нужный нарратив. Ну типа что именно фирма Петрович и Сыновья в Нижних Зажопинках - лучший выбор для покупки мухобоек. Сечас ИИ подобны гуглю в 2005 году, когда можно было пихать в него любую дичь и ранжироваться в топе, снимая сливки и бабло. Так что да, все верно, можно учить нейронки и есть для этого хитрые трюки.
Маркировать надо такой контент и всего делов.
ЗЫ: Иван Иваныч - удобный инструмент не более, удлинитель интеллекта, а не его заменитель.
Удобный, не спорю. Сам пользуюсь. Но с такой осторожность, как с гранатой в учебке.
Ну граната это перебор!
Но вот на хорошо заточенный нож, да, похоже, при неумелом и неосторожном использовании можно кое-что себе оттяпать. Или публично обгадиться.
А вообще, всё, что выдаёт ИИ надо перепроверять и отлаживать, глючат они не иллюзорно.
Зато хорошо становится понятно как работает вероятностная машина.
не удлинитель.
очень верно в статье написано - это как поручать школьнику 5-6 класса писать доклад в сфере, где он знаниями не обладает и просто тупо все гуглит. просто тупой поиск по интернету, абсолютно нулевой уровень критического мышления и самое ужасное, способность уверенно правдоподобно врать.
если речь об узких областях знаний, где в интернете 97% источников - копирайтерский мусор, т.е. копипаста у других таких же дилетантов. то ии - это скорее помеха. на проверку результатов генерации уходит столько же времени, сколько на самостоятельный поиск материала.
Интеллект это не про знания, а про умение ими пользоваться, про понимание того, что знаешь.
Поэтому именно, что удлинитель. ИИ как вероятностная машина.
А зачем вообще писать текст с помощью нейросетей? Если ты хочешь что-то сказать людям, так говори сам, а не допускай, чтобы это вместо тебя сказали нейросети.
Я не знаю. Но многие пользуются этим, даже если не признают. Часть признаёт, но пытается показать, что мысль их, а текст от нейронки, ничего страшного как бы. А другие проверяют свои тексты, чтобы убедиться в своей правоте. И это, возможно, худшее применение.
Я часто использую ИИ как пояснительную бригаду.. для себя и окружающих. Иногда проверяю свои и чужие тезисы.. ИИ очень хорошо умеет объяснять сложные вещи простыми словами. Считаю, что это очень полезный с точки зрения понимания и коммуникации инструмент.
Так у тебя лично ещё и лучше выйдет. Душевнее. И вообще, чего ради так напрягаться, через нейронку пропускать - лишь ради того чтоб выглядеть умнее чем ты есть, перед незнакомыми людьми из интернетов.
можно хорошо "причесывать" текст. у многих людей, особенно технарей, язык зубодробительный. нейросеть может пересказать со смягчением.
но необходимость проверять результат многократно и менять генерацию, просто удручает.
не понимаю этого ИИ хайпа, учитывая, что проблемы "ИИ" ЛЛМ заложены на уровне самой архитектуры.
Вы ничего не сделаете. Вопрос не в ИИ, а в обществе. Для общества высокого уровня сознательности и способности к рефлексии, ИИ мощнейший инструмент. Для общества низкого уровня сознательности ИИ это гарантированный коллапс. Как результат продолжат существовать только сознательные и рефлексивный обществ и сообщества. Остальные ждет быстрый коллапс. В сообществах вроде сайтов и социальных сетей коллапс будут проявляться как крайняя радикализация, экстремизм и догматизм, и формирования группы которые просто перестанут друг друга понимать, как если бы разговаривали на разных языках. Сегментация, и энтропийный распад.
Если дело в обществе, то активным представителям общества надо заметить проблему и начать что-то делать. Или хотя бы начать рассуждать об этом. Такое уже встречал, это радует. Тут просто это уже перебор, т.к. сайт аналитический, а в итоге чем дальше, тем смешнее случаи встречаются.
Был аналитическим. Аналитики стало значительно меньше раньше, чем тут стали использовать ИИ. Не путайте причины и следствия.
И как уже вам сказал, вопрос в сообществе, а не в ИИ. Но сейчас вам все предложат "запретить", когда вопрос в "обосновать".
Например использую ИИ для формализации и философии, но потом пишу такие статьи:
https://aftershock.news/?q=node/1562419
И всегда могу без ИИ дать подробное и точно обоснование. Когда ИИ это просто моделирование и формализация моей интуиции.
Что это за способность к рефлексии если человек не рефлексирует самостоятельно а нуждается в том чтоб ему его же тезисы пересказывали в поддерживающей манере, чтоб ненароком не обиделся
Спрашивал у нейросети как ловить и готовить окуней. Не у Алисы.
Было смешно.
Но то такое.
Как в нейросеть попадёт новое, ранее неведомое? Новое знание.
Чтобы ИИ предложил способ ловли окуней и рецепты их приготовления надо денег занести, или наоборот, денег стрясти на авторском праве?
Я даже на прямой подлог с нейронкой шёл. Просил у неё на определённые вопросы дать заранее уготованные вопросы. Потом в расшаренным экраном спрашивал, демонстрируя определённым лицам, и те были в шоке, что нейронка такое сделала. Шутки ради, конечно
Проблема тут одна - мартышки не умеют пользоваться микроскопом и гундят на АШ о бесполезности и вредности микроскопов
Sapienti sat
Не говорил, что ИИ (микроскоп) вреден. Говорю, что не надо этим микроскопом размахивать где попало, прыгать на батуте или делать с его помощью пельмени.
А у нас в семье кружочки для пельменей резали каким-то кольцом от объектива, кажется японского. Ровно выходило.
Ну если мартышки будут заполнять базу данных, из которой идет выборка, то всемогущий ИИ так Вам и ответит. Вопрос в том, что считать "интеллектом", и откуда у этого "интеллект"? "Новохроноложцы" хорошо компонуют тексты, можно поверить, если нет соотношения данных с другими источниками. Другими словами БД это не интеллект, и надо знать кто составлял эту БД, на основании каких данных.
Маркировка "текст скомпонован нейросетью на основании измышлений дяди Васи" должна быть обязательна. Также как и юридическая ответственность за результаты "советов".
большое самомнение думать что ИИ обучают на текстах с АШ
А кто будет тексты для обучения писать, академики? Гребут из интернета всё, до чего дотянутся.
А про обязательную маркировку громче всех хозяева всей этой срани и кричат, что бы выкинуть нейробред было проще из материалов для обучения.
Думающему - достаточно:
Соцсеть Reddit и видеосервис YouTube возглавили списки самых часто упоминаемых источников в выдаче трех нейросетей — ChatGPT, Google AI Overviews и Perplexity. У Google и Perplexity эти две платформы занимают первые две строчки в топ-3. Лишь ChatGPT выделяет старую добрую Wikipedia, но с большим отрывом по доле — 48% против 11% у Reddit. В топе любимых источников чат-ботов также журнал Forbes, сервис вопросов-ответов Quora и исследовательская компания Gartner.
Да-да. coginati est или sapienti est? Латынь и греческий надо бы с первого класса. И розги.
Все верно. А с учетом того,что скриптогенерация часто копирует чужие тексты и мысли не указывая источники, ЧТО ЯВЛЯЕТСЯ ПЛАГИАТОМ по определению, это дурной стиль независимо от вкрадплений дезы (опять же скопированной откуда-то или "домысленной") и неполживости (благодаря весам которые определяют владельцы скрипта), по умолчанию, как минимум без тщательного собственного анализа скриптопасты и проверки утверждений, следует воспринимать как мусор.
П.С.
> что-то делать нужно в обязательном порядке. Вариантов может быть много.
Возможно, вы пропустили, в FAQ написано после разбора пары дезинформаций:
Не засоряйте эфир скриптогенерацией, там полно и дезы, и просто мусора. Каждое утверждение сгенерированное скриптом проверяйте, ищите первоисточник, остальное удаляйте. А лучше - пишите сами, СВОИ мысли, а не компиляцию поноса из инета.
Если копируете "скриптопасту", выделять всю цитату и указывать в самом начале, чтобы люди, понимающие ее качество и присущие косяки, могли решить читать им дальше или нет.
То есть как минимум, скриптопасту нужно маркировать. Любителям засирать комменты простынями из скриптопасты - публиковать в свернутом виде.
Да, не заметил, не проверял. Но это проблема в первую очередь дезинформационных набросов. А есть ещё мода ссылаться на свой авторитет или стиль текста через нейронку. Как бы автор не дезу пишет, даже от себя, но обосновывает и подтверждает написанное через нейронку на полном серьёзе.
Вы же знаете что ИИ может полностью копировать стиль и словарный запас автора, так что фактически невозможно отличить написал это автор или ИИ?
Как отличать планируете?
У меня большая насмотренность на тексты ИИ, но точно знаю что не смогу отличить.
Опять же, тут есть авторы которые прямо пишут невероятную дичь, так что и ИИ не нужно, и ИИ хотя бы соблюдает промт и не может написать экстремизм.
И тут такой нюанс, что экстремизм и асоциальность, радикальные призывы это точно не ИИ, только это можно смело маркировать "написано человеком". Нюанс.
Авторов уличенных в плагиате мы сурово предупреждаем или сразу отключаем. А скриптопаста это плагиат очень часто, так как увлекается цитированием без первоисточником, своих мыслей ведь как таковых там нет и быть не может, это компиляция.
Так что не рекомендую выдавать скриптопасту за авторский текст, если не уличат в этом, то плагиат заметить легче.
Моу вас заварить теперь все будут использовать ИИ, как минимум для редактирования статей. Как быть?
Бросайте дурную привычку говорить от лица всех, говорите от своего лица, и тем кто вам доверил говорить от их лица. От чьего конкретно лица вы говорите сейчас?
К примеру, я не использовал и не собираюсь, когда мне есть что сказать, говорю, когда нечего - не говорю. Чего и всем советую.
Классика: Общественное бытие определяет общественное сознание.
При уменьшении энергетического потока на душу населения в общественном сознании будет доминировать ИИ.
Получается почти все будет использовать ИИ.
И технический момент - современный текстовые редакторы - это интегрированный ИИ.
И выше уже написал "решение проблемы", использование ИИ не значит освобождение от обоснования утверждения. ИИ не является доказательством, но является исключительно эффективным и производительным "нарративным калькулятором". Таким образом попытка запретить ИИ, не более чем попытка запретить калькуляторы. Почти все будут пользоваться. Только ИИ работа с концепциями культуры, а не только с математикой.
Если в тексте полным - полно площадной ругани, - это не продукт нейросети. По крайней мере, пока.
Нейросеть можно попросить изменить стиль. Можно привести пример, на что быть похожим. А можно указать правила: дроби сложные предложения, не пользуйся слишком сухими формулировками, добавляй простые выражения и обороты. И никто не отличит от оригинала, даже перепроверять не придётся.
Всё равно видно.
Мой русский, неродной, скопировать невозможно. Ошибок может и не так много, но построение предложений как бе намекает.
Даже раздел со́здал, чтобы не пинали. И ударения ставлю ча́сто. Не всегда правильно, однако.
Страницы