Вообще, я с не то, что с недоверием, я с пренебрежением отношусь к искусственному интеллекту. Я понимаю, что ИИ не способен (и думаю, никогда не будет способен) творчески решать задачи, как человек, что все так называемое обучение сводится освоению опубликованных алгоритмов решения задач, а хотя бы для понимания ряда алгоритмов требуется практика их реализации с обратной связью, положительной и отрицательной, не говоря уже о создании алгоритмов решения прикладных реальных, в смысле не виртуальных, задач. Я с недоумением отношусь с многочисленным восторженным публикациям на АШ по поводу того, какой он восхитительный и перспективный, этот искусственный интеллект.
Я считаю, что ИИ форсят (на АШ) недалекие люди, которых восторгает то, что ИИ решает для них задачи, которые они должны были уметь решать в старших классах общеобразовательной школе или в вузе – и с недоумением смотрю на их восторг. В реальной же жизни ИИ форсят те, кто зарабатывает деньги на его создании, или зарабатывают на использовании ИИ, выставляя его в качестве барьера между потребителями и поставщиками услуг, снимая при этом ответственность с поставщика услуг за принимаемые решения. Последнее касается всех сфер применения ИИ.
По моему представлению, ИИ может быть эффективно применен исключительно в узких сферах человеческой деятельности, работая в пределах узких, ограниченных человеком, алгоритмов сбора и обработки информации, и принятия на ее основе решения там, где в режиме реального времени человек физически не будет успевать собирать и обрабатывать информацию, принимать и реализовывать решение, и где ответственность за ущерб, вызываемый принимаемым решением, организована и легализована изначально. Это – ситуации боевых действий и боевого применения устройств нанесения поражения. Для них может быть организованы самые сложные и многоаспектные алгоритмы действий, но, тем не менее, они будут созданы и ограничены человеком специально. В этой сфере, требующей всегда готовности идти на высокие материальные траты – война есть дело жизни и смерти государства и общества – имитация способности решать необычные задачи будет весьма убедительной, а приближение к способности человека решать такие задачи – максимальной. Под необычными задачами я понимаю задачи, которые конкретный человек в своей практике не решал раньше, для решения которых у него нет готового алгоритма, полученного в результате или обучения, или же осмысления своего опыта решения такого типа задач. Именно в этом для меня и есть ядро понятия интеллект: интеллект это способность самостоятельно решать задачи, с которыми ты не сталкивался ранее.
Тем не менее, в порядке эксперимента я несколько раз обращался к возможностям ИИ, к пресловутому DeepSeek, как раз после хайпа, вызванного его появлением. Результат каждого эксперимента подтвердил правоту моего взгляда на ИИ.
Случай 1
Контекст: я занимаюсь систематизацией и систематическим описанием алгоритмов высокоточной стрельбы из винтовки на большие дальности, и, как неизбежное следствие, систематизацией и систематическим описанием алгоритмов работы с ветром. На фоне того, что опубликованные по этому вопросу тексты российских и зарубежных авторов основаны исключительно на личном опыте стрелков и описывают частные решения этого опыта, мои усилия в области систематизации алгоритмов привели к четким алгоритмам, а также к системе принципов их построения, правил их выполнения и критериев оценки соответствия принципам и правилам совершаемых действий. Иными словами, я (1) понимаю, что является ключевым принципом работы с ветром при стрельбе на большие дальности, обеспечивающим эффективность такой работы, и могу изложить его в немногих словах; (2) я знаю, что этот ключевой принцип так или иначе присутствует или подразумевается практически во всех текстах, посвященных вопросу, но нигде явно не формулируется.
Собственно случай: на фоне этого всего я предлагаю DeepSeek описать алгоритм высокоточной стрельбы из винтовки на большие дальности и работы с ветром. Бот выкладывает мне в течение 5 секунд текст решения на уровне хорошего студенческого реферата, в котором правильно и логично изложено все, кроме ключевого принципа работы с ветром, который и исключительно который обеспечивает контролируемую эффективную стрельбу на большие дальности, и без учета и применения которого ты можешь попасть лишь случайно.
Я указал на этот момент своему «собеседнику» и он «поступил» очень хитро: текст его ответа подталкивал меня к тому чтобы я его обучил – этот ключевой принцип ему указал. Делать я этого не стал.
Мой эксперимент удался: ИИ, работая с информацией, не отработанной человеком корректно, и доступной ИИ, не смог самостоятельно определить ключевой элемент алгоритма, выдав текст, который в лучем случае можно использовать в качестве студенческого реферата – но не с понимающим суть вопроса преподавателем. С таким преподавателем студент не получил бы положительной оценки, выданный алгоритм не является рабочим.
Случай 2
Контекст: Разрабатывая баллистический калькулятор (с алгоритмами, напоминающими по описаниям в интернетах элементы ИИ), я столкнулся с необходимостью пояснить будущим пользователям некоторые вещи, которые им необходимо знать и понимать – типа, то, что вот этот функционал калькулятора обеспечивает вот такой вот алгоритм стрельбы на больший данности, и всего лишь повышает вероятность попадания первым выстрелом в цель на экстремально большой дальности, а ценность его в том, что он повышает эту вероятность по сравнению с функционалами баллистических калькуляторов от других разработчиков. Но все же всего лишь повышает вероятность, а не гарантировано обеспечивает попадание первым выстрелом.
Мне пришло в голову, что для того, чтобы выпукло и наглядно пояснить эту мысль, удобно было бы воспользоваться первым (условно первым, потому что наверняка это знать невозможно) описанием в художественной литературе баллистического калькулятора для высокоточной стрельбы из винтовки. С таким описанием – слюняво-восторженным описанием – я встретился в какой-то из книг нерда Стивена Хантера о приключениях Боба Ли Свэггера – суперэффективного американского снайпера-морпеха, знакомому читателю по экранизации книги «Точка попадания» (Point of Impact), в российском прокате «Стрелок», выпущенной в России в конце 90-х – начале 00-х. Там эффект применения баллистического калькулятора описывается как такая экстремально точная стрельба, какой в реальной жизни (а) не наличествует, (б) никогда от выстрела не требуется.
Собственно случай: Перечитывать все произведения Стивена Хантера возможности у меня не было, и я задал вопрос DeepSeek. ИИ сначала указал мне на «Точку попадания». Когда я указал ему, что там такого упоминания нет, а речь идет только о баллистических таблицах, ИИ предложил мне другую книгу, которую я тут же нашел и просмотрел. Когда я ему указал, что и в этой книге упоминания использования баллистического калькулятора нет, ИИ признался мне, что не может решить эту задачу.
Эксперимент удался – если информация не опубликована, ИИ не может ее узнать. Если она опубликована – в русском сегменте интернета выложено довольно много бесплатных переводов, я, собственно, так рекомендованную DeepSeek книгу и нашел – не факт, что ИИ с ней ознакомится. Иными словами, довольно рутинная задача не решена, при этом ИИ пытался ввести меня в заблуждение.
Случай 3
Контекст: в ходе разработки баллистического калькулятора – а ситуация там такая, что я сам гуманитарий, собственно баллистический решатель разработал инженер-математик, я же разрабатываю функционал приложения, обеспечивающий различные алгоритмы стрельбы, которые воплощают профессиональные программисты – возникла необходимость рассчитать поправки, компенсирующие завал винтовки на 90° влево или вправо. Есть такое упражнение «моссад», моделирующее полицейскую стрельбу на небольшие дальности (до 200-300 метров). Поскольку дистанция маленькая, преступник может заметить снайпера. Поэтому снайпер должен стрелять, например, из под машины, чтобы остаться незамеченным. Но из-за высоты прицела в обычном положении такая стрельба невозможна – ось прицеливания будет перекрыта корпусом машины (легковой). Поэтому стрелок должен расположить винтовку горизонтально – тогда ему в прицел преступник будет виден – и выстрелить из под машины. Дело, однако в том, что, поскольку ось прицела расположена выше оси канала ствола, стволу необходимо придать некий угол возвышения, чтобы при выстреле пуля, с учетом воздействия силы тяжести, поднялась до оси прицеливания и на заданной дистанции попала как раз в ту точка, в которую пришла ось прицела (стрелок это место видит как накрытое перекрестием прицела). Когда винтовка положена на бок, сила тяжести не компенсирует траекторию, обусловленную углом бросания, и пуля уходит в сторону. В свою очередь, поскольку винтовка положена на бок, вертикальный угол бросания теперь отсутствует, и пуля придет ниже. Задачей является вычислить угол бросания, который надо будет поправками удалить для вертикали, ставшей горизонталью, а для горизонтали, ставшей после завала винтовки вертикалью, надо ввести.
Я столкнулся с тем, что на сегодняшний день ни один известный мне калькулятор не считает эти компенсирующий поправки правильно. Проверить это легко – реальной стрельбой. Реальное отклонение больше примерно в два раза, чем расчетное. Я пытался обсуждать эту проблему с разработчиком решателя моего калькулятора, но убедить его на фоне некоторого количества других калькулятором, включая калькуляторов от американских авторитетных производителей, мне не удалось. Более того, имея расчеты от других калькуляторов, я, что называется, «сломался», и согласился с решением моего партнера. Однако реальная стрельба – та самая обратная связь, о которой я говорил вначале – не давала остановиться на принятом уже решении, она его опровергала каждый раз, когда кто-то стрелял «моссад». Вчера его прострелял и я))
В итоге с этой задачей я, гуманитарий, остался один на один. Когда я понял, что мне необходимо найти угол бросания, я начал искать его из набора баллистических данных, которые выдает мне любой калькулятор. Я подумал, что угол бросания мне надо искать в непосредственной близости от среза ствола винтовки, потому что чем дальше от среза ствола, тем больше траектория полета пули определяется действием силы тяжести и сопротивлением воздуха. Сопоставляя разницу поправок, которые обеспечили бы попадания в точка проекции оси канала ствола на дистанции 1 и 2 метра – это минимальные значения, которыми оперирует любой калькулятор, я вычислил угол бросания, значения которого оказались близки к каждый раз подтверждаемым практикой отклонениям пули, а погрешности оказывались в пределах кучности стрельбы. Иными словами, компенсирующие поправки должны быть равны углу бросания.
Собственно случай: И вот вчера мне пришла в голову мысль задать вопрос о способе вычисления угла бросания DeepSeek. В течение 5 секунд он выдал мне формулу и пример расчета на моих данных угла бросания, результаты которого совпали с моими построениями. Следует признать, что решение ИИ было операциональнее моего – необходимое значение с его помощью можно найти вообще без баллистического калькулятора, и результат будет точнее, поскольку для его получения не придется брать данные о поправках для дистанции, на целый метр удаленной от среза ствола. Но это решение (и алгоритм вычисления) ИИ дал человек, в этом нет работы машинного интеллекта ни на секунду.
Ниже самостоятельный расчет немного для других характеристики винтовки (тех, что использованы в левой части картинки)
Эксперимент удался: ИИ способен выдать уже опубликованный созданный человеком результат (алгоритм решения задачи).
Комментарии
Спасибо. Просто оценил адачки, которые сейчас ИИ решает и вспомнил сташие классы и своих сверсников. Например, когда друг показывал двойной тетрадный листок плотно заполненный кодами ассемблера и пытался мне обьяснить что делает его программа)) Эх, времена zx спектрума))
Ну а если зазернить вопрос, то для меня образ ИИ - старшеклассница с большими выразительными голубыми глазами и с кучей шпаргалок на резинке на бесконечно длинных ногах.
У нас учителя делили списывающих на тех, кто тупо списывал у кого-то и это твердая двойка и поход к директору и тех, кто сам готовил шпаргалки. Последних не наказывали, просто отбирали шпаргалки и давали дописать до конца контрольную. А некоторые учителя даже хвалили. Человек прочитал, систематизировал, записал, наверняка запомнил, просто боялся забыть.)
Как бы люди не стали все поголовно относится к первым. Немного страшновато.
Мне дипсик по крайней мере уже не раз помог даже не ответом, а обозначением направления для поиска и размышлений
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Тема интересная, не переходя допустимого, а то посодют, и правильно сделают
. Я как то долго беседовал (давно было) по работе со "специалистами", которые на разных языках задавали мне один тот же вопрос, так что я в конце концов не выдержал и злобно ляпнул, вы инженеры или из ЦРУ? Немая сцена ещё та была. Вопрос, у нас есть если не действующий (за бугром есть) то хотя бы проталкиваемый приборчик в армию или в разные службы, для штатного применения в действующих подразделениях? Послюнявил палец, попробовал, почесал затылок, потыкал в коробочку на инструменте, опа, в прицеле рекомендованная точка, совместил и усё.
Согласен, AI - хайп на акциях американский IT-компаний, не более. Намного лучшего результата можно достичь обычным гуглением.
Можно. Только времени уйдёт на порядок больше, чем просто спросить нейросеть. И если это не что-то критично, то проще спросить нейросеть.
Да ппц. Мне надо замешать пескобетон м-300.
Чат Яндекса советует развести на 40кг 5,5-6 л, получается на 10 кг 1,5л. Я хочу перепроверить, ищем дальше, тут же с сайта крупного продавца стройматериалов - на 10 кг уже 1,7-1,9л.
Кто прав? Ладно сейчас почитаем выдачу. И первые две страницы выдачи - вариации от чата ЖПТ на тему первого ответа. Тексты для СЕО.
Получаем замкнутый круг - единожды попавшее к ИИ недостоверное значение, самодублируется. При этом интернеты ускоренно заполняются мусором. (Раньше они тоже заполнялись но хотя бы не так быстро потому что это делал копирайтер за денежку, и поисковики худо бедно чистили выдачу занижая откровенно сеошные тексты) И последующая проверка корректности этого недостоверного значения - основывается в первую очередь опять таки на текстах из интернета которые сгенерены ИИ прежде, вот с этим недостоверным значением.
По итогу выдача представляет собой откровенный мусор, в котором тонет валидный результат. И исправить это можно только вручную, из-за упомянутой выше проблемы самодублирования. А кто это будет делать, исправлять вручную, за какие деньги, когда и как? если этот человек полезет в интернет и там в верху выдачи на первых трёх страницах лишь ошибочные результаты. Чтоб валидировпть ответы выходит нужны профильные специалисты - а кто оплатит их труд?
В общем я изрядно офигела с этого всего, и полагаю лет через 5 благодаря ИИ интернетом как источником информации станет пользоваться затруднительно. Это потрясающе, просто великолепно, это даже величественно. Как можно превратить огромную базу знаний (интернеты) в кучу мусора которой нельзя пользоваться? Казалось бы неразрешимая задача, но человек справился! И мало того что справился, многие люди еще и со светящимися как лампочки глазами рассказывают как это хорошо ИИ. И на серьезных щах его сравнивают с человеком. Жертвы научной фантастики, ДБ.
в ходу будут нейронки обученные на "чистых данных" до 2019 года. И похоже, они будут стоить как конь.
Интернетом как справочником опасно пользоваться уже сейчас, одно хорошо - форумы профильные помогают.Помогают хоть немного отличить сгенерированный контент от реального.
Коего все меньше и меньше.
Ну и ютуберы всех мастей спасают,которые за копейку были готовы делиться знаниями (и их комментаторы, которые им в комментариях могли напихать, если ютубер несет чушь).
Правда была обратная ситуация ещё 15 лет назад даже: много информации физически не было в инете и приходилось идти в библиотеку. А 5 лет назад была проблема с текстами копирайтеров, которые простой вопрос как сварить гречку умудрились залить такой "водой", что нужно было в итоге смотреть огромные тексты ради пары нужных предложений .
Сейчас вот нейросети появились, с одной стороны без огромного количества копирайтерской воды, с другой умеющих убедительно доказать что ошибочный вариант верен( для не специалиста), в отличии от человека, где ответ сразу видно верный или не верный.
Потратьте час своего времени и поинтересуйтесть, что такое большие языковые молели (LLM) ошибочно именуемые ИИ (интеллекта там нет) и какой базовый алгоритм в них заложен. Что такое "базовые модели" и почему они знают всего по чуть-чуть и не могут ничего глубоко. Не будете тогда тратить свое время на бессмысленные эксперименты.
В текущем своем состоянии языковые модели, представляя собой не более чем базы данных с заложенными в них особым образом текстами или картинками, годятся только на роль справочника или подмастерья. Ввиду их алгоритма работы они не в состоянии "придумать" что-то новое. Их главная задача - заполнять пустоту наиболее вероятными вариантами комбинаций неких символов, которые в них засунул инженер. Засунул иероглифы и буквы, будем заполнять иероглифами и буквами. Засунул разноцветные пикселы, будут пикселы. И т.д.
Это по сути расширенный вариант поисковика. С той разницей что у вас вместо страниц выдачи - выжимка из них, причем если вы широко поставили задачу, лакуны заполняются чем то правдообразным, тупо на анализе частотности - какие слова рядом с какими чаще встречаются в заданном контексте. так что вы даже не поймёте где он на выдачу опирается, а где слова подставляет.
Так и есть.
Угу. Странно только слышать про интеллект от самих разработчиков.
Но как показала практика - объяснять бесполезно. Раз в неделю статья - "ИИ думает и скоро вообще передумает!"
У меня тоже есть опыт с ДипСийк-ом.
Для начала, пришлось ему рассказать как выглядит один измеритель. Он выдал мне по теме других, но после очереди написания формул (я ЛаТех не люблю, писать надо много ненужных вещей) мы пришли к правильной и я ему прямо сказал что это и есть то, с чем начнем.
Отметим, что формула ему была неизвестна. После недолгого обучения он "выучил" ее.
Потом я дал ему задание - доказать что мера этим измерителем всегда будет меньше или равной меры другого, скажем геометрического измерителя. И он выдал мне доказательство, используя неравенство Коши-Буньяковского. Доказательство было 1) корректным 2) очевидным, если использовать неравенство
Мне как-то не верится, что кто-то специально занимался доказывать это в литературе, так что маловероятно чтоб ДипСийк нашел его просто "перелистывая"
Опыт работы коллеги:
"Он - как роб. Всегда делает то, что ему скажешь. Но надо долго и корректно ему объяснять в чем он ошбся. Потом он снова сделает, снова ошибется и т.н. Но когда обучится, будет делать быстро и без ошибок"
Я пытался GPT (дипсик не смотрел) бухгалтерии учить. Ввел в курс дела, дебет, кредит. Что-то он уже знал. Он однозначно учится по ходу общения. В итоге он сносно составлял проводки по словесному описанию финансово-хозяйственного факта. Типа, напиши проводки по покупке материалов на 10000 руб. Теперь напиши проводки по списанию материалов в производство. При хорошей формализации области деятельности ИИ уделает человека как стоячего. Нам (человека) "крышка")))
Это Ваши оценки. Если они верны, то Вы оказались тем, кто знал ответ, или мог получить ответ, иным способом без ИИ. Если они неверны, то у Вас проблема, связанная с тем, что Вы верите в решение. Иными словами, чтобы пользоваться корректно ИИ, Вы должны быть не только круче его, но и обучить его.
А если Вы ошиблись в методе, а результат совпал с ожидаемым случайным образом, или Вы вынуждены оперировать на уровне порядков и результат Вас устраивает только ко поэтому?
Я знал ответ - что данная мера всегда меньше или равна другой. Т.е. у меня был критерий оценить правильность доказательства. Так что насчет веры - не веры, это мимо. И значит речь вообще не об оценок (я так вижу или мне так хочется, что я верю). А об истине. Суть эксперимента была в том, чтобы 1) научить ИИ чему-то неизвестному ему 2) запросить доказать неочевидное утверждение для чего-то нового, т.е. он не мог заранее "знать" правильно это или нет.
Правда, пока я его научил как выглядит формула неизвестного (я до того попросил написать эту формулу и он ответил что измеритель ему неизвестен), пришлось долго писать некорректные выражения в ЛаТех. там уже он меня обучал. Но когда получилась правильной, я ему ее скормил. Да, пришлось его обучить чему-то чего он не знал, но не более. Ведь все мы учимся чему-то неизвестному и далее просто узнаваем известного. По правде говоря, источники в интернете были, я проверял, но на недоступном ему языке. Студенты, например, при всей их интеллигентности и продвинутости в поисках так и не нашли.
Но дальше доказательство - не мое обучение. Там никакие порядки и неточности быть не может. Доказательство - формальное и оно или верно или нет. как например доказать что сторона трегульника равна (или даже больше!) сумме остальных двух. Можно утверждать, что это получилось случайно и в рамках допустимой ошибки оно - верно +-? так можно додуматься и до того, что есть треугольники, для которых это - вернО и другие, для которых - не.
Вас приколет, что вас тоже на текстах учили родители и потом школа. Если бы их не было - вы бы слово "винтовка" не знали бы.
Просто у нашего мозга гораздо больше алгоритмов - некоторые даже мешают рациональничать. И есть такие, каких у языковых моделей нет.
Да их и зовут моделями - "ИИ" это для журналистов.
А главный прикол в том, что принципиальной разницы между функционированием нашего мозга и архитектуры Неймана - нет. Обе электрические, а гормональные алгоритмы просто запутывют картину и в основе своей - тоже на обмене электронами.
Я не вижу системности в изложении методологии проведения вашего эксперимента. Вы не говорите ни какую (точную) модель ИИ используете (на это вам уже указали), ни какой (дословно) запрос к ИИ используете (чтобы остальные могли повторить и оценить), ни какой результат (по вашей оценке как эксперта) д.б. получен. Ни о чём ваш "пренебрежительный" спич получается.
Подумалось. А были ли авторы, которые писали приблизительно следующее: "я с недоверием отношусь к письменности". Все что ты не знаешь - ты не знаешь вовсе.
Есть такое понятие - тандемный и политандемный режим работы интеллекта человека. Я лучше буду работать в тандеме с человеком. Тем более эмоции должны быть и должны играть свою определённую роль в чувственно-психической деятельности, иначе индивид перестаёт быть человеком и становится биологическим аналогом компьютера — биороботом. Для обработки входной информации человеку дано - интеллект, интуиция, чувства, различение от Бога, совесть, любовь. То есть интеллект лишь малая часть из обработки информации. Да и интеллект без совести - это демон. Злой или добрый демон, зависит от алгоритма программиста. Программист тоже вряд ли с совестью. Имеем творчество демонов. ИИ можно использовать для быстроты поиска нужного материала, который нужен человеку и параметры поиска он же устанавливает (быстрый библиотекарь).
Годный срач. Ахтунг - пахнет трольчатиной! Автор, нет ли в обсуждении упырей? Сим повелеваю - внести запись в реестр самых обсуждаемых за день.
Работа с изображениями с Искуственным Интеллигентом.
Вывод: всё, что делает дурак, всё он делает не так.
Страницы