Это единственная технология, которая изначально генерирует подделку. В основе лежит обыкновенный карго-культ. Белые снисходительно похохатывали над чёрными, строившими соломенные макеты самолётов, а сами, играючи, обнаружили себя пешками в таком же гамбите. Причём, хронологически синхронно.
Тут скажут: да ни фига, такого поддельного барахла навалом. В СССР был т. наз. «коммунизм» – фальшивка чистая, рафинированная.
Но – нет.
С коммунизмом приходилось разбираться, а ИИ фальшив, что называется, по определению. Инвалид с рождения. То есть, в отличие от социализма или соцреализма, тут никто даже и не скрывается. Алан Тьюринг на голубом глазу так прямо и сфокусировал, что, де, если переписку с программой можно принять за переписку с человеком, то ИИ, считай, есть.
То есть, дело сразу завертелась так, чтобы человека взять – и просто обмануть. Так было записано в ТЗ. Ладно бы писали роботы, как им удобно, а то ведь люди... их-то интерес в чём?
Но – понеслось! Уже в разгар 80-х существовали вполне успешные имитации, позволявшие иной раз спутать бота с обитателем Кащенки. Ведь сумасшедшие – без сомнения – люди, обладающие ЕИ. Так что всё, типа, честно. Профанаторы, выдумывавшие за государственный кошт шахматные игрульки, бодро рапортовали о сближении машины и человека. Человека, редуцированного до шахматиста, конечно, но НИИ бодро заковыряли в носу «может ли машина мыслить?»
За что мы так себя не любим? А за деньги. Создать подделку проще. Генерация изображений, каких-то жалких текстов... Всё на 100% симулякры. Но если поставлена задача человека обмануть, он будет обманут, это лишь вопрос времени. Но в чём попс? Разве мир построили жулики?
Программисты искусились интеллектом и принялись создавать... автоответчики. И весь прогресс сегодня свёлся к тому, что нет ничего более оскорбительного для человека, чем принудительное общение с ИИ, которым нас пичкают банки, сервисы, магазины, а теперь уже и государственные инстанции. То есть, если раньше вы просто дозванивались до оператора, слушая дрянную музыку, то теперь над вами издеваются. «Оператора!!!» – «А поговорите со мной...» И не ответить нельзя! Гад выключится: «я вас не слышу». Изуверскому Интеллекту вроде как бы и невдомёк, что на том конце человека хватил кондратий.
Впрочем, принудительное общение, когда звоните вы – ещё полбеды, и судить за это надо со смягчающими: сами напросились. Но, блин, боты звонят живым людям! Между прочим, прямо нарушая 1 закон роботов: не причинять вреда человеку. И куда смотрят законодатели? Почему простая вода требует сквозной маркировки, дабы избежать контрафакта, а сгенерированная компьютером подделка не маркируется на основе твёрдого закона вообще никак? И не пора ли обязать кол-центры требовать заранее предупреждать о разговоре с ботом? Предупреждают же боты заранее о записи вашего разговора с тем же ботом.
В контексте проблемы будет глубокой ошибкой рассуждать о том, что такое вообще Интеллект. Эту тему как раз и раскручивают фальсификаторы от ИИ, дабы было не так стыдно заниматься за деньги откровенным постыдством (о чём они, разумеется, знают).
Найти «полезного дурака» для такого мероприятия сложно. Ясно же, что в основе лежит некая программа с большим массивом данных, и вся технология строится на быстрой обработке его по определённым алгоритмам. Никакого интеллекта для этого не нужно вовсе. Собственно, если сравнивать с интеллектом человека, то тот ещё даже не начинается там, где GPT заканчивается. У человека всё это происходит на бессознательном уровне. Собственно, у насекомого тоже. Но вес мозга шмеля ничтожен, а тысячетонный массив видеокарт не сравнится с ним в эффективности организовать полёт. (Об одноимённой музыкальной теме и говорить нечего.)
Однако дело вовсе не только в скорости обработки информации и не в её объёме. Понятно же, что мышлением человека руководит мотивация. А вот что стоит за мотивацией, и как сей побудительный мотив действует – не ясно совершенно. Решить задачу интеллекта без решения задачи души невозможно, но так же невозможно для современных гиков начать это обсуждать, – хотя, до середины 19 века было не стыдно. Но сегодня до 19 века уже ещё далеко.
Впрочем, имитировать душу уже пытаются, конечно. Зачем? А для более натурального обмана.
Сегодня даже трудно себе представить, что наука 21 века сможет выйти на эти мемы рубежи хотя бы на уровне вопроса Карамзина своему «науч. руку» Лафатеру: «Как душа наша связана с телом, когда обе они из различных стихий?» (И должна ли это быть наука.) Неприлично это для позитивизма. Неприлично обсуждать источник мысли и побуждения, когда материализм осязаем с кэшбеком и бесплатной доставкой. Хочу есть! – На! – Долго нёс! Оператора! – А поговорите со мной...
Проблема ИИ не будет решена, и вот почему. У ИИ всегда на руках перебор. Причём, интеллекта ещё нет совершенно, а перебор уже есть. От него требуют сверхчеловеческой точности, но при этом зачем-то ещё косить под разумное существо. То есть, быть не столько Интеллектом Искусственным, сколько Сверхъестественным. ИИ обязан всё помнить, всё знать, и уметь всё решать, причём, без ошибок. Поэтому отличить человека от продвинутого ИИ будет тем легче, чем ИИ будет более продвинутым: последний даст точный ответ там, где первый вас пошлёт, ведь ЕИ вычисляет очень редко, обычно он оценивает.
Допустим, кому-то поручили создать фальшивый доллар, чтобы не отличить от настоящего. Это понятно. Но чтобы был лучше настоящего? Имел ещё пару степеней защиты? Это зачем?
Кое-что в работе над ИИ можно объяснить справедливым фактом, что 90% умственной деятельности действительно имеет служебный характер, где от человеческого мозга требуется действовать по сложному, но вполне описываемому алгоритму. Есть искушение к вящей выгоде от таких людей избавиться. И избавляются, как было раньше с рабочими ткацких фабрик.
Ну, почти. Хотя, если подумать...
Бизнесу и госсектору обещают, что он вскоре сможет без ущерба увольнять тех, кто бубнил на публику мантры об устойчивом развитии и уверенном росте. Но забывает, что эти мантры были некогда утверждены гуру МБА как пароли искусственного отбора. Так в стране советов отбивались цитатами Маркса. Но зачем ИИ, когда везде должны быть свои?
[И вообще... г-хем... зачем нужна сверхточность? Эдак скоро любой сможет вскрывать чужие ошибки и злой умысел? Рухнет вообще вся человеческая игра, основанная на неполном знании, умолчаниях, обмане, заговоре... А как же власть?]
Человек от грубой повинности безошибочности, к счастью, довольно далёк. Как и от обязанности валять дурака... (В смысле, валять дурака все 100% времени.)
Далёк... Но это – пока. Люди работают вовсю над тем, как сблизить ИИ и человека – уже со стороны человека. IQ и ЕГЭ вовсю калибруют прокрустово ложе для решительного даунгрейда.
Проблема не в том, что когда-либо ИИ перехватит человеческую власть. Проблемы начались уже сегодня у обычных людей. Глупый и почти несуществующий ИИ наняли за людьми приглядывать и наказывать. Расставлять запятые в казнить нельзя помиловать. Дрессировать людей не ошибаться и соответствовать... Чуть заехал за черту – ИИ-калека выписал штраф; сочинил текст – ИИ его отцензурировал, выставил рейтинг, забанил.
Конечно, «мо-ожете жаловаться». Но кому?
Комментарии
Огонь!
молодой ошо ...
Вот когда этот Идиот начнёт банить Власть, начиная с низших структур, тогда ему и наступит звиздец! Если эта Власть ещё сможет что-то понять и сможет что-то предпринять.
Очень надеюсь, что здравый смысл контроля над ИИ и прочим цифровым миром в нашем отечестве возобладает.
Дай боже здоровья Ашманову и его единомышленникам
https://rutube.ru/video/c70ec8af0439bd6c5d316af41bbfa5d1/
Я короче не поняла по итогу в чем суть претензии.
В том, что создают цифровой концлагерь.
пионерский
Не заморачивайтесь. Суть этого поста банальный инфошум на пике тренда. 99% людей пишущих об ИИ не понимают, что это такое и как оно работает. Вот и пишут всякое. Пугалки в том числе. Такое уже было не раз в истории, когда появлялась новая технология. Сейчас им страшно, а завтра потомки будут смеяться над ними, вернее над ихними страшилками. Ну-у-у, а те кто понимают, смеются уже сегодня.
я вчера
Чтобы понимать опасность, не обязательно осознавать её досконально. Достаточно сталкиваться с её практическими проявлениями.
"Я задал ИИ вопрос, как мне лучше и выгоднее помыть автомобиль: пойти в гараж, завести машину и доехать до автомойки, или пойти до автомойки пешком?
ИИ ответил, что лучше пешком. Ибо не тратится топливо, пешком полезно для здоровья бла-бла-бла.".
И ещё. Никто досконально не понимает, как работают сложные системы. Даже уверенные в себе хитрые лисы (которые думают, что входят в 1%). Тем более, что сложная система впоследствии может заработать так, как не представлялось при её создании.
Я говорю о том в чем разбираюсь. Я например могу спроектировать компьютер с нуля вместе с BIOS и простейшей ОС. Пусть он и будет относительно простым, но смогу. А вы ?
Ну просто за обсуждениями галлюцинаций ИИ как-то начали забывать про то, что посконный ЕИ бредит ничуть не хуже! Вот автор и напоминает нам
Ему СССР кушать мешает -
Тексто Ботовый Модулятор
Самое верное определение ИИ дано Поспеловым Д.А советским и российским кибернетиком, доктором технических наук, профессором: перспективные информационные технологии искусственного интеллекта (ПИТИИ). В 1996 году в статье «Десять „горячих точек“ в исследованиях по искусственному интеллекту» Поспелов указал 10 наиболее перспективных направлений исследований в области ИИ, вокруг которых будут сосредоточены усилия специалистов в начале XXI века. К ним отнесены: переход от вывода к аргументации, проблема оправдания, порождение объяснений, поиск релевантных знаний, понимание текстов, синтез текстов, когнитивная графика, метазнания, сетевые модели, многоагентные системы. Всё это в совокупности и есть тот самый ИИ-хайп который сейчас разгоняют, 30 лет прошло со дня предсказания Поспелова.
Ой, да ладно! Бестолковый зубрила хуже ИИ. 70% школьников и 50% студентов . Ум человеческий имеет свои границы. Глупость же человеческая - безгранична!
Похоже нужно ИИ позвать, чтобы этот поток сознания суммаризировал...
кожаные нытики помрут, а ИИ с нами на века!
особенно смешно будет когда ИИ изобретёт лекарства от рака и старости, нытики будут их принимать ?
с кем "с нами"?
Особенно смешно ожидать открытия чего-то нового от языковой модели, которая просто сильно навороченный Т9
ты думаешь твой мозг чем-то отличается от ИИ ? достали уже гуманитарии которые не знают что ИИ - копия живого мозга - те же нейроны и связи
единственное отличие - хороший ИИ знает больше тебя, больше языков, больше наук, языки вообще почти все знает
судя по кол-ву статей у тебя (НОЛЬ) - ты реально глухой гуманитарий, которому даже сказать нечего миру ни по одному вопросу
По поводу скорости и точности вычислений и анализа ИИ ещё очень большой вопрос. Опишу ситуации которые у меня возникли с использованием ИИ Дипсик для перевода с китайского. Скажу сразу, занимаюсь переводом большой книги (1800 глав) исключительно из личного любопытства к творчеству автора, ни какой коммерческой подоплёки или монетизации результатов не планирую и не сохраняю текст переведённый, поэтому же не пользуюсь "платными продвинутыми" версиями переводчиков.
Так вот, ситуация первая. Фрагмент описывающий торги на аукционе. Читаю перевод и понимаю, что цифры не обоснованно высоки. Задумался, раньше мне в дипсике ошибок с числительными не попадалось (перевёл уже) 1200 глав). Решил проверить в гугл переводчике, закинул исходный текст и ага.. цифры в 10 раз меньше чем перевёл дипсик, похоже на правду. Пошёл допрашивать дтпсик, "вот в данном фрагменте верно ли переведены цифры?" И дипсик меня озадачил ответом:
Там нет никаких классических вычислений и алгоритмов, которые вы упоминаете. Просто статистический предсказатель следующего токена на основе перечня предыдущих. Да, оно как-то решает задачу, но искать там алгоритмы или надежность работы - бесполезно. В т.ч. когда вы спрашиваете почему он что-то сделал - его ответ это тоже такая же генерация токенов, а не реальная информация о том, почему он что-то мог ранее перевести так а не иначе.
Я, представьте себе, этот вопрос задаю уже много лет разным борцам за всё хорошее против всего плохого.
Зачем? Чтобы что?
Зачем нужен честный знак на бутылке воды или пластиковом горшке по 10 рублей?
Зачем нужна тотальная слежка - все эти безумные количества тех же камер на дорогах и тотально записываемые файлы общения, передвижения и транзакций?
Для денег?
Тогда зачем нужны цифровые деньги, если они "временные" и их категорически не желает население?
На Хабре цикл статей от cognitronn про надувание.