Внезапные откровения от гендиректора Центра искусственного интеллекта МТС (MTS AI) Андрея Калинина в интервью РБК (избранные фрагменты):
- Большие модели сейчас подошли к важному с точки зрения восприятия перелому в развитии: если раньше они «умнели» (росли в качестве) сразу по всем направлениям за счет своего размера и увеличения обучающей выборки, то сейчас этот рост сильно замедлился: кончились данные для обучения (текстов в интернете больше нет, новые не появляются с нужной скоростью). С этим связаны новости о том, что GPT-5 не дает того прироста, который был в GPT-4 по сравнению с 3.5.
- Представьте, что мы уже использовали все данные из интернета для обучения модели. Что делать дальше, чтобы создать еще более умную модель? Сегодня многие тексты в интернете тоже создаются нейросетями, но обучение на таких данных делает модель похожей на предыдущую.
По словам представителя MTS Al разработчики ищут новые подходы, например обучают нейросети на основе видео, аудио или изображений, но эффективность этих методов пока остается под вопросом:
- Чтобы модели были умнее, требуются данные, созданные людьми, а не нейросетями. Вопрос в том, где найти такие данные.
Комментарии
ну вот и все, хайп ИИ закончился, а то скайнет скайнет, пугали они
"Скайнет" никто не пиарит, он создаётся не для "коррекции фоток котиков".
А тот, что для котиков - начинают потихоньку "антипиарить", как раз сегодня послушал в новостях про "исследование про обманывающий ИИ". Если звёзды зажигают - это кому-то надо (с)
многие сразу говорили что весь этот искусственный идиот - тупо попил бабла. Сколько окулиардов народных денег в это вбухали?
Зато мне показывают телевизору инвалида и говорят - дай денежку ему на пропитание. Причем инвалид в здравом уме и твердой памяти - но вместо того что бы ХОТЯ БЫ для инвалидов запилить вменяемый нейроинтерфейс и РЕАЛЬНО помочь людям, а не унижать их ролью побирушек - ублюдки и мрази тратят деньги на ИИ. Ну ладно, продолжаем хайповать, скайнетить и заниматься прочей фуетой - лишь бы с меня собрать еще больше денег - в этом смысл всей этой движухи с ИИ...
Нейроинтерфейс нужен только паралитикам . ИМХО
Дано:
1. Для некоторой ситуации база знаний LLM содержит вариант ответа А с частотой 55% и вариант ответа Б с частотой 45% (для простоты)
2. Данная LLM в режиме 24/7 генерирует различные тексты, в которых почти всегда в указанной ситуации будет ставить вариант А, как более вероятный (пусть в 99% случаев).
Вопрос:
Через какой время в базе для обучения последующих поколений LLM вариант ответа А будет встречаться с частотой 99% и вариант Б, таким образом, практически исчезнет совсем (риторич.)
Есть куча пока неоцифрованных данных, вероятно, больше объёма интернета
Наверно, но сравнение скорости оцифровки данных со скоростью генерации текстов LLM ...
Страницы в книжках некому перелистывать. Имитатор искусственного интеллекта этого делать не научился
там нет ничего полезного, иначе давно бы оцифровали
набуя ИИ обучать на графомании алхимиков 18-го века ?
На самом деле распределение другое - 99,9% исходных данных написано обывателями и журналистами, и 0,1% экспертами в теме для обывателей и журналистов в терминах, понятных для обывателей и журналистов.
Очень верно подмечено. Но давайте дойдем до практических выводов. Представим что существует несколько способов решения одной задачи, скажем способ А, распространенный на 50%, Б на 30% и В на 10%. А еще постоянно появляются самоучки и просто любопытные люди решающие задачу способами Г-Я с общей суммарной распространенностью 10%. Благодаря этому, в один из дней появляется способ Ж, который оказывается точнее и эффективнее способа А, прогресс на лицо. А теперь представим что все пользуются ИИ для решения этой задачи. Естественно она всегда будет решаться способом А. Более того, способ Ж никогда не будет изобретен. Почему? Да потому что попробуйте сегодня заставить поделить два трёхзначных числа друг на друга современного школьника. Без калькулятора. Вряд ли удастся. По этой причине, если верить слухам, значительная часть школьников в США не умеет писать ручкой.
Так что, с большой долей вероятности это путь в тупик. Хотя наверное маршрут не случаен. Современный потребитель должен быть предсказуем. А не избыточно разумен.
Собственно, я именно об этом. К сожалению, LLM никак не маркируют созданные ими тексты, поэтому по сути для обучения будущих LLM по-хорошему нужно ограничивать датировку источников датой запуска ChatGPT4, например. Иначе будет как раз описанное. Поскольку ИИ думать не умеет.
Это не важно. Наступит момент когда люди начнут учиться у ИИ а не наоборот. Круг замкнется. Парадокс в действии.
Ну, что людям скоро вполне мжно будет учиться у ИИ я недавно фантазировал (и это будет неплохо, кстати). Будет (совсем) плохо, если люди вместо того, чтобы учиться, будут спрашивать готовые ответы у ИИ.
Именно так и будет. И ответы эти будут восприниматься как догма. Иначе калькулятор мог бы научить считать :)))
Искренне надеюсь не дожить. Кстати, ответы будут загружаться непосредственно в мозг через имплант. Точнее, это уже будет не мозг, а межеушечный ганглий.
Кстати, представьте себе возможности по манипулированию общественным сознанием? Они безграничны. ИИ не врет, ИИ все знает, ИИ не может ошибаться :)))
Ну, "наклеивать ярлыки - это мы обезьянам не доверим" (с) А то какой-то сбой - и все в тартарары.
А кто говорил об экспоненциальном росте и с каким показателем экспоненты?
https://giovanni1313.livejournal.com/130017.html
Там автор математику в школе прогуливал. Объём рынка по прогнозу Блумберг растёт не по экспоненте
Продаваны.
Ответ на этот вопрос уже дали. И действительно экстенсивный рост ИИ за счет масштабирования закончился, теперь начинается интенсивный рост за счет возрастания сложности. Собственно это давно не новость, это только начало технологии ИИ.
Теперь начнется самое интересное - экосистемы интеллектуальных агентов.
Уроборос [проголодался и обожрался]n.
Почему рост "ума" модели ограничен ростом количества текста?
Сомнения в этом утверждении.
Потому что это "ум такой" (в определении генерала Лебедя).
Он только пересказывать чужие мысли может. Свои не генерит.
Во-первых, попользуйтесь хотя бы, прежде чем такое говорить.
Во-вторых, текущий не генерит. А будущий может и генерить, его изобрести надо только. И для этого не количество текста в интернете растить надо.
Плюс уже есть "LLM" от DeepMind, который уже умеет решать задачи с мировой олимпиады по математике в произвольной человеческой формулировке на уровне (пока) серебряного призера (включая стереометрию с рисунками).
И это уже хрен знает - его мысли или чужие. То есть, он умнее 99.99999% людей в плане математического мышления.
Ход мыслей он, кстати, тоже расписывает.
Есть нейросетка, которая с вероятностью 93% верно сворачивает полную молекулу белка (люди это делают с вероятностью 0%). И никакие детерминированные алгоритмы до текущего момента с таким тоже не справлялись никак. Это чужие мысли или чьи?
Есть нейросетка, которая предложила самую эффективную на данный момент форму гребного винта для судов. Человек сторону таких форм даже не думал. Это чужие мысли или чьи?
Эти примеры показывают, что развитие ИИ упирается не в количество текста в Интернете.
Это, несомненно, прекрасно, но какое отношение умение решать задачки из решебника имеет к интеллекту?
Я как бы напомню, что интеллект, это не когда погуглил и нашёл ответ перебором из уже имеющихся, нынешние псевдомозги как раз это и делают, а когда создаётся нечто принципиально новое, чего ещё раньше не было.
Задачи уровня МИРОВОЙ олимпиады. Естественно, ему давали для проверки не те задачи, на которых он обучался.
Вы только что сказали, что математические задачи с мировой олимпиады решаются перебором?
Ну круто, вы очень большого мнения о своём интеллекте. Вы подобные задачи не решите. и я тоже. И там не вообще ни разу не просто перебор.
Я привёл еще несколько примеров успешного использования нейросетей. Но вы прицепились только к одному, к тому же неправильно понятому. Классика)
Но я вас уверяю, вы ошибаетесь по поводу бесполезности "ИИ" (пох как их называть). Цена этой ошибки будет достаточно велика, скорее всего в виде утраты доступа к работе и уменьшению дохода.
А можно по-подробней, какую такую конкретную задачу "уровня МИРОВОЙ олимпиады" решил ИИ, и какую "самую эффективную форму гребного винта для судов" предложил ИИ?
Вот пример задачи. Решал он и многие другие (геометрические, стереометрические, алгебраические)
https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/imo-2024-solutions/P4/index.html
Уровень по совокупности проверочных решённых задач - серебряный медалист мировой олимпиады по математике. Время решения всех заданий - менее 10 минут. Людям даются 4 часа по моему.
Вот винт с повышенной эффективностью. Его уже используют на коммерческих лодках для богачей, отзывы близки к восторженным, включая замеры топливной эффективности и шума. Пока стоит дорого, потому что не начали скалировать производство, форма отличается от обычной лопастной. Напомню, что проблема формы винтов - одна из самых актуальных в кораблестроении. От формы винта сильно зависят тяга, износ двигателей и потребление топлива.
Вот здесь про свёртку молекул протеинов. Здесь совсем наука - пространственная молекулярная биохимия, но учёные, которые до этого занимались маппингом молекул белков - в полном восторге. Сами они не могли предугадывать, как свернётся молекула, а эта нейро-хрень - может с 93% вероятностью, и они собираются эту вероятность увеличивать
https://www.nature.com/articles/s41586-021-03819-2
Ссылку на винт можно, а не картинку?
https://newatlas.com/aircraft/toroidal-quiet-propellers/
Это коммерческое предприятие, поэтому статья не научная.
"Есть нейросетка, которая предложила самую эффективную на данный момент форму гребного винта для судов. Человек сторону таких форм даже не думал..."
Читаем по ссылке:
"Back when people were coming up with all kinds of crazy ideas for airplanes in the early 1900s and during World War 2, there were a couple of designs that were basically these ring wings. So I wondered what it would look like if you took a ring wing and turned something like that into a propeller."
"Человек даже не думал"
И далее:
"Within a few attempts, the team indeed found a design that reduced..."
The team - это искусственный интеллект?
Понятно, что аэродинамический расчет - сложная и нудная процедура. Вот ИИ и поручили, вероятно, обсчеты разных форм винта.
Вы как обычно. Ну прицепились к одной фразе моей, ай молодец.
Винт среди примеров - самый слабый, потому что это еще коммерция, они еще и гнать могут.
А остальные примеры?
Фраза не одна, а две.
А где фраза, что этот винт "придумал ИИ", а не команда из МИТ?
К винту прицепился, потому что близко к моей сфере деятельности. И то, что есть специальные программы, обсчитывающие винты - это не новость уже как много лет.
Ну а задача по геометрии - тоже не показатель. Все они строятся по алгоритму, ибо любое доказательство должно базироваться на уже установленных теоремах.
" After several years of development, the company has now tested its props against hundreds of standard propellers.." Т.е. им ИИ решение по винту предложил еще "несколько лет назад"?
Кстати, выигрыш в эффективности, только на определенных оборотах (от 2500 до 4500). При более высоких оборотах "традиционный" винт не сильно проигрывает "торообразному".
Конечно, повышение к.п.д. в области более низких оборотов - это хорошо. Но прям чего-то "революционного", да еще результата полученного исключительно собственными усилиями "искусственного интеллекта" - я не увидел.
Насколько я понял, ИИ там был задействован так: "Эй ты, болванка, мы тебя обучили. Окупай себя. Предложи 5 форм винта, которые ты считаешь эффективными, мы поглядим". Запустили 5 раз.
Он предложил. То есть, решил обратную задачу от той, которую выполняют программы, обсчитывающие каждый конкретный винт. Это та самая обратная диффузия. В прямом направлении нейросеть даёт на выходе эффективность конкретного винта (как она обучилась), в обратном - ему дают эффективность, ИИ диффузит какой-то винт (как Stable Diffusion, который в прямом направлении умеет определять на картинке котов, а потом вы ему даете фразу "рыжий кот" на его выходы, запускаете в обратном направлении, он рисует какого-то рыжего кота).
Потом они взяли варианты, предложенные этой болванкой, прогнали через моделирующую программу, обнаружили винт, который эффективнее текущих.
Вроде по графику видно, что предложенный нейросеткой винт эффективнее как раз на средних оборотах, где это и надо. Обороты меньше высоких - меньше вибраций, меньше шума, больше эффективность. Скорее всего, из-за уменьшения образования пузырьков и срыва потоков с лопасти.
Заявления коммерсов, конечно, надо интерпретировать с осторожностью, потому что их главная задача - продать. Но если не врут, прирост эффективности на средних оборотах текущих движков - очень большой.
"Насколько я понял, ИИ там был задействован так: "Эй ты, болванка, мы тебя обучили. Окупай себя. Предложи 5 форм винта, которые ты считаешь эффективными, мы поглядим". Запустили 5 раз."
Где написано, что был предложен винт, который "Человек сторону таких форм даже не думал..."
"Скорее всего, из-за уменьшения образования пузырьков и срыва потоков с лопасти."
Это как раз проблема высоких скоростей/оборотов.
Если бы думал - появилась бы раньше такая.
По остальным статьям что? Или ии не работает только если к чему-то одному придраться.
Ты, видимо, не понял, я ещё раз повторю.
Все эти задачки олимпийские -- это задачи, уже придуманные человеками, и на них уже известен ответ. Алгоритм решения этих задачек также придуман человеками и загнан в компостер. Где тут интеллект?
Напомню, что интеллект, это придумать новое, то, чего раньше не было и ответа на это новое также нет.
Где всё это?
Ты дилетант.
"Алгоритм решения" задачек... Школу не надо было прогуливать.
Ответа на вопрос "где же новые открытия от этого вашего ии?" не прозвучало.
Только тупые наезды.
Ясно, понятно.
Я написал же в ветке
https://aftershock.news/?q=comment/17650412#comment-17650412
На очередной круг этого забега Специальной Олимпиады без меня. С этим своим искусственным интеллектом соревнуйся.
Сливщик.
То есть, сейчас "где новое" - ты увидел, теперь тебе не нравится?
"Только тупые наезды. Ясно-понятно".
Ты просто не понимаешь, как текущий ии работает -- он отлично распознает паттерны и генерирует их и всё. Задача по свёртке белков - идеальная демонстрация задачи, которая была решена таким способом и НЕ МОГЛА быть решена алгоритмически.
Не понимаешь, и зачем то выеживаешься. Когда носом окунают, говоришь "это плохие примеры". Задача по свёртке белков очень важная и пример отличный.
Если ты утверждаешь, что нейросети это фигня - приходи, когда сам научишься белки сворачивать. 40 лет эту задачу решить не могли.
🙃
туман войны
С какого перепуга это называют ИИ непонятно, абсолютно непохоже это в лучшем случае имитация с большой базой знаний.
Нейросети не обладают интеллектом/разумом. Это действительно базы данных с изощренным алгоритмом выборки. Как помощь в доступе к информационным массивам они полезны. Но уповать на то, что они способны выдавать некие новые мысли, не стоит.
Страницы