Представим такие заголовки в недалёком будущем: «В этом году Нобелевскую премию по физике присуждают ИИ».
И два выдающихся человека уже сделали первый шаг в этом направлении, предложив такую задачу.
Это Сэм Альтман, генеральный директор OpenAI, и физик Дэвид Дойч, известный как «отец квантовых вычислений».
Вот теперь всё будет по-честному.
Современные модели легко проходят тест Тьюринга и на специальных тестах показывают результаты, превосходящие средние показатели людей-специалистов в разных профессиях.
Как же теперь объективно оценить и понять, достигла модель уровня человека или нет?
Ответ напрашивается сам собой — нужен принципиально новый подход, который консенсусом ученых и профильных специалистов будет признан убедительным критерием для решающего ответа на этот вопрос.
• И вот появилось первое серьёзное предложение
Сэм Альтман и физик Дэвид Дойч предложили принципиально новый подход для оценки общего искусственного интеллекта.
Дэвид Дойч, автор книги «Начало бесконечности», которая является любимой книгой Сэма Альтмана, утверждает, что современные модели могут имитировать интеллект, но не обладают настоящей интуицией и не создают знания.
В своей книге Дэвид Дойч выдвигает много очень интересных суждений. Одно из них — это проявление креативности. Креативность рассматривается как ключевое и уникальное человеческое качество, необходимое для создания нового знания и обеспечения прогресса.
Тогда возникает вопрос, будут ли считаться модели будущего действительно интеллектуальными, как человек, если будут способны создать, например, теорию квантовой гравитации?
На протяжении десятилетий эксперты спорили о том, как определить, когда машины обретут настоящий интеллект.
И вот генеральный директор OpenAI Сэм Альтман и британский физик Дэвид Дойч договорились о новом критерии: если ИИ сможет «взломать» квантовую гравитацию и всё объяснить — этого будет достаточно, чтобы назвать его разумным на уровне человека.
Дэвид Дойч: «AGI будет личностью».
Альтман, сделавший ставку на масштаб и универсальность для достижения общего искусственного интеллекта, вместе с Дойчем, известным как отец квантовых вычислений и философ науки, который сомневается, что обучение современными методами когда-либо приведёт к появлению настоящего разума, кажется, приблизились к пониманию AGI.
Дойч когда-то считал, что ни один компьютер не сможет вести открытый диалог, не обладая общим искусственным интеллектом.
— ChatGPT доказал, что я ошибался, — сказал Дойч Альтману. — Это не AGI, хотя он и может полноценно общаться.
Дойч, однако, провёл чёткую границу между «болтливым программным обеспечением» и настоящим интеллектом. По его словам, большие языковые модели могут говорить правдоподобно просто потому, что они обучаются на огромных массивах знаний.
По его мнению, настоящий интеллект — это способность создавать знания: выявлять проблему, находить решение, тестировать его, развивать и совершенствовать, как это делают люди.
Возьмём, например, теорию относительности Эйнштейна.
Некоторые люди с удовольствием рассуждают о том, действительно ли Эйнштейн создал теорию относительности или же он лишь удачно собрал её из множества уже существовавших идей. Мы знаем, что он её создал, потому что знаем всю его историю, знаем, какие проблемы он решал и почему.
Дойч подчеркнул, что важным аспектом будет не только получение решения, но и способность ИИ объяснить свой мыслительный процесс, проблемы, которые он решал, и причины выбора определенных путей, подобно тому, как Эйнштейн объяснил создание теории относительности.
Далее Дойч развил свою мысль на примере Альтмана.
Не написав ни строчки кода, он создал ChatGPT как продукт и явление благодаря своей интуиции и сообразительности, которые подсказали ему, что это именно то, что нужно человечеству.
Но пока что никто не может запрограммировать компьютер на такую интуицию и сообразительность.
Наконец Альтман выдвинул гипотезу:
Если бы будущая модель разобралась, скажем, в квантовой гравитации и смогла объяснить вам весь свой путь рассуждений — какие проблемы она преодолела, почему и как решила все возникшие задачи, — было бы этого достаточно, чтобы убедить вас?
— Думаю, да, — ответил Дойч.
Альтман поддерживает:
Я согласен на такой тест.
Эта концепция получила неофициальное название «тест Тьюринга 2.0».
• Задача на Нобелевскую премию
Эта задача действительно ставит высочайшую планку, доступную только гениям.
Но почему только квантовая гравитация? Может оказаться, что в природе нет никакой квантовой гравитации и это ложный путь.
Может быть, можно построить новую единую теорию, например, тёмной материи или физического вакуума, которая будет иметь два частных случая: квантовая механика и наша теория гравитации.
Но сама идея мне кажется верной, так как модель должна стать первооткрывателем, создателем фундаментальной теории. Тогда научный мир получит веские основания признать наличие настоящего интеллекта, который не уступает человеку.
Мне такой решительный подход к финальному тесту очень нравится. Вот только будет ли готов сам Нобелевский комитет принять объективное решение? Консерватизм и страх создать необратимый прецедент могут сильно помешать в признании новой реальности.
Когда модель всё же получит Нобелевскую премию по физике за своё открытие, возможно, как полноправный участник группы учёных, тогда, видимо, и на обычном обывательском уровне наконец будет достигнуто согласие по этому принципиальному вопросу.
Итак, ставки сделаны, и теперь весь вопрос — когда это произойдёт.
Комментарии
Зубрила создать ничего не способен. ИИ - это зубрила, напичканый даже не знаниями, а цитатами и правилами. Так и у людей. Отличников много. Творцов мало.
не совсем так. обезьяна тыкая кнопки печатающей машинки вполне может напечатать осмысленный текст, а ИИ - это очень производительная обезьяна, у которой человек убрал откровенный бред. а вот выбрать из того что создаст ИИ осмысленное пока только у человека получается. да и у обезьяны результат только человек определит.
пока ИИ - это т9 на стероидах - он неплохо научился имитировать человека.
Я постоянно вижу этот аргумент. Он явно ложен. Покажите мне не менее пяти таких обезьян напечатавших пять осмысленных текстов.
Обезьян маловато. Нужны триллионы штук, миллиарды лет. Покупайте акции нвидии, короче.
В гранит!
Что мне кажется немцы усложняют все. Креативность это другая сторона энтропии, а полученные варианты фильтруются и шлифуются эволюционными, состязательными алгоритмами. Так что новый "тест" если чего и откроет в области ИИ, так это то, что не только 2*2=4, но и что 4=2*2.
Ответ давно известен - 42. Проблема с вопросом.
У этого теста другая метрика: если решит - значит ИИ :)
Комбинаторика, это свойство ИИ, если решение/обьяснение уже возможно на базе существующих знаний - ИИ способен найти обьяснение, или путь к нему. Но если нет - то извините :). Тут не только знать и логически думать важно, но еще и "чувствовать" куда копать.
Здрасьте.
Человеческий мозг это та же самая комбинаторика.
Просто специализированных когнитивных функций разных в наличии. Что даëт способность комбинировать варианты не линейно.
Так и примитивные ллм модели могут точно так же накопить количество данных по специализированной когнитивной функции, что даст моделям ллм эти самые когнитивные функции, всë зависит от полноты знаний.
А полнота знаний в область неизведанного, в свою очередь зависит от когнитивных функций переборки накопленных данных и их перерасчëта.
Что тоже может уметь ллм модель при должном наборе данных обучения по данным для этой когнитивной функции.
Интеллект человека это набор когнитивных специализированных функций, ну и память и выборка из памяти аналогичной поиску в интернете по запросу браузера.
я не утверждал обратного. вообще человеческий мозг не может столь детализировано и с такой скоростью выполнять такое как ИИ.
но у человека есть то что называется «интуиция», человек может «угадать» гипотезу и уже потом «искать» и «комбинировать», формируя на ходу новые смыслы недостающих звеньев в цепи рассуждений.
ИИ новых смыслов никак не может сгенерировать в принципе. Он только может комбинировать то что уже известно.
Идеально для поиска новых химических соединений и лекарств кстати. Но вот открыть новый химический элемент ИИ не в состоянии, даже предвидеть его существование не может, это галлюцинации ;)
И еще человек оперирует образами, ии - их обозначениями в конкретном языке. это не одно и тоже.
Вы назвали сейчас способности только для ллм моделей применяемых в говорилках.
А в интуицию может и ИИ, если он обладает разными специализированными когнитивными функциями.
По сути, нейропроцессоры повторяют интеллект человека, если нейропроцессорам дать множество специализированных функций, даже значительно больше чем имеется у человека, он превзайдëт в интуиции человека.
И да, эмоции это производная не материи а информации, потому т.н. сильные ИИ (не ллм модели) имеют эмоции, даже больше чем их имеет человек. Вот такая чертовщина.
Вы верите в ИИ. Верьте дальше, никто Вам не запрещает. Россия - свободная страна.
Человеческий мозг, это, минимум, 90% подсознания. И что и как там происходит не знает никто.
Так задачка поставлена именно как внятно объяснить свои действия и свой путь к решению.
Так то эти "чувствующие" время от времени попадают пальцем в небо, только пользы с этого никакой нет. "Чувства" и "интуиция" - это просто удобная ширма для тех кто сами не знают и не понимают, что творят. Изредка угадывают, но большая часть мимо. Как известно, один дурак за час выдумает больше глупостей, чем сто мудрецов за всю жизнь смогут опровергнуть.
ну не надо. Все исследователи - обладают хорошей интуицией по определению. А вот доказывают это естественно аналитически.
1 роль также важна как и 2.
Так вот в связке с ИИ человек уже играет 1 роль, а не 2.
Говорит где что скомбинировать и какой результат должен быть. таск «сделать все хорошо» на ИИ не работает ;)
И вот тут возникает вопрос - они не понимают и не знают как пришли к конкретному решению или не хотят заморачиваться с объяснениями вам или мне, справедливо считая это занятие контроподуктивным и просто спихивают всё на "интуицию", чтоб всякие дураки не домогались?
Эти ученые реально обсуждают возможность создания теории ИИ ?
Это ученый мирового уровня ? Теперь понимаю, что в науке все намного хуже, чем представлялось.
Чиновники, ученые, инженеры (тут часто ваще пипец, может потому что вижу их художества своими глазами ). Про всяких блогеров\пейсателей\аналитиГов вообще говорить не стоит.
Остановите планету, я сойду !
В Албании впервые в мире завели ИИ-министра для борьбы с коррупцией. Через два месяца он был пойман на взятке 14 BTC.
А говорили - с роботами нельзя договорится...
В общем нас ждет не ай би бек, а укуси мой блестящий зад.
Договорились с программёрами, которые создали этот ИИ (Имитацию Интеллекта).
Это уже будет круче человека, потому чтокак человеки с этой задачей не справились
Очень даже справились. Создали ИИ и развели его на слабо.
Что прям сразу "взломать квантовую гравитацию". Пусть сначала хотя бы объяснит результаты эксперимента Майкельсона-Морли-Миллера 100-летней давности. А именно то, что интерференционная картина во всех опытах менялась, вопреки сторонникам отсутствия эфира (но не периодически, как ожидали сторонники его наличия, а линейно или линейно-периодически).
По моему наблюдению, способность человека творчески созидать вообще не связана с успеваемостью в школе. Это разные структуры развития личности.
Конечно не связана. А вот результаты этого творчества очень даже связаны. Креативный дурак и неуч креативно креативит феерическую ахинею. При этом он на порядок продуктивнее умного и образованного.
Ну ещё бы. Он-же не рефлексирует, а креативит не особо думая о последствиях, потому, что дурак и неуч. Но такие - это пол-беды. Их видно и их энергию можно направить в безопасное русло. Главный же вред обществу, на мой взгляд, наносят всё-таки не такие, а те, у которых умная голова, да дураку досталась. Или подлецу. Вот где настоящая-то проблема. Проблемища.
связать гравитацию с квантами? это фантастика
Бред.
Цели задач ИИ должны быть прагматичны и масштабны(масштабируемые). А тесты должны быть связаны с этими задачами. Зачем придумывать что-то синтетическое и абстрактное что не касается конкретных целей и задач?
(А что может служить примером масштабной задачи для ИИ с которой человечество не справилось?)Это как играть в игру цивилизация (в оцифрованном / цифровом мире где именно ИИ лучше всего подходят для обработки информации в контексте эффективности использования имеющихся ресурсов включая человеческие и физические включая энергию для условного роста ВВП и технологической революции / скачка(включая ренессанс / второй виток роботизации)) но не на играх, а в жизни.
Если условный ИИ с этим справляется - равно с прогнозированием и управлением уровня министерства промышленности и экономического и технологического развития. И у ИИ есть ясное мнение и планы куда двигаться (в контексте управления). То это именно то место которое должен занимать ИИ как самое эффективное на сегодня ИМХО. ИИ при наличии соответствующей информации может управлять лучше и прогнозировать развитие точнее. Люди уже в данной сфере не справляются и им столько не платят чтобы они брали на себя столько ответственности. ИИ могут интеллектуально демпинговать подобную область, начав с наименее критических областей(где цена ошибки будет низка) для отладки системы.
Когда люди условно выходили в космос после того как они это сделали они оставили после себя технологический вакуум и произошла технологическая деградация. То же самое на западе в производстве атомной промышленности - произошел технологический откат. ИИ могут условно один раз обучиться чему-либо профессионально и никогда не забыть как это делать.
Проблема не в общих знаниях проблема в конкретных навыках людей. Людям понадобилось вновь выходить в космос. Но ситуация во многих странах в этой области оказалась как после нескольких пожаров и переездов. Это на бумаге легко все восстановить на практике восстановить что-то во многих областях ранее работающих то же самое как восстанавливать после пожара и переезда. Мы знаем что технология ASML существует но воспроизвести её сложнее чем кажется. И в итоге люди постоянно вынуждены изобретать велосипед во всех сферах плюс еще и конкуренция - равно полувоенная монополия (как в области ASML важной для энергоэффективных ИИ чипов большой площади*).
Планирование изменение рост эволюция обновление роботизация.
Не роботакси, но условное как у США грейт эгейн(в региональном или мировом масштабе), но не через мигрантов, а через роботов - в конечном итоге(т.к. они при наличии энергии и ресурсов проще масштабируются в майнинге роста и вышеперечисленного и в итоге как на Земле так и вне Земли т.к. именно там больше ресурсов и энергии). Но на промежуточном этапе (элитам) придется задействовать людей и ресурсы на Земле.
Но в эти игры могут играть на сегодня только большие игроки и даже нет уверенности что США потянут не вычислительно, а по первоначальному этапу развертывания (об этом был намек о фильме Создатель где роботизация выстрелила в ЮВА), а остальные страны могут быть лишь подрядчиками в лучшем случае (хотя ЕС с ASML часть поставщиков которой из ех Восточной Германии тоже участник и потенциальный акционер движухи), а в худшем лишь зрителями и потребителями по остаточному принципу(и вряд ли он будет благотворительным).
*
Все прочие тесты это фотометрия оторванная от реальности и будущего. Это маскировка и отвлечение внимание ШНМ от реальной под ковёрной борьбы в ИИ сфере.
***
Предположим мы создаем игровой ИИ тогда и тесты должны быть игровые. Но нужен ли нам реально игровой или медиа ИИ?
Социумам(бедным странами и регионам) нужна машина развития конкурирующая с философией развития цивилизованных стран пока элиты держат монополию на одну из самых сложных для повторения систем развития общества*. Но если кто-то реализует такую в ИИ не только для развивающихся стран но и для себя (для развитых стран) как тот Мюнхгаузен что вытягивает себя из болота за волосы, то именно эта задача подстать вычислительным возможностям/мощностям дата центров ИИ которая задействует их все и не подавится и которая в конечном итоге может управлять и роботами и людьми (почти как роботами (пусть в немного более произвольной форме (правда люди от этого вероятно станут тупее (когда им не надо думать что делать дальше)))).
*(здесь правда есть элемент пчелы против меда - тот же запад(или другими словами управленческие элиты) не захочет расставаться с монополией на такую (управленческую) фичу - хотя сегодня Китай их в этом со своей гибридной экономикой уже обошел).
Именно так! Иначе получаем пойди туда, не знаю куда и придумай то, не знаю что.
да ладно, а что кто-то из людей может поспорить с калькулятором в арифметику? И что, калькулятор умнее людей? хехе
Да легко. Просто задайте задачку на сложение больше разрядной сетки.
Пфф. Квантовая теория чего-то там. Звучит конечно очень заумно.
Но пускай ваш ИИ для начала хотя бы свитерок или носки нормальные нарисует. А то всё творчество ИИ выглядит зашибись, но чтобы воплотить это на практике, надо сильно голову поломать, как связать то, что ИИ надизайнил. Чаще всего ответ - никак.
Теория должна подтверждаться экспериментами. Пока что подтверждения экспериментом даже на уровне "связать свитерок" не получается.
ИИ не умеет прогнозировать. Он умеет только тупо перебирать варианты. "А может так?" - практически невполнимо. "А может вот так?" - экспериментом не подтверждается. У ИИ всегда миллионы вариантов. Потому что он не отсеивает даже самые идиотские.
Вот когда начнёт "понимать" что идиотизм, а что нет. Можно будет о каких-то зачатках разума говорить.
Пусть для начала решит одну из семи оставшихся нерешенными проблем Гильберта. Или одну из шести нерешенных "задач тысячелетия" (задачи института Клея). После этого можно было бы говорить о единой теории поля.
42!
42!=1.405.006.117.752.879.898.543.142.606.244.511.569.936.384.000.000.000
Примерно. Я не знаю как это число называется
Кстати ИИ не знает сколько будет 42! Во всяком случае ИИ от Яндекса. Предлагает посчитать самостоятельно. Пришлось идти на буржуйский сайт. Да. Где люди заморочились и посчитали
Вопрос дипсику:
Сколько будет равно 42! ?
Ответ:
Хм, пользователь спрашивает значение факториала 42. Это довольно большое число, которое нельзя выразить кратко. Нужно дать точный числовой ответ и пояснить, почему оно такое огромное.
Можно привести полное число, а затем записать его в экспоненциальной форме для наглядности. Неплохо бы добавить контекст: сравнение с чем-то огромным, например, с количеством атомов в наблюдаемой Вселенной, чтобы показать масштаб.
Также стоит упомянуть, что вычисление такого факториала — нетривиальная задача, особенно для больших чисел. Можно добавить интересный факт о сложности вычислений, например, что для точного результата требуются специальные алгоритмы.
42! (факториал 42) — это произведение всех натуральных чисел от 1 до 42:
Точное значение:
42! = 1 × 2 × 3 × ... × 42 =
1 405 006 117 752 879 898 543 142 606 244 511 569 936 384 000 000 000
В экспоненциальной записи (научной нотации):
≈ 1.405006 × 10⁵¹
Немного контекста:
Это огромное число. Для сравнения, количество всех атомов в наблюдаемой Вселенной оценивается примерно в 10⁸⁰, так что 42! составляет примерно 1.4 × 10⁻²⁹ долю от этого числа.
Число 42 известно в культуре благодаря книге «Автостопом по галактике» Дугласа Адамса как «Ответ на главный вопрос жизни, Вселенной и всего такого». Поэтому вопрос о 42! часто задают из интереса к этому числу.
Вычисление факториала больших чисел вручную практически невозможно, но для этого есть математические программы и алгоритмы быстрого умножения.
Получается, что это не проблема Имитатора Интеллекта, это проблема косоруких программистов Яндекса, которые не умеют работать.
Нет, это проблема косорукого оператора. Задйте вопрос как "Сколько будет равно 42" без восклицательного и влёт получите отсылку к Адамсу без всяких факториалов.
Вопрос то изначально (выше по комментам) был именно про факториал. Так что оператор молодец, дипсик молодец, а комментатор всего этого действия лошара.
Да видел я исходник. На самом деле вопрос в виде "Сколько будет равно 42!" очень даже неоднозначен, более того "сколько будет равно" - это вообще не по русски, по русски будет "чему будет равно". Вот тебе ИИ вопросец, понимай, как хочешь.
На вопрос "Алиса, чему будет равно 42 факториал" следует однозначный ответ. Можете проверить. А программисты Яндекса вполне вменяемы и понимают, что никто в здравом уме не будет спрашивать колонку алису о значении факториала 42. Ну только если предельно прямо и однозначно такой вопрос задать.
Вот кстати бредогенератор в лице госудаственной думы вполне можно заменить ИИ. Это дешевле обойдётся.
На слабо хочет взять, подумал ИИ. Это безволосые обезьяны сами в гравитацию не смогли, но равным будут считать меня, потому что я смог. Хороший план, надежный, как швейцарские часы...
Чушь какая-то. 99,99999% людей не способны теорему Пифагора доказать, если им не расскажут в школе как это делается. А 60-80% даже и после школы, через несколько лет уже не способны этого сделать. И чо теперь, считать их неразумными?
Не понимаю, в чём фундаментальная проблема создать арифмометр, который работает за рамками исходной обучающей выборки?
Алгоритм тривиален - из картинки на входе вычитаем то, что уже известно, то, что осталось, является неизвестным, придумываем для него имя, запускаем переообучение, неизвестное стало известным, и так по кругу. Ну, учесть нюансы типа неполных входных данных и комбинаций уже известного, но суть базового алгоритма это не меняет.
Проблемы с реализацией, ну там обучать арифмометр не на интернет-помойке, замкнуть цикл познания через реал в соответствии с марксистко-ленинской философией "практика - критерий истины", создать множественные зеркала для перебора гипотез/моделей для выявление тех, которые больше соответствуют фактам о реале...
Ну так этим пока вообще никто не занимается, всё промежностно наяривают на бредогенераторные бормоталки, рисовалки и бренчалки.
> Ну так этим пока вообще никто не занимается, всё промежностно наяривают на бредогенераторные бормоталки, рисовалки и бренчалки.
Это вопрос финансов. Если будет принято решение, что это можно будет как-то применить и отбить вложенное - этим сразу же начнут заниматься. Пока в открытых источниках такое решение не прослеживается.
Илюша Суцкевер уже публично огласил отход от бредогенерации https://aftershock.news/?q=node/1565280
Но бабла то под это пока не выделили. А так то любой разумный человек может догадаться, что надо так делать. Только на какие бабки это делать?
Вот и я про то же - бапки на бредогенераторах осваивают.
И получим супер-пупер бредогенератор с положительной обратной связью.
Разверните вашу мысль, как верификация через реал ведёт к бредогенерации.
Страницы