Один из создателей искусственного интеллекта уходит из Google, чтобы предупредить об «опасности» технологии

Аватар пользователя Солдат АпокалипсисА

Джеффри Хинтон, которого называют «крестным отцом ИИ», подтвердил в понедельник, что на прошлой неделе он оставил свою должность в Google, чтобы рассказать об «опасности» технологии, которую он помог разработать.

Новаторская работа Хинтона над нейронными сетями сформировала системы искусственного интеллекта, лежащие в основе многих современных продуктов. В течение десяти лет он работал неполный рабочий день в Google над усилиями технологического гиганта по разработке искусственного интеллекта, но с тех пор у него возникли опасения по поводу технологии и его роли в ее продвижении.

«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон газете New York Times , которая первой сообщила о его решении.

В твиттере в понедельник Хинтон сказал, что покинул Google, чтобы свободно говорить о рисках ИИ, а не из-за желания критиковать конкретно Google.

«Я ушел, чтобы говорить об опасностях ИИ, не задумываясь о том, как это повлияет на Google», — написал Хинтон в своем твите. «Google действовал очень ответственно».

Джефф Дин, главный научный сотрудник Google, сказал, что Хинтон «совершил фундаментальные прорывы в области искусственного интеллекта», и выразил признательность за «десятилетие вклада Хинтона в Google».

«Мы по-прежнему привержены ответственному подходу к ИИ», — сказал Дин в заявлении, предоставленном CNN. «Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».

Решение Хинтона отказаться от участия в компании и высказаться о технологии было принято в связи с тем, что растущее число законодателей, правозащитных групп и технических инсайдеров забили тревогу по поводу того, что новый урожай чат-ботов на базе ИИ может распространять дезинформацию и вытеснять рабочие места.

Волна внимания к ChatGPT в конце прошлого года помогла возобновить гонку вооружений между технологическими компаниями по разработке и внедрению аналогичных инструментов искусственного интеллекта в свои продукты. OpenAI, Microsoft и Google находятся в авангарде этой тенденции, но IBM, Amazon, Baidu и Tencent работают над аналогичными технологиями.

В марте некоторые видные деятели в области технологий подписали письмо , призывающее лаборатории искусственного интеллекта прекратить обучение самых мощных систем искусственного интеллекта как минимум на шесть месяцев, сославшись на «серьезные риски для общества и человечества». Письмо, опубликованное некоммерческой организацией Future of Life Institute, поддерживаемой Илоном Маском, было опубликовано всего через две недели после того, как OpenAI анонсировала GPT-4, еще более мощную версию технологии, лежащей в основе ChatGPT. В первых тестах и ​​демонстрации компании GPT-4 использовался для составления судебных исков, сдачи стандартных экзаменов и создания работающего веб-сайта из нарисованного от руки эскиза.

В интервью Times Хинтон повторил опасения по поводу потенциала ИИ для ликвидации рабочих мест и создания мира, в котором многие «больше не смогут знать, что является правдой». Он также указал на ошеломляющие темпы развития, намного превосходящие то, что он и другие ожидали.

«Идея о том, что эта штука может стать умнее людей — в это поверили лишь немногие», — сказал Хинтон в интервью «Но большинство людей думали, что это далеко. А я думал, что далеко. Я думал, что это будет через 30-50 лет или даже больше. Очевидно, я больше так не думаю».

Еще до того, как уйти из Google, Хинтон публично говорил о способности ИИ приносить не только пользу, но и вред.

«Я считаю, что быстрый прогресс ИИ изменит общество способами, которые мы не до конца понимаем, и не все эффекты будут хорошими», — сказал Хинтон в приветственной речи 2021 года в Индийском технологическом институте Бомбея в Мумбаи . . Он отметил, как ИИ улучшит здравоохранение, а также создаст возможности для смертоносного автономного оружия. «Я нахожу эту перспективу гораздо более близкой и гораздо более пугающей, чем перспектива захвата власти роботами, до которой я думаю очень далеко».

Хинтон — не первый сотрудник Google, который поднял красный флаг в отношении ИИ. В июле компания уволила инженера, который утверждал, что невыпущенная система искусственного интеллекта стала разумной, заявив, что он нарушил политику занятости и безопасности данных. Многие в ИИ-сообществе решительно выступили против утверждения инженера.

Авторство: 
Авторская работа / переводика

Комментарии

Аватар пользователя Another_jim
Another_jim(10 лет 9 месяцев)

Стоит понимать, что биг цифра мечтала уйти в отрыв от конкурентов и стать недосигаемыми) но, не вышло. Все наступают на пятки.

Поэтому, любое замедление конкурентов - польза.

Если страны запада предлагают что-то ограничить - значит они не успевают. Или не  тотально доминируют. И легко выходят из договоров, если считают, что их это ограничивает. 

Пытаются продать chatgpt, как невероятное достижение.

Аватар пользователя ВладиславЛ
ВладиславЛ(7 лет 2 месяца)

не тотально, по ряду идей - мы.

ИИ нет есть новые способы обработки информации с нейроподобными системами. До мозга стрекозы или сетчатки глаза ещё очень далеко по ТТХ.

В РФ реальные работы ВНЕ московских договорняков не финансируются сколько-нибудь значимым образом. Разница вс Китаем в десятки ми сотни раз. По отдельным работам в тысячи - у нас не далее написания бумажных работ и теории. Как результат туда уезжают лет 8-10 как уже - платят китайцы ключевым в 2-5 раз больше чем американцы. Мне лично в Корею предлагали ехать Южную. Специфические технические оптические системы, двойного назначения в т.ч. для быстрого распознавания образов и поиска целей могущие применяться, что и насторожило.

Комментарий администрации:  
***отключен (антигосударственная пропаганда, систематические набросы) ***
Аватар пользователя al.rf
al.rf(2 года 9 месяцев)

Либо вы об этом финансировании не знаете.

Комментарий администрации:  
*** отключен (много вони) ***
Аватар пользователя neodim
neodim(12 лет 9 месяцев)

Математика выигрывает войны.

На самом деле математика нейронных сетей может быть очень доступна.
Погуглите книгу Тарик Рашид "Создаем нейронную сеть" для младшего школьного возраста)
Расчитано на людей не знакомых с производными и диф.исчислением.
Сначала доступно на пальцах объясняет математику, а затем на питоне выкладывает пример сети для распознавания символов и разбирает. Питон бесплатен, уроков полно, на гитхабе для питона полно библиотек в т.ч. для того, что бы забирать данные из баз данных, экселя и пр.
Кстати нейр.сеть в анализе данных и прогнозировании очень конкурирует и дополняется  регрессионными моделями ( у меня лично).
Эмпирическая наука).
 

Аватар пользователя ВладиславЛ
ВладиславЛ(7 лет 2 месяца)

Если вы программируете сеть вы уже никогда не будете иметь высокую производительность. Настоящие нейросети обычно сложные импульсные и ВСЕГДА на железе выполнены. Иное вам никогда не даст ни нужной связности ни производительности.

Я предпочитаю применять тут негуманоидный подход. Могу и так мыслить. В отличие от людей лишь. Единственный что путное сказал был Савельев, а другого специалиста вы не знаете да и смысл уже?

Комментарий администрации:  
***отключен (антигосударственная пропаганда, систематические набросы) ***
Аватар пользователя Another_jim
Another_jim(10 лет 9 месяцев)

1. Зачем мне суперпроизводительность там, где она не нужна?

Если можно учиться не в реальном времени, то зачем мне реальное время ?

2. Зачем делать в железе непонятное нечто, если можно получить прототип, довести его, а потом уже реализовать в железе.

Любое устройство делают под задачу, а не "самое быстрое"

Аватар пользователя ВладиславЛ
ВладиславЛ(7 лет 2 месяца)

Для того же что и нейросети сложные.
Более жёсткие для работы с быстропротекающими процессами, первую свою не нейросеть, систему проще, придумывал для управления плазмой в лазере лет 25 назад или ещё студентом. Электроника не дают даже аналоговая не всегда такие скорости по объёму 100% электроники не годится.

Вы не в состоянии будете управлять рядом вещей без данной технологии. От технологических установок, для меня в приоритете они, до устройств. Часть выше излагал.

Не сможете даже приблизительно посчитать последствия воздействий мало-мальски сложных систем - хотя это зависит от ряда факторов часть которых, не знаю по какой причине англосаксов элиты ядро и биороботы не видят.

Комментарий администрации:  
***отключен (антигосударственная пропаганда, систематические набросы) ***
Аватар пользователя aleksRus
aleksRus(10 лет 4 месяца)

Вы крайне сильно заблуждаетесь. Посмотрев эксперименты обывателей с доступным gpt становится реально страшно. Это уже давно не мозг стрекозы. Gpt осмысленно оперирует фактически всеми знаниями человечества причём в колоссальный объемах. Назревает этакий "рукодельный бог". Не надо быть сильно умным чтобы понять - назревает новая религия, машина станет управлять всем. Как бы религиозно это не звучало выводы сделаны только из наблюдений быстро развивающихся возможностей публичного gpt. Я не говорю про то что закрыто от нас. 

Аватар пользователя wert
wert(3 года 9 месяцев)

Точнее будет, не "рукодельный бог", а  "рукодельный ГЕНИЙ"!  А так это все широко дискутабельно. 

Аватар пользователя ВладиславЛ
ВладиславЛ(7 лет 2 месяца)

Скорее имитатокр а в некоторых умелых руках просто инструмент такой же как молоток или ПК.

Это как ожидать от компьютера нечто ужасно нового. Пугалки для детей. Намеренные для тупых руководств несамостоятельных стран  применяется для управления внешнего в т.ч. против Глушкова и Китова,  применяли и других. Мы ввиду ряда дебилов и врагов были отброшены на полвека.

Комментарий администрации:  
***отключен (антигосударственная пропаганда, систематические набросы) ***
Аватар пользователя ВладиславЛ
ВладиславЛ(7 лет 2 месяца)

Это не мозг стрекозы от слова ни разу. Он не обладает её способностями даже частью это узкоспециализированная техническая система, способная иначе чем ранее машины имитировать некоторые человеческие виды поведения. На деле ничего принципиально нового оно не создаст, для этого нужны мощности на 25-30 порядков более быстрые и главное - качественые отличия в обработке информации которых нет в тех компах что имеем. Вот тогда вы сможете иметь "бедный" ИИ а сильный ещё с десяток-другой порядков. От 10 в 45 степени сложных логических операций, часть которых не относится к известной вам логике, примерно (с). Это только по обычным а есть и другие как упоминал выше. Там неуместен сам подход измерение скорости ввиду ряда особенностей, например принципиальной нелокальности. Первая моя работа то ли аспирантом то ли студентом на данную тему была. 25-30 лет назад.

Создать можно не не на электронике  не на оптике, есть принципиальные физические ограничения.

Если конечно вам нужен такой вычислитель НА САМОМ ДЕЛЕ а не его имитатор в убогом представлении несведующих профанов, умеющих зато получать финансирование от таких же как они дураков.

Дураков или похожих на людей лысых обезьян - большинство. Знания и интеллект не тождественны Разуму способному получать ранее никогда не сущестовавшие вещи. С нуля. Это не определение гения это определение Человека а вот остальное не более чем подражание ему.

Комментарий администрации:  
***отключен (антигосударственная пропаганда, систематические набросы) ***
Аватар пользователя Letarian Pro
Letarian Pro(10 лет 6 месяцев)

ВладиславЛ, но когда же Вы наконец отладите свой ИИ? Займитесь этим безотлагательно, а то посты им генерируемые дискредитируют саму идею.

Аватар пользователя WhoAmI
WhoAmI(8 лет 1 месяц)

Настроения об опасности, к которой могут привести научно-технические разработки, особенно в области ядерных технологий были достаточно популярными в 70-х прошлого века. Однако они никоим образом не помешали (кроме тех, кто поддался этим настроениям) продолжать разработки.

Теперь то же самое наблюдается в отношении ИИ. Согласно известному афоризму о повторении истории, она опять повторяется в виде фарса.

Аватар пользователя Ашке Нази
Ашке Нази(2 года 10 месяцев)

Все это полная чушь.
Демон уже выпущен, так сказать
Дело теперь только в мощностях и размере базы. Железо развивается семимильными шагами, в основном видео карты на которых и работают эти системы. Лет через 15 система мощнее чатжпт будет вообще встроена в каждый мобильник вместе со всей базой и вычислительным ядром.
К этому времени количество параметров самой мощной нейросети превысит аналог этих "параметров" всего человечества.
Технобог уже неизбежен

Комментарий администрации:  
*** отключен (невменяемое общение) ***
Аватар пользователя Друг Горацио
Друг Горацио(7 лет 6 месяцев)

до трети населения уже ему не один год молятся. и когда попытаются заставить молиться оставшуюся часть человечества, вся цивилизация и рухнет. ибо это не взлетит.

Аватар пользователя Ашке Нази
Ашке Нази(2 года 10 месяцев)

Молятся технологии слабые разумом.
Вот у них то как раз он и отберет работу.

Ему нужно не молится(зачем черт побери?!) его нужно использовать, потому что он открывает невероятные перспективы буквально во всех отраслях, ну разве кроме тех где нужно "мешки таскать".
Все уже взлетело и произошло, дальнейшее просто неизбежно, это можно не принимать, с этим можно бороться. Но это абсолютно бессмысленно.
Это будет новый виток развития цивилизации, стремительный и непонятно куда нас ведущий. Как и все революционное и новое.

Комментарий администрации:  
*** отключен (невменяемое общение) ***
Аватар пользователя Fvwm
Fvwm(13 лет 12 месяцев)

Это будет новый виток развития цивилизации, стремительный и непонятно куда нас ведущий.

Что ж тут непонятного то.

Люди будут разделены на два не равных класса: (1) тех, кого может заменить ИИ и (2) тех, кого не может. Например телефонные мошенники 100% заменяются ИИ, а вот те, кто могут добывать новую информацию ИИ заменить принципиально не может.

Какое-то время первые (от юристов до президентов) будут пытаться ставить какие-то предохранители, но в итоге всё равно окажутся там, где им и положено быть: с метлой на улице, если не сами лично, то их дети-внуки.

Что будет после этого? Очевидно, что вторые ("незаменимые"), отделившись от первых, попытаются  превратить их в разновидность скотины (будет мелкий рогатый скот, крупный рогатый скот и двуногий скот). Нюанс будет в том, что ум по наследству не передашь, как акции.

И соответственно либо верхушке придётся отказаться от родительских инстинктов и стать не-людьми, либо будет точно такая же олигархия (то есть "власть не многих"), но на "новых физических принципах" с бесконечными возможностями по эксплуатации себе подобных, то есть проще говоря новое техно-рабство.

Всё по Марксу, кстати. Доступные технологии определяют всё: и бытие и сознание. И из двух возможных вариантов всегда будет выбран более простой, то есть рабство, а не коммунизм.

Аватар пользователя neodim
neodim(12 лет 9 месяцев)

Согласен. Кроме того, даже "маленькиие" контроллеры уже получают эту математику.

Аватар пользователя nexos
nexos(11 лет 9 месяцев)

Версия комментариев для бибиси у гражданина выглядит иначе

"Представьте, как его может использовать Путин". Создатель искусственного интеллекта предупредил о его опасности и уволился из Google
https://www.bbc.com/russian/news-65458210?ocid=wsrussian.social.in-app-messaging.telegram..russiantelegram_.edit

Аватар пользователя Sibirsky Partizan
Sibirsky Partizan(11 лет 10 месяцев)

Он испугался что оставаясь в Гугл он может быть обьектом насилия со стороны ВВП, когда до сети Гугла дотянется лапа террана и схватит его за горло через экран монитора. Или чего хуже - промоет за секунду его мозг пропагандой и он перестанет поддерживать Украину)

Аватар пользователя Alexandr_A
Alexandr_A(13 лет 7 месяцев)

сказал Хинтон газете New York Times , которая первой сообщила о его решении.

Дальше можно не читать.

Аватар пользователя GVR
GVR(9 лет 6 месяцев)

Вопрос к нейросети:

Влияют ли квантовые эффекты на работу мозга человека?

Ответ:

Эта тема до сих пор остается предметом исследований и дискуссий среди ученых. Некоторые исследователи предполагают, что квантовые эффекты могут играть роль в работе мозга, особенно в отношении когнитивных функций, таких как восприятие и мышление. Например, квантовые флуктуации могут помочь объяснить, как мозг может обрабатывать большой объем информации и быстро принимать решения.

Однако, другие исследования и ученые сомневаются в том, что квантовые эффекты могут оказывать значительное влияние на работу мозга и предпочитают классические модели для объяснения когнитивных процессов.

В целом, основные открытия еще не сделаны, и в данный момент тема квантовых эффектов в мозге остается неоднозначной и требует дальнейших исследований.

Аватар пользователя AlekZ
AlekZ(6 лет 5 месяцев)

скопировать текст для перевода в окне Chat GPT 4 (Bing New) не получилось, так что в кратце:

Вопрос: А вот Бом утверждает, что все материальные объекты во Вселенной связаны пилотными волнами. Тогда получается, что вот ты, и все компьютеры на планете связаны с моим мозгом ... (не было в чате, чтобы не смущать машину - "или с тем , что у меня вместо него")

Ответ: Ну да, есть такая теория и согласно ей, Bing New и все остальное во Вселенной влияет друг на друга. Но это не означает, что существует общее сознание или прямой обмен информацией.

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Что третируете ИИ феноменом нелокальности? Интересная идея. Но вообще-то помню читал неплохую научную стать про эффект нелокального свойственный информационным системам множества параллельных вычислений. :)))

Так что ответ ИИ выдраны из контекста вполне себе верный. В некотором смысле нелокальность существует. :)))

А вообще смешно. :)

Аватар пользователя Ayatola
Ayatola(12 лет 8 месяцев)

Да, бывает Гугл отжигает, я даже коллекционировать стал.

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Да, бывает Гугл отжигает, я даже коллекционировать стал.

ИИ использует огромные базы данных для бучения. Так что его ответ зачастую может сильно отличаться от представлений обывателей. Но глупость это или суровое научное знание отличить может только человек.

Только человек может быть критерием адекватности знания реальной действительности. Но в каждом случае ответ ИИ всегда логичен. ИИ это само воплощение математической статистики и безупречная "математическая кувалда".

Но в том то и дело, что рациональное (логичное) еще не значит разумное. Вопреки распространенному заблуждению, что разум и интеллект это одно и тоже, это совсем не так. Принципиально иначе. Разум это сама "декартова пропасть". И тут нет никакой мистики. Просто разум это уже "логика" иного порядка, основанная на работе множества интеллектов в рамках близких вводных, и представляет собой огромную "сеть параллельных вычислений" распределенных во времени. Разум в буквальном смысле имеет социальную и коллективную природу. https://aftershock.news/?q=node/935629

Вся эта возня с ИИ только что и ведет к отказу от иллюзий исключительности человеческого интеллекта. Что мы уже имеем прямое доказательство в виде ИИ. Так и приведет к понимаю в массах коллективной и социальной природы человеческого разума. Понятие "ноосфера" это не абстракция, а окружающая нас информационная реальность. И мы сами делаем ее вполне материальной.

Конечным итогом такого понимания и развития, станет смена мировоззрения где в центре мировоззрения человеческий разум, а не вечный спор про "что важнее" человек или общество. Важнее всего единственно возможный метод выживания человечества - человеческий разум. А уже из этого будет неизбежное следствие, что все люди действительно равны в своей сущности, и один человек не может быть выше другого. Как и "новая" этика, что заставляет менять социально-экономические отношения, и позволено существовать только таким социально-экономическим отношениям, которые развивают человеческий разум.

Вот собственно недавно написал:

Еще как важно! :))) Уже вам писал, что общество по своей сути, это система свободной выборки и наследования социальных стратегий формирующих экономическое поведение. А человеческий разум является явлением коллективным и социальным в буквальном смысле. И на базовом уровне представляет собой систему свободной выборки актуальных концептов, и наследования концептов адекватных реальной действительности. Простейшим доказательством является Маугли и человек смертен. 

Другими словами общество можно представить как непрерывный процесс "бросания игральных костей" и непрерывный "подсчет лучших очков" И если сумма "лучших результатов" преодолевать непрерывный процесс деградации среды хозяйственной деятельности, то общество выживает. Собственно в этом и весь смысл человеческого разума как метода коллективного выживания вида.

А если вместо учета "лучших результатов", обеспечивающих гарантированное коллективное выживание, начать выстраивать пирамиды из игральных костей", наделяя каждую "игральную кость" имевшую хороший результат привилегированным положением и "индульгенцией" на все последующие результаты, то общая сумма очков начнет быстро уменьшаться, а коллективное выживание не будет гарантировано. Только вопрос времени когда начнется коллапс такого общества. 

И это еще цветочки. А я годки в том, что любое общества разделение труда существует только благодаря государству. Это единственно возможная форма существования для общества разделения труда. Банально потому, что необходимо перераспределять результаты труда отдельных индивидов иначе все сдохнут. И потому государство в своей основе это система регулятивной и охранительной функции. Защищающая исторически сложившуюся систему перераспределения результатов труда и регулирующая этот метод перераспределения. В этом смысле государство это метод гарантированного выживания общества разделения труда. И за всю историю человеческой цивилизации было изобретено только три метода перераспределения: Насилие, Религия и Обман. Доминирование одного из методов мы называем "исторической формацией".

И как только в очередном обществе начинается строительство "пирамиды из игральных костей", так резко уменьшается свободная выборка, политическая и экономическая власть быстро переходит к вершине "пирамиды игральных костей", где всегда и неизменно будет самая маленькая свободная выборка (Да и вообще своих идей и успешных хозяйственных практик всегда нет.), так неизменно общество начинает неумолимое движение к своему коллапсу. Коллапсу который снесет "пирамиду из игральных костей" и снова запустит формирование новой и более совершенно системы перераспределения результатов труда. А значит новой системы охранительной и регулятивной функции. И поскольку каждый раз деградации среды хозяйственной деятельности в момент смены формации "догоняет". Приходится всегда искать более эффективные системы перераспределения и форсировать "случайную выборку". Случайному выборку "социальных стратегий", "хозяйственных практик" и "адекватных концептов". Так или иначе любая "пирамида из игральных костей" обречена по факту своего существования.

А вся суть текущего исторического момента, в том что есть только три метода: насилие, религия и обман. И все уже пробовали и все исчерпало свою эффективность. Остается только "четвертый вариант" - осознание что все "игральные кости" равные между собой и один человек не может быть выше другого. Что нельзя строить "пирамиды". А человеческий разум является общим методом и процессом для общества. И есть объективные ресурсные пределы и пределы эффективности для хозяйственных практик. Из чего и следуют объективные пределы человеческого управления. Поскольку есть высший субъект истории как деградация среды хозяйствования и человеческая история и разум, как метод накопленные "таблицы результатов удачных бросков" что всегда с избытком имеют необходимые в будущем практические решения гарантирующие коллективное выживание.

Так что простите, но все игральные кости равны по своей сути между собой. Но могут быть очень разными. И нам объективно не дано знать бросок какой из "игральных костей" критический важен для нашего коллективного выживания. И потому все люди одинаково важны. Будущее действительно непредсказуемо. А наши прогнозы, только "прогнозы", и результат бесчисленного количества бросков игральных костей. Как и никак нельзя выстраивать "пирамиды", поскольку это значит уменьшать общие шансы на выживание. Или мы все это усвоим или просто сдохнем.

Аватар пользователя shprotas
shprotas(9 лет 11 месяцев)

Но глупость это или суровое научное знание отличить может только человек.

Нет таких людей, которые могут гарантированно различить суровое это научное знание или глупость. Тупо не хватит знаний. 

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Наоборот, может почти каждый. Хотя конечно есть особенность связанная с областью знаний. И опять же, можно воспользоваться ИИ для верификации. :)))

Аватар пользователя predessor
predessor(7 лет 10 месяцев)

1) ИИ на нейронных сетях - это некая таблица, емкость которой определяется количеством и разрядностью узлов нейронной сети.

Может разгоняться до огромных значений, но не бесконечна.

2) Нейронная сеть в своей работе находит экстремум в многомерном пространстве содержимого своих узлов, причем, никто не знает, как она это делает.

3) Находить экстремум ей помогает обучение, когда её функция опознавания настраивается на получение правильного результата при помощи тренировки на миллионах и миллиардах

правильных ответов на самые разные вопросы.

4) Натренированная таким образом сеть находит ответы на вопросы, которые ей никогда ранее не задавали.

Это похоже на экзамен для человека, который знает геометрию, но его просят взять интеграл.

В жизни экзаменующийся просто окажется, он не слышал никогда про интегралы, а нейронная сеть прогонит вопрос по своим узлам и даст результат наиболее правдоподобный.

И все будут восхищаться её умом.

Если этой сети доверить принимать экзамены по всем предметам и управлять обществом и государством, то в результате  мы получим новый дивный мир.

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Нейронную сеть можно реализовать даже на фишках домино. Это просто материальное воплощение законов математической статистики. Суть не в этом, и не в том как и из чего сделана "нейронная сеть". 

Вопрос в том, что результат работы нейронной сети есть "пространство вероятности решения задачи в размерности условий". А каждый "ответ" нейронной сети, это конкретные координаты в этом пространстве вероятности решения. Это высоковероятно будет "решением", но может им не быть. Это только вероятность.

И все будут восхищаться её умом.

Технически ИИ может иметь более высокий интеллект чем человек. Это связанно с количеством размерности условий. Теоретически размерность можно дико увеличить, но не нужно, поскольку будет снижаться вероятность решения.

И опять же многоуровневые и сети трансформеры, это множество пространств вероятности решения. Вот так и получается то что мы называем ИИ как "конструкт отношений" между пространствами вероятности решения.

Если этой сети доверить принимать экзамены по всем предметам и управлять обществом и государством, то в результате  мы получим новый дивный мир.

Каменным топором можно тоже голову пробить. Мораль в том что не бейте топором или микроскопом по голове. :))) Так и микроскоп можно сломать. :)))

Аватар пользователя predessor
predessor(7 лет 10 месяцев)

И все равно - Нейронная сеть - это конечный автомат.

Количество её состояний равно (очень большому) числу, образованному конкатенацией всех регистров узлов.

Но количество состояний любого DVD диска - куда больше.

Разница в том, что из ИИ мы умеем получать информацию, которую туда не закладывали, а из DVD - нет: только ту, которую туда записали.

Нужно,посадить ИИ, чтобы он перебирал все возможные состояния DVD (обычный счетчик с нуля и до емкости DVD), при этом обладая способностью отбрасывать бессмысленные

сочетания.

И тогда на одном DVD ИИ получит роман "Война и мир", причем, в разных вариантах. Например, где Наполеон не нападает на Россию, а нападает на США. Или Пьер Безухов становится

монахом или диссидентом или в романе его вообще не будет.

Никто почему-то не говорит об этом интересном и безопасным для людей свойстве ИИ: генерировать развлекательный контент контент, снимать фильмы с ушедшими актерами,

комбинируя их произвольно в самых невероятных сценариях. 

Аватар пользователя utx
utx(10 лет 1 неделя)

Нужно,посадить ИИ, чтобы он перебирал все возможные состояния DVD (обычный счетчик с нуля и до емкости DVD), при этом обладая способностью отбрасывать бессмысленные

сочетания.

Ну если совсем утрировать то стабильная диффузия так и работает.

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Во-первых, мы не говорим о "машине Тьюринга", и это не конечный автомат. Чтобы было проще понимать мы обсуждаем Generative Pre-trained Transformer сеть. Для примера что это такое: "машина Больцмана". Это совсем не конечный автомат. :)))

Во-вторых тут выше уже в порядке шутки привел "задачу трех тел" в порядке шутки. Так что количество "решений" будет чудовищно велико и стремиться к бесконечности.

Просто поймите, это не машина Тьюринга и не конечный автомат.

Аватар пользователя predessor
predessor(7 лет 10 месяцев)

Количество различных состояний нейронной сети определяется суммой все состояний узлов (точнее, прямым произведением).

И оно конечно по определению, как память любой машины во Вселенной.

У человека тоже конечное количество клеток и нейронов.

Но человек может привлекать сколько угодно дополнительной памяти в виде библиотек, инструментальных средств и т.п.

ИИ пока этого не умеет,но сможет когда-нибудь.

И нейронная сеть - точно не машина Тьюринга.

Большинство конечных автоматов не имеют отношения к машине Тьюринга.

Поэтому, не доказано, что ИИ сможет решить, реализовать любой алгоритм.

Не сможет, вероятно.

А человек - сможет, он может моделировать алгоритм машины Тьюринга.

Сложность здесь - дело пятое.

Важна принципиальная возможность.

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Нет никакой разницы между ИИ (нейронная сеть трансформер) и человеческим интеллектом.

Но человек может привлекать сколько угодно дополнительной памяти в виде библиотек, инструментальных средств и т.п.

Вопрос не в библиотеках. ИИ может их задействовать в количестве принципиально недостижимым для человека. Не говоря уже о скорость обработки этих библиотек. Вы не стой стороны подходите к вопросу.

Принципиальная разница в том что человек разумен, а ИИ это только интеллект. Это "декартова пропасть"

У человека тоже конечное количество клеток и нейронов.

Никто не запрещает создать чудовищно больше количество узлов используя тензорный процессор. Прямо скажем, можно легко превзойти количество нейронов в мозге человека. Вопрос в другой плоскости. Даже не в архитектуре сети ИИ.

Аватар пользователя utx
utx(10 лет 1 неделя)

Прямо скажем, можно легко превзойти количество нейронов в мозге человека.

Так еще и частоты у человека, мягко говоря, низкие )

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Так еще и частоты у человека, мягко говоря, низкие )

Когда пытаются доказать преимущество человека над ИИ все вечно сводится "а у нас нейронов о-го-го!" и как то забываю про терафлопы NVIDIA RTX A5000.  :)))) 

Ну не хочется людям расставаться со совей "исключительностью". :))) 

Аватар пользователя utx
utx(10 лет 1 неделя)

Ну остался последний рубеж это память. Но по последним статьям swap на NVMe уже приделали, значит скоро будут xT модели )

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

На мой взгляд, "последний рубеж" это когда до кого-то дойдет что по аналогии с известной программой Дарвин 2 можно написать программу Общество 2.0 и она будет запущена. Вот тогда и начнется главное веселье. :)))

А память это вопрос технический. :))) А вот решение задачи Общество 2.0 вопрос фундаментальный.

Но так или иначе все это вывернет весь наш мир наизнанку. Так или иначе придется сменить мировоззрение. И это как отказаться от системы Птолемея и перейти на систему Коперника. Последствия для человечества будут колоссальные. И вопрос даже не в том что у нас будут практические и специализированные ИИ как аргументация человека, что меняет все. А в самом понимании вселенной.

Мы тут все инопланетян искали и вообще пытались найти инопланетную жизнь, а это намного интересней, и прямой ответ на вопрос что мы в отношении жизни вообще и вселенной поняли неверно. :)))

Аватар пользователя utx
utx(10 лет 1 неделя)

"последний рубеж"  в том ключе что любой коллектив и любая домохозяйка получит в руки инструмент. А не только избранные из больших и богатых компаний. А далее да, даже страшно себе представить последствия )

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Мне видится происходящее так:

:))) Если вы начнете спрашивать, что такое «нейронные сети», «квантовая телепортация» или «квантовая машина», то в подавляющим большинстве случаев вы получите формально верный, но совершенно не имеющий практического смысла ответ.
Тут уже неоднократно приводил отличную статью «Почему теорию Максвелла так сложно понять»: https://habr.com/ru/post/539188/ Суть в том, что вы будете спрашивать про тот уровень знаний, для которого исключительно сложно подобрать верные аналогии. А строгое научное определение будет тарабарщиной. Да и сами исследователи часто не понимают, что это в действительности означает. Только практика использования и сформированная на ее основе культура в дальнейшем может объяснить с чем мы в действительности имеем дело.
Вот так и получается в нейронной сети нет нейронов и вообще это не сеть, квантовая машина никак не машина, а квант не телепортируется. И чтобы понять, что это вообще такое, за отсутствие общепринятого представления, самый простой способ это разобраться в истории вопроса.

Ноды (узлы) изначально придумали для моделирования сложных динамических процессов. Например, имплозия в термоядерном заряде. Но свое широкое применение они нашли в процедурных средах, как визуализация и проектирование, параметрическое проектирование, генеративный дизайн, а сейчас внедряются в программирование. Насколько мне известно, сейчас разрабатываются три языка программирования на нодах. По сути, это и есть визуальный метод нелинейного программирования. И все становится сильно сложнее, если у вас есть вычислительные мощности для моделирования таких сложных процессов в реальном времени. И все только начинается.
Нейронные сети и ноды придумали примерно в одно и тоже время в 70-х годах. Нейронные сети взлетели когда количество тензорных ядер в сопроцессорах перевалило за десятки тысяч. И на мой взгляд, аналогичный расцвет языка нодов произойдет когда количество ядер будет повсеместно сотни тысяч. Миллионы и миллиарды переменных считать, нужно и мощности соответствующие иметь. И опять же, квантовые сопроцессоры. Вот тут полный треш будет.
Но сам по себе язык нодов сильно трудоемкий без нейронной сети. Нужно вручную дописывать части кода, а появившийся ИИ решает эту проблему. Еще добавить немного тензорных ядер и подружить ноды с нейронной сетью, то получаем термоядерный эффект для всей промышленности и экономики.
Если без философии и в практическую плоскость, чтобы понятно было, то с этого момента, то что здесь называют «специализированными ИИ», будут писать "школьники". И школьники, буквально, смогут проектировать «космические корабли». И какой-то школьник обязательно напишет «ИИ бизнесмен». Как-то так.
Но это только поверхность. Все гораздо сложнее. Очень сильно сложнее и прямо касается фундаментальных вопросов. И на многие из этих вопросов ответить мне мозгов не хватит.

Так что в общем с вами согласен. :)))

Аватар пользователя Братец Лис
Братец Лис(10 лет 2 месяца)

"последний рубеж"  в том ключе что любой коллектив и любая домохозяйка получит в руки инструмент.

Когда-то так говорили про телевидение, потом про интернет. Сможет ли ИИ лучше справится с задачей набивания человеческих голов информационным мусором? Наверное, да.

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Скорее человечество разделится на две неравные части. На тех кого ИИ усиливает и они руководят ИИ, и тех кто следует инструкциям ИИ совершенно не понимая происходящее вокруг.

Причем деление будет происходить совсем не по биологическому признаку. :))) И даже образование тут не гарантия что вы будете понимать происходящее. :)))

Аватар пользователя Братец Лис
Братец Лис(10 лет 2 месяца)

На тех кого ИИ усиливает и они руководят ИИ

Короче, хозяева денег будут и хозяевами ИИ. То есть, в обществе ничего не изменится.

Как вариант, построение общества, описанного Лемом в "Эдеме", где элита так ловко прячется, что рядовые граждане полагают, будто её вовсе нет. А в каченстве ширмы можно выставить великий и мудрый ИИ. 

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Короче, хозяева денег будут и хозяевами ИИ. То есть, в обществе ничего не изменится.

Да не факт. И даже более вероятно наоборот. Тут уже как-то задавал риторический вопрос: "Если у вас система ERP с ИИ, то это вы командуете ERP или ИИ руководит вами? :))) 

Как понимаю отсюда и нарастающая паника среди самых богатых, влиятельных и самых шустро соображающих. :))) Прогностическая экономическая система на базе ИИ это уже приговор. :)))

Как вариант, построение общества, описанного Лемом в "Эдеме", где элита так ловко прячется, что рядовые граждане полагают, будто её вовсе нет. А в каченстве ширмы можно выставить великий и мудрый ИИ. 

В большей части роман Эдем просто то что не стоит заниматься "прокрустикой" и натягивать человеческий понятия на нечеловеческие явления. Это предупреждение прямо относится к ИИ. Не следует впадать в антропоморфизм.

Аватар пользователя Братец Лис
Братец Лис(10 лет 2 месяца)

Прогностическая экономическая система на базе ИИ это уже приговор

Если ИИ скажет, что деньги не нужны, на него упадёт атомная бомба. Чисто случайно, конечно.)) Шутка. 

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

А на самом деле это совсем не шутка. Прогностическая экономическая система на основе ИИ будет стабильно выдавать безальтернативные решения, и будет полной глупостью им не следовать. Как и сложно рассказывать байки про рыночную экономику если есть прогностическая система на основе ИИ. Все шаги уже просчитаны. И каждая "домохозяйка" может это сделать. :)))

Но это все лирика. А вот боевой тактический ИИ это уже наступающая реальность. Причем это не про "роботы воюют вместо людей" это люди под управлением ИИ отправляются в высокотехнологичные мясорубки и применяют роботизированное оружие. Как-то так. И это еще только цветочки. 

Аватар пользователя Братец Лис
Братец Лис(10 лет 2 месяца)

До боевого ИИ ещё далеко. Ибо есть человеческий фактор. Люди могут совершить невозможное, а могут похерить прерасный план.

Аватар пользователя Корректор
Корректор(8 лет 9 месяцев)

Люди могут совершить невозможное, а могут похерить прерасный план.

ИИ в том и превосходит человека, что у него "планов с секунду". 

Аватар пользователя Братец Лис
Братец Лис(10 лет 2 месяца)

Теоретически я себе это всё представляю. Управляющий центр может в реальном времени знать прсихофизиологическое состояние каждого солдата и отслеживать его перемещения, знать всё, вплоть до уровня топлива в баках боевых машин и т.д.  Но тут всё упирается в проблему наличия противника, который не пытается нарушать связь.

Страницы