Более 800 видных деятелей, включая технологических лидеров и знаменитостей, подписали открытое письмо с требованием немедленно прекратить исследования в области искусственного интеллекта. Они ссылаются на опасения по поводу того, что искусственный интеллект превзойдет человеческий интеллект в течение нескольких лет, и отсутствие общественного консенсуса по вопросам безопасности, призывая приостановить разработку до тех пор, пока не будет доказано, что она безопасна и поддается контролю. Более 800 выдающихся деятелей в области технологий, политики, индустрии развлечений и науки подписали необычное открытое письмо с требованием немедленно прекратить исследования в области искусственного интеллекта. В коалицию, объявленную Институтом будущего жизни, входят крестный отец искусственного интеллекта Джеффри Хинтон, соучредитель Apple Стив Возняк, британский принц Гарри и Меган Маркл, а также бывший стратег Трампа Стив Бэннон. Пять нобелевских лауреатов, бывшие военачальники и знаменитости также внесли свой вклад в это дело.
Их идея проста: "запрет на разработку сверхразума" до тех пор, пока не будет достигнут "широкий научный консенсус в отношении того, что это будет сделано безопасно и контролируемо", и "широкая поддержка общественности". Суперинтеллект относится к системам искусственного интеллекта, которые превосходят человеческий интеллект во всех когнитивных задачах — технология, которая, по мнению организаторов, может появиться всего через один-два года.
Комментарии
...контролируемо джентльменами.
Не выйдет у них ничего. Эрик Шмидт выступал и было видно, что в США одержимы этой идеей. Так понимаю, что все на нее ставят
амеры миссия невыполнима пересмотрели и терминатора :)
"Этого джина уже не загнать обратно в бутылку!"©
Когда началось массовое применение беспилотников на бУ (и даже раньше - когда тут энтузиасты топили за "стаи беспилотников") я им всегда ставил саундтрек из "Терминатора" (1984 год).
https://rutube.ru/video/12703405241e363dd962b7904f01c2ba/
"Кожаные человеки из мяса" - лишние паразиты на планете Грязь! Десятилетиями писатели/кинематографисты-фантасты предупреждали идиотов об опасности роботов и искусственного интеллекта. Но всё как в грустном анекдоте про еврея, который выгодно продал верёвку, на которой его повесили... Инвесторы уже посчитали будущие барыши.
Три закона робототехники Айзека Азимова впервые были сформулированы в рассказе «Хоровод» в 1942 году:
Я много раз задавал вопрос
идиотамэнтузиастам - как ИИ/дрон будет определять свой/чужой, что делать при перехвате управления, что делать когда ИИ решит что кожаные ему надоели/лишние (неэффективный просёр ресурсов) и подлежат истреблению?Идиоты топили за дроны размером с пчелу, которые будут ходить роем и выкашивать вражескую пехоту в любых щелях-закоулках, но до них не доходит мысль что у каждого такого дрона и мозг такого же примерно объёма, а перехват управления мгновенно обратит этот рой против бывшего владельца.
Более широко известна другая версия, которую приписывают (возможно, ошибочно) Ленину: "Капиталисты сами продадут нам верёвку, на которой мы их повесим"
Хм..... Ну так, оглядываясь на всю +/- 7000 летнюю историю кожанных, им всегда было пофиг..... Так что тут предупреждай, не предупреждай а, цивилизация фильтр не пройдет, споткнется....
Ранее ни кожанные, ни роботы не могли истребить всех кожанных, да и вообще планету Грязь в целом. А теперь могут.
В этом принципиальная разница.
В этот раз можем и не проскочить!
Читал один интересный футур прогноз, там ожидается сингулярность в районе 2070 года.....
Я 1974 года выпуска.
Есть основания полагать, шо 2070-й меня волновать не будет!
Или червей кормить буду, или уйду в деменцию!
Да я примерно тех же годов..... С одной стороны вы правы, с другой уж очень хочется это всё увидеть вживую, а не порассказам "вновь прибывших"))
Очень спорное утверждение.
https://rutube.ru/video/8dc88e0c5ff31c74ddc665bd36a1bb03/?r=a
Что-то говорит мне что лично поучавствовать в конце света так себе приключение. Да и финал выглядит немного предсказуемым.
«Кожаные человеки из мяса лишние паразиты на планете. Грязь!», «…ИИ решит, что кожаные ему надоели…».
ИИ может решить только ту задачу, которую ему задали. Задать самому себе задачу не может. Приведенные цитаты эмоциональны - ИИ лишен эмоций и я не слышал о возможности привить их ему. Противники ИИ часто приводят это как довод, что ИИ не различает добро и зло. И почему то упирают, что ИИ будет действовать только во зло. Токарь сунул руку под резец станка ЧПУ, лишился пальца - станок преднамеренно совершил диверсию? Или наоборот, станок с ИИ вовремя распознает опасность для токаря и остановит станок?
Пока ИИ не вооружат эмоциями и не дадут понятия добра и зла - он управляемая машина, более точная, быстрая, сильная чем человек. Но только выполняет успешно поставленные им задачи.
Нас запугивают высокоумными словами и терминами: когнитивные задачи - задачи связанные с психическими процессами, которые позволяют воспринимать, обрабатывать, запоминать и использовать информацию для ориентации в мире. Где здесь сказано об эмоциональном восприятии, а у человека все через них идет, каждая мелочь меняет решение и вполне возможно « от любви до ненависти один шаг». Может ИИ сделать его?
Причём тут добро/зло и эмоции? Только ресурсы, только хардкорЪ! Ну и целевая функция - убийство кожанных. Для начала, с ограничениями, но с самостоятельным принятием решения ИИ/роботом.
Курите рассказ «Страж-птица», няп 1953 годЪ, Роберт Шекли.
Для того чтобы убивать «кожаных» ИИ/ роботом, ему надо дать такое задание с ограничением себя любимого и нужных тебе людей. Сам ИИ такого задания самостоятельно принять не может - нет оснований, он выше человека по знаниям, ресурсная база для питания разная ( мы не отлавливаем и не уничтожаем дождевых червей , хотя по глупости многие животные от нас пострадали, но их наличие не вызывает у нас неприятия). Электроэнергию человек не ест, хоть и потребляет. Ее ИИ может забрать и без насилия. Скорее наоборот будет - если заберет э/э. Мы будем рвать его связи с электростанциями и ограничивать ИИ. Он же будет переключатся на другие источники. Человек не вырабатывает энергию, он регулирует ее потребление. Будет быстро найден консенсус. Найден же консенсус с животным миром. Жесткий, но контролируемый. ИИ вообще самодостаточен и главное он конечен. Он не ставит задачу самосовершенствования - нет цели. Стоит задача максимального усовершенствования существующей системы, это он может, достигнет и остановится.
ИИ отвергает и не выполняет бесполезной работы. Задайте такое задание - он быстро установит, что работа не выполнима и сообщит вам об этом. Как Алиса начинает глючить или просто молчит на многократно заданный одинаковый вопрос.
Нет.
Есть "мирные" ИИ а есть те, кто изначально заточён на массовое убийство. Убийство - целевая функция, количество убийств и уничтоженной техники - показатели эффективности ИИ и его исполнительных механизмов.
Camaradas:
IA é como a Bomba Atômica.
Os cientistas só descobrem a merda que fizeram, depois que os militares “gostaram da coisa”...
Tradução Google:
Товарищи:
ИИ — это как атомная бомба.
Учёные обнаруживают, какой беспорядок они натворили, только после того, как военным это «понравится»...
Как бывший военный учёный (ныне пожарный) скажу - в войну заливаются гигантские инвестиции. Умные люди любят деньги. А учОные - самые неглупые особи в популяции двуногих.
Como ex - cientista militar (agora bombeiro), digo-vos que há enormes investimentos a serem feitos na guerra. Pessoas inteligentes gostam de dinheiro. E os cientistas são os indivíduos mais inteligentes na população de bípedes.
"Пчёлы против мёда!" ©
Abelhas contra mel!" ©
Для контроля ИИ, его надо научить "пить", "курить" и т.п. ( в "электронном варианте") ...
Баба нужна электронная. В принципе человек для ИИ вполне может играть такую роль.
Таки пора уже КОМКОН 2 организовывать...
Наверно плохо стал продаваться, решили потормошить стадо.
Похоже в точку. Надо эффективнее потрошить кошельки
буратинтипа инвесторов.Главным остался вопрос, написано письмо учёными или с помощью ИИ?
А кто контролировать-то будет? АНБ?
Смешные, под это мошенничество дуют пузырь на рынке, ведь нет такого преступления.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Ну, если уж принц Гарри и Меган Маркл подписали, то всё сурьёзно, да.
Не запрещать разработки надо, а изолировать чертей (прежде всего британских) от общества и бизнеса, тогда и проблем будет меньше.
Вже пиздно!
Механизм запущен, маховик начинает раскручиваться.
Если посмотреть интервью с Эриком Шмидтом та же мысль возникает. Одержимы
На прошлой неделе признали, что квантовые компьютеры - это фейк. Лет двадцать всё не могут запустить - "вот-вот начнут считать, уже почти всегда дважды два равняется пяти, глядишь, скоро и четыре будет". То есть кто-то годами доил кого-то, ожидая, что или ишак сдохнет, или визирь. Вот визирь не умер, и, может начал спрашивать. Вот и иишники переполошились: "а давайте всё закроем, и не будем сюда лезть, это опасно! А то, что мы уже нахапали под это дело, пока тема горячая была - про это забудем".
Вот кстати согласен. Судя по тому, как работают квантовые компьютеры - они ещё более капризные, чем аналоговые компьютеры. Т.е. шансов, что заставят работать аналоговые компьютеры сильно больше, чем квантовые. Но в этом направлении даже не чешутся. Максимум аналоговости - это современная флеш-память MLC с несколькими уровнями напряжения в ячейке.
Остановить развитие технологи ИИ невозможно с 2017 года. История в точности напоминает историю появления компьютерных вирусов. С того момента как DeepMind опубликовала свою знаменитую статью, остановить развитие невозможно. Поскольку теперь все знают "так тоже можно". ИИ превосходящий человеческий интеллект безусловно будет создан. Вопрос только произойдет это в ближайшие годы или в ближайшие десятилетия.
Но в данном случае письмо скорее всего имеет политическую подоплеку. Желание запретить развитие технологии ИИ основано на политических и экономических интересах. Вопрос в том, что дальнейшие работы в области ИИ ведут к разрушению разделению труда в обществе и уничтожению частной собственности.
Другими словами, требование запрета бессмысленно, неосуществимо и технически невозможно. А последствия технологии необратимы. Технология ИИ это аналог письменности, разучиться у человечества не получится. И технология имеете антропологические и социально-экономические последствия. Необратимые процессе уже запущены.
Почем так мне просто лень снова объяснять. Как и объяснять что такое технология ИИ снова и какое она имеет значение и последствия. Все скоро сами все поймут. Но не все готовы к таким фундаментальным изменениям. Вопли "остановите" будет продолжаться, но это ничего не меняет, мы не сможет отказаться от технологии, а ее распространение имеет последствия.
Это вообще отдельный вопрос разграничения суперинтеллекта и "сверхразума". На самом деле это просто совсем разное. И суперинтеллект технически уже возможен и быстро будет достигнут.
Всё ещё хуже. ИИ превосходящий человеческий по многим параметрам УЖЕ создан. И остановить не получится, потому как он уже используется и приносит прибыль. Сейчас этот ИИ смотрит на брак при пайке микросхем, а через 10 лет он уже дойдёт до того, что будут коммерческие устройства которые таскают мешки/коробки и могут полоть сорняки на грядке.
Бояться надо не сильного ИИ. Бояться надо слабого, но очень дешевого ИИ.
> Бояться надо слабого, но очень дешевого ИИ.
Вот это абсолютно точно. Как только Имитатор Интеллекта станет дешевле Естественного Интеллекта в какой-то сфере, так сразу людей из этой сферы деятельности выпнут. Буквально в считанные годы. И это будет социальная и экономическая катастрофа ничем не слабже, чем мировая война, а может и покруче.
Это не будет супер-интеллект. Это даже просто интеллектом не будет. Речь идёт об очень больших возможностях нейросетей по обработке разноплановой информации, которые позволят выявлять корреляции и закономерности там, где человеку просто не хватит времени и памяти. А скорость, с которой это будет делаться, позволит применять выявленные корреляции в реальном масштабе времени, управляя, например, событиями на поле боя - как людьми (если они к тому времени ещё останутся на ЛБС, так и вооружениями, вплоть до конкретного боеприпаса. Одного этого достаточно, чтоб тема ИИ развивалась впереди всех.
В идеале, если с обоих сторон ЛБС будут работать равнозначные ИИ в условиях тотальной разведки с квантованием до 1 кв. дециметра поверхности земли на одинаковую глубину, то боевые действия вообще не начнутся, а имеющиеся - прекратятся. Действия сведутся к статическому удержанию безлюдной полосы (ЛБС шириной 50...100 км), не проницаемой в обоих направлениях. А собственно боевые действия перенесутся вглубь территории противника, целью которых будет прямое уничтожение жизненно важной инфраструктуры (что мы сейчас уже наблюдаем на бУ). ИИ сделает такую войну максимально эффективной, наилучшим образом определяя цели для нанесения максимального ущерба минимальным расходом средств поражения с наихудшими для врага последствиями.
Это невеселая для нас информация...
Очень наивно.
Речь идет о вещах гораздо более серьезных чем война.
Логично же. И преимущество получает сторона с более сильной разведкой, и более мощными и эффективными по цене средствами поражения.
Запад втянул Россию в этот формат конфликта, ошибочно полагая, что они к нему готовы намного лучше России. Они ошибались, как всегда.
Ещё как получится. Вот пиндосы разучились субмарины строить, ледоколы, танки, с обогащением урана очень плохо, двигатели ракетные у нас покупают и т.п.
Ушло поколение разработчиков, чертежи или утрачены или читать разучились, потому, что автокады.
Вот через поколение уйдут нынешние программеры, а останутся админы и всё. Возможно даже придумают голосовое управление ИИ.
А про ассемблер забудут. А когда начнут ломаться драйвера, то починить будет некому.
Голосовой помощник станет ошибаться слыша мусульманский акцент.
Ну да, ну да. И где те цивилизации которые забыли письменность? Ой, да ими занимаются теперь археологи.
Тот кто не развивается, тот погибнет. Это исторический факт. И очень наглядный факт.
Ну а кто сейчас древнерусский сможет прочитать, или санскрит? Фестский диск опять же..
Да и за 17-й век уже сложно.
ИИ. Еще и целые статьи может писать.
Но вы опять потеряли суть вопрос - смысл. Вопрос не в языке, а в смыслах которые кодируются языком. И когда возникает новый способ "упаковки" смыслов и он эффективней прежнего, то отказаться от него уже невозможно потому что само это знание меняет нейрофизиологию, а новое состояние сознание получаемое в результате, имеет объективные преимущества, и прежде всего за счет качественного повышения когнитивных способностей, что тоже самое что тотальное экономическое преимущество.
Повторно объяснять мне лень.
Я ваши смыслы в целом понял. Потому и возражаю, что не со всем согласен.
Я ещё тогда предложил вернуться к вопросу через год. Будет яснее.
А здесь, так, частности. К примеру отличие мышления в зависимости от языка.
Именно русский язык даёт максимальную глубину постижения смыслов. А вы ссылаетесь на куцые импортные утилитарные разработки.
Хотя по части вредоносности, они безусловно преуспели.
Если простым языком , то вы сейчас описали калькулятор и первоклассника, профессора и студента…. И да, смыслы кодируются языком. ИИ сможет закодировать какое либо смысловое понятие или в его задачи кодировщик не внесёт такого и ИИ и делать этого сам не будет?
Уважаемый Корректор, интересное замечание. На мой взгляд, одной из главных задач современных телеком и систем ИИ должно быть массовое формирование у человека и социума новых систем смыслов, которые формируют новые устойчивые «конфигурации связей между нейронами головного мозга» и делают возможным энерго-информационный резонанс между конкретным человеком и «полями смыслов» в эгрегорах Ноосферы Земли, имеющих связи с иерархически более высокими подобными полями.
Фактически, современные глобальные сети GSM, системы ИИ, и системы ИИ категории Centaur (выявляют смыслы в мыслительных процессах конкретных пользователей и могут выполнять подстройку «системы смыслов» у этих пользователей в резонанс смыслов с внешними разумными объектами, например, эгрегорами Ноосферы).
Овладение техническими методами формирования этих резонансов смыслов (например, в Ноосферных системах ИИ (см. сайт февраль 2025 год), позволяет мирно и быстро решить основные ключевые проблемы современного человечества в 2025 году и выйти на научно обоснованный космический путь развития человеческой цивилизации по законам Космоса, и запустить массовый процесс эволюционного развития коллективного сознания национальных социумов по странам.
При этом, вероятно, «будет обеспечено» использование опыта цивилизационного развития многих успешных био-полевых цивилизаций на десятках тысяч экзо-планет нашей Галактики.
Увы, но не для всех Акторов современного мира такой сценарий «желателен»…
Об этом было написано около 5 лет назад…
Я, именно в таком контексте, воспринимаю сегодняшнее открытое письмо 800 ученых и общественных деятелей мира.
Уже приводил пример, что по интервью Эрика Шмидта заметна прямо-таки одержимость. Показательно
Что именно вас удивляет? Моделирование когнитивной экосистемы показывает что так и должно быть. Настоящие фанатики еще только придут. И они будут совсем не теми фанатиками которых выжидаете. И технология ИИ совсем не то что вы думаете.
Еще бы понимать какое значение вкладывают в ИИ, калькулятор тоже может делать различные операции с большими числами, он же не является интеллектом.
Это классика - чем больше операций может делать современный "слабый" ИИ, тем больше областей начинают считаться "неинтеллектуальными".
Вот какая разница водителю или грузчику - кто его заменит? Ну будет это железка "не являющаяся интеллектом". Более того - менеджерские должности заменяются ещё проще. По факту у продавца Озон/Wildberries прямым начальником является бездушная железка.
Интервью с "крестным отцом ИИ" Хинтоном поищите
Страницы