31 декабря 2019 г., НЬЮ-ЙОРК, Александр Фридман: У научной фантастики есть предупреждение о развитии технологии чтения мыслей без какой-либо возможности ее контролировать. Это следует учитывать. Считается, что однажды человечеству будет угрожать рост искусственного интеллекта (ИИ), возможно, воплощенный в злобных роботах. Тем не менее, когда мы вступаем в третье десятилетие тысячелетия, мы должны бояться не сингулярности, а гораздо более старого врага: самих себя.
Нас ожидает едва ли "Терминатор (1984)/The Terminator", скорее "Особое мнение (2002)/Minority Report". Мы быстро развиваем технологию буквально чтения мыслей без какой-либо основы для того, как ее контролировать. Представьте себе на мгновение, развились ли люди, чтобы иметь возможность читать мысли друг друга. Готовы ли мы к этому?
Чтобы ответить на этот вопрос, подумайте о своих внутренних диалогах. Можно с уверенностью предположить, что у каждого из нас были мысли, которые шокировали бы даже (или особенно) самых близких нам людей. Как бы те, кто не желал бы нам добра, отреагировали на способность слышать, какие эмоциональные порывы проходят через наши головы время от времени? Было бы у них мнение, что их можно простить, признавая просто вспышками эмоций? Или некоторые ответили бы оппортунистически, воспользовавшись мыслями, которые в противном случае мы бы не хотели предавать вовне?
Эволюция не позволила нам читать мысли, потому что эта сила, возможно, положила бы конец нашему существованию как вида. Вместо этого, когда наши древние предки объединились в группы для защиты, большинство из нас узнали, что можно сказать, а что лучше не говорить. Со временем это стало чрезвычайно развитой человеческой чертой, которая позволяла формироваться обществам, подниматься городам и даже сотням людей, испытывающих стресс, засовывать в летающую трубу, обычно без нападок на их соседей. Он составляет основную часть того, что мы сейчас называем EQ, или эмоциональный интеллект.
И все же технологии сейчас начинают угрожать этой необходимой эволюционной адаптации фундаментальным образом.
Первый этап прошел в социальных сетях. Facebook подчеркнул эту траекторию, когда российские манипуляции с этой сеТевой платформой повлияли на президентские выборы в США в 2016 году. А Twitter, который дает пользователю возможность избавиться от мимолетных мыслей или эмоций, которыми можно поделиться с миллионами, усиливает эту тенденцию. Представьте, как северокорейские лидеры изо всех сил пытались истолковать твит президента Дональда Трампа о ядерном «огне и ярости». Была ли это реальная угроза со стороны нового и неустойчивого американского лидера или просто внезапный выдох, мысленная вспышка без фильтров, которую бы лучше всего игнорировать? Когда-то во времена биполярного мира сверхдержав, был установлен знаковый американо-советский телефон горячей линии, чтобы прояснить намерения каждой стороны, чтобы из-за некоторого недопонимания мир случайно не исчез бы под облаком ядерных грибов.
Сегодня в нашем гораздо более сложном многополярном и асимметричном мире угроз социальная сеть предлагает всем, кто хочет гигантский, неотредактированный мегафон. Социальные сети стали инструментом, который может подорвать демократию; и все же это просто детская игра по сравнению с тем, что сейчас стоит у нас на пути.
Компании, начиная от стартапов и заканчивая многонациональными конгломератами, недавно объявили о поразительных инновациях, позволяющих читать мысли. Neuralink, компания Элона Маск, ищет одобрения для испытаний устройства, вживленного в мозг пользователей, для того, чтобы читать их мысли. Nissan разработал технологию «Brain-to-Vehicle», которая позволяет автомобилю читать инструкции из головы водителя. Facebook финансировал ученых, которые используют мозговые волны для расшифровки речи. Недавняя статья в научном журнале Nature объясняет, как ИИ может создавать речь, анализируя сигналы мозга. Исследователи из Колумбийского университета разработали технологию, которая может анализировать активность мозга, чтобы определить, чего хочет пользователь, и озвучить эти желания с помощью синтезатора.
Очевидно, что такого рода достижения могут принести реальную пользу, в том числе помочь тем, кто страдает от паралича или неврологических расстройств. Ранние примеры нейропротезирования, такие как кохлеарные имплантаты, которые позволяют глухому человеку слышать, или многообещающие устройства, которые могут позволить слепому видеть, уже используются.
Но есть и более мрачные потенциальные приложения, такие как предоставление рекламодателям возможности на микроуровне оттачивать свои предложения по невысказанным желаниям отдельных людей, или работодатели, чтобы шпионить за их работниками, или полиция, чтобы отслеживать возможные преступные намерения граждан в широком масштабе, подобно тому, как жители Лондона сегодня отслеживаются камерами видеонаблюдения. Ранним предупреждением является ToTok, одно из самых скачиваемых приложений для социальных сетей, которое, как было недавно обнаружено, правительство Объединенных Арабских Эмиратов использовало для слежки за пользователями. А что будет, если взломать устройства чтения мыслей? Трудно представить себе более актуальную область конфиденциальности данных, чем та, которая существует в человеческом мозге.
Маск считает, что мозговой интерфейс необходим людям, чтобы не отставать от ИИ. Это возвращает нас к научно-фантастическому ужастику Филиппа К. Дика «Особое мнение» (2002). Подумайте о множестве острых этических, правовых и социальных последствий того, как полицейский останавливает преступление до его совершения, потому что он или она может «оценить» вероятные намерения человека, читая его мозговые волны. Когда совершено преступление? Когда мысль происходит? Когда начинаются действия, которые проявляют мысль в реальности? Когда пистолет направлен? Когда палец нажал на спусковой крючок?
Основная проблема технологических инноваций заключается в том, что обществу обычно требуется много времени, чтобы наверстать упущенное, понять более широкие последствия того, как новая технология может использоваться и позволить злоупотреблять, и обеспечить соответствующие правовые и нормативные рамки для регулирования ее поведения.
Во втором десятилетии этого тысячелетия социальные сети перешли от инструмента для подключения - к платформе с огромной властью распространять ложь и манипулировать выборами. В настоящее время общество сталкивается с тем, как использовать лучшее из этого нововведения, одновременно снижая его потенциал для злоупотреблений. Возможно, еще до того, как мы это выясним, третье десятилетие тысячелетия поставит перед нами гораздо более серьезные технологические проблемы.
Александр Фридман, инвестор, бывший гендиректор GAM Investments, главный инвестиционный директор UBS, финансовый директор Фонда Билла и Мелинды Гейтс и советник Белого дома.
Комментарии
"Голова штука темная и исследованию не подлежит"(с) считывать реакции, формируемые нейронами мысли по их активности, но мысли о будущем, планы.... Хотя... С другой стороны, что мешает создать образ мысли, который мне нужен, чтобы ввести всех в задлуждение. Точно так же как сформировать акк, в любой соцсети, с заданными параметрами. Последнее вАЩе говно вопрос, теперь уже, даже для рядовых обывателей, при наличии более менее вменяемой цели и чуть выше минимума разума... Поживем увидим, в любом случае у нас вариков не много;)
Посмотрите , поищите там матрикс или тиа .
Оруэл одобряет. )
https://kiwibyrd.org/tag/%d1%82%d0%b5%d0%bb%d0%b5%d1%84%d0%be%d0%bd%d0%b...
А ЭSSтонию Оруэл одобряет? В частности. И европейский "правый " поворот вообще. Вместе с наглым и безпароднным искажением роли СССР во второй мировой нам какбэ на что намекают?
Читали ,,Запад . Путь зла. Матрица глобальной гегемонии,, Ваджра( вроде бы) , там есть кой какие интересные моменты из мировоззрения и психологии этих деятелей .
А так , --ничего личного , бизнес-- , оне не искажают историю , оне её так видютЬ .
Обратите внимание что руководитель страны начиная с И.Грозного , Екатерины 2 , И.В.Сталина охаивается именно с запада и их местными подстилками .Т.е. те кто усиливал мощь государства , западу досихпор поперек горла .
Ну и ещё один момент , мы единственная Северная цивилизация ( по климатическим условиям и месту жизни , сравните широтность нашу и Канады , на предмет населения (Скандинавию не приплетать , Гольфстрим ) и мы кроме того из небольшого народа стали Русской цивилизацией (за что нас тоже ненавидят с давних времён , что там Киплинг говорил про медведя который ходит на двух ногах).
Вот , как-то так.
"....Россия — Сфинкс. Ликуя и скорбя,
И обливаясь черной кровью,
Она глядит, глядит, глядит в тебя
И с ненавистью, и с любовью!…
Да, так любить, как любит наша кровь,
Никто из вас давно не любит!
Забыли вы, что в мире есть любовь,
Которая и жжет, и губит!
Мы любим все — и жар холодных числ,
И дар божественных видений,
Нам внятно всё — и острый галльский смысл,
И сумрачный германский гений…"
....
"...Гуляет ветер, порхает снег.
Идут двенадцать человек.
Винтовок черные ремни
Кругом — огни, огни, огни…
В зубах цигарка, примят картуз,
На спину надо бубновый туз!
Свобода, свобода,
Эх, эх, без креста!
Тра-та-та!..."
Ну вот так как-то...
Если вы не жертва ЕГЭ - поймете о чем я...
В 90 ег не было , но стихи мне что тогда что сейчас не интересны , посему автора определить не могу , смотреть через поиск лень (почти 2 ночи ) , так что извиняйте ваш труд (ежели набирали в ручную ) оценить не могу.
Вот увидел , тоже в тему ИМХО.
https://topwar.ru/166068-pochemu-k-nam-stolko-pretenzij-ot-zapada.html?y...
Учёные до сих пор ищут "черепаху и трёх слонов" (элементарные частицы), на которых держится мир. Но «Будущее уже здесь, старина»! Так, дальше... здесь читаем..., здесь не читаем..., здесь жирное пятно - рыбу заворачивали..., а вот: "И это уже совсем другая физика, не позволяющая описать законы через лагранжиан и принцип наименьшего действия и полностью несовместимая с привычным нам миром".
https://nplus1.ru/material/2019/12/22/simple-math
неплохой текст, несмотря на наличие пропагандистских штампов.
Один человек сказал: "Не дай бог узнать о чем ты думаешь, когда дрочишь". (хм... забавно, я с этим человеком виртуально знаком более десяти лет, вел с ним священную войну, считая его упоротым идиотом, однако, со временем всё изменилось, теперь я даже цитирую его слова :)
Автор не указал еще на пару особенностей процесса.
1. Гораздо хуже чтения мыслей - неправильное чтение мыслей. Именно это лежит в основе контекстной рекламы. Она ведь предполагает, что прочла ваши мысли, и подсовывает вам как бы соответствующее. Но она ошибается очень часто. Представьте, что такой глючный механизм станет принимать решения о приеме на работу или даже осуждать.
2. Неведение - благо. Ибо на основе полного знания ты отвергнешь всех, ибо у всех были грязные мыслишки, поступки.
Вот почитайте и гляньте тег А5.
https://kiwibyrd.org/tag/%d1%82%d0%b5%d0%bb%d0%b5%d1%84%d0%be%d0%bd%d0%b...
Спецслужбы и государство в целом оно такое , двуличное . Если к этому добавить Назгуловские выводы из ,,Деревянного хлеба,, , ,, Остановка научной революции,, , тогда кой чего становится понятным.
Если у всех были грязные мыслишки, то это никого и не шокирует. Главное не утонуть в шуме, когда будешь слушать других. Человеческий мозг даже на речь одновременно с двух сторон не рассчитан.
представил себе, что автор оригинальной статьи принимает решения и осуждает на основе своего убогого и прямолинейного видения мира.
содрогнулся
дурак ведь
с черепушкой, набитой наукообразным бредом
уж лучше ИИ. Или бросать монетку.
Принимает решение о приёме на работу часто уже. Есть всякие автоматизированные поисковики по поисковым сетям. С другой стороны, приём на работу с учётом данных, полученных из слухов было всегда.
Разумеется, если ответственность выше определённого уровня.
Да ладно. Сейчас, благодаря социальным сетям, про грязные мыслишки и поступки окружающих стало известно гораздо больше. И просто сместилась точка толерантности. Разве что до учителей ещё докапываются по старой привычке (должны быть моральным примером).
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Афтору - спасибо за труды по переводике.
Но считаю текст бестолковым. К проблемме чтения мысли имеющий отношение опосредованное и именно по теме кроме пары тезисов Капитана Очевидность -ничего нового и интересного.
Но еще раз -спасибо Афтору за труды по переводике.
Очень хороший пример работы их пропогандистской машины. Сначала напугать диванного бойца Искуственным Интеллектом, мол, он Уже знает про твои сексуальные предпочтения. Потом слегка замутить Научнизмами и афторитетами. Но не сильно. Чтоб количество вумных слов не преввысило порога "Многа букыф".
И на этом фоне втюхать, что Россия уже "делает" президентов США. И вперди планеты всей именно по злобному использованию ИИ и соцсетей. Но Илон Маск борецца!
Целевая аудитория - бакалаврики по менеджементу ресторанов и гостевого бизнеса и кретиву собачьих причесок....
Спасибо Вам за "Спасибо" два раза)). За последний квартал из этого источника я опубликовал свыше 50 статей. Надеюсь, с пользой для АШ. Но это каждый решает сам.
Источник довольно респектабелен, не всех подряд там публикуют, и если автор писучий, то он публикуется не только здесь, но и в "НЙ таймс", "Файненшнл таймс" и прочих таких же, состоит в комитетах при нынешней или недавней прошлой власти, занимает или, чаще, занимал высокие посты вроде министра и выше, манипулирует крупными финансами...
И вот что у них у всех в их статьях общее? Вы сами сказали - бестолковость. На свои вопросы ответить не могут, в текстах растерянность, суть проблем подается поверхностно и без глубокого понимания. Сплошное разочарование. Состояние критическое. Они сами себя готовы укокошить.
Нам с нашими проблемами они помочь не могут, на наши вопросы у них ответов вовсе нет. Но вот что у них в башке нам знать надо. Поэтому вот.
Действительно искренне поблагодарил. Поскольку сам силен только в гуглопереводе. А как они думают - действительно очень полезно знать. Что особенно ползено в данном случае, что он не"блохер", а серьезный афтор, но написал чОтко по методичке диванного бойца.
1) Ниачем. 2) Напугал (но не до самовыкидывания) лохторат. 3) привязал страх к России.
Из этого вывод:
Их пропогандистская машина уже сделала из них пушечное мясо.
Остался последний штрих. Вылущить страх перед нами. На генетическом уровне.
А вот вэтом -их ждет проблема. Не морально-этическая, канешна. А логическая. Чтоб покинуть диван и схавтиться за м-16 - мы должны быть ЗЛОМ. ЗЛОМ опасным и сильным. Значит часть лохтората палюбому погибнет. А вот оказаться этой частью в сырых и скользких окопах , а не на диване с джойстиком в руках и кетчупом на пиццце....
дальше не читал
что может поведать миру плохо информированный человек?
вряд ли можно прийти к правильным мыслям, исходя из ложных посылок
блин, конечно, "сеТевой платформой". Вот так раза три перечитаешь, а все равно ашипки в тектсе остаются)))
Если люди смогут читать мысли друг друга, то предательство станет невозможным.
хотя это, конечно, мелочи.
Как можно будет отличить свои мысли от чужих ?
P.S.
Говорят, есть советский фантастический роман про звездолётчика. Вернувшись из звёздной экспедиции на Землю, он обнаружил, что за время его отсутствия, люди научились читать мысли друг друга.
И ему было очень неудобно, среди потомков...
А им - нормально. Привыкли. И даже коммунизм построили...
Не факт. «Какой дурак на Плюке правду думает?… Абсурд!» © Кин-дза-дза
Дел
Технология "чтения мыслей" проста, устройств типа миелофона не требует. Залезаешь в социальные сети -и все мысли как на ладони. Достаточно буквы знать.
"...Если люди смогут читать мысли друг друга, то предательство станет невозможным...."
Не факт. Саавсем не факт. Первое осчусчение , которое вас посетит, когда вы Вдруг станете "слышать" чужие мысли - это ПИСЕЦ какой=то. Потому как бардак будете слышать полнейший. В котором ни хрена не поймете. Кроме слов вам понадобятся картинки. звуки. ориентация в воспомнинаиях "собеседника" привязка по времмени, месту...
Только тогда можно будет говорить о каких-то прогнозах и понимании. И это при "контакте" только с Одним "собесдником". А в метро в час пик?! Вас просто прибьет объемом информации.
Некоторые думают, что оне словами думают ;)
точно. как раз хотел у ТСа поинтересоваться, каким образом можно было бы записать это "чтение мыслей". сюрреалистистичным видосиком мб? артхаус вышел бы знатный
Просто торгаш боится, что не сможет впарить своё гавно никому, и не понимает, что его мысли и так как на ладони., Пусть пересмотрит Гибсона читающего женские мысли. Смишно
Это большая ошибка, думать, что человек мыслит законченными фразами и сформулированными текстовыми блоками. Никто так не думает, кроме, как в процессе попыток придумать постфактум удачные фразы в споре или каком-то проблемном диалоге. Да и там тоже никогда не обходится без вмешательства всякой посторонней и внезапной фигни.
Чаще всего процесс мышления представляет собой ассоциативный несформулированный бред, частично визуальный, в виде неопределенных картинок, частично это воспоминания о звуках, запахах и т.п., который не выстраивается ни во что связное до момента, когда нужно что-либо сказать вслух или написать. Т.е. структурируется во что-то удобопонятное этот весь бардак только прямо перед выдачей наружу. При этом "мысль изреченная есть ложь", т.е. выданное наружу и сформулированное никогда не идентично тому, о чем думалось.
Для дополнения общей сложности картины: этот бред развивается не по цепочке, как формально-логические выкладки, а одновременно по нескольким независимым веткам. Кроме того не все мысли принадлежат нашему осознанному "Я", часть из них вообще принципиально не осознается, потому что подпадает под внутреннюю цензуру (совсем архаика, каннибалистические, инцестуозные или какие-то еще более глубокие слои), а часть принадлежит своего рода внутреннему цензору - "СуперЭго", в той части психики хранятся всякие идеальные правила и установки (как надо, как не надо, и никто этим установкам на 100% соответствовать не способен большую часть времени). И эти цензурирующие мысли имеют мало отношения к действительно происходящему процессу, они работают по принципу ошибающейся контекстной рекламы - реакция идет на отдельное слово или действие, почти всегда вне контекста.
И это только небольшая часть происходящего в голове. А есть еще слой вообще не наших мыслей: всякие остатки психики предков, которые начинают рулить в критических и опасных для жизни ситуациях. Что-то вроде застрявших гифок, прокручивающих один и тот же незамысловатый сюжет. Эти остатки тоже добавляют свою часть в процесс общего бардака, у них, правда, репертуар ограничивается одним-двумя неизменными идеями, зато таких гифок может быть не один десяток.
Искренне сочувствую будущим гипотетическим прослушивальщикам мыслей. Потренироваться они могут на психотиках в возбужденном состоянии (послушать и попытаться вычленить из их бреда что-нибудь внятное).
Не особенно люблю Стругацких, но у них в "Гадких лебедях", кажется, главгерой Банев описывает процесс написания заказного произведения: начинаешь повесть о молодых годах президента, а выходит фантастический рассказ о необитаемом острове, населенном обезьянами, которые питаются мыслями потерпевших кораблекрушение. Такие ассоциативные завихрения как раз и составляют процесс мышления любого человека.
Именно речь формирует из этого компота мысль, или письмо .Скорость протекания мысли гораздо выше и того и другого. Мозги тренеруются тормозить мысль, что бы писать или говорить осмысленно, сортируя картинки, запахи... Когда человек обдумывает проблему он, обычно, отбраывает всё лишнее, оставляя только то, что относится к этой проблеме. Прям как Вы, когда писали этот текст
Фсё фигня. Всем рулит подсознание! При необходимости задаешь поиск и осмысливаешь полученные результаты. ;-) Продвинутые пользователи могут влиять на верхний слой того подсознания.))
Подсознание - это неверный термин. Бессознательное более правильный, если исходить из топографической теории психоанализа. Есть еще часть бессознательного, которая называется предсознательное, такое "временно бессознательное" (мысли, которые внутренняя цензура вытесняет не столь интенсивно и они прорываются в снах, оговорках и фантазиях). Бессознательное не может быть осознано ни при каких обстоятельствах, его содержание сознание его просто не воспринимает.
А, вообще, да, подавляющее большинство наших действий мы совершаем под влиянием неосознанных мыслей, бессознательных влечений и телесных потребностей, которые не контролируем. Другое дело, что сама идея этого настолько травматична, что мы немедленно придумываем логические и "разумные" обоснования нашим поступкам.
Все вышеперечисленное не снимает с нас ответственности за совершенные поступки и не смягчает последствий сделанного. Причем последствия распространяются не только на нас, но и на наших потомков.
Термин "подсознание" народный, он подразумевает иерархию, в то время как в психике нет иерархии.
И чО?
Всё равно всё кончится тем что люди будут обладать телепатическими возможностями (слышать мысли друг друга). К этому все и идет. Поэтому пока есть время, занимайтесь личной гигиеной, учитесь мыслить позитивно.