лекция про Искусственный интеллект показалась интересной своей понятностью в части именно принципов ИИ:
краткое содержание лекции: обзор принципа работы нейросети мозга, и на этой основе переход к искусственным нейросетям и их принципам действия. Как идет распознавание в нейросетях: все понятно, все красиво. Что ИИ может в итоге выполнять некую работу, не ограниченную программой - тоже здорово.
Но почему распространено мнение, что ИИ утилизирует Человека, "захватит этот мир" и т.д.? Вот и лектор ушел туда же: ИИ станет умнее и уж само собой попытается "уничтожить человечество".
вот интересные картинки из лекции. Сейчас ИИ где-то в районе мыши:
т.е. когда-то вот это случится:
и как бы что будет? да ничего
Поскольку у ИИ не может быть понятий о жизни и смерти (или о добре и зле), а вследствие этого каких бы то ни было предельных оснований, то у него нет и субъектности.
Он не становится субъектом от того, что его возможности в обработке информации больше, чем Человеческие. Как и среди животных: полно зверей, которые сильнее Человека (кстати, это упоминается в лекции): есть звери сильнее, выносливее, чувствительнее, может быть даже с большими возможностями мозга. Т.о ИИ - всего лишь объект в руках человека, очередная "палка-копалка" и не более.
Единственное, что очевидно может сделать ИИ - это обрабатывать информацию так, как того хочет Человек, но значительно эффективнее. Как экскаватор копает яму значительно эффективнее землекопов.
Таким образом, Искусственный интеллект не станет ничего делать ни с Человеком, ни с Планетой до тех пор, пока Человек не пробросит к нему мостик Жизни. Только это будет уже совсем другая история.
Комментарии
Хммм...
Чем сообразительнее субьект, те успешнее он уничтожает все живое вокруг себя.
Бум отрицать? :)
так если он субъект, а ИИ не субъект - в том весь фокус
А черт его знает, считает ли себя амеба субьектом поедая ближних.
Искуственные амебы тоже могут случиться...
создание искусственной жизни - это тоже Новая этика, и собственно не себя ли в первую очередь модифицирует Человек, превращая в антропологически Нового Человека? Антропологически!
Так или иначе, с инструментом поосторожнее надо.
Технику безопасности никто не отменял.
С помощью инструментов весьма легко атрофироваться.
И вся антропология.
атрофия - бездействие. как раз сейчас общество именно что атрофируется, переводя возможности достигнутого развитием цивилизации пика ресурсов в мегатонны котировок, лайков и котиков. а надо действовать, пока инфраструктуру не проели и не упали с этого пика
Чтобы действовать, надо сначала правильно оценить ситуацию.
Чего не наблюдается ни в малейшей степени.
Поэтому все телодвижения, войны, революции и прочее имет печальный финал.
вот смотрите: природа действует строго эволюционно. лишь Человек действует Революционно, решая проблему не методом подбора, а напрямую, именно что оценивая ситуацию. Т.е. Человек - это более эффективный процесс, чем живая природа. Конечно, со своими издержками, а в естественной природе нет издержек? По моему, там все жестче на порядки: друг друга живьем едят, за любую ошибку приговор один: смерть.
"Печальный финал" деятельности Человека - это когда популяция на порядки выше чисто природных аналогов по весу? И эта популяция обеспечена повышенным энергопотоком, и открыто окно возможностей его вообще до бесконечности расширить!
Вот видите, абсолютное нежелание оценивать ситуацию :).
А финал-то - тоже смерть.
Не такая уж и далекая по сравнению с динозаврами и предыдущими.
Те вон сколько продержались.
Насчет пожрать друг друга - непрерывно где-то утилизация идет, никаких отличий от других видов.
И это при наличии таких мозгов :)
а вот и нет. в том и дело, что путь Человека – это путь по преодолению смерти, и в конечном итоге этот механизм будет отключен (я говорю о смерти от старения или болезней, а не от внешних причин), при том и с внешними причинами смерти идет борьба - та же коммунальная инфраструктура - это преодоление смерти от переохлаждения и прочих внешних факторов.
никаких отличий? вы очень грубо обобщаете. в нашем обществе кровная месть уже не считается этичной, а у животных даже самой этики нет как таковой, и вдумайтесь: каждая особь каждый день пожирает живьем свою кормовую базу - живьем, лично убивает и пожирает "без соли и без лука", каждый божий день каждое живое существо на планете кроме угадайте кого? вы когда последний раз ели мясо, которое было еще живым и убито вашими же зубами и ногтями?
Эхе-хеее...
У человека не хватает ума даже на осознание необходимости защиты от социального паразитирования для выживания как вида.
А вроде давно известно, что паразит приносит ущерб на порядки больший, чем его собственное потребление.
Какой уж там "Путь Человека"...
Сколько уже было цивилизаций с исчезнувшими носителями языка?
И все накрылись, в конечном счете, именно от явления паразитирования на всех уровнях общества.
Микробы...
На хрена они ИИ нужны???
Лишь как этап его возникновения...
Бум. С чего это "уничтожение всего живого вокруг себя" - признак ума ?
Один из признаков наличия...
Бум отрицать? :)
Для чего служит ум? Чтобы вокруг убить все живое.
И потом с голоду помереть, т.к. жрать нечего.
Человечество ведет себя именно так.
Именно дохнут миллионами, и продолжают свое дело.
Это правда относительно биологических форм жизни, и бред относительно ИИ.
Это инстинкт размножения/экспансии. Откуда у ИИ будут наши животные инстинкты?
Новый интеллект, новые хотелки...
Какие они будут можно только гадать. Но переносить наши на ИИ глупо.
Ну дык и говорю - технику безопасности в обращении с инструментами никто не отменял.
А уж с самостоятельным интеллектом - тем более.
А вы кого-то сообразительнее человека встречали, чтоб судить? :)
ИИ - инструмент, который легко превращается в абсолютное оружие.
Если некто даст приказ ИИ придумать план по уничтожению какой-то территории и немедленно привести его в действие, как с этим бороться?
именно инструмент, как и все остальные инструменты - от палки до атомной бомбы, т.е. не ИИ будет решать, а Человек - это главное.
хотя, вот тут интересный момент: запуская процесс, мы можем не представлять себе результат, т.к. результат работы ИИ не детерминирован Человеком
получается, что ИИ - это инструмент Нового Человека, который должен соответствовать Новой Этике, о которой пока еще мало кто думает и рассуждает
У "Нового Человека" может быть мораль/этика ещё более стерилизованной от понятий добра/зла, чем у нынешних западных апологетов общечеловеческих ценностей. Уже сейчас там всё поставлено с ног на голову, то ли ещё будет? "Новые порядки" начали озвучивать, кто им не подчинится, тех будут методично стирать мышкой.
я думаю, что Новый Человек тем и будет качественно отличаться от просто Человека, что он преодолеет границу добра и зла (тут даже не в Западе дело), т.е. он преодолеет смерть и, видимо, "надкусит" плод "древа жизни" - собственно, научится создавать Жизнь
естестественно, что его этика будет качественно отличаться от Человеческой: представьте, что у лично Вас впереди тысяча лет, ваши ресурсы ничем не ограничены. Вот что вы лично бы делали, ваш план на ближайшую тысячу лет?
Увеличенный или бесконечный срок жизни не гарантирует качество/направление разума. Оно может быть любым. Именно поэтому человечество боится возможного визита инопланетян, чья логика не предусматривает никаких этических границ, а только высшую целесообразность. Признают нас ошибкой природы - и в расход без всяких угрызений, чтобы ещё больших глупостей не натворили. Человек, к примеру, чтобы спасти своего же, не остановится перед уничтожением низшего (муравья, дикого зверя, стада домашних животных). Так и предполагаемый божественный бессмертный разум легко направляет на смерть миллионы современных дикарей, которые им же и созданы, как герои компьютерных игр.
Человек стенает, молит бога о пощаде... но он неумолим? А чего ради исследователь должен жалеть лабораторную мышь.
я не про гарантии, а про возможности. что плохого в возможностях?
что значат человеческие "глупости" по сравнению со столкновением Галактик вместе со всем живым и разумным, что в них было? высшая целесообразность? вне Человека ее просто нет.
для инопланетян есть своя целесообразность, но зачем им допускать какую-то целесообразность выше себя?
Если привыкните решать вопросы путем убийства противника, то, когда изобретете атомную бомбу, устроите армагеддончик... Себе самому. По привычке...
Чем ты добрее, тем более убийственное оружие ты сможешь изобрести и владеть им
"Диалектика, батенька" (с)
Поэтому, инопланетяне нас уничтожать не будут.
До сих пор не уничтожили же...
Атомная бомба в руках дикаря... Как с этим бороться? А никак. Дикарь вначале уничтожит конкурирующие племена, а потом самоуничтожится.
гуглим гипотезу техно-гуманитарного баланса. Которая гласит примерно следующее:
Как только человечество (или некое отдельное соообщество) оседлает новый вид оружия (или новый вид энергии) -- то тут же появляется уравновешивающий гуманитарный фактор, в виде новой морали. если он не появляется -- то вначале уничтожаются враги, а потом и самоуничтожается тот кто применил. Ибо тормозов то нет.
Все что касается ИИ интересно. Но прежде нужно ответить на вопрос: а что такое собственно интеллект?
Концовка статьи по сути верна.
.
Я бы выделил этот Ваш комент.
Я джинн, раб этой лампы... Прикажи мне разрушить город или построить дворец, о господин!
прикольно будет, когда "естественный интеллект" превратят в "искусственный интеллект"... Обязательно превратят...
и субъектность появится
и новая антропология Нового Человека - вообще круть будет!
кстати, эти проблемы сейчас только в Западной культуре разрабатываются (фильмы о супергероях например)
если так и дальше будет продолжаться, то получается, они нас вдохновляют: там "Рембо" и "Коммандо" - у нас подобного уровня чудес операция "Крым наш", там фильм о трансформерах - мы "клаб-к", они про Терминатора - мы выкатываем "Терминатора" и "Буратино", там "Робокоп" - у нас "Гибка" и FEDOR, там снимают "Марсианина" - мы делаем атомный буксир и т.д. и т.п. Не исключено, что где нибудь в Сибирском НИИ или Уральском УрО РАН какой-нибудь "ЧП-1" (человек-паук) на подходе ;)
А, собственно, почему? Весь наш понятийный аппарат - следствие высшей нервной деятельности, которую можно эмулировать, пускай пока и примитивно. Лектор этот момент затронул.
Почему при полной эмуляции человека, ИИ не сможет получить, например, чувства самосохранения? И проводить вполне логичные мероприятия по защите розетки. Это и есть субъектность.
тут надо углубляться в вопрос, но интуитивно мне кажется, что ответ в понимании сущности явления "жизнь". Т.е. ИИ надо сначала стать "живым" (а как это и что это, мы пока сами ясно не понимаем), затем осознать смерть, а уж потом защищать розетку и то, что её питает ;)
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Почитал статью,посмотрел видео.На эмоциональном уровне захотелось вмазать этому
придурку с хвостикомузкопрофильному специалистуА так то тут большой подвох.
Мда. Хорошо, что до создания реального ИИ ещё лет 400.
Одна дурацкая фраза и всё
заезавертелось. Какой идиот сказал программистам, что кора мозга однородна?Только базовых типов цитоархитектоники - 5 и в каждой функциональной зоне они комбинируются по своему.
Не прошло и 60 лет, они с трудом смогли воссоздать аналог колонки зрительной коры обезьяны.
Вот тоже сразу подумал что принцип действия нейронов мозга они не поняли или даже не знали. Мозг все еще темная материя для самих людей.
В принципе действия отдельных нейронов нет ничего тёмного.
Другое дело, что нейронные матмодели далеки от действительности чуть более чем полностью.
Программисту лень описывать как подпороговые, так и запредельные состояния, ему легче сигмоиду воткнуть и сказать что это и есть нейрон.
А тут - цитоархитектоника. Тут надо делать всё правильно, или не делать совсем.
IBM за 12 лет своего проекта смогла смоделировать несколько таких колонок (т.е. менее 10-ти) на 20 петафлопснике, работающих в реальном времени.
В общем лет 400 у нас точно есть.
ИМХО, рано человечеству такие погремушки давать. Ещё со своими тараканами в голове не разобрались. Представьте четырёхлетного в песочнице, но с совочком с мощностью экскаватора.
Попытки сделать ИИ глупы и бесперспективны, это равно фразе: "Сделаем себе самодельного Бога и сами сделаемся равными Ему".
Западная ментальность и её богоборческая нравственность проявляется в этом, вся западная наука пропитана этим духом позитивизма.
круто, тремя стрелочками показать убийственность ИИ. АНАЛИТЕГИ АТ БОГА!
ИИ для нас еще невозможен очень долго, программные средства оч плохие, криворукие индусы дрова не могут написать нормально для радеонов
Не хватает третьей схемы:
ИИ – гений – дурак – мышь
Поясню, - ИИ становится гением, гений начинает считать себя пупом вселенной, как пуп, он начинает перекраивать вселенную под себя. Однако вселенная больше пупа и в определённый момент пуп надрывается.