Вход на сайт

МЕДИАМЕТРИКА

Облако тегов

Проблемы морального плана от создания Искусственного Разума (ИР)

Аватар пользователя Kotyra

(в блоги)

Введение.

С прошлого и по настоящее время для решения социальных типовых задач (распределение энергии среди населений ландшафтов) были созданы бюрократические структуры под разными политическими, экономическими и идеологическими (религиозными) парадигмами.

Рассмотрим тезисы базиса создания ИР (смысла бытия вообще и человека (цивилизации) в частности, вопрос сознания и бессознательного): 

1. Выбор языка базы знаний (языка мышления) - если современный русский язык на базе современной азбуки, то его необходимо дорабатывать так как технический русский никакой, так же имеются множество двухсмысленных словоформ которые используют юридические бюрократы. Для языка пробного программирования предлагается Лисп

ознакомится с языком можно тут: http://homelisp.ru/

2. Для существенного облегчения создания ИР допустить следующее:

гипотетическое существование Лисп-машины предыдущей цивилизации;

создание Лисп-машины для следующей цивилизации (после судного дня, правда тут встает интересный вопрос о приоритете).

3. Признать начавшийся технический уклад № 6 – началом разработки ИР на Лисп-машине.

4. Признаки успешного тестирования возможности существования ИР – создание несколько тысяч Лисп-«ангелов» закрепленных за участниками проекта, создание списка стандартных биологических потребностей конкретного человека, актуализация его медицинской карты, экспертная оценка его психологического состояния (на примитивном уровне), экспертная оценка его социологического состояния на основе оценки разности его бытия (быть) и его устремлений (казаться).

5. Анализировать закладки на пути создания Лисп-машины в виде «апокалипса», «числа зверя» и др.

6. Разработать этические принципы существования ИР (его выключение/смерть в частности).

техническая часть тезисов опубликована тут: http://www.lisp.ru/forums.php?m=topics&s=7

видимо на мёртвом форуме.

Поднятая тема скорее проходит (должна проходить) по ведомству АСИ (Агентство Стратегических Инициатив), пока не определился. Во всяком случае тема широко/публично не обсуждается. А проблема следующая - сразу на любительском уровне тему не поднять, а если разрабатывать модули самообеспечения (типа зарабатывания денег) - то вывернуть с этого пути потом не удасться и получится опять в точности то, что мы сейчас видим в мире.

Фонд поддержки авторов AfterShock

Комментарии

Аватар пользователя Digit
Digit(2 года 8 месяцев)(09:51:50 / 30-04-2015)

Чуствуется рука мастера (ирония - для тех кто не понял).

Язык ЛИСП - основа ИИ. :)

Вся концепция (поверте специалисту) - просто смех.

Сама постановка вопроса - обсуждение "морального плана" того чего нет. ИИ ничем не будет отличаться от естественного (кроме носителя).

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(10:00:51 / 30-04-2015)

приписываемое человеку свойства субъекта не подтверждаются современными исследованиями мозга

Аватар пользователя meps
meps(5 лет 10 месяцев)(09:52:13 / 30-04-2015)

Шо это было? Прологу одно время прочили большое будущее в области ИИ, отнюдь не Лиспу.

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(10:03:31 / 30-04-2015)

предлагается к обсуждению лабораторные/полевые исследования в этой области к написанию собственно технического задания на ИР. Для этого можно использовать и приспособенные диалекты языков, и существующие машины на двоичной логике.

Аватар пользователя meps
meps(5 лет 10 месяцев)(11:38:18 / 30-04-2015)

В ИИ я вижу основную проблему в изначальной формализации произвольных возникающих задач. "Решить" то, что описано, это уже технический вопрос. И нет никаких нравственных проблем в решении абстракций.

Аватар пользователя Композитор
Композитор(3 года 1 неделя)(10:02:32 / 30-04-2015)

а что такое разум?

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(10:19:40 / 30-04-2015)

в плоскости человеческого сознания - нелогичная реакция (любовь, ненависть ....) на внешние "раздражители".

в других плоскостях - в рамках используемых логик (естесттвенно)

высший разум (наличие обсуждаемо) - вне понятийного аппарата допускаемого для использования на этом форуме (хи-хи).

Аватар пользователя Композитор

туманно...

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(10:35:24 / 30-04-2015)

дистанционно и формализованно не передать мои соображения т.к. они будут искажены на следущих этапах:

1. формулирование ответа

2. среда/язык передачи 

3. понятийный аппарат приёмника

так же в человека заложена программа высшего приоритета непрерывного повышения своего рейтинга как в глазах окружающих, так и его самооценку. (у нетрезвых это выражается в знаменитом вопросе об уважении). Эта программа сильно искажает восприятие человека. Если эту фичу закладывать в ИР, то какую? (человеческую или машинную?)

Аватар пользователя Композитор

но черт возьми Холмс как же можно детально расписать разум на лиспе если даже нельзя просто объяснить что такое разум на человеческом языке?!

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(11:50:35 / 30-04-2015)

я склоняюсь к мысли о не нужности копирования человеческого мышления, т.к. оно не совершенно. Во первых человеческое мышление заточено в первую очередь на обслуживание биологического тела.

(убежал на корпоратив, продолжу позднее)

Аватар пользователя Сабуро-Микими

Проблема создания настоящего ИИ не в языке, а в элементной базе. Принципы работы нервной системы очень сильно отличается принципов работы современных микропроцессоров.

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(10:38:33 / 30-04-2015)

вы пропустили важный этап формирования части тех. задания на ИР. У вас сработала закладка на исключительность человеческого мышления и на идеализированное представление нервной системы. А это надо доказать.

Аватар пользователя Сабуро-Микими

Я про человеческое мышление ничего не писал - это Ваши домыслы. Для начала бы смоделировать нервную систему таракана, например. Элементная база таракана (нейроны, синапсы и пр.) не отличается от человеческой.

Задача простая - объект должен точно моделировать поведение насекомого. Но способов решения на современной элементной базе не просматривается.

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(04:08:03 / 01-05-2015)

вы в плену мифов и информационных закладок типа тестов тюринга, смешных моделирований задач, которые никто не ставил и которые никому не нужны.

к тому же это моделирование таракана целеполагает разработку искусственного биологического разума, а мы это проходили, зачем повторять ошибки природы?

Аватар пользователя Сабуро-Микими

Вы меня всё в какой-то зашоренности пытатесь обвинить. Моделирование биологического разума пока ещё никто не проходил - возможностей не хватает. Таракан - ошибка природы? Не смешите мои тапочки. Тараканы существуют миллионы лет. Моделирование поведения насекомых имеет смысл для разработки поведения роботов, например. Японцы пытаются моделировать поведение домашних животных, но по факту получается убожество: http://pets-top.ru/threads/%D0%A1%D0%BE%D0%B1%D0%B0%D0%BA%D0%B8-%D1%80%D0%BE%D0%B1%D0%BE%D1%82%D1%8B.379/ Сравните с обычной собакой...

По сути, моделирование живых существ недалеко ушло от андроидов 18-го века: http://www.robo-homo.ru/robo-lenta/robo-art/131.html

Проблема в элементной базе.

Аватар пользователя Likn
Likn(4 года 5 месяцев)(11:03:32 / 30-04-2015)

Смелое заявление. Есть примеры, наглядно это показывающие?

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(11:09:56 / 30-04-2015)

Примеры исследований (например "100 обезьян") показывают следы наличия роевого мышления. Есть аналогичные (но мутные) исследования на человеках.

Аватар пользователя Likn
Likn(4 года 5 месяцев)(13:03:18 / 30-04-2015)

А как это связано с выбором лиспа? Почему лисп? Почему не нейронная сеть, например?

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(16:52:07 / 30-04-2015)

Липс - язык программирования на Липс - машине (их было выпущено около 7000 штук). Есть эмуляторы Липс - машины, в том числе по приведенной ссылке.

У человека есть 2 полушария, нейрокомпьютеры усиливают правое полушарие мозга, компьютеры на двоичной логике усиливают левое полушарие. 

таким образом получается, что для ИР/ИИ необходимо предусмотреть аппаратно несколько модулей/"полушариев" для реализации известных логик, и предусмотреть резерв.

По моему разумению переход от двоичной логике на, допустим, мою любимую шестнадцатеричную (как американцы например реализовали в аппаратуре АТС Алкатель в 90е годы, на прикладном и частично на аппаратном уровне) даст возможность использовать принципы самообучения нейронных сетей на Липс-машине.

Аватар пользователя Likn
Likn(4 года 5 месяцев)(20:57:50 / 30-04-2015)

нейрокомпьютеры усиливают правое полушарие мозга

Нейрокомпьютеры? Улиливают? Это как?

компьютеры на двоичной логике усиливают левое полушарие

А это как?

И да, можно ссылку на эту чудо-АТС?

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(04:33:25 / 01-05-2015)

цитаты из приведенной ссылки на компы 5го поколения (отсылка третьего уровня, т.е. в данной статье были отсылки к другим статьям, в которых  то же, и, так как отсылки имеют юридическую силу в области телекоммуникаций на федеральном законодательном уровне (я даже судился  с одной конторой по поводу СОРМа и попался на отсылках к другим статьям, а там ещё  и ещё), то что мне  тыкнули,то я покопавшись и процитировал копипастом,

из уважения я сейчас поискал и не нашел запрашиваемую статью, вечером поищу, т.к. на работу вызвали сейчас.

 Секретные коды Alcatel (1 часть). ... канала bb - уровень приема в шестнадцатиричной системе

http://www.cellguru.ru/publ/29-1-0-150

Аватар пользователя Likn
Likn(4 года 5 месяцев)(18:07:21 / 03-05-2015)

уровень приема в шестнадцатиричной системе

Нда. Спасибо, поржал. Оттого, что программерам алькателя было влом расшифровывать и они выкидывали тупо значение регистра, Вы сделали очень далеко идущий вывод.

Аватар пользователя tokomak
tokomak(5 лет 11 месяцев)(11:34:24 / 30-04-2015)

Первое - это цель, постановка задачи... всё остальное - это второе. Мне интересна задача, для коей нужен ИР.

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(17:10:41 / 30-04-2015)

В первых строках введения я упомянул об оптимизации распределения ископаемых энергий в вмещающих ландшафтах (цивилизациях) с помощью глобального учета и распределения на основе индивидуальных Липс-машин (на первом этапе).

Далее необходимо выбрать направление развития человечества:

1. увеличение численности до "бесконечности", в том числе и за счет личного пространства (вплоть до мозгов в банках).

или

2. Переход человечества на роевое мышление (это сейчас идет с помощью информационных сетей и сотовой связи) - до того же результата.

или

3. Умеьшение количества людей до х (ххххххх) особи с точки зрения безопасности (в настоящее время такая парадигма существовала до 2012 г.в РФ, например фетиш - транспортная безопасность).

или 

4. переход к продолжительному сроку дожития, в том числе с помощью генного проектирования или замены биологии тела или съема индивидуальности в долговременную память.

или

5. запасной вариант цивилизации вместо прерванной текущей.

выбирать не мне.

Аватар пользователя wt
wt(3 года 5 месяцев)(11:51:54 / 30-04-2015)

Мораль сей басни https://ru.wikipedia.org/wiki/Компьютеры_пятого_поколения

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(17:23:47 / 30-04-2015)

я процитирую морали из вашей ссылки:

ошибочный выбор языков типа Лисп и Пролог для создания базы знаний и манипулирования данными

другие хуже, новых в публичном доступе нет

низкий общий уровень технологии программирования того времени и диалоговых средств (что ярко выявилось в 1990-е годы);

прошло 25 лет

с волюнтаризмом и некомпетентностью

это связанно с отсутствием в то время постановщиков задач, как класса   

отсутствие опыта и глубинного понимания специфики задач искусственного интеллекта с надеждой на то, что авось увеличение производительности и неведомые базовые принципы системы приведут к её самоорганизации;

вроде как бы и предлагается начать с малого, но держа в голове картину целого

Аватар пользователя wt
wt(3 года 5 месяцев)(18:28:28 / 30-04-2015)

... прошло 25 лет

... это связанно с отсутствием в то время постановщиков задач, как класса

Google имеет постановщиков, программеров, деньги, желание. Возьмите

Я знаю, Ты моя награда
За годы боли и труда,
За то, что я земным отрадам
Не предавалась никогда,
За то, что я не говорила
Возлюбленному: "Ты любим".
За то, что всем я не простила,
Ты будешь ангелом моим...

переведите их Переводчиком:

I know you're my reward
During the years of pain and labor,
Because I terrestrial Joy
Do not betray never,
Because I did not say
Beloved: "You are loved."
Because all I do not forgive,
You'll be my angel ...

И обратно

Я знаю, что ты моя награда
За годы боли и труда,
Потому что я земным Радость
Не предать никогда,
Потому что я не говорю
Возлюбленный: "Ты любим".
Потому что все, что я не прощаю,
Ты будешь моим ангелом ...

Для машины смысл непостижим

Впрочем, имеете очень важное желание гармонию алгеброй поверить.

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(15:45:41 / 01-05-2015)

интуитивно вы чувствуете, что кроме кроме разума, основанного на логике (языке общения), есть разум основанный на понятиях (эмоциях). Стихи, музыка - пограничное состояние между "ними".

Физический смысл затронутой темы лежит за пределами разрешенного на этом форуме.

По существу - вы заменили постановку технической задачи переводом с мутными алгоритмами.

Попробуем вместе разобраться:

Некая Дева, декларирует послушание в жизни/работе-возлюбленной за получение посмертно некоего мальчика-ангела, видимо падшего, в вечное пользование.

Переводить такое туда-обратно видимо не следует.

Аватар пользователя Композитор

очевидно же что первый в подметки не годится второму.

а вообще мне нравится подход типа разум это и есть то что я написал на лиспе а все остальные сами дураки.

Аватар пользователя wt
wt(3 года 5 месяцев)(19:36:12 / 01-05-2015)

>есть разум основанный на понятиях (эмоциях)

не, я как раз против т.н. эмоционального интеллекта

>переводом с мутными алгоритмами

так это ж (все согласны) задача ИИ

>Переводить такое туда-обратно видимо не следует

уже и по англицки теряется смысл

Большая засада, на что обратил внимание Композитор, что всякое строгое логическое описание не будет работать. См.Тайная жизнь Хаоса (на английском с русскими субтитрами)

http://rutube.ru/video/c6c477259bc68f56e98a2d9f655a334e/

начиная с 22 минуты

Поэтому имеет смысл опираться в управлении в первую очередь на интеллекты людей, им хаос гораздо лучше известен.  

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(20:11:02 / 01-05-2015)

алгоритмы я планировал обсудить на техническом форуме, к сожалению он оказался мертвым. Вот набросок:

10. Выбрать алгоритм работы ИР на основе следующих одновременно/параллельно идущих процессов, после появления «списка» в стеке/стеках вычислений – оценка причины появления списка, анализ целеполаганий причин, оценка целей и расчет затрат ( от начала к концу и от конца к началу) и т.д. использование из базы знаний наработок по типовым запросам, запрос решения по нетиповому запросу и др.

и т.д., например приведение нетипового запроса к типовому, в том числе и с помощью перезапроса/уточнения, привлечения эксперта ...

Собствено выбор Лиспа как раз обусловлен возможности эмуляции недетермированного человеческого мышления. И проблема не в возможности реализации ИР, тут проблема почище Сахаровской с его водородной бомбой. И я вижу, что лучше пойду огород под картошку культивировать.


Аватар пользователя Композитор

это не разум а черт знает что.

откуда возьмется база знаний типовых запросов? кто выдаст решения по нетиповому запросу?

мне казалось что искусственный разум должен быть способен самостоятельно решать эти типовые для человека (и не только для него!) задачи

Аватар пользователя wt
wt(3 года 5 месяцев)(08:40:42 / 02-05-2015)

например приведение нетипового запроса к типовому, в том числе и с помощью перезапроса/уточнения, привлечения эксперта ...

запрос кажущийся машине типовым может иногда потребовать совсем не то решение, которое заложено алгоритмом. Поэтому принимать псевдо-человеческие решения (Ваш замысел) машине дадут только в сфере безопасных развлечений. Или - чернобыли повсюду. Кстати, создание систем на основе не самых лучших экспертов обеспечивает чернобыли also.

>привлечения эксперта...

Получается, см. выше, что во всех случаях. Так, что лучше заняться оптимизацией экспертов. В том числе их человеческих (например, моральных) качеств.

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(19:21:17 / 01-05-2015)

если  это не толстый сарказм, то вы  перепутали первое со вторым.

второй абзац явный сарказм, но перешедший грань в плане вашей нравственности - "мне нравитца .....", далее идет передергивание и приписывание.

Аватар пользователя Композитор

нет не перепутал. выше отписал подробнее почему твой так называемый тобой логический разум вообще никуда не годится. а вообще ты сам виноват что из тебя приходится клещами тащить даже определение разума. о чем без определения понятия можно говорить?

Аватар пользователя Kotyra
Kotyra(4 года 1 месяц)(08:11:52 / 02-05-2015)

как все просто в вашем понимании

Человеческий разум:

1. уникален

2. индивидуален

3. наилучший

и т.д.

а если нет?

а если есть некие обстоятельства?

а если есть потребность?

и методологические ошибки:

1. Определения приводят к черно-белому миру, иногда к перевернутому.

2. Подобное приобретает свойства определяемого.

3. Прошлое определяет будущее. Тут самое зубодробительное (хи-хи). 

ну и т. д. 

Поймите - создание ИР нужно начинать с создания мира для это ИР. Или пустить его в свой. С последствиями.

Аватар пользователя Композитор

как видно ты не можешь определить никакой разум. ни птичий ни овечий ни человечий ни искусственный. соответственно говорить с тобой не о чем. и ничего ты создать не сможешь.

Лидеры обсуждений

за 4 часаза суткиза неделю

Лидеры просмотров

за неделюза месяцза год

СМИ

Загрузка...