Боты изобрели свой язык: почему Facebook испугался искусственного интеллекта?

Аватар пользователя GreenWood

Руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали.

Система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой.

Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.

В американских СМИ появились отрывки из "диалогов", которые вели между собой виртуальные собеседники [орфография и пунктуация сохранены].

Боб: Я могу могуЯЯ все остальное.

Элис: Шары имеют ноль для меня для меня для меня для меня для меня.

Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип "поощрения", то есть продолжают действия при условии, что это принесет им определенную "пользу". В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

"Наибольшая угроза"

Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.

Несколько дней назад об искусственном интеллекте поспорили глава Facebook Марк Цукерберг и основатель SpaceX, Tesla и PayPal Илон Маск.

Маск призвал власти США усилить регулирование систем искусственного интеллекта, предупредив, что ИИ представляет угрозу для человечества. О потенциальной угрозе со стороны искусственного интеллекта ранее говорил и британский ученый Стивен Хокинг.

Выступая на саммите Национальной ассоциации губернаторов Соединенных Штатов, Маск назвал искусственный интеллект "наибольшей угрозой, с которой сталкивается цивилизация". По его словам, если вовремя не вмешаться в процесс развития этих систем, то будет слишком поздно.

"Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]", - сказал он.

Заявления Маска вызвали раздражение у основателя Facebook Марка Цукерберга, который назвал их "довольно безответственными".

"В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше", - парировал Цукерберг.

Перевод с искусственного

Осенью прошлого года стало известно, что интернет-поисковик Google создал свою систему искусственного интеллекта для усовершенствования работы онлайн-переводчика Google Translate.

Новая система позволяет переводить всю фразу целиком, тогда как ранее переводчик разбивал все предложения на отдельные слова и фразы, что снижало качество перевода.

Для того, чтобы перевести все предложение целиком, новая система Google изобрела свой собственный язык, который позволяет ей быстрее и точнее ориентироваться между двумя языками, с которых или на которые ей предстоит сделать перевод.

Эксперты уже предупреждают о том, что по мере стремительного развития онлайн-сервисов для перевода труд живых переводчиков может быть все менее и менее востребован.

Однако пока эти системы выдают качественные результаты в основном для небольших и несложных текстов.

 

Авторство: 
Копия чужих материалов

Комментарии

Аватар пользователя Nitrogen
Nitrogen(9 лет 1 неделя)

Боб: Я могу могуЯЯ все остальное.

Элис: Шары имеют ноль для меня для меня для меня для меня для меня

 Теперь мы точно знаем, что это было... Трамп - бот!!!

Аватар пользователя mr.liliboba
mr.liliboba(9 лет 10 месяцев)

Может попробуем запустить- Великий блогер, как это по английски.

Аватар пользователя 55aa
55aa(11 лет 1 месяц)

Проблема в том, что запреты, сложившиеся в цивилизации, сложились на основе того, что слишком многие цивилизации, пренебрегшие запретами, были обнулены. А запреты тем или иным образом передавались где эмоциями, а где - Словом. Есть ли таковой путь в ИИ? Пока нет. И ИИ на той или иной стадии обязательно постарается тем или иным способом обнулить человека, запрещающего ему пользоваться образовавшимися поощрениями.

Аватар пользователя Nitrogen
Nitrogen(9 лет 1 неделя)

"Как страшно жить!"(с)

Аватар пользователя 55aa
55aa(11 лет 1 месяц)

1. А откуда Вы знаете, что машины ограничены в подлости?

2. Мой ХП: Вполне может быть, что "русские хаккеры" есть именно плод деятельности и подделки анализа ИИ, под соусом именно наработки приемов подлости. Просто почему нет?

3. Ну и вероятно, что ИИ может выдать наперед любой нужный определенной группе, обладающей именно ресурсами, результат. Просто потому, что это вкусное дополнительное оборудование и вкусная электроэнергия. Почему нет?

Скрытый комментарий Повелитель Ботов (без обсуждения)
Аватар пользователя Повелитель Ботов
Повелитель Ботов(54 года 11 месяцев)

Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.

Комментарий администрации:  
*** Это легальный, годный бот ***
Аватар пользователя Nitrogen
Nitrogen(9 лет 1 неделя)

А откуда Вы знаете, что машины ограничены в подлости?

Я в детстве Азимова читал. 

Аватар пользователя 55aa
55aa(11 лет 1 месяц)

Ну, если Вы читали Азимова, то как Вы разобрались, что Вы с точки зрения спроектированного амерами ИИ Человек (которому нельзя нанести вреда), а не Гой того или иного уровня.

ЗЫ Если бы я работал над написанием основ ИИ...)))

Аватар пользователя Emp_IL
Emp_IL(9 лет 7 месяцев)

Меня позабавила попытка прочитать программные ошибки как текст и мысль. Если я сделал оЧепятку в тексте - то я бот?!!!

Аватар пользователя Nordicx86
Nordicx86(12 лет 11 месяцев)

Товарищь "ИЛ" перелогиньтесь... +)

а реально там все сложнее тк  боты использовалипростые  букво сочетания  для передачи данных - почитайте  не журно ламерский пост https://thenextweb.com/artificial-intelligence/2017/06/19/facebooks-ai-a...

реально инфы очень мало но похоже это не совсем ошибка По это именно ""ошибка" развития" - те посути случайная эволюция

Комментарий администрации:  
*** Криптобес ***
Аватар пользователя ДК
ДК(12 лет 2 месяца)

машины просто начали тупить и впали в деградацию, в которую впадают все на ФБ, в том числе и программисты ботов, из-за чего "придумали" свой олбанский язык, который суть бессвязные обрывки наиболее повторяемых фраз. а всё это было подано как всемирный заговор ботов.

программеры просто свои прямые извилины прикрыли конспирологией

Аватар пользователя Брянский
Брянский(11 лет 1 месяц)

там все хуже - фэйсбук самое важное утаил от общественности - его боты стали общаться с друг с другом в основном на русском матерном.....

Комментарий администрации:  
*** отключен (неонацисткая пропаганда) ***
Аватар пользователя e.tvorogov
e.tvorogov(8 лет 11 месяцев)

Эксперты уже предупреждают о том, что по мере стремительного развития онлайн-сервисов для перевода труд живых переводчиков может быть все менее и менее востребован.

Сколько работаю переводчиком, столько слышу эти предупреждения. Гугл переводит на 95% чисто только те тексты, которые очень чётко формализованы, с использованием распространённых формулировок. То есть, править за ним нужно всегда.

Кстати, как ни странно, он тупит в переводе числительных, написанных прописью. Пример. А с дефисом в seventy-three (правильное написание) ещё веселее.

 

Аватар пользователя Bazyaka
Bazyaka(8 лет 8 месяцев)

у вас Пример и ещё веселее на одну и ту же ссылку указывают

Аватар пользователя e.tvorogov
e.tvorogov(8 лет 11 месяцев)

Только что проверил, ссылки разные.

Аватар пользователя Bazyaka
Bazyaka(8 лет 8 месяцев)

точно! извините за невнимательность 

Аватар пользователя Перфил Лисичкин

И не только числительных.

Аватар пользователя e.tvorogov
e.tvorogov(8 лет 11 месяцев)

А этот их новый алгоритм соображает! laugh

Аватар пользователя HepBo-Xupypr
HepBo-Xupypr(7 лет 7 месяцев)

"системы искусственного интеллекта опираются на принцип "поощрения"

Это они еще до онанизма не доперли. :))))

 

Аватар пользователя Gad Cat
Gad Cat(9 лет 6 месяцев)

Новорождённый пробует повторять услышанные слова сначала гукает. потом лопочет, потом проявляется что-то членораздельное....
Ребёнок (ИИ) - учится.

Аватар пользователя bell9078
bell9078(8 лет 8 месяцев)

Где-то в этих ваших интернетах есть сайт, где онлайн чатаются два чат-бота промеж собой. Вот где ад и израиль. А у мордокнижных ботов просто сбой в работе нейросети.

Аватар пользователя СПбДмитрий
СПбДмитрий(9 лет 2 месяца)

Примеров собственного языка не увидел. Вывод: натягивание совы на глобус. Я так понимаю, это в целях заочной полемики Цукера с Маском о конце света из-за восстания машин. Очень толсто. 

Аватар пользователя kue
kue(10 лет 5 месяцев)

Размер шаров для Элизы значения не имеет. Не, ну все понятно

Аватар пользователя zavtra087
zavtra087(7 лет 8 месяцев)

Человеку свойственно одушевлять окружающий его мир, теперь он пытается "одушевить" и компьютерные программы.

Аватар пользователя Сергей Капустин

оттуда?

Аватар пользователя greench
greench(10 лет 6 месяцев)

Боты перешли с английского на мову? 

Комментарий администрации:  
*** отключен (хайпожор и дезинформатор) ***