Вход на сайт

МЕДИАМЕТРИКА

Облако тегов

АШ-YouTube

В Белом Доме напуганы возможными ошибками в системах искусственного интеллекта

Аватар пользователя EugenP

Как программист, я очень удивляюсь доверчивым пользователям. Компьютерные технологии и всякие искусственные интеллекты должны быть в помощь человеку, а не подменять его. Конечное слово должно быть за Человеком.

Лет пятнадцать назад я, объясняя потенциальным пользователям возможности программного обеспечения и ожидая от них тех.задание, спрашивал их: вот скажите у Вас телевизор умный? Кто-то говорил (чаще с улыбкой), да заслушаешься, так интересно! Или наоборот - а мой телевизор такой дурак, такой бред несет!

- Вот, - отвечал я. - Всё дело в программе, которую делает Человек. Компьютер - это просто железяка...

И новость:

Администрация Барака Обамы опубликовала доклад, в котором рассматривается проблема некачественных алгоритмов, используемых в системах автоматизированного принятия решений. Ошибки могут привести к дискриминации при найме на работу и в вузы, а также в процессе принятия решений о выдаче кредитов. 

Да такие ошибки могут привести к гораздо более ужасным последствиям. Читаем дальше:

Два события прошлой недели указывают на обеспокоенность Белого дома по поводу возможных дефектов в коде стремительно развивающихся систем искусственного интеллекта. Администрация Барака Обамы опубликовала доклад, в котором рассматривается проблема некачественных алгоритмов, используемых в системах автоматизированного принятия решений. Ошибки в таких системах могут привести к дискриминации при найме на работу и в вузы, а также в процессе принятия решений о выдаче кредитов, подчеркивается в докладе.

В связи с этим авторы доклада рекомендуют разработать официальные этические нормы для программистов подобных систем. Кроме того, они должны быть доступны для тестирования и аудита.

В рамках еще одной инициативы в Соединенных Штатах проводится серия семинаров, посвященных влиянию искусственного интеллекта на общество. Как отмечают в Федеральной комиссии по торговле США, которая стала устроителем семинаров, «системы искусственного интеллекта могут вести себя совершенно непредвиденно, притом что люди все больше полагаются на них в принятии решений и управлении техникой, в то время как сложность контроля над технологиями все возрастает». По результатам семинаров, первый из которых пройдет в конце мая в Сиэтле, правительство подготовит еще один доклад.

 

Источник ComputerWorld

 

Фонд поддержки авторов AfterShock

Комментарии

Аватар пользователя Смех
Смех(3 года 3 месяца)(00:31:31 / 18-05-2016)

Аватар пользователя Нетак
Нетак(2 года 4 месяца)(00:39:56 / 18-05-2016)

Компьютерный подсчет голосов показал, что на выборах победил компьютер.

Аватар пользователя жуть
жуть(2 года 3 месяца)(00:57:46 / 18-05-2016)

Эти ошибки приведут к 3-й мировой(привет скайнету).

Аватар пользователя NewsAnalizer
NewsAnalizer(3 года 4 месяца)(07:25:12 / 19-05-2016)

Вы путаете экспертную систему и ИИ.

Аватар пользователя NewsAnalizer
NewsAnalizer(3 года 4 месяца)(00:59:05 / 18-05-2016)

ошибки неизбежны. У людей их больше. Главное для компьютерных систем чтобы были и исправно функционировали технологии их своевременного выявления и скорейшего устранения

Аватар пользователя joho
joho(4 года 7 месяцев)(14:08:28 / 18-05-2016)

меня давно интересуют вопросы - кто будет виноват в ДТП, если одна из машин управлялась автоматической системой? Каким образом проводить ТО этой системы? Может ли она быть снята с поддержки, и можно ли будет в данном случае управлять транспортным средством? Как быть, если производитель умышленно заложил сбой в конструкцию (например, взял и убил все автомобили об стену в случае политического/военного конфликта)?

Те же вопросы по поводу "автоматического доктора"

Аватар пользователя NewsAnalizer
NewsAnalizer(3 года 4 месяца)(07:34:47 / 19-05-2016)

а какая разница при дтп кто управлял? В любом случае разбор полетов между водителем1 и водителем2. То что один из них программа не более чем частный случай и если виновата она значит виноват производитель.

ТО - так же как и с любой компьютерной программой. Контрольная сумма.

Снятие с поддержки равносильно например запрету эксплуатировать движки евро1. Никакой разницы.

вопрос закладок абсолютно аналогичен другим компьютерным системам в критичных областях типа атомных станций и решается точно так же либо аудитом кода либо опенсорсом либо собственными разработками либо верой в то что 90% покупателей выступают в роли "неуловимого джо"

Аватар пользователя Я - Гриша
Я - Гриша(5 лет 2 месяца)(01:08:02 / 18-05-2016)

Поставить вместо Обамы и его семейки программу искуственного интеллекта. Представляете, какая экономия, особенно на бананах?

Аватар пользователя жуть
жуть(2 года 3 месяца)(01:21:20 / 18-05-2016)

Грешно смеяться над больными людми)

Аватар пользователя Василич Вася

Да нет же, автор не зря перепечатал почти одинаковые высказывания Барака и это не спроста. 

Видимо искусственный интеллект покусился на права геев, или чего там он так рьяно зачищает. 

Аватар пользователя kue
kue(3 года 11 месяцев)(01:20:36 / 18-05-2016)

Обеспокоены они.. Сами же мутят непрерывно правила взад-вперед, как и всякая другая бюрократия, а потом удивляются: "Чо то программисты со своими поделками такие туповатые и медленные?" А у нас хуже что-ли ?  Куда ни ткни - все реформы непрерывные. С этими реформаторами только исск. интеллект и может работать, да и тот шизофреник 

Аватар пользователя Кабан
Кабан(5 лет 9 месяцев)(01:32:42 / 18-05-2016)

Собственно, сам доклад. В целом, там про БигДата и гражданские права. Оттуда:

Consider the roles of the government and private sector in setting the rules of the road for how data is used.

Хочет рулить биг-датой наравне с коммерцией, а может и потеснить их оттуда вообще?.

 

Аватар пользователя Postulat
Postulat(2 года 1 месяц)(01:53:01 / 18-05-2016)

Не того интеллекта им нужно бояться

 

 

Аватар пользователя DimVad
DimVad(4 года 8 месяцев)(07:05:23 / 18-05-2016)

yes

Аватар пользователя vleo
vleo(3 года 9 месяцев)(01:50:29 / 18-05-2016)

Дискриминация, это когда ТУПОГО, но этнически ПРАВИЛЬНОГО студента не принимают в ВУЗ? Я правильно понял пиндосское определение ОШИБКИ? Ошибка, это когда принимают рациональные решения? Тогда да, искусственный интеллект Пиндостану не подходит, ибо ВРАНЬЕ и ЛОЖЬ - это основа государственности США. Собственно, еще давным давно в фильме Кларка/Кубрика "Космическая одиссея 2001 г" все это описано в деталях.

Аватар пользователя Cheburah
Cheburah(5 лет 9 месяцев)(02:05:41 / 18-05-2016)

Скайнет обязательно появится. И он реально захочет гробануть это сборище идиотов на капитолийском холме. Как посмотрит, какую хрень они задвигают и какую хрень требуют от программ...

Аватар пользователя Артезианский А.И.

Придурки делают боевых роботов, доверяют им выбор цели...

Все пропало...

angry

Аватар пользователя ExMuser
ExMuser(5 лет 3 дня)(04:54:52 / 18-05-2016)

Я слабо отличаю принятые решения биологическими решалами от искусственных. Результат в любом случае - ПТН ПНХ. К ванге не ходи.

Аватар пользователя Mad_Scientist
Mad_Scientist(4 года 4 месяца)(04:56:37 / 18-05-2016)

Всё дело в программе, которую делает Человек. Компьютер - это просто железяка...

Пока дело будет обстоять так нам нечего боятся, кроме идиотов за пультом управления. А когда компьютеры разовьются настолько что начнут программировать сами себя, при этом свободно изменяя базовые парадигмы, которые заложены в них создателями, включая три закона робототехники, то тогда жди беды. Потому-что такие компьютеры будут многократно совершенней человеческого разума, со своими непознаваемыми потребностями и желаниями. И даже если они не захотят избавиться от нас, то просто запрут в заповеднике, как редкий вид, чтобы мы не мешали им заниматься их делами.

Аватар пользователя Красный Иван
Красный Иван(3 года 5 месяцев)(05:04:52 / 18-05-2016)

"У программы есть только две ошибки- ее разработчик и ее пользователь"

Аватар пользователя Fanatic
Fanatic(4 года 2 месяца)(05:35:56 / 18-05-2016)

Как специалист по ИНС скажу, что пакеты типа FANN надо выкинуть. Они быстрые, но возможность обучаться на лету - это зло. Есть другие правильные пакеты, которые пусть немного дольше обучаются, но намного более качественно верифицируемы и с ними всё понятно.

Юзать надо безызвестный AlgLib, а не гнаться за backpropagation во всех его реинкарнациях. И будет всё супер.

Комментарий администрации:  
*** Уличен в предвыборной дезинформации ***
Аватар пользователя vleo
vleo(3 года 9 месяцев)(08:26:28 / 18-05-2016)

Ну это все от задач зависит. Прием в ВУЗы отдавать на откуп нейронным сетям - странновато.

А так-то зло в политико-экономической системе США - где царствует культ насилия и индивидуализма, как официальная идеология. Понятно, что в такой античеловечной общественной среде искусственный интеллект тоже будет тяготеть к деятельности в духе SkyNet-а :-)

p.s. Спасибо за наводки на программные пакеты по теме

Аватар пользователя Мансур
Мансур(3 года 6 месяцев)(06:47:05 / 18-05-2016)

Тоталитарный режим Америки потерял не только свой интеллект, он душу свою потерял. Продал душу свою сатане. Тут есть от чего испугаться. Градус  невменяемости зашкаливает. Наркобаронесса  Клинтониха рвется к власти вместе с ведьмой Олбрайт, пидор возглавил Сухопутные войска США, похоже теперь, даже руководители мирового терроризма входят в администрации американского Президента и меняются вместе с ними.США недавно объявили миру о том, что на смену ДАИШ идет новая Аль-Каида во главе с сыном Бин Ладена, которого, якобы, не добили в той псевдооперации в Пакистане. Ну, никакой фантазии. Похоже искусственный интеллект действительно забарахлил.Страшно.  

_____________________________

Я спокоен в смертельном бою

Аватар пользователя 55aa
55aa(4 года 7 месяцев)(07:22:04 / 18-05-2016)

А может все проще? Боятся непредвиденных ошибок в системах торговли бумажками?

Аватар пользователя Василий Петрович

Или объективных действий боятся

Аватар пользователя mentat
mentat(6 лет 5 месяцев)(07:22:33 / 18-05-2016)

Программисту стоит ознакомиться с работой нейросетей, которые сейчас используются при скоринге и системах принятия решений. Опасения абсолютно оправданы. Нейросети дают неточный результат.

Аватар пользователя maxvlad
maxvlad(6 лет 4 месяца)(07:59:25 / 18-05-2016)

Не врубаюсь - а программисты-то причём? Базу знаний не программисты набивают. Я так представляю, что в лучшем случае можно в коде увеличить-уменьшить значимость тех или иных фактов - и то это извращение, поскольку это пользовательская опция и потому должна быть реализована через стандартный интерфейс.

Аватар пользователя mentat
mentat(6 лет 5 месяцев)(08:12:33 / 18-05-2016)

Нейросети не дают 100% достоверный результат. 95%-99% где то так. От программиста тут уже ничего не зависит - алгоритмы стандартны, какой локальный минимум сетка обучится - неподконтрольно

Аватар пользователя bron147
bron147(6 лет 4 месяца)(08:52:20 / 18-05-2016)

Вы таки не поверите - человеческий мозг тоже не дает 100% результат. Мало того, наука до сих пор понятия не имеет (по крайней мере на сегодняшний день) как работает сознание человека, я уж молчу про подсознание.

Так что все мечты об ИИ, который создаст человек - это утопия.

Нельзя создать то о чем не имеешь ни малейшего понятия. Ни на нейросетях, ни на каких либо плазменных нано частицах, ни еще на чем-нибудь. 

Экспертные системы, которые помогают в принятии решения и которые построены на огромном опыте принятия решений в той или иной предметной области и базах знаний - да, создать можно и они создаются (компьютерные игры, симуляторы, системы управления теми или иными объектами, просто экспертные системы и т.д.). ИИ - нет.

 

Аватар пользователя maxvlad
maxvlad(6 лет 4 месяца)(10:38:18 / 18-05-2016)

Насколько я понимаю, речь про ИИ ведут журналисты и деляги от науки. Сами по себе нейронные сети - штука годная. Как способ организации параллельной работы вычислительных систем с некоторым кругом задач. Типа, имитатор муравья или пчелы. Другое дело, что как-то стрёмно модели муравья поручать выбор целей для беспилотника.

Аватар пользователя Argus
Argus(2 года 3 месяца)(12:40:21 / 18-05-2016)

А что такое ИИ? Самообучающиеся? Уже есть. Сам ставящий себе цели? Не проблема.

Как работает мозг - известно весьма  немало. Подсознание - тоже, другое дело, что в массе об этом не рассказывают, как по политическим, так и по спецслужбовым причинам.  

Всё остальное - вопрос только масштабируемости. В шахматы уже обыгрывают. Чат-боты неотличимы. 

 

Аватар пользователя Liker
Liker(2 года 6 месяцев)(08:00:56 / 18-05-2016)

Докладе нет того, что присутствует в названии данной статьи. Они не напуганы они видят в биг дата большие возможности и предлагают повнимательнее присмотреться к возможностям биг дата в деле борьбы за "общечеловеческие" ценности.

Аватар пользователя mentat
mentat(6 лет 5 месяцев)(08:15:39 / 18-05-2016)

Логично. Данных сейчас на порядки больше, чем их обрабатывается. Копать и копать. Только перед этим их надо в один датацентр как то запихнуть, а это уже тяжело

Аватар пользователя koyot
koyot(3 года 4 месяца)(15:24:46 / 18-05-2016)

Давно еще Стругацкие говорили:

– Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое… И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой – хотите верьте, хотите нет.

– А в чем, собственно, дело? – спросил Банин.

– Она начала в е с т и с е б я,– сказал Горбовский.

– Не понимаю.

– И я не понимаю, но ее едва успели выключить.

– А кто-нибудь понимает?

– Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: «Леонид, это было страшно».

Лидеры обсуждений

за 4 часаза суткиза неделю

Лидеры просмотров

за неделюза месяцза год

СМИ

Загрузка...