Вход на сайт

МЕДИАМЕТРИКА

Облако тегов

В Белом Доме напуганы возможными ошибками в системах искусственного интеллекта

Аватар пользователя EugenP

Как программист, я очень удивляюсь доверчивым пользователям. Компьютерные технологии и всякие искусственные интеллекты должны быть в помощь человеку, а не подменять его. Конечное слово должно быть за Человеком.

Лет пятнадцать назад я, объясняя потенциальным пользователям возможности программного обеспечения и ожидая от них тех.задание, спрашивал их: вот скажите у Вас телевизор умный? Кто-то говорил (чаще с улыбкой), да заслушаешься, так интересно! Или наоборот - а мой телевизор такой дурак, такой бред несет!

- Вот, - отвечал я. - Всё дело в программе, которую делает Человек. Компьютер - это просто железяка...

И новость:

Администрация Барака Обамы опубликовала доклад, в котором рассматривается проблема некачественных алгоритмов, используемых в системах автоматизированного принятия решений. Ошибки могут привести к дискриминации при найме на работу и в вузы, а также в процессе принятия решений о выдаче кредитов. 

Да такие ошибки могут привести к гораздо более ужасным последствиям. Читаем дальше:

Два события прошлой недели указывают на обеспокоенность Белого дома по поводу возможных дефектов в коде стремительно развивающихся систем искусственного интеллекта. Администрация Барака Обамы опубликовала доклад, в котором рассматривается проблема некачественных алгоритмов, используемых в системах автоматизированного принятия решений. Ошибки в таких системах могут привести к дискриминации при найме на работу и в вузы, а также в процессе принятия решений о выдаче кредитов, подчеркивается в докладе.

В связи с этим авторы доклада рекомендуют разработать официальные этические нормы для программистов подобных систем. Кроме того, они должны быть доступны для тестирования и аудита.

В рамках еще одной инициативы в Соединенных Штатах проводится серия семинаров, посвященных влиянию искусственного интеллекта на общество. Как отмечают в Федеральной комиссии по торговле США, которая стала устроителем семинаров, «системы искусственного интеллекта могут вести себя совершенно непредвиденно, притом что люди все больше полагаются на них в принятии решений и управлении техникой, в то время как сложность контроля над технологиями все возрастает». По результатам семинаров, первый из которых пройдет в конце мая в Сиэтле, правительство подготовит еще один доклад.

 

Источник ComputerWorld

 

Фонд поддержки авторов AfterShock

Комментарии

Аватар пользователя Смех
Смех(2 года 9 месяцев)(00:31:31 / 18-05-2016)

Аватар пользователя Нетак
Нетак(1 год 10 месяцев)(00:39:56 / 18-05-2016)

Компьютерный подсчет голосов показал, что на выборах победил компьютер.

Аватар пользователя жуть
жуть(1 год 9 месяцев)(00:57:46 / 18-05-2016)

Эти ошибки приведут к 3-й мировой(привет скайнету).

Аватар пользователя NewsAnalizer
NewsAnalizer(2 года 10 месяцев)(07:25:12 / 19-05-2016)

Вы путаете экспертную систему и ИИ.

Аватар пользователя NewsAnalizer
NewsAnalizer(2 года 10 месяцев)(00:59:05 / 18-05-2016)

ошибки неизбежны. У людей их больше. Главное для компьютерных систем чтобы были и исправно функционировали технологии их своевременного выявления и скорейшего устранения

Аватар пользователя joho
joho(4 года 1 месяц)(14:08:28 / 18-05-2016)

меня давно интересуют вопросы - кто будет виноват в ДТП, если одна из машин управлялась автоматической системой? Каким образом проводить ТО этой системы? Может ли она быть снята с поддержки, и можно ли будет в данном случае управлять транспортным средством? Как быть, если производитель умышленно заложил сбой в конструкцию (например, взял и убил все автомобили об стену в случае политического/военного конфликта)?

Те же вопросы по поводу "автоматического доктора"

Аватар пользователя NewsAnalizer
NewsAnalizer(2 года 10 месяцев)(07:34:47 / 19-05-2016)

а какая разница при дтп кто управлял? В любом случае разбор полетов между водителем1 и водителем2. То что один из них программа не более чем частный случай и если виновата она значит виноват производитель.

ТО - так же как и с любой компьютерной программой. Контрольная сумма.

Снятие с поддержки равносильно например запрету эксплуатировать движки евро1. Никакой разницы.

вопрос закладок абсолютно аналогичен другим компьютерным системам в критичных областях типа атомных станций и решается точно так же либо аудитом кода либо опенсорсом либо собственными разработками либо верой в то что 90% покупателей выступают в роли "неуловимого джо"

Аватар пользователя Я - Гриша
Я - Гриша(4 года 7 месяцев)(01:08:02 / 18-05-2016)

Поставить вместо Обамы и его семейки программу искуственного интеллекта. Представляете, какая экономия, особенно на бананах?

Аватар пользователя жуть
жуть(1 год 9 месяцев)(01:21:20 / 18-05-2016)

Грешно смеяться над больными людми)

Аватар пользователя Василич Вася

Да нет же, автор не зря перепечатал почти одинаковые высказывания Барака и это не спроста. 

Видимо искусственный интеллект покусился на права геев, или чего там он так рьяно зачищает. 

Аватар пользователя kue
kue(3 года 5 месяцев)(01:20:36 / 18-05-2016)

Обеспокоены они.. Сами же мутят непрерывно правила взад-вперед, как и всякая другая бюрократия, а потом удивляются: "Чо то программисты со своими поделками такие туповатые и медленные?" А у нас хуже что-ли ?  Куда ни ткни - все реформы непрерывные. С этими реформаторами только исск. интеллект и может работать, да и тот шизофреник 

Аватар пользователя Кабан
Кабан(5 лет 3 месяца)(01:32:42 / 18-05-2016)

Собственно, сам доклад. В целом, там про БигДата и гражданские права. Оттуда:

Consider the roles of the government and private sector in setting the rules of the road for how data is used.

Хочет рулить биг-датой наравне с коммерцией, а может и потеснить их оттуда вообще?.

 

Аватар пользователя Postulat
Postulat(1 год 6 месяцев)(01:53:01 / 18-05-2016)

Не того интеллекта им нужно бояться

 

 

Аватар пользователя DimVad
DimVad(4 года 1 месяц)(07:05:23 / 18-05-2016)

yes

Аватар пользователя vleo
vleo(3 года 3 месяца)(01:50:29 / 18-05-2016)

Дискриминация, это когда ТУПОГО, но этнически ПРАВИЛЬНОГО студента не принимают в ВУЗ? Я правильно понял пиндосское определение ОШИБКИ? Ошибка, это когда принимают рациональные решения? Тогда да, искусственный интеллект Пиндостану не подходит, ибо ВРАНЬЕ и ЛОЖЬ - это основа государственности США. Собственно, еще давным давно в фильме Кларка/Кубрика "Космическая одиссея 2001 г" все это описано в деталях.

Аватар пользователя Cheburah
Cheburah(5 лет 3 месяца)(02:05:41 / 18-05-2016)

Скайнет обязательно появится. И он реально захочет гробануть это сборище идиотов на капитолийском холме. Как посмотрит, какую хрень они задвигают и какую хрень требуют от программ...

Аватар пользователя Артезианский А.И.

Придурки делают боевых роботов, доверяют им выбор цели...

Все пропало...

angry

Аватар пользователя ExMuser
ExMuser(4 года 5 месяцев)(04:54:52 / 18-05-2016)

Я слабо отличаю принятые решения биологическими решалами от искусственных. Результат в любом случае - ПТН ПНХ. К ванге не ходи.

Аватар пользователя Mad_Scientist
Mad_Scientist(3 года 10 месяцев)(04:56:37 / 18-05-2016)

Всё дело в программе, которую делает Человек. Компьютер - это просто железяка...

Пока дело будет обстоять так нам нечего боятся, кроме идиотов за пультом управления. А когда компьютеры разовьются настолько что начнут программировать сами себя, при этом свободно изменяя базовые парадигмы, которые заложены в них создателями, включая три закона робототехники, то тогда жди беды. Потому-что такие компьютеры будут многократно совершенней человеческого разума, со своими непознаваемыми потребностями и желаниями. И даже если они не захотят избавиться от нас, то просто запрут в заповеднике, как редкий вид, чтобы мы не мешали им заниматься их делами.

Аватар пользователя Красный Иван
Красный Иван(2 года 10 месяцев)(05:04:52 / 18-05-2016)

"У программы есть только две ошибки- ее разработчик и ее пользователь"

Аватар пользователя Fanatic
Fanatic(3 года 8 месяцев)(05:35:56 / 18-05-2016)

Как специалист по ИНС скажу, что пакеты типа FANN надо выкинуть. Они быстрые, но возможность обучаться на лету - это зло. Есть другие правильные пакеты, которые пусть немного дольше обучаются, но намного более качественно верифицируемы и с ними всё понятно.

Юзать надо безызвестный AlgLib, а не гнаться за backpropagation во всех его реинкарнациях. И будет всё супер.

Аватар пользователя vleo
vleo(3 года 3 месяца)(08:26:28 / 18-05-2016)

Ну это все от задач зависит. Прием в ВУЗы отдавать на откуп нейронным сетям - странновато.

А так-то зло в политико-экономической системе США - где царствует культ насилия и индивидуализма, как официальная идеология. Понятно, что в такой античеловечной общественной среде искусственный интеллект тоже будет тяготеть к деятельности в духе SkyNet-а :-)

p.s. Спасибо за наводки на программные пакеты по теме

Аватар пользователя Мансур

Тоталитарный режим Америки потерял не только свой интеллект, он душу свою потерял. Продал душу свою сатане. Тут есть от чего испугаться. Градус  невменяемости зашкаливает. Наркобаронесса  Клинтониха рвется к власти вместе с ведьмой Олбрайт, пидор возглавил Сухопутные войска США, похоже теперь, даже руководители мирового терроризма входят в администрации американского Президента и меняются вместе с ними.США недавно объявили миру о том, что на смену ДАИШ идет новая Аль-Каида во главе с сыном Бин Ладена, которого, якобы, не добили в той псевдооперации в Пакистане. Ну, никакой фантазии. Похоже искусственный интеллект действительно забарахлил.Страшно.  

_____________________________

Я спокоен в смертельном бою

Аватар пользователя 55aa
55aa(4 года 4 недели)(07:22:04 / 18-05-2016)

А может все проще? Боятся непредвиденных ошибок в системах торговли бумажками?

Аватар пользователя Василий Петрович

Или объективных действий боятся

Аватар пользователя mentat
mentat(5 лет 11 месяцев)(07:22:33 / 18-05-2016)

Программисту стоит ознакомиться с работой нейросетей, которые сейчас используются при скоринге и системах принятия решений. Опасения абсолютно оправданы. Нейросети дают неточный результат.

Аватар пользователя maxvlad
maxvlad(5 лет 10 месяцев)(07:59:25 / 18-05-2016)

Не врубаюсь - а программисты-то причём? Базу знаний не программисты набивают. Я так представляю, что в лучшем случае можно в коде увеличить-уменьшить значимость тех или иных фактов - и то это извращение, поскольку это пользовательская опция и потому должна быть реализована через стандартный интерфейс.

Аватар пользователя mentat
mentat(5 лет 11 месяцев)(08:12:33 / 18-05-2016)

Нейросети не дают 100% достоверный результат. 95%-99% где то так. От программиста тут уже ничего не зависит - алгоритмы стандартны, какой локальный минимум сетка обучится - неподконтрольно

Аватар пользователя bron147
bron147(5 лет 10 месяцев)(08:52:20 / 18-05-2016)

Вы таки не поверите - человеческий мозг тоже не дает 100% результат. Мало того, наука до сих пор понятия не имеет (по крайней мере на сегодняшний день) как работает сознание человека, я уж молчу про подсознание.

Так что все мечты об ИИ, который создаст человек - это утопия.

Нельзя создать то о чем не имеешь ни малейшего понятия. Ни на нейросетях, ни на каких либо плазменных нано частицах, ни еще на чем-нибудь. 

Экспертные системы, которые помогают в принятии решения и которые построены на огромном опыте принятия решений в той или иной предметной области и базах знаний - да, создать можно и они создаются (компьютерные игры, симуляторы, системы управления теми или иными объектами, просто экспертные системы и т.д.). ИИ - нет.

 

Аватар пользователя maxvlad
maxvlad(5 лет 10 месяцев)(10:38:18 / 18-05-2016)

Насколько я понимаю, речь про ИИ ведут журналисты и деляги от науки. Сами по себе нейронные сети - штука годная. Как способ организации параллельной работы вычислительных систем с некоторым кругом задач. Типа, имитатор муравья или пчелы. Другое дело, что как-то стрёмно модели муравья поручать выбор целей для беспилотника.

Аватар пользователя Argus
Argus(1 год 8 месяцев)(12:40:21 / 18-05-2016)

А что такое ИИ? Самообучающиеся? Уже есть. Сам ставящий себе цели? Не проблема.

Как работает мозг - известно весьма  немало. Подсознание - тоже, другое дело, что в массе об этом не рассказывают, как по политическим, так и по спецслужбовым причинам.  

Всё остальное - вопрос только масштабируемости. В шахматы уже обыгрывают. Чат-боты неотличимы. 

 

Аватар пользователя Liker
Liker(1 год 12 месяцев)(08:00:56 / 18-05-2016)

Докладе нет того, что присутствует в названии данной статьи. Они не напуганы они видят в биг дата большие возможности и предлагают повнимательнее присмотреться к возможностям биг дата в деле борьбы за "общечеловеческие" ценности.

Аватар пользователя mentat
mentat(5 лет 11 месяцев)(08:15:39 / 18-05-2016)

Логично. Данных сейчас на порядки больше, чем их обрабатывается. Копать и копать. Только перед этим их надо в один датацентр как то запихнуть, а это уже тяжело

Аватар пользователя koyot
koyot(2 года 10 месяцев)(15:24:46 / 18-05-2016)

Давно еще Стругацкие говорили:

– Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое… И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой – хотите верьте, хотите нет.

– А в чем, собственно, дело? – спросил Банин.

– Она начала в е с т и с е б я,– сказал Горбовский.

– Не понимаю.

– И я не понимаю, но ее едва успели выключить.

– А кто-нибудь понимает?

– Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: «Леонид, это было страшно».

Лидеры обсуждений

за 4 часаза суткиза неделю

Лидеры просмотров

за неделюза месяцза год

СМИ

Загрузка...