Если искусственный интеллект недостаточно умен

Аватар пользователя AlekZ

Я приведу цитату про ИИ и оружие. Звучит она так 

"If an artificial intelligence isn’t smart enough to employ a weapon all by itself, you can’t trust it very much in battle. If the AI is smart enough to employ a weapon all by itself, you can’t trust it at all.”

"Если искусственный интеллект недостаточно умён, чтобы использовать оружие самостоятельно, вы не можете полностью доверять ему в бою. Если ИИ достаточно умён, чтобы использовать оружие самостоятельно, вам нельзя на него полагаться ни в чём.”

А в связи с недавними постами на Афтершок про вайб-кодинг и "полезность" LMM в целом, вы можете подставить вместо оружия "программирование", например так:

"Если искусственный интеллект недостаточно умён, чтобы использовать оружие создавать код самостоятельно, вы не можете полностью доверять ему в бою в создании кода. Если ИИ достаточно умён, чтобы использовать оружие писать код самостоятельно, вам нельзя ему доверять ни в чём”.

И так далее, так сказать  "отсюда и в вечность"; можно и про политиков, но мы не будем. Лучше пересмотрим короткометражку  2017 "Slaughterbots", а новости мы и так все читаем.

 

Разумеется "интеллекта" в автономном оружии не больше чем в современных пылесосах, и вероятно меньше, чем в софте камеры мобильника, однако дело не в названии или хайпе, а в нашем очень недалёком будущем и даже, возможно, настоящем.   

Авторство: 
Авторская работа / переводика
Комментарий автора: 

Цитата (на английском) принадлежит Jack Campbell, и из уже далекого 2006. Приведу здесь еще одну из той же книжки 

"Democracies and republics cannot live with indispensable men or women"

Демократии и республики несовместимы с незаменимыми мужчинами или женщинами" (yandex translate)

Эта фраза на самом деле тоже имеет отношение к энтузиазму по поводу искуственного интеллекта - и ко многому другому в нашей жизни. smile1.gif

Комментарии

Аватар пользователя joho
joho(12 лет 4 месяца)

Лукьяненко, "линия грёз"

...

- Единая Воля, - прошептал Кадар. - Ему лишь бы подраться!
     Он поднял "Довод". Полизарядник  начал  нацеливаться  на  полускрытую
деревьями фигуру.
     - Я тебя кончу, - пообещал Кадар Кею. - Я тебя, а не ты меня.
     - Да, я ошиблась, - отозвалась от окна старуха. - Кей убьет  булрати,
не тебя. А хочешь увидеть, как погибнешь ты?
     Ее тон был убедительнее слов.  Кадар  повернулся,  пытаясь  направить
полизарядник на  Генриетту.  Увы,  интеллектуальный  блок,  едва  успевший
нацелиться на Кея, его не понял. "Довод" упрямо выгнул  ствол,  отслеживая
прежнюю мишень.
     - Вот так, - заключила старуха. Что-то, сжатое в ее пальцах,  похожее
на короткий карандаш, тихо щелкнуло. Тонкая струя пламени ударила  в  лицо
Кадара.
     Он кричал - пока у  него  еще  оставалась  гортань.  Но  это  длилось
недолго.
     -  Не  должно  оружию  быть  умнее  человека,  -  задумчиво   сказала
Генриетта,  крутя  в  руках  горячий  пиропатрон  -   древний   инструмент
террор-групп Империи. - Впрочем, быть умнее его - несложно.
Аватар пользователя AlekZ
AlekZ(6 лет 7 месяцев)

👍 а вот другая перспектива

 

Аватар пользователя Maugli
Maugli(12 лет 8 месяцев)

интеллект недостаточно умён, чтобы

спор технарей и гуманитариев))) критерии "достаточности" в студию, отсюда и плясать нужно.

Если ИИ в 99,998% случаев отличает "чужой" танк от "своего" - это достаточно? А если из 100 000 выстрелов 2 прилетит по своему - это допустимый уровень потерь? Если на оба вопроса отвечаем "да" - то ИИ в бой, если "нет" то дорабатываем до нужных уровней) Все остальное - софистика...

Аватар пользователя ctrl_points
ctrl_points(10 лет 7 месяцев)

критерии "достаточности" в студию, отсюда и плясать нужно.

Критерий достаточности - наличие ответственности за свои действия. У ИИ его не будет никогда

Аватар пользователя AlekZ
AlekZ(6 лет 7 месяцев)

"достаточно" в ситуации с оружием это скорее о способности решать, когда это оружие  не использовать. И в этом "не" ИИ человеку не товарищ, и никогда не будет. Посмотрите фильм  (линк в посте) на досуге, еще раз, если уже видели. Там можно включить русские субтитры. В свёртке в моем комментарии https://aftershock.news/?q=comment/18853910#comment-18853910 кусок из Филлипа Дика "Второй Вариант" .