Я приведу цитату про ИИ и оружие. Звучит она так
"If an artificial intelligence isn’t smart enough to employ a weapon all by itself, you can’t trust it very much in battle. If the AI is smart enough to employ a weapon all by itself, you can’t trust it at all.”
"Если искусственный интеллект недостаточно умён, чтобы использовать оружие самостоятельно, вы не можете полностью доверять ему в бою. Если ИИ достаточно умён, чтобы использовать оружие самостоятельно, вам нельзя на него полагаться ни в чём.”
А в связи с недавними постами на Афтершок про вайб-кодинг и "полезность" LMM в целом, вы можете подставить вместо оружия "программирование", например так:
"Если искусственный интеллект недостаточно умён, чтобы
использовать оружиесоздавать код самостоятельно, вы не можете полностью доверять емув боюв создании кода. Если ИИ достаточно умён, чтобыиспользовать оружиеписать код самостоятельно, вам нельзя ему доверять ни в чём”.
И так далее, так сказать "отсюда и в вечность"; можно и про политиков, но мы не будем. Лучше пересмотрим короткометражку 2017 "Slaughterbots", а новости мы и так все читаем.
Разумеется "интеллекта" в автономном оружии не больше чем в современных пылесосах, и вероятно меньше, чем в софте камеры мобильника, однако дело не в названии или хайпе, а в нашем очень недалёком будущем и даже, возможно, настоящем.


Комментарии
Лукьяненко, "линия грёз"
👍 а вот другая перспектива
спор технарей и гуманитариев))) критерии "достаточности" в студию, отсюда и плясать нужно.
Если ИИ в 99,998% случаев отличает "чужой" танк от "своего" - это достаточно? А если из 100 000 выстрелов 2 прилетит по своему - это допустимый уровень потерь? Если на оба вопроса отвечаем "да" - то ИИ в бой, если "нет" то дорабатываем до нужных уровней) Все остальное - софистика...
Критерий достаточности - наличие ответственности за свои действия. У ИИ его не будет никогда
"достаточно" в ситуации с оружием это скорее о способности решать, когда это оружие не использовать. И в этом "не" ИИ человеку не товарищ, и никогда не будет. Посмотрите фильм (линк в посте) на досуге, еще раз, если уже видели. Там можно включить русские субтитры. В свёртке в моем комментарии https://aftershock.news/?q=comment/18853910#comment-18853910 кусок из Филлипа Дика "Второй Вариант" .