Набирает обороты гонка траты денег на искусственный интеллект

Проблема в профессиональном слэнге.
Дали витиеватые определения банальным фразам и понеслось.
Интеллект это не математика. 
Вы верно отметили - машина не умеет решать неформализованные задачи. В принципе не умеет. А пресловутый "ИИ" на данном этапе сводится, фактически, к формированию дерева решений банальным перебором

Под видом интеллекта, щирые люди, пытаются подсунуть обычную комбинаторику. Когда им щелкают по носу - они впадают в истерику.
По их рассказам все офигенно с ИИ и нейронными сетями, но напрягает мозги почему то Перельман.
Когда эту публику подтягиваешь за язык, они начинают просить денег что бы реализовать чудо для всего человечества.
Т.е. мы опять пришли к тезису - ИИ это хайп, для вымораживания денег.
Кстати ни чем не отличается от программы "Геном человека". Шмякнули 3 ярда макулатуры. Расшифровали меньше 10% генетического кода, при этом у сына "поцыента", геном уже сильно отличается.
Но как красиво звучало))))

Грааль? Не понял. Тут нет ни святых вещей, ни далёких недостижимых целей. Тут всё конкретно, как и в любой другой области инженерии.

Как выглядит абстрагирование в нейросетях? Ну, по простому - вот есть свёрточная нейросетка, которая получает на вход движущееся изображение. Первый уровень (со свёртками) выделяет контрастные границы, их загибы, второй - сочетание этих границ и признаки вроде общего цвета, уровня пёстрости и т.п., всё это раскидано по весам нейронов... но на выходе у нас нейроны, которые выделяют абстрагированый, ранее изученный, "объект".

Разные участки нейросетей выделяют объекты своих (часто специально размытых) классов, которые затем переклассифицируются следующими слоями в конкретные объекты "кошка", "человек", "дорожный знак", "машина".

Если у нас есть рекуррентная сетка (которая имеет на входах свои выходы и входы за прошлые разы), то она умеет работать со временем, и на некоторых нейронах (со снижением нейронов в слоях) получаем выделеные абстракции "движение в сторону", "увеличение", "уменьшение", "ускорение", "размытие", опять же привязанное к обекту. Все эти вещи при правильной топологии и обучении выделяются и генерируются нейронами, но мы НЕ писали особые алгоритмы, чтобы делать это.

Результаты этих классификаций - это и есть абстракции, все эти "знаки", "движение", "поворот", "человек"! - идут на входы следующим слоям, которые обучены на действия. Они помнят свои предыдущие действия, они получают на входы выделенные предыдущими нейронами и опознанные объекты, координаты, скорости и ускорения, и эти слои имеют опыт, который говорит им, что для получения наилучшего результата на этой заснеженой дороге (да, какой-то нейрон собрал и выделил этот признак по цветам, констрастности и т.п) в повороте (какие-то нейроны знают, выделили и уже помнят, что мы поворачиваем) при появлении таких объектов нужно действовать так, и так. Их так обучили.

...

Почему всё это важно и почему всё это ново в сравнении с простым написанием алгоритма в духе "если видишь знак "поворот запрещён", не поворачивай"?

Потому что в реальном мире написание такого полного алгоритма, который управлял бы машиной на уровне нынешних нейросетей, требует запредельных усилий и заняло бы миллионы человеко-лет без гарантии результата. См. историю с распознаванием голоса до применения свёрточных сетей. То есть, мы можем определить общие принципы - где чего и как получаем на входе, как это должно происходить - и дальше "высший" алгоритм принятия решений нейросетью нейросеть выучит сама на реальном (или "реальном") опыте - например, съев 1000000 минут видео с видеорегистраторов с примерами правильного и ошибочного поведения.

Машина сама выцепит верный и неверный опыт из жизни.

То, что в мире до глубокого обучения могли сделать исключительно умные и высококвалифицированные люди-программисты: им бы объяснили, как устроена вышина, затем они нарисовали бы дифуры движения, а затем они бы смотрели миллион минут видео, чтобы понять, какие бывают случаи, и как в них правильно действовать. Это нереальная, неподъёмная по масштабам задача. С нейросетью одиночка-энтузиаст может написать прогу, которая вполне путно и разумно ездит по дорогам (да, такой товарищ есть). И таких задач - миллионы.

Да, задачи всё равно требуют большого времени решения. Да, всё равно это очень сложно. Да, это "ИИ", никак не сравнимый с человеческим, и пока не дотягивающий даже до некоторых насекомых. Но он ЕСТЬ. И он может решать задачи, к которым иначе просто неподобраться - настолько они сложные и трудоёмкие. Давая на выходе часто не идеальный, но вполне годный результат.