Если задуматься что именно формирует человека в смысле его отличия от животного, то можно прийти к неожиданным выводам.
Во-первых, хорошо известно, что человека формирует исключительно культурная среда. Есть множество примеров "маугли" которые были по тем или иным причинам вырваны из человеческой культурной среды, и в результате, даже если после определенного возраста его вернуть в среду, то мышление уже не формируется. Т.е. без культурной среды - человек пустой сосуд.
Во-вторых, вроде уже общепринято что культурная среда действует двумя путями в основном. Это речь, конструкции которой, вроде "если, то", "когда, тогда", "сегодня", "завтра", "вчера", "давно", "раньше, чем", "после чего-то" заставляют человека осваивать причинно-следственные связи, концепции времени,концепции измеримости и т.п. И второй путь это конечно непосредственные знания накопленные предыдущими поколениями, которые передаются в устной или письменной традиции.
А теперь давай задумаемся - сегодня ИИ это система, которая занимается обработкой и структурированием информации из интернета, каковая информация представляет собой все накопленные знания человечеством за всю его историю. К тому же в эту систему сразу зашита языковая модель. Т.е. сейчас ИИ уже больше чем нормальная культурная среда, формирующая человека. Вопрос только времени, когда системы смогут от простого струткурирования и выдачи в ответ на запросы перейдут к чему-то большему, к логическому расширению имеющейся в наличии информации. Этот шаг вообще не выглядит невозможным уже сегодня.