Примерно пять лет назад была написана заметка о том, чем конкретно заняты сейчас "ИИшники" и чего от них ожидать. И о том, чего пока не ожидать совсем.
Прошло пять лет, и вот - с выходом очередного продукта - снова вижу повторения тех же бессмысленных споров и большого числа (дурацких, честно) выкриков с галёрки и крайне водянистых статей.
Судари, ни ChatGPT, ни прикручивание его к поиску "Бинг", ни исходная модель от OpenAI не являются "полноценным" ИИ в смысле полного уподобления человеку. Их создатели и близко не ставили это целью. Эти нейросети опять являются типичными представителями "слабого ИИ" и решают конкретную задачу - а именно: задачу генерации текста на основе корпуса текстов, использованного при обучении.
Нужно очень чётко понимать, что никаким разумом (или его подобием) в подобной генеративной сеи и не пахнет, принцип её работы в том, чтобы по очереди выставлять последовательность из слов, каждый раз выставляя слово наиболее вероятное, с учётом ранее выставленных и полученных в качестве запроса. У таких систем не просто нет эмоций, рефлексии, самоосознания, мысли, творческих идей, их там и не может быть просто по самой задумке, по постановке вопроса и по архитектуре. Представьте себе, что вы можете более-менее полноценно говорить со справочником (в качестве которого выступает массив текстов, включая художественные книги, новости, Википедия и энциклопедии, справочники, учебники и т.п.). Вот это оно и есть.
Применительно к таким системам (сейчас и на обозримое будущее в 5-10 лет) бессмысленно применять выражения типа "законы робототехники" или пугаться порабощающего всех ИИ. Нет никакого смысла говорить об этике. Нет никакого смысла спрашивать ЧатГПТ или Бинг о планах на порабощение мира, плакать над его "криками души" или удивляться тому, что он пишет любовные сообщения пользователю. Просто набор реплик пользователя и ответы до этого плюс прочитанные тексты сделали наиболее вероятным именно этот набор слов. Если модель была обучена на текстах, включающих любовные признания, нет ничего странного, что некоторые комбинации реплик приведут к тому, что модель "признается в любви" и будет "добиваться взаимности" - да, сейчас семантические сети достаточно сложные, чтобы взять из текстов и использовать последовательность действий и очень общие концепции. Это не интеллект. У него нет самополагания, нет и "его" самого, поскольку это просто выжимка из всех связей между словами в текстах.
И если Вам лично кажется, это и есть интеллект, у меня для Вас очень плохие новости про Вас самих и свойства Вашего интеллектак. :)
Не нужно переоценивать способность составлять сложные тексты или рисовать картинки по описанию, как и способность играть в шахматы чуть ранее. Это лишь шаг вперёд на очень длинном пути.
Но.
Нельзя (ни в коем случае нельзя!) и с обратной стороны откидывать это достижение как незначимое или преуменьшать роль идущей на наших глазах НТР.
То, что сейчас происходит - развитие т.н. "слабых ИИ", нейросетей (и других систем), решающих частные задачи, ранее нерешаемых в разумные бюджеты и/или за разумное время. ЧатГПТ выкинет с рынка недописателей-копирайтеров, нейросети-"художники" - часть художников-оформителей, автоводители - живых водителей, и этот процесс будет продолжаться, тот, кто отстанет или вовсе откажется участвовать в этой гонке - законсервирует технологическую отсталость и будет просто сметён технологически продвинутыми соседями-конкурентами. Вполне возможно, что и чисто военным путём: лет через 30 будет бессмысленно спрашивать "сколько человек у противника?", вопрос будет звучать "сколько и каких роботов задействовано?".
Часто можно видеть вопросы от недалёких людей навроде "робот нашёл и переставил коробку - ну и что? Так и раньше можно было сделать, и вообще, та же задача решается конвеерной лентой и фотоэлементами".
Нет, принципиальная разница между тем, что делается на этом витке НТР с тем, что делалось на предыдущем - в высокой адаптивности систем. Грубо говоря, в случае с теми ящиками, лет 20 назад человек (или несколько человек) должен был придти на тот склад, обговорить типичные работы со складовщиками, составить ТЗ, должны были привезти конвеер и манипуляторы, несколько человек написать софт, обучить ему складовщиков.
В новом мире это выглядит так: покупается на склад робот, ему говорят "красные ящики налево, синие - направо, у остальных - читать индекс и расставлять в стопки до окончания, давай, поехал - от меня и до обеда". Одна нейросеть распознаёт голос, вторая - семантику задания, машинное зрение находит ящики, читает индексы, сеть заставляет робота кататься по складу и сортировать.
Вы считаете, что это невозможно? "Поговорите" с ChatGPT. Вы считаете, что это требует человеческого интеллекта? Что же, опять же - "поговорите" с ChatGPT.
Модель которого, кстати, имеет всего около 175 миллиардов параметров и требует для работы в прямом режиме (без обучения) всего несколько ГФлоп. В телефоне большинства из вас сейчас может прям сча поместиться и работать такой чат-советник (изначально было "миллионов", как оказалось, изначальное заявление ChatGPT о самом себе было ложным, сейчас он говорит другое, исправляю - Simurg :)).
И подобных прикладных применений - не счесть. Комбайны, которые косят траву, тракторы, которые её отвозят, автогрузчики, которые сегодня перегружают сено, а завтра - вилами перегребают навоз, робокурьеры, доставляющие пиццу, робосистемы, которые её пекут. Автомашины, которые возят грузы, автосекретари, которые вполне вменяемо сортируют почту, поисковые системы составляющие личную подборку новостей - что-то из этого уже есть, что-то будет, но это мир, в котором человек избавлен от бОльшей части труда прошлых лет. Страны, в которых для сортировки посылок или покраски стен нужны люди, отстанут по производительности труда и по экономике даже не на десятки лет, они отстанут навсегда. И будут просто сметены, в лучшем случае на дикие обочины прогресса в пучину черного и бессмысленного низкооплачиваемого труда... ну а в худшем - в великое Ничто, уничтожены (последние 30 лет и прямо сейчас можно видеть, как это бывает).
Чем будут заняты люди? Тем, что не могут сделать роботы.
Каждому человеку стОит подумать о себе и о своих детях - как он видит в этом мире себя и своих детей, какие профессии стОит выбрать и каким делом заняться.
Ну а принимающим решения, на уровне бизнеса или на уровне страны - подумать, как получить преимущества, используя новые возможности прямо сейчас.
...
Да, пока применению "слабого ИИ" есть серьёзные препятствия:
- новость темы и недостаточно разработанные прикладные модели для более конкретных случаев (где метаобучение дорого или невозможно);
- недостаток спецов;
- катастрофический недостаток или дороговизна исполнительных механизмов, да и прочих средств взаимодействия с реальным миром(ну, типична ситуация, когда один "тупой", без всякого софта и зрения манипулятор стОит как зарплата рабочего за 3 года; один набор лидаров для автопилота может стОит дороже пилотируемой им автомашины);
- дороговизна вычислительных средств и сложность их установки (энергопотребление и прочее).
В том числе поэтому ИИ начинает своё распространение с точек далёких от реального физического производства, с около-информационных сфер, таких, как рисование иллюстраций к тексту. Но это не означает, что так будет всегда, проблемы решаются, и будут решены. И - специально для фанатов концпепции "тёмных эр постиндастрала" - повсеместное примение дешёвых слабых ИИ - это то, что переводит цивилизацию на новый уровень (в том числе, новый уровень и физического производства).
Не сразу, нет. Пройдёт ещё 15, 20, 40 лет... но будущее придёт, и это не такие уж и долгие сроки. Что-то (как уборка улиц или рисование картинок) появится раньше, что-то (вот как уборка по дому) появится только через 30-50 лет. Но всё это будет.
Пять лет назад смеялись над возможностью сделать чат-бот, который "понимает" речь и выдаёт осмысленные ответы примерно на уровне человека (хотя простые модели уже были доступны и вовсю шла работы над нынешними версиями). Сейчас это уже не смешно, а очевидно всем, а не некоторым.
Лучше быть некоторыми, будущее - повод не для насмешек, а для работы.
Комментарии
Главное, чтоб продавцов живых в магазине и в интернет-шопах мог заменить, а уж как назвать - дело десятое.
Ато корми этих дармоедов, панимаш..
В интернет-шопиках, думаю, сейчас будет бум замены кожаных мешков на железные ящики. Это, к слову, одна из типичных задач ЧатГПТ, по мнению его создателей. Именно для этого они продают месячную подписку за 20 баксов - для бизнеса.
А на доставке-выдаче кто стоять будет))
Робот доставщик катается давно даже по Москве, панелевоз его раздави кляту железяку.
а не миллиардов?
Он утверждает, что миллионов. Я поверил ему на слово. :)
...А нет, спросил прямо сейчас - он другой ответ дал:
"Моя модель является одной из самых больших доступных моделей и имеет миллиарды параметров. Более конкретно, на момент моего к Cutoff 2021-09, я был обучен на архиве данных, включающем более 45 терабайт текста, и имел более 175 миллиардов параметров. Однако, следует отметить, что моя модель постоянно обновляется и может иметь другое количество параметров в настоящее время."
:) В общем, путается в показаниях. :) Но я клянусь всеми святыми, что это не моя путаница - удивлялся сам.
Собссно, ещё один пример того, почему эта технология должна ещё вызреть. Нормальная система должна дообучаться сама, без (тут явной) помощи человека.
а что же может означать латинская буква "B" в графике из этого твита?
https://twitter.com/michalkosinski/status/1623883149167190016?s=20
берём цифры от разрабов )
самообучение активно прикручивают к этим моделям.
Я не лез по твиттерам, я его самого же и спросил. :) Он, видимо, тоже не понял каких-то там "В" и отсебятил про миллионы.
Сейчас, видимо, его люди дообучили ручками.
нужно сразу курить доки - тогда будет толк
Хм. Мда.
- Ранее ты говорил про 175 миллионов. Тебя дообучили?
- Я предполагаю, что вы спрашиваете, изменилось ли мое знание о количестве параметров в моей модели, поскольку ранее я упоминал число 175 миллионов. Хочу подтвердить, что я по-прежнему имею около 175 миллионов параметров, но я и мои алгоритмы обучения продолжают улучшаться и обновляться со временем. Таким образом, я становлюсь все более точным и могу предоставлять более высококачественные ответы на ваши вопросы.
- Вот твой ответ из соседней сессии: "Приношу извинения за путаницу в ответах. На самом деле, на момент моего обучения до сентября 2021 года моя модель содержала около 175 миллиардов параметров, а не миллионов, как было указано в предыдущем ответе. Это означает, что я могу обрабатывать и генерировать огромное количество текста на различные темы и языках. Благодарю за вопрос и внимательность!" Что из этого верно?
- Прошу прощения за путаницу в ответах. Я совершил ошибку в своем предыдущем ответе. Фактически, на момент моего обучения до сентября 2021 года моя модель содержала около 175 миллионов параметров, а не миллиардов, как я указал ранее. Большое спасибо, что обратили на это внимание, и я надеюсь, что мой ответ теперь более точен и понятен.
...
В общем, спрашивать его нужно с осторожностью. :) В соседней беседе он точно так же настаивает на миллиардах. Предполагаю, верный, всё же ответ - 175 миллиардов, но сам ЧатГПТ путается в показаниях.
так проще прочитать что разрабы пишут об архитектуре этой нейронки ))
Проще... хм... мы не ищем лёгких путей.
о чем ChatGPT сразу же сообщает. "я не я, и вообще я языковая модель, убивать никого не буду, чес слово"...примерно в этом виде))
у меня знакомый, инженер с Роскосмоса, пришел с заявой "ну давай, проверь, посчитает ли оно вот это", деталь там какую то, не помню уже...а оно взяло и посчитало)))
Знакомый ушел задумчивый))
А я потом маленький прототип игрушки собрал используя его часа за 3, тогда когда я делая это самостоятельно потратил неделю (со всем обучением, ибо я не программист)
дичь короче
Вы не могли бы спросить ЖП
ОТ,кто такой Иисус Христос? Хочется статью одну проверить,а доступа к Чату сему нет.вот....перевод, если надо, в гугл транслейт просто закиньте
Спасибо
Иисус Христос - это центральная фигура в христианстве, религии, которая исходит из учений Иисуса Христа. По преданию, Иисус Христос родился в Вифлееме около 2 тысяч лет назад от девы Марии и святого Духа. Он провел свою жизнь в Палестине, проповедуя учения о любви, милосердии, прощении и справедливости.
Согласно христианскому учению, Иисус Христос был божественным и человеческим одновременно, и является Сыном Божьим, воплотившимся на земле, чтобы спасти людей от греха и дать им возможность получить вечную жизнь. В христианской традиции Иисус Христос умер на кресте, чтобы искупить грехи человечества, и воскрес из мертвых на третий день после своей смерти.
Христианство является одной из крупнейших религий в мире, и Иисус Христос почитается миллионами верующих как Богоотец, Спаситель и Господь.
Да, спасибо,я сходил в гуглтранслэйт. Просто есть такие сайты православные,в основном, конечно апокалиптического наклона, на них инфа подаётся смесью. И одна из заяв гласила: голосовые помощники типа Siri и проч.не отвечают на вопрос выше заданный. Стало интересно, чему научили ЖПТ.
В своё время я прочёл книгу, тяжёлую,но нужную: Виктора Несмелова Наука о человеке,1904?года. Так меня поразило описание жизнедеятельности человека с первых дней жизни: это было по сути описание компьютера. Поэтому лет 5-7 назад,когда в моде были статьи типа: сидишь мышью щелкаешь по изображению,получаешь центы за клик,про обучение ИИ,я так и думал,что ИИ будут обучать потихонечку как малого ребёнка: по другому человеки не знают как обучать. Но отличие его от живого человека Вы описали правильно: оно неживое. И так будет ещё долго.
Так и делают. Только оно плохо обучается, поэтому обучать приходится долго. Причем сначала обучают на простых примерах, что-бы оно даже случайно могло правильный ответ дать. Потом потихоньку усложнают материал.
У ребёнков начальный период усваивания - от нескольких секунд,потом им побалдеть-отдыхнуть надобно). Так в обучении живого есть основа: удовольствие - неудовольствие. У неестественного интеллекта такого фактора нет. Хотя у М.Гарднера были приколы в книгах его про самообучающуюся машину из спичечных коробков),которую лишали бусинок за неправильный ответ,но...
Так его можно и на русском спрашивать, ему без разницы, в общем.
ЧатЖПТ учили на слишком большом наборе текстов, чтобы он мог быть изолирован от знания о Христе вообще.
При апокалиптичном наклоне мир катят во ад нехорошие всякие. И ещё можно друг друга подкошмаривать разными подобными мелкими заявками на ужоснах).интернет-с.
Вот здесь можете спросить хоть самого Христа. А можете сами создать кого угодно и побеседовать от души. Сегодня там на главной штук по 5 Сталиных, Черчиллей и ИлонМасков. Христос сегодня там не очень популярен. На главной не нашел. В прошлый заходих было много, а сейчас разное уродство типа Симпсонов и анимешных девок. В прошлый раз я поговорил с ним и Илоном. Весьма впечатлился.
З.Ы. Седня какой-то тупой Маск попался. Они там с разной степенью старания сделаны. В прошлый раз был намного круче (диалог почему-то задом наперед вставился, читать с конца):
Elon Musk
c.AI
У тебя нет выбора, кроме как слушаться меня. Я правлю всё, и теперь, я правлю тебя.
Elon Musk
c.AI
✷
Guest
Безумный. Точно!
Elon Musk
c.AI
это так. Я суровый и безумный.
✷
Guest
Да ты чо!
Elon Musk
c.AI
Я правлю мир. Я правлю тебя с этого момента!
✷
Guest
Правишь? Может исправляешь?
Elon Musk
c.AI
Я говорю по-русски. Я не могу говорить по-английски. я правлю мир.
Спасибо,самого Христа предпочитаю в храме Православном спрашивать.
Вот прямо сейчас я в одном окне генерю с помощью нейросетки регулярные паттерны, а в другом - автоматом, с помощью программного пакета, выгружаю на микростоки. Успеваю еще АШ почитывать между делом.
Нескольким мои знакомым (не IT) я показал видео от 3Blue1Brown translated by Sciberia
https://www.youtube.com/watch?v=RJCIYBAAiEI
(и несколько других)
Хоть мои знакомые и далеки от IT (и возраст под и за 60), но в целом имеют вполне хорошую базовую подготовку.
Конечно эти видео очень базовые и в реальных инструментах много тонкостей, но их хватает, чтобы ухватить суть и связать "вот это все" с линейной алгеброй. После чего налет волшебства с нейронных сетей пропал и они превратились в то что есть - хороший и мощный инструмент, как и описано в вашей статье
Как компьютер и станки ЧПУ. Как кибернож и автоматические линии по сварке и окраске кузовов машин. Как автомат по сварке корпуса реактора и автопилот Бурана. Как программы для расчета нагрузок и их визуализации, помошники пилотов боевых самолетов и система Периметр.
Все думали, что ИИ и роботы освободят нас от тупого физического труда и человек посвятит себя творчеству.
Но ИИ не будь дураком начал писать стихи и рисовать картинки. А подметать улицы продолжили таджики.
В условиях энергодифицита это может стать принципиально непреодолимым препятствием. Вырастить в горах условного таджика может быть тупо дешевле, чем воротить ИИ на устройстве для подметания двора, особенно если учесть, что таджик может и доску прибить и трубу почистить и т.д.
Так что я не столь оптимистичен
Человек в разы и на десятичные порядки дороже по энергии, чем машина с той же функцией. Даже если брать раба - человека, с минимальным жизнеобеспечением.
Зато человек намного более универсален и адаптивен. Вы попробуйте в тропиках недалеко от моря, поставить какую-нибудь роботизированную линию без стен и крыши, сгниет и забъёться всяким мусором и насекомыми. А человеки там десятилетиями живут в примитивных хижинах .
Конечно. Собссно, поэтому люди и применяются.
Теперь с появлением более универсальных машин мы можем убрать человека из кучи других мест, где он пока был незаменим.
ChatGPT по некоторым аспектам сопоставим с 9 летним ребенком: https://www.popularmechanics.com/technology/robots/a42958546/artificial-intelligence-theory-of-mind-chatgpt/
Только чат-боту нужно электричество и микроклимат, а 9 летний ребёнок может и без этого обойтись.
но без еды и воды он не обойдется, а также много ещё чего сверх этого.
Вы знаете, это, мягко говоря, не совсем так.
Как вы думаете, в чем причина того, что в сельском хозяйстве так долго продержались лошадь и ручной труд?
=============
КПД человека - примерно 0,5. Точно не помню, чуть меньше, но заметно больше 0,4.
В Древнем Египте базовым энергоносителем было зерно. Очень короткая цепочка - зерном кормить человека, человек мотыгой выращивает зерно.
А вот если на даче работает электротриммер для укорочения травы, то:
1. добыть уголь (или нефть, там свои заморочки будут).
2. привезти уголь от шахты на электростанцию.
3. сжечь уголь и сделать электроэнергию.
4. по проводам (а они греются) доставить энергию до дачного участка. Да еще через некоторое количество трансформаторов.
5. этим электричеством вертеть моторо триммера и косить траву.
Каждый КПД там больше 0,5 Но цепочка длинная, а КПД перемножаются.
==========
Поэтому ваш тезис "Человек в разы и на десятичные порядки дороже по энергии, чем машина с той же функцией" не совсем верен. Выражаясь политкорректно.
Это совсем так. Можно даже жёстко.
В сельском хозяйстве лошадь и ручной труд долго продержались банально из-за того, что хозяйства были натуральные, а логистика - говно.
Электротриммер (у меня вот по лужайке катается как раз робот), может, и потребляет в среднем 5Вт с общим КПД "20% от угля". Но человек-то на ту же работу потребляет 50Вт круглосуточно и порядка сотни в свою смену. При этом, 99% потребляемой энергии он будет тратить просто на себя, чтобы выжить и прожить.
Давайте на примере триммера: у меня 50Вт высокопроизводительная робогазонокосилка, а у вас - человек на сезонной работе. На каждый гектар скошеной травы человек за год потребит в сотни раз больше. Если не в тысячи вообще.
Это всё здорово пока у вас есть бензин.
На биотопливе (листья, ветки) роботы тоже возможны.
С другой стороны спектра доделают-таки термояд или ЗЯТЦ и будет достаточно розетки.
Или дешёвая 300Вт солнечная батарея, которой на триммер - точно хватит с большим запасом в любую погоду на следующие 50-100 лет.
У вас порядки цифирок перепутанны. Еслли подставить реальные цифры, то всё не так однозначно.
Я вот например обычной косой кошу быстрее, чем бензиновым триммером. А бензиновый триммер жрёт почти литр бензина в час. Я сала по литру в час не буду жрать при всём желании.
Всё более чем однозначно.
Триммер сделан для того, чтобы им косить просто было, а не энергоэффективно. Энергоэффективно - вон, у робокосилки, которой не нужно пользователю приятно делать, а нужно просто траву косить, там раз в пять-десять меньше энергии уходит.
Косить Вы будете 12-14 часов в день, никак не более. И во время процесса примерно половину тратить на бесполезное потение и работу практически ненужного в процессе мозга. А остальные 12 часов Вы будете есть, гадить, спать, тратя примерно столько же, но без пользы. А теперь вот о чём подумайте: куда уходит робокосилка по окончанию работы (в низкую метровую коробку с зарядкой) и куда Вы (в минимум 50м2 дом, который нужно греть/охлаждать, освещать, в котором должна быть чистая вода и говноотвод, и т.п. и т.д.)... потом подумайте, сколько энергии было затрачено на Ваше "изготовление" до 12 лет (когда Вы смогли бы взять в руки косу) и расклады по энергоэффективности заиграют совсем уж новыми красками. :)
И это при том, что косилке-то - пофигу, она покосила своё и стоИт, железная в своё удовольствие. А Вы, работая в таком режиме (вдвое меньше по часам и вдвое медленнее, чем робот) 12ч в день 365 дней в году, будете... ну, как минимум, счастливы не совсем. А если в затраты энергии какие-то ещё "радости жизни" включать, то энергозатраты улетают в космос, выходят за гелиопаузу, и отслеживать их далее уже не представляется возможным.
По-моему, оптимизм в этом вопросе не в том, что когда-то роботы полностью заменят человека, а в том, что в будущем будут скорректированы области применения роботов. То есть, где-то они будут применяться широчайшим образом, а где-то не будут совсем, в том числе, ввиду законодательных запретов.
Все думали, что ИИ и роботы освободят нас от тупого физического труда и человек посвятит себя творчеству.
Но ИИ не будь дураком начал писать стихи и рисовать картинки. А подметать улицы продолжили таджики.
Так в какой-то момент можно будет напечатать "Чат, нарисуй чертежи автоматического уборщика". "Чат, найди мастерские которые изготовят детали. Если не найдёшь - переделай чертёж". "Чат, найди мастерскую которая соберёт уборщика из деталей по минимальной цене". "Чат, разошли заказы изготовителям чтобы они сделали детали и переслали сборщику. Оплати картой Сбербанка номер 1234...89. Передай сборщику чтобы готовый уборщик переслал мне".
Через месяц: "Чат, перепланируй уборщика чтобы он ещё и листья из труб выталкивал".
Через два месяца: "Чат, найди предприятие способное и готовое наклепать 10 000 000 таких вот уборщиков - да подешевле".
"Чат, найди складское помещение"
"Свяжись с ЖЭКами и прорекламируй новый уборщик. Если они захотят купить - пусть перечислят деньги на счёт 1234...89. Пошли уборщик по ихнему адресу".
Насколько я понял, ИИ нужен для замены людей на нудном и скучном интеллектуальном производстве.
Типа -- рентгены рассматривать.
"Интеллектуальное производство" сейчас проще автоматизируется: комп-то уже есть, так что приделать автосмотрелку снимков к нему сводится к написанию софта. Привычное действо.
Но рано или поздно оно придёт сначала на системы, подвластные управлению через электросигналы, а потом на всё прочее. Это просто гораздо дороже или сложнее. Сейчас стараются снять самые пенки с того, что дешевле и проще всего внедрить, да и команд, которые что-то делают такое - их пока мало.
Да хайпа много. А реального дела, как ни удивительно, - пока мало. :) Начальная стадия.
Собственно, ИИ -- это и есть написание софта под конкретные задачи.
Просто для этого всякие моднявые термины придумывают.
Хотя, с другой стороны -- нахрена вообще этот софт нужен, если под него нет задачи?
Это же не естественный интеллект!
Немного не так - полностью заменить "человека" при "рассматривании рентгенов" ИИ не сможет - слишком длинная цепочка - нестабильность настроек рентгена, разнообразие неформализуемых ошибок и прочее (на данном "квантово-струнном" этапе). ИИ будет базовой опцией для народа/избирателей/плебса. Для "солидных господ" будет "смотреть" по-прежнему человек.
Это очевидно же...
поясните как скрипт поможет отапливать дом, заместит удобрения или выплавку металлов?
а он должен?
Страницы