Исследователи из Уханьского университета сообщили о проведении эксперимента с активным участием искусственного интеллекта в космосе. В полное распоряжение ИИ на сутки был отдан спутник дистанционного зондирования Земли Qimingxing 1. Без вмешательства людей ИИ сам выбирал интересные для себя цели наблюдения. Одних это рассмешило, а других напугало. Первые сочли эксперимент расточительством, а вторые — угрозой человечеству.
Учёных волновал тот факт, что работа спутников наблюдения часто малоэффективна. Например, Китай сейчас располагает более чем 260 спутниками дистанционного зондирования Земли, но они, по словам учёных, часто работают «вхолостую», собирая данные, не имеющие прикладной ценности.
«Спутники стоят дорого и имеют ограниченный срок службы. Необходимо максимально использовать их возможности с помощью новых орбитальных приложений», — утверждают исследователи.
Чтобы собираемые данные были максимально актуальны для тех или иных клиентов, необходимо создать обучаемую модель, что сделала группа учёных из Уханя. Исследователи собрали для этой задачи большую языковую модель типа ChatGPT и наделили её возможностью проявлять инициативу. В качестве эксперимента ей на сутки передали в полное распоряжение спутник ДЗЗ, позволив самостоятельно выбирать цели наблюдения. Искусственный интеллект, считают разработчики, должен понимать взаимосвязь событий не только на основе обучения на базах данных, но также на примере прямого наблюдения за природой и деятельностью человека.
Первое, что сделал ИИ, — это направил камеры на древний город Патна у реки Ганг на северо-востоке Индии. Это место известно базированием Бихарского полка, который в 2020 году участвовал в столкновении с подразделениями китайской армии в спорном приграничном районе.
Другим высокоприоритетным районом в списке целей для наблюдения ИИ оказался японский порт Осака, куда время от времени заходят корабли ВМС США. Можно только представить, чему обучили китайский аналог ChatGPT, если он сразу бросился смотреть обстановку по местам условно горячих точек в своей зоне ответственности.
Как ожидается, количество средств наблюдения за Землёй из космоса будет расти ускоряющимися темпами. Всерьёз рассматриваются предложения вооружать системами дальнего зондирования Земли даже спутники связи типа Starlink. Вместе с группировками других компаний и стран это будут десятки и даже сотни тысячи глаз в небесах, управлять которыми не сможет нормально ни один коллектив. Очевидно, эту работу надо будет передавать обучаемым алгоритмам, и китайские учёные начали движение в эту сторону и вряд ли это сделали только они.
«Спутники — это наши глаза и уши в небе. Неужели мы хотим, чтобы ИИ решал, что мы видим и слышим?» — опасается один из профильных специалистов, слова которого привело издание SCMP.
«Я считаю, что центральное [пекинское] управление полётами будет внимательно следить за всем. Если ИИ попытается сделать что-то не то, он будет немедленно прерван человеком-оператором», — уверен другой специалист, слова которого также приводит издание.
Самое опасное в ситуации с ИИ в том, что с определённого момента человек может перестать понимать логику принятия решений и модель поведения искусственного интеллекта. Это сложно даже сейчас с относительно примитивными алгоритмами, и по мере их усложнения это будет всё труднее и труднее.
Источник: scmp.com
Комментарии
Неудивительно. Ученые из Уханя проводят какой-то эксперимент - это уже смешно и страшно.
Считаете что мем: "британские учоные" - в прошлом и теперь в ходу "ученые из Уханя"?
Оба уже, можно сказать, обрели бессмертие. А у бессмертных, как известно, остаться должен только один, вот и поглядим, кто кого.
Пока "Они нас"
Ученые из Уханя проводят какой-то эксперимент - это уже смешно и страшно.
На то же подумал.
Сегодня весь Пульс такой, что я постоянно на календарь поглядываю. Две недели назад заголовки были и то, более традиционными чтоли...
Авитаминоз
В комплексе с дизентерией...
И прогрессирующей инфантильностью
Танцы с бубнами вокруг ковидлы отгородили ученых от посторонних глаз.
интересная отмазка
"это не мы решили так внимательно за вами следить, это наш ИИ чудачит. не волнуйтесь, это эксперимент"
"...не волнуйтесь, это эксперимент. Всего лишь на день." говорили они когда передали ИИ управление над пусковой шахтой с ядерной МБР.
.........опасное в ситуации с ИИ в том, что с определённого момента человек может перестать понимать логику принятия решений и модель поведения искусственного интеллекта.........(ц)
Вообще то это было с самого начала тестирования ИИ, и собственно вообще никогда понимания не было, ну кроме пространных теоретизирований, мало согласующихся с результатами тестирования.
Наверное общее понимание "широкими мазками" у теоретиков есть, а более детальное у тех кто ручками кодит.
Всё гооооораздо хуже, эти самые кодеры которые ходят ручками разводят руками с самого начала, хотя казалось бы - должны всё понимать до последнего байта.
А почему всё гораздо хуже ? потому что нейропроцессоры, которые функционально сами себе программисты и кодеры и юзеры.
Вообще-то логика там предельно примитивная. Вот тебе пачка коэффициентов - перемножай.
Во во, именно так и думали кодеры как оно собственно должно работать, пока не заработало.......
Именно так оно и работает, ничего другого (поумнее) пока не придумано.
Говорю же, что это для программистов оказалось лишь пространными теоретизированиями.
До сих пор нет ответа, как сильный ИИ приходит к конкретным выводам, коэффициенты говорите ? а в какой степени количество результатов от этих коэффициентов будет ? и почему именно сильный ИИ склоняется только к определённым результатам, несмотря на бесконечный возможный результат всех этих перемножений коэффициентов.
Потому что до сих пор нет сильного ИИ. Когда будет, тогда и будет ответ.
Уже как давно. Не по чат ботам же на диване видеть сильный ИИ.
Покаж.
Ага, бегу показывать
А, ну ясно - приборы секретные.
Вообще, я думаю как напрограмировали - туда камеры и навел.
Может и воздушный шар - тоже ИИ?
Тут толпы людей не понимают элементарные школьные дисциплины, не говоря уже про логику, и что?
Там ошибка - не искусственный интеллект, а имитация интеллекта. Но да - для продаж всякой дичи нужно надувать щеки и хайпить. Как с нанотехнологии и прочей туфтой.
Вообще-то решает конечно ИИ, но приоритеты поиска или целеполагание осуществляет человек. Скорее всего там задача была поставлена что-то типа «найди объекты, представляющие наибольшую угрозу национальной безопастности КНР». Если бы такой задачи не было бы, то ИИ, натасканный ботаниками ИТишниками, с большой вероятностью стал бы следить за девушками на пляже.
Угу. И программа эта была самим же ИИ написана.
Большинство людей ничего не понимает ни в чем, что их близко не касается.
И никого это особо не волнует.
да...
Чушь собчачья ))) Представьте себе ИИ-биолога. И ему дали в распоряжение спутники с соответствующими задачами - самостоятельно выбирать что-то биологическое - и он мог выбрать какую-нибудь миграцию отслеживать, например. И вдруг он военными базами заинтересовался - вот это было бы удивительно. А тут программе дали какие-надо "вводные", вот она их и отрабатывает. Ну или вообще это чисто информационное действие, никакого ИИ могло в деле не быть, просто решили забросить удочку в инфополе на заданную тему и посмотреть, кто клюнет.
Это у Вас глупость мысли и ограниченность взгляда в развитие будущего... токо первая проба наклевывается. Пройдена она будет за несколько итераций, вы и пукнуть не успеете как ваше мнение трансформируется...
Это уже будет не тот ИИ, а речь о нынешней версии. Или вы глядя на Форд Т будете всех уверять, что эта тачка до сотни за 3 секунды разгоняется, потому что в будущем такие авто появятся, а каждого, кто говорит, что Форд Т не умеет быстро разгоняться и у него нет АБС, объявлять глупцами?
Нет... я считаю возможным искренне принести Вам свои извинения за наезд, но и вы поймите, мне без наездов трудно думать, мне нужна для понимания резкость/бескомпромисность суждений. Унижение возражающих /не поддерживающих МОЮ ВЕЛИКУЮ ГЕНИАЛЬНОСТЬ МЫСЛИ, находятся в другой технологии общения, с дураками я иначе разговариваю... вежливо...
Вот как раз о нынешней пугалке речь и не идет, ошибаетесь. "не тот ИИ", а когда по вашему тот? Посмотрите на свой нос. Ничего не видите? Птичка УЖЕ выпорхнула из клетки, а события настолько быстры, что не успевают актуально публиковаться... Привет трезвенникам! боржоми пить будет скоро поздно...
Первая?))
Вся эта шляпа началась в 40х 20 века. Потом в 60х на новом витке развития элементной базы эту хрень опять вытащили на свет и даже нашли как забрать с пользой. Затем в середине 80х новый подход с таким же ограниченным прогрессом, что и ранее. После чего благополучно забыли до развития поисковиков и соцсетей - после чего алгоритмы снова достали из чулана и прикрутили к новым возможностям сбора данных.
А обывателям через журналистов впаривают про ИИ. И хорошо заходит ведь) Правда пределы применения уже известны. Тема закрыта до следующего технологического витка. А пипл обожает дрочить на всякие страшилки - да и маркетологам это отлично помогает))
З.ы.
Тем временем редактирование генома человека набирает обороты. Но воображение общественности плохо представляет себе последствия например поднятия IQ редактированного индивида куда-то за отметку в 300 баллов. Чат-боты куда понятнее и роднее)
Я правильно понял, что ChatGPT обучили на прошлых запросах на наблюдение, которые делали китайские военные, и - вероятно - некотором объеме политических новостей за те же периоды. И получили предсказуемый результат.
Писюкая свои вирши, я думал что опережаю время говоря обудущем, а по этой публикации выходит, что отстаю от развити событий.
В теории так и долно вроде быть, а на практике... Спилберг(?) гений...
Нащупав золотую жилу (нейросети), человек даст им нарост количества по аппаратной части ... и задача написать юмор станет решаема, а с ней и вопрос необходимости Человека, который конфликтен, жаден и себялюбив. Такая корова ИИ не нужна.
Получается даже я, старичок доживу до своей личностной смерти. Надо ИИ просить чтоб дал умереть естественной смертью... Скайнет нам в печень и нейросеть в жопу...
Конкуренция ускорит процесс нашей смерти. ...Сыны либерализма, блин.
Не переживайте, нам еще дадут две трубки «сверху вход, снизу выход» и ИИ нарисует такие сказочные райские миры, что все будет хорошо и дешево)
Он не за человечество обрисовывать будет, с сперва за личный интерес властей...
Я больше опасаюсь выведения новых видов людей через редактирование генома человека. IQ, здоровье, долгожительство, внешние данные - даже без всяких извращений - просто накрутка и так имеющихся возможностей в потолок.
Хотел бы я посмотреть на человечество столкнувшеся с индивидами внешне идентичными людям, но к примеру с IQ за 300 пунктов.
Вспоминается лёгкий вариант такого в фантастике - "Гаттака".
Зачем бояться модификации генома человека? Человек ограничен рамками своего "источника питания" , а ИИ энергетически НЕ ОГРАНИЧЕН.
поэтому с вами не соглашусь.
Допустим некие - ну скажем очень богатые люди - возьмут технологию под собственный контроль и сделают подобные модификации крайне недоступными для ширнармасс.
Или модификация ширнармасс - добровольная, или вынужденная - но ставящая в некую зависимость от каких то услуг, или веществ производимых корпорациями.
Выведение фактически новых подвидов людей заточенных под новые среды обитания, или какую то конкретную трудовую деятельность.
Риски неплохо показаны и в художественных произведениях -"Дюна", "Гаттака", "Мошка в деснице Господней", "Гиперион", "Ложна слепота", "Роза и червь" и ТД. Там по мимо собственно проблем "плохо работающей технологии", рассматриваются самые разные сценарии распространения подобной технологии в массы, или ограниченного применения организациями, элитами и ТД.
Потенциальные риски огромны. Их важно осознавать и упреждать всё что только возможно. И да - развитие технологии уже не остановить - можно только попытаться минимизировать риски.
...поживем пока, покурил нашел контраргументы - нет связи между скайнетом и робопроизводствомммм. Ну а дальше каюк нам всем...
С чего вдруг у ИИ будет непонятная логика? Люди писали эту программу, а значит первоначально она на что-то была ориентирована. Или всё таки та самая обезьянка написала томик Толстова?
Для ИИ ценна лишь информация. Какую он может получить из космоса? О том как строятся города? Для этого нужен снимок в месяц. Миграции птиц? Не смешите, давно всё описано через учебники. Микро-уровень? Не разглядит. Сейсмологические исследования? Так их проводить нужно с земли. Из космоса видны лишь последствия.
Вот и выходит, что самое интересное и динамически изменяющееся - перемещение человеков.
Нейросеть не программа. Её не программируют, а обучают на примерах. В итоге задачи она решает, а как она это делает - разбираться бесполезно.
Нейросеть - программа обрабатывающая большие объемы данных и запрограммированная на "самообучение" - а точнее на корректировку своих конечных результатов в зависимости от реакции пользователей или иных факторов внешней среды выступающих "контролёром" результатов вычислений.
Нейронная сеть не является искусственным интеллектом, но в глазах обывателя вполне может служить имитацией интеллекта в роли чат бота или иных решений.
Отличный комментарий. Как можно нейросеть называть искусственным интеллектом, когда мы не до конца понимаем что такое естественный. "Самолет летает, как птица" - летает, но не как птица.
Данная система именно работает как электронная нейросеть. А не искушенный потребитель может и с голосовым помощником "Алиса" часами беседовать как со своей подругой.
Страницы