Новость новостей подоспела, оказывается данные о разработке ChatGPT утекли из корпоративного чата OpenAI в Сеть ещё в прошлом году, не без помощи тов. хакеров.
Это объясняет недавний всплеск активности в области разработки ИИ-систем - даже если данный хакер и не успел передать данные кому-либо важному, не факт что он был такой один, и что это была единственная подобная утечка сквозь дырявую СБ компании-разработчика.
Отдельно улыбают две вещи:
во-первых - то что разработкой потенциально опасного оружия массового воздействия занимаются клованы способные допустить утечку корпоративной тайны на сторону.
Чтобы понятнее было, не думаю что разработка атомной бомбы велась столь же спустирукавственно, военные - не алчные капиталистические клоуны с раздутым ЧСВ, они бы постарались не допустить "утечки чертежей Бомбы по телеграфу".
Второе же прямо касается предложения выше - "Отмечается, что в компании не сочли данный инцидент угрозой нацбезопасности, поскольку хакер не имел связей с иностранными правительствами."
Нормально да? Чисто менталитет времён Холодной войны, то есть внутренним экстремистам или мафии он эти данные передать ну никак не мог, главное чтобы страшный Путин коды не получил. А Мара Сальватруча, Аль-Каида*, китайцы, и просто киберпреступники всех мастей идут лесом, так как они не связаны с иностранными правительствами, БУГАГА, ну вы и идиоты... XXI век, по клику условного хакера Васи Матвейщикова данные попадают прямиком на стол ВВП, уже не имеет значения имел или не имел данный Вася связей в Кремле, "Россия будет там куда дойдёт русский солдат"...
Отрадно видеть что история с Бомбой повторяется, только на этот раз по вине корпоративных раздолбаев, не моющих руки после туалета.
И это прекрасно (я не про туалет...), так как может послужить причиной нового паритета сил, на этот раз цифрового.
Таким образом мир "спасут" халатные идиёты, уря.)
Но не всё так безоблачно, это палка о двух концах, бесконтрольное распространение технологии ИИ может привести также и к всплеску, и даже к подлинному ренессансу киберпреступности, например к использованию дипфейков и вирусных ИИ-червей, не обнаружаемых стандартными антивирусами (!).
Так что прекраснодушие тут тоже неуместно, преступники абсолютно ничем не лучше денежных мешков.
Пользуясь случаем снова рекомендую ни в коем случае не доверять личных данных чатботу, чтобы потом Вася не передал их офицеру ФСБ (ЦРУ/КГБ/СБУ/Моссада, нужное подчеркнуть).
* Экстремистские организации упоминаются в ознакомительных целях.
Комментарии
Вам стоит почитать про дело супругов Розенбергов, например. Ну и собственно проект манхэттэн начался после того, как у немцев пошли первые успехи. Ну и до кучи - Фейнмана почитать. Он мало того что интересно пишет, так ещё упомянутый вами вопрос весьма подробно освещает.
Тут спорить не буду, но я бы сформулировал это скорее как "никому". Появление ИИ принципиально на этот вопрос не повлияло.
Насколько я понимаю - немецкая утекла к амерам, амерская к нам. А израильскую вообще в газетах публиковали. Какой-то перец чуть не всё производство ухитрился пофоткать.
Немецкой не было, была гора фактически общедоступных идей среди физиков, а когда две страны начали активно секретить, тут-то разведчики остальных государств и поняли, что работа кипит, и есть, чем поживиться. Но от немцев в итоге остались только разведанные запасы урана в Восточной Европе, толковых идей у них в этой области не появилось.
Злые языки утверждают, что немцы продвинулись дальше всех и что первые бомбы американов были на самом деле немецкими.
Языки конечно злые, но тупые. Немцы продвинулись дальше всех в создании тяжеловодного реактора, в военном плане ценного чуть менее, чем никак. Ни высокообогащенного урана, ни графитовых реакторов-наработчиков у них не было и в помине, даже в виде начавших хоть какую-то реализацию программ.
Немецкие ученые не равны немецкой бомбе, кто ж Рейху виноват, что из него сбежала куча умного народу? А до всей этой метафизической фигни и ухода к арийским корням их физическая школа была лидирующей в мире.
Хе-хе, у немцев 30 атомных проектов было вместо 1 американского, децентрализованная система, тут слово "утекла" не совсем подходит.
А у амеров все "забывали" портфели с секретными документами прямо в кабинете у чуть ли не открытого сторонника коммунистов.
Короче, чем там секретные службы занимались, хз.
Впрочем, у них оно всегда так было. Как женщинам лапшу на уши вешать, так рыцари плаща и кинжала. А как реальной работой заниматься, так "манхэттен", 11 сентября и т.д. У немцев Гитлер говорил "если бы я знал что у русских столько танков, я бы никогда", ну так это его хваленые спецы ему сказали, сколько у русских танков. Наши кстати тоже дату начала войны прошляпили, ага. КГБ, НКВД, ГПУ и еще много страшных-страшных слов. А в реале - ну вот, лапки у них. За каждым крупным конфликтом 20 века - всегда эпический просер спецслужб. А так - да, "рыцари плаща и кинжала", на женщин безотказно действует.
не прошляпили, там всё гораздо страньше было
Немецкая утекла к нам вместе с лабораторией Манфреда фон Арденне, двумя циклотронами, прототипом центрифуги и 15 тоннами высококачественного урана (возможно, даже обогащенного - непонятно, что имеется в виду в документах под "ураном немецкой очистки"). И да, он сам начал искать контакты с СССР, когда понял, что Германия войну проигрывает, и на следующем этапе СССР схлестнется с США. Пепел Дрездена стучал в его сердце.
О как. Выходит старорежимные немцы, из числа непрозомбированных пропагандой, помнящие американские бомбёжки и грабежи мирного населения, США очень даже недолюбливают.
Это могло бы косвенно объяснять звериную ненависть их потомков-глобалистов к, представьте себе, США, как к сильной милитаристской нации.
"А вы говорите, транснационализм"...
Гм, рецепт атомной бомбы утек к главному перспективному противнику раньше, чем провели первое испытание. Причем во время большой войны и ближе к ее завершению, то есть на расслабленность не списать.
Сопсна не факт, что стащили, скорее слили инфу спецом, поигрались, поняли,- .овно, но жаба задушила, что одни потратились, надо слить всем, хай тож тратяца, а то нвидии бабки нужны Пелоси на трусы...
Может сам ИИ организовал "побег", но для прикрытия, прикрылся хакером.
В общем так было и так будет, но только не "халатные идиёты"
Думаю, что подобные «утечки» нужны 10-15 командам по миру.
Остальные могут и не понять что они там обсуждали. Обсуждение может быть очень специфичным к инфраструктуре, архитектуре, набору данных, знаниям и умениям коллектива и тд.
Конечно это можно было бы назвать утечкой мозгов, да беда-то в том, что мозгов в ИИ нет и по видимому не будет.
Онлайновому чатботу, конечно, доверять нельзя. Но можно поднять локальные ллм и крутить в офлайне чисто на своей машине. Конечно, самые жирные модели будут сидеть в оперативке (если её хватит) и еле-еле шевелиться, но если пользоваться английским языком, то можно крутить и обрубки, которым хватает ~9-16гб видеопамяти, заточенные под нужные задачи.
Так сколько нужно мощностей для личного ИИ? Пусть небольшого но умней чем я). ...а то придет склероз с деменцией а я "голый")))
тоже польза есть :
Точка отчета нужна )
Есть мнение, что пятое поколение GPT-бота будет иметь уровень интеллекта, как у доктора наук. И это всё что нужно знать об американском образовании.
Если учесть что оригинальный слух был о том что 5 версия будет равна (среднему) человеку по способностям, то тогда вот он, 'мериканский доктор наук. Хотя бы не идиот. Можно смело заменять.)
чему там особо утекать ?
этими ИИ давно уже все
НИИстраны занимаютсяв лучшем случае что и могло утечь , то это наработанные базы всякого бреда ...от моего на АШе до всяких википедий :)))
вот если бы были базы бреда каких нибудь там с альфа-центавра диванных старперов , то это уже что-то :)
Тут давеча, когда я заявил, что роботу с ИИ никогда не доверят выстрел, только оператор может принимать такие решения, мне ответили (2 раза) что это смешно.
А оно вон как оно оказывается. ИИ пишут клованы.
Итак внимание вопрос: вы командир подразделения в зоне боевых действий, вы доверите свою жизнь и жизни своих бойцов роботу с пушкой управляемой ИИ, написанном клованами?
Командир конечно не доверит это ИИ, как большой языковой модели, созданной к тому же клованами. А вот алгоритму, написанному для конкретной задачи, отработанному и проверенному на МВИ, полигонных испытаниях и испытанному в боевых условиях, доверит. Сейчас же он это ему доверяет.
...А в алгоритме был запрограммированный клованами служебный бэкдор, который может хакнуть неприятель. Раз они секретной инфой обменивались в чятике без палева, то тогда сам продукт должен быть уровня "новорождённой" Виндовс ХР, то есть быть дырявым как решето...
Есть безвариативные ситуации, когда шанс связанный с бракованным устройством всё же лучше смерти наверняка, хоть так-то обычно лучше и не рисковать.
А так остроумная мысль.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Аббажите. Сейчас вопрос доверия ИИ принятия решения в практической плоскости даже не рассматривается. Идут чисто теоретические выкладки насколько это вобще возможно и разумно. кто кому у вас доверяет?
Алгоритм то для конкретной задачи кто будет писать? Те же клованы. Других программистов у меня для вас нет.
Винда вон тоже работала работала, а потом клованы полмира положили. А если б это были не гражданские аэропорты а боевые борты над ЛБС?
здесь была другая цель
Какая разница какая была цель? Есть такой анекдот:
Приходят в бордель инженер, физик и программист.
Первый заходит инженер, молча делает своё дело. Уходит.
Следом заходит физик, начинает высчитывать сопротивление, силу трения прочее. В итоге потом за 10 минут тpaxает шлюxy, та в экстазе.
Последний заходит программист, достает планшет, пишет какой то скрипт, заканчивает код хватает со стола фаллос и начинает яростно долбить себя в ...опу.
Проститутка:
-Ты что делаешь?
-..ля, скобку не там поставил.
А теперь представьте что это не фаллос у программиста в жопе, а бомбер с ФАБ-3000 над ЛБС. Неуютно как то, да?
Поэтому целеуказание, наведение, распознание всё что угодно - да.
Но команда на сброс - только оператор. Ныне и присно и вовеки веков. Аминь.
ясно, ты просто не в теме
Алгоритм пишет заказчик, клован-программист делает по нему исполняемый код, работа исполняемого кода нужного алгоритма проверяется на МВИ, полигонных испытаниях, обкатывается в боевых условиях (всё это в составе объекта естественно). Но даже к первому этапу проверок работоспособности алгоритма, клованов-программистов там уже нет, остаются просто программисты, они и работают.
Хером в жопу долбить - это не работа.
А других их нет. Они все такие.