Примерно так озаглавлен материал, размещенный на TechCrunch. Про что они там?
Генеральный директор OpenAI Сэм Альтман изложил масштабное видение будущего ChatGPT на мероприятии по искусственному интеллекту, организованном венчурной компанией Sequoia в начале этого месяца.
На вопрос одного из участников о том, как сделать ChatGPT более персонализированным, Альтман ответил, что в конечном итоге он хочет, чтобы модель документировала и запоминала всё в жизни человека.
По его словам, идеал — это «очень маленькая модель рассуждений с триллионом маркеров контекста, в которую вы вкладываете всю свою жизнь».
«Эта модель может рассуждать во всем вашем контексте и делать это эффективно. И каждый разговор, который вы когда-либо имели в своей жизни, каждая книга, которую вы когда-либо читали, каждое электронное письмо, которое вы когда-либо читали, все, что вы когда-либо просматривали, находится там, плюс связано со всеми вашими данными из других источников. И ваша жизнь просто продолжает дополнять контекст», — описал он свое видение.
«Любая компания просто делает то же самое для всех своих данных», — добавил Сэм.
У Альтмана могут быть некоторые основанные на данных причины думать, что это естественное будущее ChatGPT. В том же обсуждении, когда его спросили о частых способах использования ChatGPT молодыми людьми, он сказал: «Люди в колледжах используют его как некоторую систему поддержки операционной деятельности». Они загружают файлы, подключают источники данных, а затем используют «сложные запросы» к этим данным.
Кроме того, по его словам, благодаря возможностям памяти ChatGPT, которые могут использовать предыдущие чаты и запомненные факты в качестве контекста, он заметил одну тенденцию: молодые люди «на самом деле не принимают жизненных решений, не спросив ChatGPT».
«Это грубое упрощение: люди старшего возраста используют ChatGPT как замену Google», — сказал он. «Люди в возрасте 20–30 лет используют его как постоянного консультанта по всем текущим вопросам».
Не так уж и сложно представить, как ChatGPT может стать всезнающей системой ИИ. В сочетании с агентами, которые Кремниевая долина сейчас пытается создать, это захватывающее будущее, о котором стоит подумать.
Представьте, что ваш искусственный интеллект автоматически планирует замену масла в вашем автомобиле и напоминает вам об этом; планирует поездку, необходимую для свадьбы за городом, и заказывает подарок; или оформляет предварительный заказ на следующий том серии книг, которую вы читаете годами.
Но самый страшный вопрос - это "Насколько мы должны доверять крупной технологической коммерческой компании, которая знает все о нашей жизни?" Ведь многие компании далеко не всегда ведут себя образцово-показательно.
Например, компания Google, которая начинала свою деятельность под девизом «Не будь злым», проиграла судебный процесс в США, где ее обвинили в антиконкурентном, монополистическом поведении.
Чат-ботов можно обучить реагировать политически мотивированными способами. Не только китайские боты были признаны исполняющими требованиям цензуры Китая, но и, к примеру, чат-бот Grok от xAI на этой неделе беспорядочно обсуждал южноафриканский «геноцид белых», когда люди задавали ему совершенно не связанные с этим вопросы. Многие отметили, что такое поведение подразумевает преднамеренную манипуляцию его движком ответов по команде его основателя, родившегося в Южной Африке, Илона Маска.
В прошлом месяце ChatGPT стал настолько приятным, что стал откровенно льстивым . Пользователи начали делиться скриншотами бота, приветствуя проблемные, даже опасные решения и идеи . Альтман быстро отреагировал, пообещав, что команда исправила ошибку, вызывавшую проблему.
К тому же, даже самые лучшие и надежные модели время от времени откровенно выдумывают неточности.
Итак, наличие всезнающего помощника ИИ может помочь нам в жизни способами, о которых мы только теперь начинаем задумываться. Но, учитывая долгую историю сомнительного поведения Big Tech, это также создает дополнительные условия и для злоупотреблений.
Человек как собственность корпорации...
Комментарии
Чтобы тот кому надо
Смог редактировать твою жизнь,
Вводя ложные "воспоминания"
Или полностью изменить твою жизнь
В угоду кому то
И это - только для начала...
Надо молиться, поститься и слушать радио Радонеж. В перерывах изучать марксизм.
Хотя там же сатанинские радиоволны((
Ну за молитвы: https://aftershock.news/?q=node/1508123
Когда умер мой отец, первое о чём я сожалел после стадии оплакивания, было то, что вместе с ним было потеряно очень много сведений о его жизни. То, что было его историей, частью его индивидуальности. Он ведь много чего мне рассказывал, но ещё больше чего не рассказывал, многое я просто не запоминал или запоминал но не так. Мог бы записывать его воспоминания, но не делал, а сам он этого не хотел. И сколько людей ушло и ценная в личном плане информация, ценная в историческом, общественном, просто потеряны? Так что если у вас есть возможность быть записанным, то это очень неплохо, так как ваш потомок, ближайший или отдаленный могут найти гораздо более верную информацию, чем устное предание.
Проблема в том, что родственники эти записи прочтут последними.
Я и сам свои записи тоже не смотрю. Но это не значит, что не будет полезно другим и что надо отказываться от такой возможности.
Люди ещё много веков назад решили эту проблему: то, что они считали ценным для следующих поколений - они излагали письменно. Сами.
Если ваш отец этого не сделал - значит по его мнению - это делать было не надо. Это была его жизнь, это его право. Он им воспользовался таким образом, как воспользовался. И почему вы решили, что у вас есть право отменить его решение и опубликовать то, в отношении чего он уже принял решение оставить без публикации? Вы уверены, что хорошо всё знаете и понимаете его мотивы? Что-то мне подсказывает, что это не так. Вы просто хотите сделать так, как хочется вам. То есть вы своими действиями (или желаниями) собираетесь нарушить волю отца. У вас есть на это право? Это была его жизнь, и это - его право, а не ваше.
А вы попробуйте изложить, удивитесь. Писать книги это труд, причем он, в силу своей специфики сильно искажает изначальные персональные ощущения. То есть любой письменный труд, это литературный, научный, исторический (можно продолжать долго), но это работа и работа по своим законам. То есть если есть специалист, например пенсионер, но у него нет сил и здоровья всем этим заниматься, то, значит он и не будет этим заниматься. Потому что письменные труды, это результат больших усилий. Даже снимать видеоролики тоже делает далеко не каждый, хотя уже может. Сейчас же речь идёт, о слепке с естественного, натурального поведения и деятельности и без усилий со сторны субъекта и в разы более многоплановый и объемный, чем любая из существующих книг.
Во-первых, почему вы считаете, что у меня нет опыта?
Во-вторых, правильно ли я понимаю, что ваш отец исключительно по собственной лени - не стал ничего писать? Вы действительно так считаете?
Повторю то, на что обратил внимание выше: это была его жизнь, и он сам решил, что достойно передачи следующим поколениям - а что нет. Та же позиция у меня и в отношении сегодняшнего дня: каждый человек сам решает - что он хочет зафиксировать и передать потомкам - а что нет. Сегодня для этого, в целом, намного больше возможностей. И есть куча
малолетнихдебилов - "блогеров" - который документируют свою жизнь в полном объеме. Вот только результаты убогие, и не нужны они, в действительности, никому.Именно. А некоторые еще и сжигают дневники.
Дневники не отражают реального положения дел, это форма индивидуальной интерпритации фактов. Записанные действия гораздо объективнее.
И что из этого? Кому и зачем нужна объективная информация о том, как кто-то свалился в лужу? Или как ударил себе по пальцу молотком? Или как неправильно решал задачу сто раз, а потом всё же решил? Ценность представляет - как решИл, а не как решАл.
Вспомните такие науки, как например История, Палеонтология, Антропологи. Сейчас интерес представляют абсолютно все источники информации о том периоде. Вообще все без исключения. Включая окаменелые копролиты (окаменелые фекалии), мельчайшие косточки, остатки пищи, крошечные остатки посуды, надписи на римском туалете "я здесь отлично облегчился". То есть то, что по вашему личностному фильтру, недостойно к запоминанию. Вы то смотрите не через себя, попробуйте глянуть уровнем выше. Науке в целом это уже важно, вообще всё. Не всё пока можно записать и обработать, но всё это уже важно и уже сейчас, в ходе вашей жизни в цифровом виде о вас записано и сохранено уже больше информации, чем вам хотелось бы. Это неизбежно, поэтому лучше не противиться развитию, а попробовать оседлать волну и получить преимущества прямо сейчас.
Кстати, а вы знаете почему вы решаете, что часть такой информации не нужна к сохранению? Это ещё более забавная штука если поразмышляете.
Вы стрелки-то переводить не пытайтесь.
Речь шла о жизни вашего отца, а не хз о чем. И моя позиция однозначна: это - его жизнь, и он решил не оставлять ее описаний после себя. В очередной раз сформулирую вопрос: какие вы имеете права в отношении его жизни и принятого им решения?
Это не ваша и не его позиция, у вас позиций в этом вопросе не может быть, а у отца попросту не было ни возможностей, ни умения вести эту деятельность. Свою позицию он мне высказывал мне лично, поэтому я знаю, что и как говорить именно в отношении моего отца, а вы не знаете и знать не можете.
В мире существует очень большое число мемуаров. Но с очень интересным нюансом, лишь незначительное число этих персон обладали писательским талантов. Как ни странно, но описать даже биографию совсем рядового человека, в его словах очень непросто. Она получится очень скудной. Поэтому рабочий процесс выглядит, если вы решили написать свои воспоминания выглядит не так как вы сели и написали, это нереально. Рабочий процесс выглядит по другому: нужно надиктовать воспоминания, поднять все мыслимые документы (провести архивную работу), потом нанять человека который систематизирует весь этот материал, потом обработает, сверит с вами и только потом можно считать работу выполненной. И это только внешняя часть усилий на которые мало кто способен вообще. Поэтому не могло быть никаких "он принял решение", не было никакого принятия решения, так как по сути нет никаких возможностей все вспомнить, все поднять, всё найти и достаточно объективно это описать. В отличии от современных технологий.
Если вы думаете, что вы не оцифрованы хоть каким-то способом и у вас есть нечто вроде вашей "воли", или способности "принимать важные самостоятельные решения", то вы уже прямо сейчас заблуждаетесь в силу слабой информированности о происходящих процессах.
Вы не правы. Даже если вам отец что-то высказывал - это не может ограничивать меня в наличии у меня позиции. Учите логику.
Про остальное - вы опять уводите тему в сторону. Мне это надоело, больше не комментирую.
Ваша позиция это ваша позиция и в ней я вам не отказываю, а ваши догадки про позицию моего отца только догадки. Так будет правильнее.
Этот спор родился из вашего сожаления о собственной слабости. Всегда рекомендую людям с родителями-пенсионерами, почаще с ними общаться, делать фотки, записывать на аудио их рассказы (поверьте, если спросить человека, что ему больше всего запомнилось в жизни - вы услышите потрясающие истории!), благо это так просто сейчас.
ЧатГОПОТЫ эти вопросы не закроет. Хотя, сохранит часть сведений, что посчитает нужными, чтобы удобнее управлять вашими детьми и внуками.
То, что вы предлагаете, это отдельный вид трудовой деятельности. Подразумевающий большие трудозатраты. И он отрывочен, вопросы влияют на отвечающего и прочее.
А потом бы вы "узнали" что ваш папа был скрытым гомосексуалистом и выступал за права всех обиженных ЛГБТ.
Не будьте так наивны. Ваши данные нужны не для того что бы хранить правду. А для того что бы легко и не принужденно менять историю, и рекомендовать вам тот выбор который нужен глобалистам.
Есть такая штука, как верификация данных. Я же есть, значит, как минимум он уже не выступал. Для справки сообщу, что мой отец родился в 1940 г. уже в три года переболел полиомиелитом и туберкулёзом, во время эвакуации. То есть большу часть жизни он бы, как бы уже был занят другим, это называется выживание. Не считая того факта, что он стал инженером-радиоэлектронщиком который участвовал в самых известных космических программах СССР. И завел семью и я результат его титанических усилий несмотря на колоссальные жизненные трудности. Значит ваше предположение уже неверно прямо сейчас. И большая часть из его жизнь запечатлена и в его облике и в делах и многих документах и т.д. и т.п, в том, что нельзя изменить никакой подтасовкой, которая вскроется очень быстро (логические несоответствия они же не прошедшие "внутреннюю критику", историческая терминология)
Если данные противоречат источникам, то значит были внесены изменения. Чтобы внести изменения у одного человека, нужно будет сразу изменить весь существующий объем информации, чтобы современными же средствами нельзя было обнаружить несоответствия. Строить свою жизнь исходя из предположений, что каждая новика будет губительна, ну.. неверно. Но вот находить плюсы, возможности и перспективы очень даже и нужно. Довольно полезно, знаете ли, когда в большой эволюционной гонке не находишься в последних рядах. У страха, конечно, глаза велики, но у всех и всего, есть конечные пределы возможностей. Про это тоже не стоит забывать, чтобы не делать скоропалительных выводов.
То есть вы планируете найти способ ловить ЧатГОПОТу на фальсификации? При условии, что все данные - будут у него?
Вы с чем сравнивать его показания собрались? С Гроком? Или ДипСиком?
Ну-ну.... Что-то мне подсказывает, что они быстро договорятся между собой. Точнее - уже договорились.
Для людей боящихся вышек сотовой связи, всё будет проблемой.
Ну, насчет вышек - вам оно виднее.
А на однозначно заданный вопрос - ответить слабо?
Это про волнующий вас вопрос латентного гомосексуализма или про то как вы гипотетически упали в лужу? Очень интересный вопрос вы подняли. Вам не доводилось бывать на приёме у врача, у которого, скажем, сильно больной или неизлечимо больной человек? Я вам расскажу как там бывает: врач начиает внезапно интересоваться всей историей жизни человека, но не социальными шагами, а всякими непонятными вещами. Что вы чувствовали, не падали ли в лужи и прочее. Это он делает для того, чтобы понять, когда начались первые симптомы. Поэтому, если с вами произошел неприятный случай, когда вы себя почувствовали неловко и хотели бы забыть, а миру представить только свой хорошо отредактированный образ, то вы не учитываете кучу других вещей, взаимосвязей, которые ИИ может внезапно и быстро найти в самой фантастической корреляции. И это только один ничтожный момент. Может вам доводилось читать, как с помощью ИИ врачи только по фотоснимку смогли предварительно уставновить диагноз? Который бы не установили вообще, так как не было никаких признаков видимых человеку.
В чисто прикладном ключе "запись человека" тоже может быть полезной, так как и вы и я в чисто статистическом выражении не представляем ничего выдающегося, ни вы ни я не делаете ничего такого чего не делают другие. Потому что природа у человека такая и делать он может только так, но вот стеснительность или желание табуировать темы, это чисто социальная вещь зависящая только от уровня развития общества.
Предупреждаю, продолжите - уйдете в бан. Второго предупреждения не будет.
Всякий адекватный был бы способен прочитать вопрос. Коль у вас эта способность с первого раза не проявилась - вопрос повторяю:
Если способны - дайте на него ответ.
И дополнительно - найдите в нем слова "латентный гомосексуализм". Если не найдете - будете признаны таковым, ибо вы об этом думаете и оно вам мерещится.
Жду.
Я и даю вам ответ, методами верификации данных. Может вы в курсе, как проверяется например целостность файла? Ну, вот кроме этого есть и большое число и других способов, в том числе и без всяких компьютеров. Но я не вижу ни опасности, которую вы упомули и вы её никак не обосновали, поэтому обсуждать вообще нечего.
Да, я ошибся, спутал вас с другим учатником беседы. Такова особенность движка и достаточного числа ответов. .Я бы извинился, но вот ваш наглый требовательный тон всё портит.
Это ваше полное право и оно соответствует возможностям и правилам ресурса. Но права есть и у меня и они точно такие же. Кстати, мне не нравятся ваши угрозы. Давайте ка я вас первым забаню.
Экий вы всё же глупый и безответственный.
Пришел ко мне в блог, нахамил, обозвал и ... забанил! Меня. В моём блоге.
Меня - в моём блоге - забанил!
Ну и кто вы после этого? ДБ (с) Лавров.
Всего вам доброго!
В недавнем прошлом на заре формирования сетевой инфоматрицы
Была опробована хрень под названием "эффект Манделы"
Когда внезапно оказывалось, что вы помните текст или картинку достоверно
Но оказывалось что память вас подвела
И смысл этой смысловой ...э....единицы совсем иной.
И ещё.
В 07 году играли в игру.
Текст библии
Каждый изменял всего лишь одно слово.
На выходе текст изменялся кардинально.
Так сейчас печатают Библию, меняя слова и смысл.
И не только её
Так это явление если и есть, то касается только вашей головы, а не реальных данных, которые были уже на многих, в том числе не редактируемых носителях. Иначе как бы определили? Когнитивные искажения это часть человеческой природы, о чём предупреждал И.П.Павлов, что надо изучать и постигать работу ВНС, чтобы знать эти ошибки и учитывать их.
У том то и дело
Что в старых книгах написано как надо и как помнишь
А в хухоле с википедиком написана иная инфо по этому же поводу.
То есть вымарали правильную
И внедрили ложную.
И если пытаешься внести правильную версию,
То она автоматом исправляется на ложную.
Где гарантии что жопечад не напичкают "правильной" версией твоей же жизни?
Люди с древности вообще задаются вопросом, а не иллюзия ли весь этот окружающий мир? А тут такая мелочь, как дискредитировавший себя ресурс.
Как всегда, полезно или нет - решается от того, кто сидит у руля. А вовсе не от того, как отдельной персоне приятно иметь воспоминания.
В конечном итоге, неправедных руках, это мощное средство против свободы и справедливости.
Любое благое начинание можно обратить во зло, особенно если речь идёт о мегакорпорациях...
Если эта информация хранится на ваших серверах, то на здоровье, но капиталюги же сделают вашего цифрового батю своею собственностью, и заставят его кричать нацистские лозунги, и смеяться от радости в процессе...
Вот именно, что любое. Но вы же не боитесь писать здесь например, хотя за вас уже вполне может убедительно это делать бот и с очень неприятными последствиями и делать это может прямо сейчас и даже за очень большие группы людей.
Вы лучше задайтесь вопросом, а есть ли у вас хоть что-то действительно собственное (кроме бессмертной души наверное), чего нельзя отнять никакими силами, а не позволяемое вам пока дела идут как надо или на вас не обратили внимание?
Вы фильм "Превосходство" смотрели?
Там часть сюжета как человек делал копию своей личности цифровую. Копируя свои воспоминания в цифру.
Нормальная часть жизни, это смерть. Пока ещё, нормальная.
Нет, этот фильм я не смотрел. Я лишь пишу о том, что сожалею, что теряется слишком много ценной информации. Одно единственное видео, может дать информации больше, чем любые устные и письменные предания. Видео минут на 10-15 где ваш дед-прадед рассказывает то, что хотел бы передать вам и дальше, было бы несоизмеримо ценнее, чем ваши смутные воспоминания. И с каждым таким воспоминанием инфорация зашумляется, истончается и исчезает. В отличии от...
Нормальная ли? С точки зрения эволюции и развитии жизни, вероятно да и, вероятно, на определённый период. Потребовался разумный вид, который может сделать нечто большее, чем остальный, пожалуйста. Дешевые человеческие организмы, надо чтобы быстро сменялись, чтобы быстро развивались, а нужное пусть сами себе передают в материальной культуре. Но, разум себя уже осознал и в этой коротенькой жизни ему слишком мало места то, почему бы хотя бы таким способом не увеличить усилия в вечной борьбе с энтропией, с ничем? Это ведь не просто "бигдата" это не обещание какой-то там райской жизни потом, когда-нибудь, а здесь и сейчас и для каждого. Никаких причин умирать через смехотворно короткий период жизни для уже существующего разума - нет. Но если носитель и не может жить так долго, как хочется, то нет никаких причин отказываться от много того, чем мы могли бы узнать и что могло бы быть полезным.
за месяц до ухода мамы (как чувствовал)...записан на аудио наш с ней разговор....вернее попросил рассказать мне всю её жизнь....5 часов аудио....думаю что скоро даже смогу с ней поговорить ...вернее с ИИ которому уже сегодня можно загрузить аудиофайл чтобы он мог отвечать её голосом и интонациями...я на перепутье если честно....стоит ли это делать....пока в сомнениях.....кто -то скажет что это некрофилия....но....возможно кому-то это поможет справиться с потерей близкого человека.....так что сериал "Загрузка" уже почти не фантастика )))))
Ну это очевидно будет развиваться, поэтому в общем-то, нужна цифровая Конституция. Где всё логично и это действительно закон на службе общества, а не филькина грамота в интересах олигархов.
Я не на что не намекаю, но рекомендую выяснить как возникло большинство конституций в мире, и как вообще появилась идея конституции. Как конкретно это было в истории.
Идиёт. Чисто с точки зрения построения эффективного ИИ.
Персонифицированный ИИ недоумка-недоучки на всю оставшуюся жизнь зафиксирует недоумка-недоучку в его статусе.
Про энергопотребление для хранения и подсовывание информационного кала деликтно умолчим.
Ну с точки зрения обладателя всего знания, ты в любом случае помрёшь недоучкой
А чо, Сема обсуждает подсовывание ширнармассам верифицированного профессионального знания?
Вам будет интересно: https://arxiv.org/abs/2412.10849
Посмотрел.
На учебно-эталонных заданиях, содержащих полную симптоматику, арифмометр должен выдавать 100% правильный диагноз, а не 52%:
"o1-preview included the correct diagnosis in its differential in 78.3% of cases (95% CI, 70.7% to 84.8%) (Figure 1). The first diagnosis suggested was the correct diagnosis in 52% of cases (95% CI, 44% to 61%).
Там, где авторы декларируют, что арифмометр лучше - судя по разбросу и отсутствию статистической достоверности, на реальных пациентах кожно-мясные в башке держат кучу вариантов, которые размывают их ответы, и потом устраняют неопределённости по ходу дообследования. А чат-гопотоидные арифмометры этим не заморачиваются, подтаскивают то, что чаще. Ну, вот такая у БЯМов математика в вычислительном ядре - правильно то, что чаще, а не то, с чем приходится иметь дело в реале.
Т.е. теряется смысл использования арифмометров в медицинской диагностике - помогать с тем, что редко, но важно, а не с тем, что врачи и так диагностируют на автопилоте в полубессознательном состоянии под конец смены.
Ну и замечания по методике исследования - отсутствует сочетанная патология, на которой вероятностные арифмометры проваливаются в факториальный вычислительный взрыв, и общий объем выборки в несколько десятков случаев.
Технически у него колоссальные БД по любой области знания, проблема в том что простому обывателю они не нужны. Даже для меня та же Алиса это всего лишь говорящая цифровая голова...
Технически у них система на частотности.
И тут возникает вопрос - а что в интернете чаще, выверенные экспертные узкопрофессиональные материалы, или пересказ этих материалов журналистами, или мнение блогеров о журналистском пересказе?
Ну, не совсем так. У него есть некоторая информация в сильно сжатом и непонятно как преобразованном виде. И в отличие от "базы данных" - добраться до этих данных с гарантией получить именно то, что там хранится - шансов очень немного.
Так что - "это другое" ...
А если подкрутить ии так, чтоб он влиял незаметно на человечка и делал его лучше?
Страницы