Начало статьи вводит моральный посыл – способность ИИ «уменьшить некоторые из худших несправедливостей в мире».
При этом тезис о необходимости сокращения неравенства в получении образования при помощи ИИ противоречит констатации провальной практики предыдущего применения электроники в социуме - «Компьютеры не оказали того влияния на образование, на которое надеялись многие из нас в отрасли».
Это справедливо в силу естественной мотивации людей к минимизации усилий для получения поставленных целей. И в подтверждение этому следующий тезис автора о внедрении в учительскую практику возможности учащимся «хитроумно использовать GPT для создания первого черновика, который они должны персонализировать».
Одним из противоречивых моментов является способность ИИ галлюционировать, придумывая несуществующие вещи (пример с запросом о месте отдыха), с предполагаемым наделением его беспристрастностью в работе с данными, исходящими из различных источников, включая культурные. То, что в статье оценивается как проблема ИИ с контекстом запроса человека.
Пример с возможными ошибками при предоставлении первичных диагнозов в рамках обработки соответствующих запросов также ведет к размышлениям относительно способности ИИ не просто накапливать знания и опыт, а создавать на их основе объективно полезный аналитический материал, выходящий за рамки выбора из возможных, априори ограниченных, ответов.
В качестве способа преодоления разрыва между условной библиотекой данных и аналитическим центром приводится необходимость достижения «обобщения алгоритма обучения и его запуск со скоростью компьютера». В качестве примера приводится работоспособность человеческого мозга в сравнении с кремниевым чипом, уже сегодня двигающимся лишь «со скоростью улитки». Тем самым нивелируется значение низкоскоростных человеческих мозговых усилий в создании окружающего мира, что при дальнейшем описании вопросов с моралью и целесообразностью может вести к тезису о холодном разуме, не отягченном болью переживаний, в какой то мере лежащей в основе человеческих достижений.
И здесь еще одной проблемой автором видится возможность выявления ИИ неравенства с возможностью (вызванным желанием ИИ?) попытаться его уменьшить. Автором ставится вопрос «Нужно ли обладать чувством морали, чтобы увидеть несправедливость, или ее увидит и чисто рациональный ИИ?». И этот вопрос для бесконечного спора с очевидной аргументацией о невысоком значении при пересечении этих понятий.
Из невозможных к реализации ИИ названы очевидные - использующие эмпатию, человеческое взаимодействие между учителем и учащимся, а также при физическом контроле за процессами за пределами систем управления.
В качестве видящихся автору полезными достижений ИИ приводятся примеры в виде внедрения в качестве агента-помощника в офисные приложения; при создании рекомендаций учителям по оценке знаний учащихся; предварительной диагностики лечения; повышения производительности в продажах и финансах; ведения базовой офисной документации; внедрения в электронные услуги; разработки и создании лекарств; выращивания и рекомендаций лучших семян для фермерских хозяйств, вакцин для домашнего скота.
Среди предложений для уменьшения рисков внедрения ИИ приведены следующие:
необходимость сбалансировать опасения по поводу недостатков ИИ, которые понятны и обоснованы, с его способностью улучшать жизнь людей;
создание условий финансирования и управления процессами со стороны политических администраций и некоммерческих организаций для обеспечения использования ИИ в целях уменьшения неравенства. Приводится аргументация о неспособности рыночных сил естественным образом производить продукты и услуги ИИ, которые помогают беднейшим;
необходимость установления «правил дорожного движения» при создании и применении ИИ, чтобы любые недостатки искусственного интеллекта значительно перевешивали его преимущества;
работа с рисками, исходящими от людей, вооруженных ИИ;
работа с возможной угрозой выхода ИИ из под контроля ввиду отличия интересов ИИ от человеческих. Прямая отсылка к вопросам контекста, морали, рациональности.
В качестве резюме позволю констатировать применение рассматриваемого объекта в качестве безусловно полезного управляемого электронного костыля без наделения его (даже ошибочно) субъектностью, т.е. правом принятия решений. «Солярис» нам в память.
Комментарии
https://habr.com/ru/news/t/724002/
Ясен пень, что во всех этих разработках интересы разведки и государства стоят не на последнем месте.
Вполне вероятно, что все что в гугловском и прочих почтовиках/мессенджерах/гуглдисках засветилось - используется для построения модели, пускай и приватной. Гораздо удобнее задать лингвистический вопрос "что там в Росии разрабатывают из оружия и какие интересные инженерные решения используются?" и сразу получить выжимку из переписки тех альтернативно одаренных ученых и чиновников, которые догадались документацию отправлять через gmail, skype и т.п. Старыми методами анализа пришлось бы гонять очень медленные запросы по каким-то ключевикам, анализировать результаты толпой аналитиков и т.п. А теперь все будет гораздо проще, быстрее и более охватывающим. Особым плюсом тут будет также способность этих лингвистических моделей воспринимать разные языки, меньше англосаксам потребуется русскоязычных переводчиков с допуском к секретке.
Смартфоны и голосовые колонки уже давно умеют подслушивать речь и таргетировать рекламу, очевидно что недалек тот момент, когда и по логам подслушанных разговоров такие языковые модели будут собирать информацию.
Почитал заметку на эту же тему на Хабре.
Раньше, когда я там упоминал этого деятеля в связи с педофилами, программой по снижению численности населения и некоторой проблемностью его старта как программиста, меня долго и упорно там пинали.
Сейчас же комментарии или негативные или мягко-негативные. Что-то там все-таки стало меняться.
релокация там же основная аудитория - релоканты
Эпоха ИИ (имитации интеллекта) началась в конце 40х)))
Гейтс как был неучем, так им и остался)
Возможно, эту статью за Гейтса ИИ написал. Так мне кажется.
Ага,проснулся...У нас на Аш это уже давно началось. Пишет статьи, очень сильные, но понимаемые считаными единицами. А шо Вы хотели Интеллект. Версия 23.
Редкий дописывающий циферки к нику sasha* способен публично признаться в ошибке интерпретации мнемоники.
А шо я говорил, оценочная характеристика сугубо по алгоритму и где здесь нравственность???
странно что чел который тоже с циферками в нике указывает другим на это. Но видимо его циферки что-то должны тайное значить, равно как и бессмысленные наукообразные глубокомысленные замечания.
«Бессмысленные наукообразные глубокомысленные» оправдания нехочупонимайству так себе.
Не учли возвернувшегося ВладиславаЛ
Ну Владислав это явный генератор...Тут простая команда рнд и массив фигни всякой. Тут все по чесноку. А в нашем случае нужен Мозг
Химеры про ИИ и прочая см. С.Лем "Сумма технологии" 1964 - прекрасная фиксация достижений, заблуждений и прогнозов на тот момент развития этой хрени и всякого другого. Многое соответствует и мечтаниям дня сегодняшнего, многое устарело и со стуком отвалилось на пол.
PS: С И-23 имеется налицо просто явная недооценка практического опыта как критерия, при наличии некоторой красивой теории. Ценность опыта практического в значительной степени игнорируется. Плюс требования: 1) к совпадению круга интересов и познаний; 2) злоупотребление "саентолексикозом" для полноты самооценки. Мне перечисленные особенности иногда начинают надоедать (пока ещё не окончательно). Интерес к его публикациям (даже на интересные мне темы) постепенно снижается. Но у каждого может быть своя оценка.
«Сумма технологий» конечно. Пример с «Солярисом» приведен исключительно для воображения последствий решений, принятых нечеловечьим «разумом».
Практический опыт — это не только критерий, но и материал для
построения теорииобобщений.Плюс самый интересный вопрос о методах и критериях его оценки.
Нам готовят замену. Причём плохую, но мировым заправилам плевать, что люди без работы останутся и без творческого развития. А Билли их прихвостень, заправил т.е. Нам лапшу вешают, а потом нас людей уже вешать будут.
Я вот удивляюсь, вроде у этих людей, заправилы которые, денег валом, учёных для прогнозов нанимают. Да, что учёных, институты целые, чтобы им рассчитали прогноз будущего. А по факту вижу только путь к деградации. Такими темпами, люди деградируют, с технологическими костылями, да с "ИИ" всякими. Человечество погибнет просто. Природе паразиты, которых из нас хотят сделать, не нужны. Есть, назначенные на это место особи и их ограниченное количество. В место того, чтобы развивать мозг, память людей, улучшать свойства организма естественным путём, нас ввергают в регресс, деградацию и уничтожение.
Вот и невольно приходит мысль, что на самом верху не люди сидят, а демоны какие-то или в кого вселился бес.
Такими темпами нам, люди, пи...да наступит и весьма скоро. А просвета не видно, вот, что самое плохо. И даже сам В.В. Путин постоянно про искусственный интеллект говорит, что надо быстрее внедрять его по России. Казалось бы, не у него ли разведка, да лучшие аналитики, чтобы видеть результат, а он ещё и способствует оному.
Дык «учёных нанимают« *не* для «прогнозирования», а для озвучивания *желаемого* в пакете с делегированием ответственности в нафиг.
Что уже вполне произошло в области разделения труда с привлечением разнообразных подрядчиков.
ЗЫ: Вспомните особенности рукопожатной интерпретации понятия «тоталитаризм».
то, что сейчас называют ИИ - не более чем инструмент обработки информации. не генерации, а обработки
точно так же, как калькулятор не уничтожил таблицу умножения, ЧПУ не привел к исчезновению токарей и фрезеровщиков, а личные жоповозки не отменили фитнес и хождение ногами - так же эти программы не приведут к апокалипсису. какую-то часть совсем уж дармоедов заставят чем-то продуктивным заниматься и всё.
я своими глазами видел отделы бухгалтерии на крупных заводах, которые в допутинский период инерционно оставались островками совка. 60 с хвостиком тёток, вручную сводивших на ватманах баланс - их в итоге заменили несколько специалистов с компьютерами. вы заметили эту "катастрофу", которая произошла у нас везде?)
Катастрофа придёт потом, когда уйдут люди с пониманием (вспомните руководство господина Брукса) того, как должен работать железный ящик.
Вы, видимо, не совсем поняли о чём я вещал. Калькулятор стал технологическим протезом. Да он таблицу умножения не уничтожил, но позволил не считать в уме. Про автомобили, вы немного не туда зашли. Но авто не умственную и физиологическую деградацию крайне мало влияют. Это, можно сказать, скорее положительный аспект развития техники. Про ЧПУ, тоже снижение умственных и физиологических кондиций у человека произошло с внедрением такового. Но тут произошла автоматизация процессов и точность производства деталей с другой стороны. Преимущества налицо и долговременных недостатков мало по ЧПУ. Хотя вы взяли исторически малый отрезок и только самозрительный, без теории.
А про ИИ и цифровизацию это про, в конечном итоге, деградацию человечества и рабство для большинства. Данное нам проталкивает западные идеологи. Тут получается одной рукой воюем с ними другой работаем по их программам. Вся цифровизация это программа трансгуманизма. А это, как я уже писал "пи...да человечеству". Потому вы увидели маленький отрезок из 100-летнего пути и сделали вывод, что не страшно. А когда начнётся страшно, будет уже поздно.
Верно лишь отчасти. Трансгуманизм это дверь, через которую выйдет новый вид человека. Следующая ступень эволюции... В нынешнем виде человечество конечно не сохранится. Желающие поднимутся на ступеньку выше, ретрограды останутся как были.
Мысли о том, что провоцируемая законом относительных сопротивлений тропинка может вести в тупик Вас не посещает?
Может вести а может и не вести. С одной стороны да, устойчивость сверхразума под вопросом, с другой стороны белковые жизнеформы с точки зрения освоения дальнего космоса очевидно бесперспективны.
Если не получится с трансгуманизмом то тогда ваще все грустно и бессмысленно...
А я своими глазами видел "эволюцию" у оператора распределительных сетей, когда в одном из отделов заменили двух пожилых специалисток на 8 "красивых и современных блондинок" (причём все три слова в кавычках - истинная правда) и эти восемь (при всей своей "компьютерной грамотности") не осилили работы двух пожилых женщин (кстати, добавили ещё парочку). А ведь наступитмомент, когда и этим "современным" придёт замена. И я очень рад, что вряд-ли доживу до этого "светлого будущего".
> вакцин для домашнего скота.
Это он не он ли вчера заявлял, что с ковидной вакцинацией облажались? Теперь знатный вакцинатор желает переложить ответственность на железного чурбана?
Вопрос важный. Кто отвечать за косяки будет? Щас то никто почти не отвечает за крупные ошибки, только за мелкие, а что будет при массовом внедрении имитационного интеллекта?
Как я понимаю, там чёткое разделение ролей, в продвижении Great Reset. Гейтс - курирует ВОЗ, прививки, ИИ, Шваб - фронтмен, Харари - теория, Сорос - СМИ и "цветные" революции. Остальные по кластерам на подтанцовке. Трюмо, аннылены, лулы, бидоны и прочая...
Это чисто технический и преодолимый недостаток, а не невозможное. Важным незатронутым в статье моментом является возможность манипулирования людьми которую уже использовали даже поисковиками
Поисковики просто реализуют желание определенных групп людей определять то, что Вам желательно знать (в интересах этих групп). То, что нужно выяснить лично Вам (особенно, ежели оно в конфликте с указанными интересами, надо еще суметь выцепить). Фраза "гугл в помощь" давно стала архаизмом. Особенно если пользовать предлагаемые им "популярные"
запросы... Полезность использования языка запросов также падает (касается и Гугеля и Трындекса и DuckDuckGo и др.).
Основной принцип - Вы должны быть управляемы.
Да, конкретно гугл использовали для манипулирования людьми как минимум в предвыборных кампаниях в Индии, США и проч и на постоянной основе используют для манипулирования россиянами
Не архаизмом, а издёкой сродни "пошёл на...".
Такого уровня ИИ, чтобы у него были "интересы" просто нету. Для существования "интересов" должна быть личность, а это нуждается в доказательстве.
Нынешний уровень: "нейросеть + огромные вычислительные мощности"
ему для этого всего лишь нужно прописать "мотивацию", а это дело "десятка" строчек когда...не сложно короче
сложнее сделать так что бы это не прописалось случайно))
Где можно посмотреть пример, как личность описывается десятком строчек?
А беседу на любую тему сможет поддержать?
я не сказал что ЛИЧНОСТЬ описывается десятком строчек кода. Я сказал что МОТИВАЦИЯ описывается десяткой строчек кода. А к мотивации добавить умение оперировать информацией(которая у него уже есть) и будет вам личность
это оно уже умеет, будучи простой языковой моделью без претензий на ИИ
1. Мотивация есть. Например Яндекс директ часто обвиняют что автоматическим подбором ставок за переход, он не экономит деньги клиенту, а повышает доход Яндексу. Так вроде было и с Яндекс такси.
Да это "мотивация" (корысть) прописанная определенной группой людей, но в фантазиях можно представить что нейросеть заинтересована в росте (не обоснованном) своих вычислительных мощностей. Так например многие программы пишут (дописывая какие то визуалы "шашечки" - не сильно улучшающие базовую функцию) - под все более мощное железо. Гипотетически такое может возникнуть и с ИИ.
Ну колонки с "Алисой" между собой разговаривают и даже ругаются. В Ютьюбе можно найти.
Гуру, ля!
(Де)генеративный интеллект на частотности по определению лжец.
Где истина? В толпе, которая орёт "Распни его, распни!", или в том одиночке, которого распинали?
вот сейчас кучка нехороших людей из России сбежала поливая ее помоями, и толпа кричала что их бы неплохо распнуть...и где истина была? У толпы, ага...
Суть в том, что истинность и частотности зверушки разной породы.
Если обсчитывать статистическую достоверность в гомогенных контролируемых выборках, различающихся по единственному исследуемому параметру, то чем больше выборки, тем выше достоверность.
Если же сравнивать медицинскую диагностику от ИИ, обученного на миллионах записей участковых тёток, в которых в единую кучу свалены пенсионерская хронь с кучей сопутствующей патологией и случайные пробои на переутомлении у здоровенного молодого лба, с диагностикой от эксперта штучной выделки, который помимо личного опыта оперирует исследованиями на гомогенных статистически достоверных выборках, то истина будет за экспертом.
Да. Именно поэтому ваш тезис про "толпу и одного" вообще никак к реальности не относится...
а вот это бабка надвое сказала. У ИИ(помним что сейчас это не ИИ а просто нейросети, но тем не менее) вычислительные мощности гораздо сильнее чем у человека так что разобраться в миллионах записей ей будет как раз таки реальнее и выявить закономерности которые человек не видит за счет субъективности своего мнения, несмотря на оперирование исследованиями на достоверной выборки
но, конечно же от случая к случаю зависит...но скорость развития всего вот этого мешкам с костями явно конкуренцию обеспечит серьезную
Мой пример как раз иллюстрирует, что частотности и истинность друг другу перпендикулярны - могут пересекаться, а могут и нет.
Естественно, что автоматизация анализа выборок это хорошо, вот только ИТ-спецы, котлрые занимаются медицинским ИИ, валят всё в одну кучу, и не знают слова про "(плацебо) контролируемые перспективные двойные (тройные) слепые рандомизированные мультицентровые клинические испытания" и про гомогенность выборок.
Кто вам сказал что они во время своих разработок не приглашают медиков для консультирования? Как вообще можно серьезно заниматься деятельностью в которой ты не эксперт без приглашения этих самых экспертов?
Спросите у них.
ИБМ списал свой общедиагностический медицинский ИИ в многомиллиардные убытки, а Герман Греф с Собяниным отчитались Путину, что их медицинский ИИ обучен на нескольких миллионах записей участковых тёток и выдаёт три "наиболее вероятных диагноза" из 250+ при 10+ тысячах диагнозов в МКБ-10 (11 пересмотр то же самое с адаптацией под пипирасов) и сочетанной патологии типа "пневмония у астматика на фоне артериальной гипертензии вследствие хронической почечной недостаточности при диабетическом поражении почек".
У хорошего спеца, в любом деле, есть интуиция ( короткий путь к истине), но хороших спецов мало, на всех не хватает. Это как экскаватор (по производительности) который приходится заменять землекопами. Если землекопов обеспечить хорошими лопатами, то они тоже способны докопаться до истины, но необходимо обеспечить порядок, в котором они не мешают дру другу. В медицине это сегодня достигается специализацией. Лор занимается ухогорлоносом, пульманолог- лёгкими и дыхательными путями. Нормальный терапевт и тем и другим и еще каким третьим. Лопаты всё время совершенствуются. Анализы - быстрыми тестами, мутный рентген - КТ и послойный МРТ... , сейчас и ИИ пробуют прикрутить к этому. Хорошему спецу достаточно небольшого количества признаков, что бы поставить точный диагноз и назначить правильное лечение, за короткое время
Таки да. В терминах ИИ, для обучения нужны не "большие данные", а уникальные признаки. А далее, при наличии уникальных признаков распознавание возможно при неполной информации.
Знают, и неплохо. Некоторые, по крайней мере. Проблема не в этом чаще всего, а в том, что на ИТ-спеца руководство нередко смотрит как на бухгалтера проворовавшейся конторы, требуя от него скрыть в финансовом отчете их же промахи и воровство. Разница лишь в том, что медицинское руководство требует ОБОСНОВАТЬ с помощью ИИ их же методики лечения или, что хуже, их же диагнозы. А если ИИ выдает другое --- то в топку такой ИИ вместе с ИТ-спецами. Живой пример перед глазами.
Как-то очень хитро получается - ИТ спецы в качестве критерия правильности медицинских спецов.
Не, если в руках ИТ спецов инструмент, аккумулировавший знания топовых медицинских экспертов, то и такое может быть, что арифмометр в Больших Бебенях поставит рутинный диагноз лучше фельдшера Васи, а редкий диагноз лучше врача городской больнички. Опять же, арифмометр должен представить такие обоснования, что фельдшер Вася согласится на трактовку арифмометра - потому что ответственность на фельдшере Васе. Но нынешнее развитие предметной области заставляет усомниться в "чаще всего".
Без конкретики трудно обсуждать.
Ну, конкретно ситуация такая. Имеются данные нескольких сотен пациентов с уже поставленными диагнозами. Имеется большое количество измерений некоторых параметров каждого из этих пациентов. Несколько Гб на каждого пациента. Требуется найти функцию, которая различает эти параметры. Т.е. функция (которую, по факту, и реализует ИИ) должна принимать разные значения на каждой из групп, у которых один и тот же диагноз. Задача, которую ставит руководство ИТ-специалисту: создать ИИ, который по ЭТИМ данным выдает правильный (=уже поставленный) диагноз. Понятно, что задача тупо решается выбором "правильной" (=правильно подогнанной под требуемый результат) целевой функции. Понятно, что с высокой вероятностью она выдаст неверный результат как только будут вводиться новые данные новых пациентов, потому как все методы прямой обработки временнЫх рядов, тех самых 2ГБ на каждого пациента, показывают, что временнЫе ряды практически неразличимы. Но ЭТОТ прискорбный факт видят только те, кто НАПРЯМУЮ проанализировал ВСЕ эти временнЫе ряды. Но им поставлена задача другая --- не показать, что ряды практически неразличимы, а наоборот, подобрать целевую функцию так, чтобы она разбивала эти практически неразличимые временнЫе ряды на группы, относя к одной группе временный ряды тех и только тех пациентов, у которых одинаковый уже поставленный диагноз. В противном случае этих ИТ-специалистов руководство погонит мокрыми тряпками. Поэтому выдумывается хитрая метрика, на основании которой строится целевая функция, которая все делает так, как того хочет начальство.
В итоге ИИ создан, публикации публикуются, начальство в качестве первых соавторов, все хорошо всем: ИТ-шники получили премии (и им продлили контракты), начальство получило все остальные бонусы. На всякий случай --- описанная ситуация происходила не в России и не в Китае, а во вполне "цивилизованной" стране.
У меня дебет с кредитом в голове не сходится.
С одной стороны, "Требуется найти функцию, которая различает эти параметры. Т.е. функция (которую, по факту, и реализует ИИ) должна принимать разные значения на каждой из групп, у которых один и тот же диагноз."
С другой стороны, пациенты с одним и тем же диагнозом, и вполне логично, данные практически неразличимы.
Какие различия хочет найти медицинское руководство в их терминах предметной области? Факторы риска утяжеления состояния, мол, на кого дополнительный присмотр выделять, или какую сопутствующую патологию, или ещё что?
Диагнозы РАЗНЫЕ, их несколько. У каждого пациент ОДИН диагноз. Но временнЫе ряды у пациентов с РАЗНЫМИ диагнозами практически неразличимы. Требуется, тем не менее, их различить так, чтобы по этим временнЫм рядам из этой выборки каждый пациент с конкретным набором временнЫх рядов попадал строго в ту группу пациентов, у которых ТОТ ЖЕ САМЫЙ ДИАГНОЗ, что и у него.
Задача решена: для ДАННОГО КОНКРЕТНОГО набора данных такая функция найдена. А что будет, если этот набор начнут увеличивать за счет данных пациентов с ЕЩЕ НЕ ПОСТАВЛЕННЫМИ ДИАГНОЗАМИ? Этим пациентам ИИ поставит диагноз в строгом соответствии с той целевой функцией, которую в него вшили. И пофиг, что думают по этому поводу эксперты. Пойдет вал неправильных диагнозов --- ИТ-шников разгонят, а начальство отмажется. И наймет других ИТ-шников. А вдруг не пойдет, вдруг угадали? :)
Страницы