Лесли Матис знает, что её дочь сказала неправду. Но она никак не ожидала, что 13-летнюю девочку за это арестуют.
Девочка-подросток допустила оскорбительную шутку во время онлайн-общения с одноклассниками, что привело к срабатыванию школьного программного обеспечения для наблюдения.
Не успело закончиться утро, как восьмиклассницу из Теннесси арестовали. По словам её матери, девочку допросили, обыскали и оставили на ночь в тюремной камере.
Ранее в тот же день друзья дразнили её из-за ее загорелого лица и называли ее “мексиканкой”, хотя это не так. Когда подруга спросила, что она планирует на четверг, она написала: “В четверг мы убьем всех мексиканцев”.
Матис сказала, что комментарии были «неправильными» и «глупыми», но контекст показал, что они не представляли угрозы.
«У меня возникло ощущение, что это и есть та Америка, в которой мы живём?» — сказала Мэтис об аресте своей дочери. — «И всё из-за этой дурацкой технологии, которая просто подбирает случайные слова, не обращая внимания на контекст».
Системы видеонаблюдения в американских школах всё чаще отслеживают всё, что ученики пишут в школьных аккаунтах и на школьных устройствах. Тысячи школьных округов по всей стране используют такие программы, как Gaggle и Lightspeed Alert, чтобы отслеживать онлайн-активность детей и выявлять признаки того, что они могут причинить вред себе или другим. С помощью искусственного интеллекта технологии могут анализировать онлайн-переписки и немедленно уведомлять об этом как руководство школы, так и правоохранительные органы.
Педагоги говорят, что эта технология спасла жизни. Но критики предупреждают, что она может привести к уголовному преследованию детей за неосторожные высказывания.
«Это упростило доступ правоохранительных органов к информации о жизни учащихся, в том числе о том, что происходит у них дома», — сказала Элизабет Лэрд, директор Центра демократии и технологий.
Школы усиливают меры безопасности на случай угроз
В стране, уставшей от стрельбы в школах, несколько штатов ужесточили меры в отношении угроз в адрес учебных заведений. Среди них — штат Теннесси, где в 2023 году был принят закон о нулевой терпимости, согласно которому о любой угрозе массового насилия в отношении школы необходимо немедленно сообщать в правоохранительные органы.
13-летняя девочка, арестованная в августе 2023 года, переписывалась с друзьями в чате, привязанном к её школьной электронной почте в средней школе Фэйрвью, где для контроля аккаунтов учащихся используется платформа Gaggle. (Associated Press не называет имя девочки, чтобы защитить её конфиденциальность. Школьный округ не ответил на запрос о комментарии.)
Подростка, которого доставили в участок, допросили и обыскали, а её родителям разрешили поговорить с ней только на следующий день, согласно иску, который они подали против школьной системы. Она не знала, почему её родителей не было рядом.
«Потом она сказала мне: «Я думала, ты меня ненавидишь». Такие слова не дают покоя», — сказала Матис, мать девочки.
Суд назначил девочке восьминедельный домашний арест, психологическую экспертизу и 20 дней обучения в альтернативной школе.
Генеральный директор Gaggle Джефф Паттерсон заявил в интервью, что школьная система использовала Gaggle не по назначению. По его словам, цель состоит в том, чтобы выявлять тревожные сигналы на ранней стадии и принимать меры до того, как проблемы дойдут до правоохранительных органов.
«Я бы хотел, чтобы это рассматривалось как поучительный случай, а не как нарушение закона», — сказал Паттерсон.
Чаты для студентов подвергаются неожиданной проверке
По словам Шахар Паш, юриста в сфере образования из Флориды, студенты, которые думают, что общаются в чате только с друзьями, часто не осознают, что находятся под постоянным наблюдением.
Одна девочка-подросток, которую она представляла, пошутила о стрельбе в школах в личной истории в Snapchat. Автоматизированная система обнаружения Snapchat зафиксировала этот комментарий, компания уведомила ФБР, и через несколько часов девочку арестовали на территории школы.
16-летняя Алекса Манганиотис сказала, что её поразило, насколько быстро работает программное обеспечение для мониторинга. В школе искусств Дрейфус в Уэст-Палм-Бич, которую она посещает, в прошлом году была запущена программа наблюдения Lightspeed Alert. Когда Алекса брала интервью у учителя для школьной газеты, она узнала, что двое учеников однажды написали что-то угрожающее об этом учителе на школьном компьютере, а затем удалили это. Программа Lightspeed зафиксировала это и «их забрали примерно через пять минут», — сказала Алекса.
По словам Алексы, подростки сталкиваются с более серьёзными последствиями за свои публикации в интернете, чем взрослые.
«Если взрослый человек опубликует на своём компьютере расистскую шутку с угрозами, он может удалить её и его не арестуют», — сказала она.
Эми Беннетт, руководитель аппарата Lightspeed Systems, сказала, что программное обеспечение помогает школам с нехваткой персонала «действовать на опережение, а не применять карательные меры», выявляя ранние признаки травли, членовредительства, насилия или жестокого обращения.
Эта технология также может помочь правоохранительным органам в реагировании на кризисные ситуации, связанные с психическим здоровьем.
В школах округа Полк во Флориде, где обучается более 100 000 учеников, за четыре года программа обеспечения безопасности в школах получила почти 500 предупреждений от Gaggle, как сообщили сотрудники на публичных заседаниях совета по образованию.
Это привело к 72 случаям принудительной госпитализации в соответствии с Законом Бейкера — законом штата, который позволяет властям требовать проведения оценки психического здоровья людей против их воли, если они представляют опасность для себя или окружающих.
«Очень многие дети, подвергшиеся принудительному обследованию, вспоминают его как травмирующий и разрушительный опыт, а не как то, что помогло им в лечении психических расстройств», — сказал Сэм Бойд, адвокат Южного центра правовой защиты бедноты. Школьные округа Полка и Уэст-Палм-Бич не предоставили комментариев.
Наташа Торкзабан стоит у здания старшей школы Лоуренса, где она и другие ученики подали иск против школьного округа за использование программного обеспечения для цифрового наблюдения. Лоуренс, штат Канзас, США, 3 августа 2025 г.
Анализ показывает высокий процент ложных срабатываний
Информация, которая могла бы помочь школам оценить эффективность программного обеспечения, например количество ложных срабатываний, является конфиденциальной и не публикуется, если только школы сами не отслеживают эти данные.
За последние 10 месяцев система Gaggle сообщила о более чем 1200 инцидентах в школьном округе Лоуренса, штат Канзас. Но, согласно анализу данных, полученных от Associated Press в рамках запроса о предоставлении публичной информации, почти две трети этих сообщений были признаны школьными чиновниками ложными, в том числе более 200 ложных срабатываний из-за домашних заданий учеников.
Учеников одного из классов фотографии вызвали в кабинет директора из-за опасений, что Gaggle обнаружил обнаженную натуру.
Фотографии были автоматически удалены с Google Дисков учащихся, но учащиеся, у которых были резервные копии помеченных изображений на своих устройствах, показали, что это была ложная тревога.
Окружные власти заявили, что позже они скорректировали настройки программного обеспечения, чтобы уменьшить количество ложных предупреждений.
Наташа Торкзабан, окончившая школу в 2024 году, рассказала, что её осудили за то, что она отредактировала эссе своего друга, потому что в нём были слова «психическое здоровье».
«Я думаю, что в идеале нам не стоило бы внедрять новое блестящее решение в виде искусственного интеллекта для решения глубоко укоренившейся проблемы подросткового психического здоровья и уровня самоубийств в Америке, но именно к этому мы сейчас и стремимся», — сказала Торкзабан.
Она была в числе студентов-журналистов и художников из старшей школы Лоуренса, которые на прошлой неделе подали иск против школьной системы, утверждая, что система Gaggle подвергала их неконституционной слежке.
Руководство школы заявило, что серьёзно относится к опасениям по поводу Gaggle, но также отметило, что эта технология выявила десятки случаев непосредственной угрозы самоубийства или насилия.
«Иногда приходится идти на компромисс ради общего блага», — заявила член Совета по образованию Энн Костелло на заседании совета в июле 2024 года.
Спустя два года после пережитых испытаний Матис сказала, что её дочери стало лучше, хотя она всё ещё «боится» столкнуться с одним из школьных инспекторов, которые её арестовали. По её словам, единственным светлым пятном было сочувствие учителей в альтернативной школе, где учится её дочь. Они каждый день находили время, чтобы без осуждения выслушать детей и узнать об их чувствах и разочарованиях.
«Как будто мы хотим, чтобы дети были маленькими солдатиками, но это не так, — сказала Матис. — Они просто люди».
Больше интересных статей, которые я не успеваю переводить, но которые можно почитать через онлайн-переводчики, можно найти по ссылке: t.me/murrrzio
Комментарии
Надо натравить ИИ на фильмы Тарантино.
в джанго каждое второе слово - нигер. как его не забанили ?
В кино у них мат на факе. Но это художественное произведение, поэтому можно. Рейтинг будет R13, да и всех делов.
Тогда Тарантино снимет фильм, где Клуни и сам Тарантино массово мочат набегающий волнами ИИ.
Еще в 82 году сняли - "Трон"
На мультфильмы Диснея.
Сам история тоже перекликается с Голливудом, был такой фильм Особое Мнение, где врывались к будущим преступникам, пока они ещё ничего такого не совершили. Реальная система предсказания преступлений у них попроще пока ещё, но масштабный подход уже чувствуется
Минкультуры сможет проверять вышедшие ранее фильмы и сериалы на соответствие нормам о традиционных ценностях. Об этом ТАСС рассказала председатель комитета Госдумы по культуре Ольга Казакова.
ну она реально на латину похожа, что тут удивляться-нервничать. и брови брежневские.
Невнимательно читаете. На фото Наташа Торкзабан выпускница из Лоуренса.
А мексиканкой обзывали дочь Лесли Матис из Теннесси, среднеклашку.
Приходил на прием к врачу недавно - бразильянке. Светлая блондинка с ярко-голубыми глазами. "Не похожа" на латину.
а вы знаете что аргентинцы про себя говорят - мы говорят, не латино, мы европейцы но с южной америке. и исходя из того как они долбили социалистический парагвай им верится.
Я знаю, но южане-бразильцы на европейцев в массе похожи больше.
Исходя из сочетания лица и фио - уж скорее армянка.
Больше на загорелую немку.
Восемь недель домашнего ареста, психологическая экспертиза и 20 дней альтернативной школы + сутки в камере участка - за неправильные слова в детском чате, глупые, но не несущие угрозы вообще. И это демократично. У нас учителю могут напрямую, без чата угрожать, материть, проявлять против него агрессию - максимум наказания для подростка - беседа завуча или директора с ним в присутствии родителей. Родители и вовсе в стороне и часто сами агрессивно настроены против школы.
мне кажется школы спецом ставят этот софт, чтобы запугать ученичков, чтобы от рук не отбивались. и спецом "ложно" реагируют.
каждый препод с полпинка расскажет как его достали эти ученики и если кого посадят на 8 недель то только польза.
Это, всё же, больше характерно для 90-00-х, сейчас более-менее в берега вошло. Вероятно не везде, но в целом нет никакого сравнения с тем что было 20-30 лет назад.
Вы учились в школе в 90х? Это была еще советсткая школа, и воспитание и учителя и ученики.
Племянники учились.
Тогда в школах пошли токсикомания, наркота кое где, родители многих спивались, появилась гопота равняющаяся на братков.
Это школы сами не выносят сор. Жалеют.
Надо вспомнить шо таки 90% процентов воспитания даёт семья. Поэтому - папы и мамы вся нагрузка на вас. И второе, вспомнить шо мы таки русские и вся западная алгоритмика культуры порочна. «Коллективный Запад» в целом не лидерами нравственно-этического прогресса, а самый мощный поработитель и паразит на жизни других народов. Поскольку «коллективный Запад» в целом в таковом качестве не состоялись, то не надо обольщаться: их культура, проникающая в самобытные культуры народов - это не просвещение отсталых дикарей, а порабощение путём уничтожения в обществе педагогического суверенитета с дальнейшим уничтожением народа. Просто на своих рабах заправилы отрабатывают технологии управления для порабощения на будущее.
Проблема общества в педагогической субкультуре и информации мировоззренческого характера в ней.
Психика человека — это информационно-алгоритмическая система, а детство — период её становления и развития, в течение которого она не полностью функциональна. Если рассматривать психику личности как информационно-алгоритмическую систему, то в ней можно выявить несколько составляющих.
- Первая, врожденная составляющая,— инстинкты, безусловные рефлексы, «пароли» доступа к информации, запечатленной в духе рода.
- Вторая, импринтинговая составляющая,— последствия первого впечатления, которые в большинстве своем действуют на протяжении всей последующей жизни и которые модифицировать после того, как они сформировались, либо невозможно, либо весьма затруднительно.
- Третья, социокультурно обусловленная составляющая, — информация и навыки поведения (большей частью бессознательные автоматизмы), воспринятые из исторически сложившейся культуры общества или из субкультуры социальной группы без собственного их осмысления и переосмысления (помимо импринтинговой компоненты).
- Четвертая — лично осмысленный жизненный опыт, включая и переосмысление ранее названных составляющих, продукты собственного нравственно обусловленного творчества.
В психике взрослых все четыре составляющих присутствуют в том или ином виде, а также в некоторой структурной упорядоченности. А в психике детей в момент рождения есть только первая и зачатки второй составляющих. Потом по мере взросления формируются вторая и третья составляющие, а четвертая полноценно развивается только в возрасте 13 лет и старше, когда завершится формирование структур головного мозга и нервной системы, а также накоплен некоторый личный жизненный опыт, который может осмысляться и переосмысляться. Ранее 13 — 15 лет недоразвитость структур головного мозга и недоразвитость личностной культуры психической деятельности, включая и интеллектуальную деятельность, не позволяет ребенку самостоятельно сформировать жизненно состоятельную четвертую составляющую психики. Помочь в этом ему должны родители.
Крошка сын к отцу пришёл и спросила кроха, что такое хорошо, что такое плохо?
У ребёнка не работает ещё интеллект и совесть в полной мере, поэтому идёт запрос у родителей на разграничение добра и зла. А если родители без совести и заняты текущими проблемами (некогда), не саморазвиваются, то кто поможет ребёнку? Если не родители или бабушка с дедушкой, тогда внешняя среда будет воспитывать.
Мамам обратить внимание на вторую составляющую, закладываете её правильно пока дитятко на руках, и многих проблем можно избежать. Воспитывай пока лежит поперек кровати - напоминалка от предков. Папам не в телевизор с пивком, с друзьями в гараж и т.д., а как только дитятко слезло с рук материнских уделять внимание в воспитании. И развиваться самим родителям по мере изменения информации.
На самом деле это хорошо. Пусть с детства приучаются держать ответ за длинный язык, и сначала думать, а потом говорить. В РФ такая же система не помешала бы.
Для этого надо воспитывать, а не строить электронный концлагерь слежения. Для контроля своих эмоций, инстинктов, "базара" и и.т. д. Всевышний дал совесть и силу воли. Просто с алгоритмики культуры это вытеснено и под предлогом блага загоняют рабов под полный контроль. Лучший контролёр - это совесть.
Не беспокойтесь, параметры запретных слов и тем пересмотрят, так вы не то, что сказать, пукнуть свободно не сможете. Не говоря уже что ежеминутной контроль приведет к психозу. Удивительно, как люди стараются, чтобы сделать жизнь невыносимой для самих себя.
Мне в детстве достаточно было один раз засунуть гвозди в розетку и взяться за них руками, чтобы раз и навсегда понять, что с электричеством шутки плохи.
С тех пор я к электричеству отношусь с большим уважением, и спокойно работаю с электрикой, Никакой невыносимости жизни и психозов при этом не испытываю.
Система за нарушение законов должна быть такой же неотвратимой, как электричество. Нарушил правила - получи.
При неотвратимости наказания резко пропадает желание нарушать закон.
Нарушителя развращает снисходительность при применении наказания, под видом гуманности. Пролезло один раз, пролезет и в другой. И опять в судах будут давить на жалость - давайте не будем портить ему жизнь, он молодой, он одумается... а с каких-таких? Он свой выбор уже сделал.
Если вы считаете, что западная система запретных тем, т.наз. "политкорректность", есть сообразная аналогия электрического тока в розетке, то вы что-то о ней сильно не понимаете. Это один момент, второй такой: жить, ежесекундно осознавая, что за твоим каждым шагом следят и нужно просеивать каждое слово, есть путь к психозу. Это не вопрос преступлений, наказаний или УК. Это вопрос человеческой психофизиологии.
Впрочем, не сомневаюсь, что и её начнут ломать через колено во имя рациональности, да еще под одобрительные аплодисменты и одобрямс. "Прогресс не оставить", тьфу, безумные безумцы.
Если эта система позволяет предотвратить, в зародыше, хоть один теракт, совершённый затравленным учеником, принёсшим в школу родительское ружьё, и начавшим палить во всё, что движется, то плевать на слежку, дитячьи неврозы, ущемление демократии и крайней плоти дверью.
Дети в подростковом возрасте во все времена - эгоистичны, безмозглы, стайны, и очень хотят утвердиться за счёт других. Отсюда буллинг и связанные с ним проблемы.
Вы даже не поняли, что вам пишут.
Если вы реально за детей, то мне больно за вас. Это чудовищно.
Всё давно понято и сосчитано
Замечу, что даже ваших кровных детей вы воспитываете процентов на 20%. 40% - интернет, ещё 40% - их окружение, а оно им засирает мозг по полной, и ваши правильные слова - не более, чем информационный шум. У него свои ЛОМы, и родаки не в их числе.
Ещё раз повторюсь, если скрытная система контроля, перлюстрацией его контактов и сообщений, убережёт ребенка от насилия в его адрес, или если он такое захочет совершить, а заодно от синих китов, контактов с пушерами наркоты, педофилов и просто ауешной гопотой - я за обеими руками.
И не надо мне ничего тереть за доверие. Доверяй, но проверяй. Это разведка - скрытное получение относительно надёжной информации из дополнительных источников. Всё разведки мира так работают. Без розовых соплёй.
Государство, дети - разницы никакой.
Перспективный чат детектед! Сим повелеваю - внести запись в реестр самых обсуждаемых за последние 4 часа.
Зачем общаться в школьных аккаунтах, в школьных сетях и со школьных устройств, которые под плотным контролем и бдением и администрации школы, и непонятно кого ещё. Школьники у них какие-то мазохисты.
Сегодня всё под контролем.
Оно, конечно, всё, но где-то там высоко. где до тебя дела нет. А в школьной сети контролеры вот они, или напротив тебя сидят, или в кабинетах администрации школы.
Лучший контролёр - это совесть. Она "изобретена" Всевышним. Зачем нам изобретать ещё один велосипед, стоит лишь не вытеснять её из алгоритмики обработки входного потока информации человеком, подменяя её своей отсебятиной (честью, порядочностью и т.д.).
Дети по натуре существа, которые не особо любят контроль за собой. И мне удивительно что они лезут трепаться туда, где все на карандаше.
Именно об этом я писал, а не о философских и теологических вопросах.
Проблема не в этом. Стукачи и на улице есть. Проблема в неумении деток общению. Крошка сын к отцу пришёл и спросила кроха, что такое хорошо, что такое плохо?
Психика человека — это информационно-алгоритмическая система, а детство — период её становления и развития, в течение которого она не полностью функциональна. Если рассматривать психику личности как информационно-алгоритмическую систему, то в ней можно выявить несколько составляющих.
- Первая, врожденная составляющая,— инстинкты, безусловные рефлексы, «пароли» доступа к информации, запечатленной в духе рода.
- Вторая, импринтинговая составляющая,— последствия первого впечатления, которые в большинстве своем действуют на протяжении всей последующей жизни и которые модифицировать после того, как они сформировались, либо невозможно, либо весьма затруднительно.
- Третья, социокультурно обусловленная составляющая, — информация и навыки поведения (большей частью бессознательные автоматизмы), воспринятые из исторически сложившейся культуры общества или из субкультуры социальной группы без собственного их осмысления и переосмысления (помимо импринтинговой компоненты).
- Четвертая — лично осмысленный жизненный опыт, включая и переосмысление ранее названных составляющих, продукты собственного нравственно обусловленного творчества.
В психике взрослых все четыре составляющих присутствуют в том или ином виде, а также в некоторой структурной упорядоченности. А в психике детей в момент рождения есть только первая и зачатки второй составляющих. Потом по мере взросления формируются вторая и третья составляющие, а четвертая полноценно развивается только в возрасте 13 лет и старше, когда завершится формирование структур головного мозга и нервной системы, а также накоплен некоторый личный жизненный опыт, который может осмысляться и переосмысляться. Ранее 13 — 15 лет недоразвитость структур головного мозга и недоразвитость личностной культуры психической деятельности, включая и интеллектуальную деятельность, не позволяет ребенку самостоятельно сформировать жизненно состоятельную четвертую составляющую психики.
Крошка сын к отцу пришёл и спросила кроха, что такое хорошо, что такое плохо? Помочь в этом ему должны родители.
Давайте, все же проще. 8-й класс, это возраст когда ребенок начинает осознавать себя отдельной личностью, а не папамаминым ребенком. И инстинктивно пытается ослабить контроль за собой, нарабатывать свой личный опыт.
Когда спецслужба на допрос забирает ребенка без родителей это законно в США? Или у них по некоторым обвинениям типа терроризма можно 13 летних без родителей допрашивать?
Статья однобокая, не рассказано сколько реальных было угроз предотвращено. Живи я в США, согласился бы на такую систему, ради безопасности своего ребенка в школе.
Детям в США можно посоветовать перегрузить систему, экстремистскими заявлениями, пусть все пройдут застенки спецслужб.
Обкатывают сценарий на будущее.
"1984".
Таки да, один из вариантов будущего.
В культуре русского народа есть хорошая пословица, которая поясняет, чем «умный» человек отличается от мудрого - действительно умного: «умный сначала попадает в глупую ситуацию, а потом мучительно ищет умный выход из неё и находит, а мудрый - старается вести себя так, чтобы не попадать в глупые ситуации». В её контексте «мудрый» - действительно умён, а «умный» умён (поскольку может найти приемлемый выход из дурной ситуации, в какую попал), но умён недостаточно, что выражается в том, что он не предвидит неизбежность попадания в такую ситуации при той линии поведения, которой он реально следует. Этому соответствует ещё одна поговорка: Если мы не изменим направления своего движения, - то рискуем оказаться там, куда направляемся…(или ведут - моё прим.) Эту пословицу о различии «умности» и мудрости можно перевести на научный язык так: «умный» самоуправляется по программно-адаптивной схеме, а «мудрый» - по схеме «предиктор-корректор». Каждый человек должен быть мудрым, т.е. действительно умным, т.е. дальновидным, а не умным, но ограниченным прошлым опытом, иначе всё будет закономерно плохо заканчиваться. При этом не у всех мудрость приходит с опытом и возрастом, но есть люди, которые мудры уже в молодости.
Надо быть мудрыми и заранее стелить соломку. То есть решать проблемы не по мере поступления, а в режиме мудрости, по схеме «предиктор-корректор».
Ага, надо быть богатым и здоровым, а не бедным и больным. Причем с самого рождения. Что бы мы без Вас делали?
Мудрость, бедный и богатый, больной и здоровый - это разные вещи. Есть шо таки по сути сказать?
Сказать то, шо у Вас не получилось?
Нихрена себе.
Palantir Technologies Inc.
Это только жалкое начало. Скоро по всему миру.
Тут в том то и прикол, что весь трафик ЖЕ записали, но ещё не обработан. От чего потом может прилететь бодро
Обыкновенно, я - не защитник американской образовательной системы, особенно, образовательной бюрократии. Но здесь, бюрократы очевидно поступили правильно. С дикой расовой ненавистью в школах, особенно между белыми и мексами, с постоянными массовыми расстрелами, реакция на "безобидную шутку" об убийстве по расовому признаку была адекватной. В доме висельника не шутят о верёвке, если "пошутил" то заслуженно пострадаешь.
Может в таком случае, нужно было наказать тех кто обзывал эту девочку и еще тех, кто сделал слово "мексиканец" ругательным?
Но не ребенка же в 13 лет за слова брошенные в расстройстве. Нашли крайнюю.
Страницы