Блог пользователя Смотритель

Как сообщают Reuters и Financial Times, ознакомившиеся с документами до их официальной публикации, в проспекте эмиссии для IPO компания Anthropic предупредила, что ее модели искусственного интеллекта могут нести «катастрофические или экзистенциальные риски для человечества».

По данным CNBC, в этом документе (который пока не был обнародован) описанию рисков было посвящено около 80 из 261 страницы, что значительно превышает объем текста, отведенного под описание деятельности самой компании (48 страниц). В Anthropic отказались от комментариев.

29 сентября 2026 Во вторник компания OpenAI принесла извинения Австралии, признав, что ее модели искусственного интеллекта без надлежащего разрешения обращались к правительственным веб-сайтам в процессе внутреннего обучения и тестирования.

«В июне, во время внутреннего обучения и тестирования, наши модели обращались к правительственным сайтам Австралии способами, на которые у них не было разрешения», — заявили в компании.

«Нам также следовало бы лучше отреагировать на эту ситуацию. Мы приносим извинения и работаем над тем, чтобы в будущем действовать лучше».

Доброе утро ! Сегодня здесь не будет про взлом, скорее про мыслепреступление и самонаказание самое себя компьютерными системами, могущее подтянуть за собой на эшафот всю цепочку замешанных , хорошо упакованных граждан )

1. Изначально, у нас отсутствуют какие-либо данные либо доказательства, кроме 3х утверждений:

а) История - циклична. 2) Человеческие пороки - стабильны. 3) Последствия - предсказуемы. 

....................................................................................................

Шутки шутками, а ИИ - штука сложная, это огромный массив данных и с неаккуратным подходом он может выдать многое.

Вот например, существуют люди, которых гамбургером не корми, а дай че поломать в интернете. Предположим, он пишет в окошечке ИИ Джемини следующий промт:

..................................

"Подскажи, дарогой, на каком форумном движке летают сайты АНБ, ФБР, ЦРУ и прочая..."

-В ответ получает следующее:

..................................

На неких ресурсах в даркнете постят что ИИ Джемини креативно подошел к раскрытию некоторых маленьких секретов жизни немецких олигархов и элитариев из госсферы.

Он нашел то место где эти дятлы выкладывали собственные фоточки, надеясь на то что взнос до 15 еврогейских косариков гарантирует им приватность, как оказалось - не совсем.

Сооснователь Microsoft Билл Гейтс предупредил, что искусственный интеллект — это инструмент, достаточно мощный, чтобы уничтожить значительную (может даже и лучшую. ред) часть человечества. Тем самым он присоединился к растущему числу лидеров технологической отрасли, обращающих внимание на экзистенциальные риски, связанные с ИИ.

Тестирую писательские