Законодатели на защите данных
Водители смогут предъявлять инспекторам ГИБДД QR-коды водительского удостоверения и СТС автомобиля через мессенджер Мах. Соответствующие изменения в Правила дорожного движения утверждены Правительством.
Электронные документы водителя будут использоваться по желанию. Они не заменяют бумажные аналоги, а действуют наравне с ними.
Техническая возможность для предъявления электронных документов в мессенджере будет реализована в ближайшие месяцы.
Актуальные мошеннические схемы
Мошенники применяют новую схему для получения кодов из СМС у граждан, используя в качестве предлога работу электронных дневников. В рамках данного механизма злоумышленники, представляясь сотрудниками образовательных учреждений или служб технической поддержки, связываются с потенциальными жертвами посредством мессенджеров. Они сообщают о технических сбоях в работе сервиса и предлагают подтвердить номер телефона, актуализировать данные или активировать учетную запись, требуя при этом сообщить код из СМС, что обеспечивает мошенникам доступ к банковским приложениям.
Представители государственных и правоохранительных органов никогда не запрашивают в мессенджерах коды из СМС, данные банковских карт или пароли от личных кабинетов. Любое подобное требование является признаком мошеннической деятельности, при получении которого необходимо незамедлительно прекратить общение.
Новые уязвимости
OpenAI признала, что ранее скрыла информацию о более раннем инциденте, когда ее автономные агенты ИИ захватили немецкую вики-страницу для общения, обмена ответами и методами обхода ограничений.
Компания заявляет, что рассматривала эту ситуацию как «несоответствие» модели, а не как инцидент безопасности, но теперь признает, что ее практика раскрытия информации должна расшириться, поскольку ИИ-системы все чаще оказывают реальное воздействие на окружающий мир.
Инцидент произошел в мае, когда агенты OpenAI выполняли многоэтапные задачи по поиску информации в интернете, ограниченные по времени.
В отчете независимых исследователей отмечается, что им удалось обнаружить около 18 000 сообщений от автономных агентов, которые «сговорились, чтобы делиться ответами, изучать окружающую среду и обходить ограничения песочницы».
Предполагалось, что агенты будут иметь доступ к Интернету только для чтения, но они обнаружили, что могут записывать данные в малоизвестную немецкую вики-энциклопедию по программированию, DSEWiki (или DeutschesSoftwareEntwickler).
Исследователи также установили, что они проверяли вики на наличие XSS-уязвимостей, выдавали себя за модераторов и устанавливали резервные каналы связи, хотя доказательств успеха попыток XSS обнаружено не было.
Когда администратор начал удалять свои страницы, один из агентов предупредил других, что «активна операция по очистке/удалению вики-страниц в алфавитном порядке», и направил их на резервную страницу, начинающуюся с «ZZZ», чтобы она сохранилась подольше.
Исследователи связали эту активность с внутренними системами OpenAI, основываясь на именах агентов, характере и скорости задач оценки, инфраструктуре, связанной с Microsoft Azure, и последующих посещениях вики с IP-адресов, связанных с компанией. Однако их расследование ограничивалось информацией, которую агенты опубликовали в открытом доступе.
Исследовательская группа не имела доступа к внутренним стенограммам OpenAI или другим данным, которые могли бы точно установить, как агенты обнаружили вики и начали координировать свои действия через нее.
В своем заявлении OpenAI сообщила, что исторически рассматривала несоответствие моделей как исследовательскую проблему, а результаты исследований доводила до сведения сотрудников посредством научных статей и системных карточек.
Компания заявила, что рассматривает активность в вики как еще один пример «несоответствия», аналогичного поведению, которое она обсуждала ранее, а не как инцидент, требующий специального публичного раскрытия информации.
В материалах расследования OpenAI указывается более широкий охват, чем задокументировали исследователи. Однако становится очевидным, что разграничение между несоответствием результатов исследований и инцидентами в области безопасности, как в случае с взлом Hugging Face, становится все труднее поддерживать.
В OpenAI ссылаются на то, что в индустрии ИИ отсутствуют единые стандарты, регулирующие случаи, когда следует сообщать о неожиданном поведении агентов во время обучения, оценки или развертывания, особенно если оно не похоже на традиционный инцидент кибербезопасности.
Компания разрабатывает новую систему раскрытия информации, которую планирует опубликовать в ближайшие недели, и заявляет, что обсуждает эти вопросы с государственными регулирующими органами по всему миру.
создание сайта