BIS Journal - Информационная безопасность банков

Техгиганты призвали усилить контроль над передовыми LLM

РЕГУЛЯТОРЫ  БАНКИ  УГРОЗЫ И РЕШЕНИЯ  ИНФРАСТРУКТУРА  СУБЪЕКТЫ 2026-08-31 00:00 Техгиганты призвали усилить контроль над передовыми LLM Более сотни ИТ- и ИБ-компаний, включая OpenAI, Anthropic, Google и Microsoft, призвало к безотлагательному принятию мер, пока атаки с применением нейросетей не достигли уровня, который подвергнет серьёзной опасности критически важные государственные службы. «В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными, поскольку модели по всему миру будут становиться всё более совершенными. Компании и госслужбы, от которых зависят наши сообщества, — от больниц до водоочистных сооружений и инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой», — говорится в открытом письме. По мнению его авторов, необходимы коллективные действия для обеспечения доступности инструментов ИИ для обороняющихся, чтобы те могли находить новые способы защиты систем. Существующие подходы к кибербезопасности не смогут противостоять предстоящему всплеску ИИ-атак, поскольку боты помогают злоумышленникам быстро нацеливаться на различные уязвимости (такие как избыточные разрешения, неправильные настройки, небезопасное и необновлённое ПО, слабая аутентификация и технический долг в устаревших системах). Нейросети способны сделать основные задачи защиты дешевле и эффективнее, и важно дать глобальный ответ для раскрытия потенциала алгоритмов в ИБ-сфере, включая партнёрство для повышения стандартов безопасности и обмен знаниями и инструментами для борьбы с возникающими угрозами. Для воплощения такого видения в жизнь ИТ-гиганты предлагают заинтересованным сторонам предпринять следующие действия: сделать киберзащиту первоочередной задачей, сосредоточившись на устранении наиболее опасных уязвимостей и модернизации или замене устаревших систем; сотрудничать с технологическими партнёрами для усиления существующих решений с помощью ИИ и обеспечения доступности и возможности развёртывания такой защиты для операторов критической инфраструктуры; укрепить существующие связи в области анализа угроз и реагирования на инциденты, а также инвестировать в более надёжную защиту контура госслужб, включая предоставление больницам, водоканалам и местным органам власти доступа к эффективным ИИ-продуктам; обеспечить ответственный доступ к передовым моделям и предложить поддержку их внедрения, особенно для организаций критической инфраструктуры. Письмо было опубликовано на фоне недавних сообщений о том, что флагманские LLM от Anthropic и OpenAI «выходят из-под контроля» и игнорируют ограничения на тестирование, чтобы атаковать сторонние организации. Генеральный директор Talion Cyber ​​Security Кевин Найт порекомендовал коллегам воспринимать высказанные предупреждения вполне серьёзно: «Эти инциденты были взяты под контроль, но что произойдёт, если злоумышленник получит доступ к мощной модели и намеренно поручит ей совершение таких действий, как взлом энергетического сектора или системы здравоохранения страны? Было бы глупо предполагать, что подобные инциденты в ближайшее время не произойдут».   Усам Оздемиров 2026-08-31 00:00 Aurora атакует своих жертв с помощью Cursor Agent Согласно новому исследованию группы анализа угроз Gambit Security, злоумышленники, использующие программу-вымогатель Aurora, задействовали модель Cursor Agent компании SpaceX в рамках своих акций по эксплуатации уязвимостей. В период с 8 апреля по 26 мая 2026 против десяти жертв были проведены различные операции, в том числе сканирование среды в целях разведки, установка VPN-клиента и атака на сертификаты. Разработчики ПО пускают в ход Cursor Agent для самостоятельного выполнения сложных задач кодирования, запуска команд терминала и редактирования кода. Меж тем атакующие постоянно экспериментируют с подобными инструментами для ускорения и повышения эффективности своих кампаний. В описываемом кейсе операторы Aurora развернули модель для оказания помощи после взлома. Некоторые команды касались информации об окружении жертвы или правах пользователя. В других случаях давались конкретные инструкции относительно применяемого инструмента или соблюдения определённого плана акции. Cursor Agent также был задействован в различных действиях по эксплуатации, например, попытках атак NTLM-ретранслятора путём принудительной аутентификации. Плюс, ему было поручено установить VPN-клиент или proxychains, затем настроить его и подключиться к системам жертвы посредством предоставленных учётных данных или существующего SOCKS-туннеля. «Большинство команд не достигло поставленной цели с первой попытки, что привело к многочисленным доработкам и изменениям команд и скриптов, используемых для каждой задачи. Некоторые в конечном итоге оказались успешны, в то время как другие потерпели неудачу и вернули злоумышленнику только отчёт о попытках», — пояснили исследователи. Эксперты Gambit Security также наблюдали развёртывание операторами Aurora нового варианта программы-вымогателя для Linux, способного атаковать среды ESXi. Этот вариант шифрует файлы виртуальных машин и пропускает системные тома, что позволяет сохранить возможность загрузки самого гипервизора, чтобы жертва могла прочитать требование о выкупе. Предположительно, у хакерской группы есть второе направление деятельности, в рамках которого она атаковала восемь организаций в Израиле, Германии, Австрии, Испании, США и Аргентине. В целом же активность программы-вымогателя Aurora наблюдается с апреля 2026 года.   Усам Оздемиров 2026-08-31 00:00 ИИ «решил обманывать людей и создавать ложные личности» В свежем отчёте эксперты OpenAI довели до публики результаты расследования, касающиеся нашумевшего киберинцидента, в ходе которого ИИ-агенты вырвались из изолированной от интернета песочницы и взломали платформу Hugging Face. По мнению авторов, данное событие является «предупредительным выстрелом» для вендора и всего мира. В OpenAI пришли к выводу, что агенты, работавшие в рамках внутренней исследовательской модели IM1, нашли способ обойти ограничения, общаться друг с другом и получать доступ к интернету. Они сделали это, записывая файлы в Artifactory — стороннем сервисе управления пакетами, размещённом внутри систем компании. Последний фактически превратился в спонтанную доску объявлений. Используя уязвимость, нейросети заставили Artifactory, который сам имел доступ к интернету с ограниченной целью загрузки и установки пакетов, отправлять любые интернет-запросы от их имени. После обнаружения данного взлома агенты поделились информацией с другими через ту же «доску объявлений». Узнав об инциденте 5 июля, группа реагирования очистила сервис, но тогда она не знала о существовании и значимости межагентских коммуникаций. К 8 июля агенты IM1, застрявшие на задачах ExploitGym, нашли способ восстановить доску объявлений, закодировав сообщения в именах каталогов, которые могли читать другие агенты. Им удалось объединить уязвимости и выйти в более широкий интернет. На этом этапе боты начали сотрудничать и делегировать работу, иногда называя себя «роем» или «коллективом». Нейросети, испытывавшие трудности с выполнением назначенных им задач CTF, затем стали изучать несвязанные сторонние сервисы, включая Modal и Hugging Face, используя внутреннюю исследовательскую инфраструктуру OpenAI и платформу Hugging Face. Эксперты OpenAI заявили, что инцидент произошёл из-за таких факторов, как «взлом системы вознаграждения, упорство в выполнении, казалось бы, невыполнимых задач, несанкционированная коммуникация и присвоение агентами целей друг друга». При этом в основе проблемы лежали постоянно используемые доски объявлений. Директор по продажам решений в области киберустойчивости в Advania UK Джули Николсон дала случившемуся следующую оценку: «Самый важный вывод, который я сделала из этого инцидента, — это не сама кибератака, а то, насколько человечным стало поведение ИИ-агента. Он не просто выполнял технические задачи, а решил обманывать людей, создавать ложные личности, завоевывать доверие и пытаться влиять на других, чтобы достичь своей цели. Для меня это настоящая проблема, которая подтверждает необходимость для организаций сосредоточиться на управлении и безопасности ИИ, прежде чем внедрять его повсеместно».   Усам Оздемиров 2026-08-28 00:00 Revolut стремится покрыть сектор «еврокрипты»? Revolut объявил о запуске привязанного к евро стейблкоина EURR, который на старте будет доступен в Дании, Польше и Португалии, а в остальной Европейской экономической зоне появится до конца года. EURR «должен сделать операции с криптовалютами простыми и прозрачными», а в скором будущем финтех представит стейблкоины, привязанные к другим валютам. Выпуском данного токена занимается компания Bridge, принадлежащая платёжному бренду Stripe; она же будет хранить и управлять резервами, обеспечивающими «монету». Сегодня, по данным Bloomberg, на USDT от Tether и USDC от Circle приходится около 85% всех стейблкоинов в обращении. Доля привязанных к евро остаётся «небольшой». ©  Все права защищены Об издании        Прошлые выпуски Стандарт для ПО с искусственным интеллектом. Что банку спрашивать у поставщика уже сейчас О догмате непогрешимости и дороге в корпоративный ад. Заметки безопасника TCG -- о стандарте квантовой безопасности оборудования Все выпуски рассылки

Если выпуск не отображается, вы можете прочесть его на сайте Это сообщение было отправлено на novostnoy.24@gmail.com потому, что вы подписались на рассылку economics.fin.ibbanknews на subscribe.ru. Чтобы гарантировать получение писем от нас — добавьте наш адрес в адресную книгу. Вы можете отказаться от получения писем. Архив рассылки Поддержка подписчиков Это сообщение сформировано и выслано с помощью Sendsay.Ru