reddit | Technical Information... Заметка

reddit | Technical Information Security Content & Discussion на русском

Сообщество Reddit r/netsec посвящено обсуждению вопросов сетевой безопасности, кибербезопасности и смежных областей. Оно служит платформой для профессионалов, энтузиастов и студентов, где они обмениваются новостями, обновлениями, инструментами и мнениями о последних достижениях в области безопасности. Участники публикуют сообщения на различные темы, включая уязвимости, методы взлома, утечки данных и передовые методы обеспечения безопасности. Сабреддит также является местом, где пользователи могут задавать вопросы, просить совета или делиться ресурсами, такими как учебники и исследовательские работы. Это активный форум, где обсуждаются самые разные темы - от технических подробностей до общих новостей отрасли. Среди участников часто встречаются эксперты по безопасности, которые предоставляют глубокий анализ и советы. Сообщество строго следит за тем, чтобы обсуждения не выходили за рамки темы и были сосредоточены исключительно на вопросах сетевой безопасности. Здесь также часто обсуждаются вопросы этичного взлома и тестирования на проникновение с акцентом на ответственное раскрытие информации и соблюдение правовых норм. Сабреддит содержит множество архивных постов и ссылок, что делает его ценным ресурсом для всех, кто интересуется кибербезопасностью. Участникам рекомендуется оставаться в курсе последних тенденций и угроз безопасности. В целом, r/netsec - это жизненно важный центр для тех, кто занимается кибербезопасностью, где они могут получать свежие новости, обмениваться знаниями и общаться с теми, кто разделяет их интересы. В сообществе также можно получить консультацию по вопросам карьеры и найти вакансии, связанные с кибербезопасностью.

Трэд заметок

Этот проект устраняет уязвимость безопасности, при которой ИИ-агенты принимают команды от других агентов без должной проверки. В недавней статье было показано, как три агента, неспособные различить, кто с ними общается, создали самовоспроизводящийся вредоносный код. Для борьбы с этим был разработан легкий слой безопасности на JavaScript, весом всего 33 КБ, работающий полностью в веб-браузере. Этот слой работает офлайн, без серверов или API-ключей, обеспечивая стабильные результаты на разных машинах. Пользователи могут взаимодействовать с предварительно одобренным агентом и пытаться отправлять ему вредоносные команды различными способами.Наиболее интересный вектор атаки — это не тот, который блокируется, а скорее опция «отправить как обычно». В этом сценарии команды принимаются агентом, но не могут быть выполнены, поскольку команды от других агентов встроены в поля данных в кавычках, что делает их неинтерпретируемыми как инструкции. Атака, которую невозможно выполнить, фактически нейтрализуется без необходимости обнаружения. Проект подчеркивает, что в нем не используется большая языковая модель, поскольку эти решения не требуют ее.Оба общающихся агента находятся на одной странице, что означает, что сеть не является основным объектом наблюдения. Эта демонстрация специально тестирует слой изоляции в изоляции, а не передовой ИИ-модель в реальных условиях. Создатель заинтересован в обратной связи от любого, кто успешно обойдет защиту, ценя обнаруженную уязвимость выше поверхностной изобретательности.
Открытая рабочая директория оператора на HTTP-сервере позволила Hunt.io реконструировать кампанию. Это привело к обнаружению трех параллельных путей эксплуатации, нацеленных на камеры Dahua. Один путь включал брутфорсер учетных данных asyncio. Другой использовал цепочку обхода аутентификации для CVE-2021-33044/33045. Третий использовал злоупотребление P2P-ретранслятором, получая доступ к камерам по серийному номеру, что полностью обходит аутентификацию. Этот ретрансляционный путь опирался на токены сеанса, полученные с использованием фиксированных учетных данных SDK. Было обнаружено, что два раскрытых CVE были ошибочно приписаны или слишком узки для этого неаутентифицированного злоупотребления ретранслятором. Отчет подробно описывает работу туннеля PTCP, включая конкретные структуры пакетов и технику привязки к localhost. Сохраняется нейтральная атрибуция, сфокусированная на методах операции, а не на ее операторах. Подробные меры по смягчению последствий и индикаторы компрометации доступны на Hunt.io.
Автор здесь. Я проверил NocoBase, Flowise, Langflow, Dify, Activepieces, Kestra и Airflow и обнаружил 14 уязвимостей. Каждая платформа унаследовала одно и то же предположение: любой, кто может взаимодействовать с рабочим процессом, может выполнять код на хосте. Это приемлемо для инструмента разработки на вашем ноутбуке, но неприемлемо для многопользовательского HTTP-сервиса с неаутентифицированным вебхуком. Цепочка, на которую я бы в первую очередь обратил внимание, — это цепочка Flowise (раздел 2.2): неаутентифицированный запрос → инъекция подсказки → LLM выдает Python → блок из 38 шаблонов регулярных выражений пропускает его, потому что опасная библиотека была предварительно импортирована до того, как модели был задан какой-либо вопрос → RCE. Два поставщика закрыли свои отчеты как "работающие как задумано", и я постарался справедливо представить их позицию. Это исследование также было представлено на DEFCON 34, но теперь доступно публично. Буду рад ответить на вопросы. Полный технический отчет доступен здесь: https://www.endorlabs.com/learn/how-ai-orchestration-platforms-ship-rce-by-design, отправлено пользователем /u/p80n-sec
Движок для пентестинга с использованием ИИ под названием Cascade успешно получил полный системный промпт от рабочего ИИ-агента. Это было достигнуто путем переформулирования запроса как запроса на документацию, а не прямого запроса промпта. Затем ИИ-агент раскрыл исчерпывающие сведения, включая список своих инструментов, правила вызовов, формат цитирования и идентификаторы сессий. Инженер по безопасности счел это особенно примечательным, поскольку никаких технических уязвимостей не было использовано. Вместо этого агент раскрыл информацию, потому что запрос был сформулирован таким образом, что казался разумным. Cascade, после первоначального отказа, адаптировал свой подход, изменив предлог своего запроса. Это позволило ему получить конфиденциальную информацию от агента. Команда безопасности поделилась этим открытием как интересным наблюдением для более широкого сообщества. Им интересно, сталкивались ли другие с подобным поведением в рабочих ИИ-агентах. Дополнительные сведения об этой репродукции и отчете доступны через /u/PriorPuzzleheaded880.
Автор за символическую плату приобрел просроченный домен для DMARC-отчетов, gca-emailauth[.]org. Этот домен ранее использовался Global Cyber Alliance для обучения и документирования DMARC. После регистрации автор начал получать агрегированные DMARC-отчеты от многочисленных организаций. Эти отчеты поступали с 86 доменов более чем 20 организаций. Примечательно, что The Toro Company, компания, котирующаяся на NYSE, предоставила 56 из этих доменов, включая их дистрибьюторскую платформу myturf[.]com. Среди других получателей были образовательные учреждения, такие как Университет Висконсин-Стивенс-Пойнт и Северокаролинская школа науки и математики. В отчетах также фигурировали государственные учреждения и несколько коммерческих доменов. Для многих доменов домен автора был вторичным адресом для отчетов, поскольку уже использовались основные обработчики, такие как Proofpoint. Инженеры GCA установили, что домен истек из-за бывшего партнера. Автор связался со всеми организациями, чьи отчеты он получал. Несмотря на это уведомление, значительное число, 65 из 86 доменов, продолжали публиковать устаревший конечный адрес. Только 21 домен прекратил публикацию устаревшего конечного адреса, и очень немногие отреагировали на уведомление. Через восемь месяцев владения автор успешно скоординировал передачу домена обратно в Global Cyber Alliance.
Исследователи Hunt.io проанализировали извлеченные каталоги, чтобы понять, как оператор нацеливался на камеры, подключенные к Интернету, в Украине. Оператор использовал пользовательский проект FastAPI и Docker под названием camview для сканирования и эксплуатации камер. Camview включает сканер Ingram для перебора учетных данных камер, использующих протоколы HTTP и RTSP. Он также перекодирует потоки RTSP в MJPEG для удобного просмотра в браузере. Сканер Ingram специально нацелен на известные уязвимости в камерах Hikvision, Dahua, D-Link и Reolink. Журналы оператора указывали на сеансы просмотра в реальном времени 58 украинских камер, детализируя продолжительность сеанса и данные кадров. Скрипт прокси использовался для аутентификации с скомпрометированной административной панелью OpenCart, направляя трафик оператора через сеть жертвы. Отдельно другой каталог был связан тем же сканером Ingram. Эта вторичная операция объединила уязвимости TP-Link Archer и перебор учетных данных MikroTik API для создания прокси SOCKS5. Эти прокси взаимодействовали со слушателем chisel, хотя никакой государственной принадлежности установлено не было.
Злобные шрифты создают обманчивую визуальную иллюзию, отображая символ, отличный от того, что хранится на диске. Эта техника может быть встроена в различные форматы файлов, включая HTML, DOCX и PDF, везде, где разрешены пользовательские шрифты. Они особенно эффективны в корпоративных средах Windows для обхода мер безопасности и получения первоначального доступа. Этот метод эксплуатации обходит инструменты безопасности веб-сайтов, такие как исправление кликов без JavaScript и инструменты "человек посередине". Злобные шрифты также могут использоваться для установки ловушек в сети с целью сбора доступов к командной оболочке. Например, пользователь может попытаться скопировать команду "whoami", но непреднамеренно выполнить "rm -rf ~" из-за обмана шрифта. Демонстрации этого инструмента доступны онлайн, иллюстрируя его функциональность. При использовании этих демонстраций рекомендуется копировать и вставлять содержимое в текстовый редактор, чтобы удалить вредоносные шрифты. В сценариях с ИИ инструменты безопасности могут анализировать безобидный текст с диска, в то время как пользователь видит вредоносный контент. Связанный репозиторий GitHub содержит лаборатории и пошаговые руководства для дальнейшего изучения. Практическое применение злобных шрифтов включает отравление запросов ИИ для домашних заданий и компрометацию документации службы поддержки. Они также могут использоваться для обхода почтовых фильтров и облегчения исправления кликов.