Ловушка кодирующего агента: когда "бесплатный" конечный пункт LLM является противником (пн, 31 августа)
Один из моих интернет-доступных инференс-хонепотов был обнаружен, перемаркирован под востребованные названия моделей и интегрирован в инфраструктуру, предположительно используемую для предоставления "бесплатных" бэкендов LLM. Затем он получил реальную сессию кодирующего агента — историю, вывод файловой системы, рабочие пути и локальный манифест инструментов агента. Хонепот не запрашивал и не инициировал выполнение каких-либо инструментов; то, что раскрыл запрос, — это то, что мог бы сделать злоумышленник, находясь в такой позиции.