Прощай, прощай, прощай...: Эволюция повторяющихся токен-атак на модели ChatGPT

Развивая предыдущие исследования по инъекции запросов, мы недавно обнаружили новую уязвимость для извлечения данных из системы обучения, связанную с моделями завершения разговора OpenAI.