RSS Блог Google AI
Подписаться
Дифференциальная приватность на графах доверия
Дифференциальная приватность (DP) - это математически строгий каркас приватности, который гарантирует, что выход случайного алгоритма остается статистически неразличимым, даже если данные одного пользователя изменятся. Существует две основные модели DP: центральная модель, в которой доверенный куратор имеет доступ к сырым данным, и локальная модель, в которой все сообщения, отправляемые с устройства пользователя, сами по себе являются дифференциально приватными. В реальных сценариях обмена данными пользователи часто доверяют другим в разной степени, в зависимости от их отношений. Эта асимметрия подчеркивает необходимость каркасов, которые выходят за рамки бинарных предположений о доверии. Концепция графа доверия DP (TGDP) моделирует отношения, где вершины представляют пользователей, а связанные вершины доверяют друг другу. TGDP гарантирует, что гарантия приватности применяется к сообщениям, обмену между пользователем и всеми остальными, кому он не доверяет. TGDP интерполирует между центральной и локальной моделями естественным образом, и его точность можно количественно оценить через простую задачу агрегации. Алгоритм, основанный на доминирующем наборе графа доверия, может удовлетворять TGDP, и его ошибка ограничена функцией доминирующего набора. Также предоставляется нижняя оценка ошибки алгоритмов TGDP, и закрытие разрыва между верхней и нижней оценками является открытой проблемой. Модель TGDP может быть применена к федеративному обучению и аналитике, позволяя использовать более реалистичные динамики доверия в системах, сохраняющих приватность.