テキスト埋め込み内の機密データは復元可能である

MorrisらによるVec2Textモデルを使用した実験を行い、機密データを含むテキスト埋め込みのプライバシーリスクを実証しました。この実験で示すように、機密データのかなりの割合が、そのテキスト埋め込みから復元可能であることがわかりました。これは重大なプライバシーリスクをもたらし、生成AIシステムを構築するためにデータを使用する前に、Tonic Textualのようなツールを使用してデータを保護する必要があることを示しています。