LLM dapat menghafal dan membocorkan data pelatihan yang sensitif, menimbulkan risiko privasi yang serius. Para peneliti pemberani telah mengembangkan metode sumber terbuka baru untuk mendeteksi hafalan dan kebocoran informasi ini. 🧵

Kebocoran data pelatihan dapat mengancam individu dan institusi. Bayangkan LLM medis yang dilatih pada catatan klinis secara tidak sengaja mengungkapkan info pasien yang sensitif. Atau LLM yang dilatih pada dokumen perusahaan yang ditipu oleh penyerang untuk mereproduksi komunikasi pribadi.