LLM si mohou zapamatovat a uniknout citlivá tréninková data, což představuje vážné riziko pro soukromí. Odvážní výzkumníci vyvinuli novou open-source metodu, která toto zapamatování a únik informací detekuje. 🧵

Úniky dat ze školení mohou ohrozit jednotlivce i instituce. Představte si lékařského LLM vyškoleného na klinických poznámkách, který náhodně odhalí citlivé informace o pacientovi. Nebo LLM vyškolený na firemní dokumenty, které byly oklamány útočníkem k reprodukci soukromé komunikace.