LLM-er kan huske og lekke sensitive treningsdata, noe som utgjør en alvorlig personvernrisiko. Modige forskere har utviklet en ny åpen kildekode-metode for å oppdage denne memoreringen og informasjonslekkasjen. 🧵

Lekkasjer av treningsdata kan true både enkeltpersoner og institusjoner. Se for deg en medisinsk LLM som er opplært på kliniske notater som ved et uhell avslører sensitiv pasientinformasjon. Eller en LLM som er opplært på selskapsdokumenter som blir lurt av en angriper til å reprodusere privat kommunikasjon.