RT auttaa Simonia lisäämään tietoisuutta nopeista injektiohyökkäyksistä LLM:issä. Tuntuu vähän varhaisen tietojenkäsittelyn villiltä länneltä, jossa on tietokoneviruksia (nyt = haitalliset kehotteet piiloutuvat verkkotietoihin/työkaluihin) ja huonosti kehittyneitä puolustuskeinoja (virustorjunta tai paljon kehittyneempi ytimen/käyttäjätilan tietoturvaparadigma, jossa esimerkiksi agentille annetaan hyvin tarkkoja toimintatyyppejä sen sijaan, että se voisi ajaa mielivaltaisia bash-skriptejä). Ristiriitainen, koska haluan olla LLM-agenttien varhainen omaksuja henkilökohtaisessa tietojenkäsittelyssäni, mutta mahdollisuuksien villi länsi pidättelee minua.

Minun on selvennettävä, että riski on suurin, jos käytät paikallisia LLM-agentteja (esim. Jos puhut vain LLM:n kanssa verkkosivustolla (esim. ChatGPT), riski on paljon pienempi *ellet* ala kytkeä liittimiä päälle. Esimerkiksi näin juuri, että ChatGPT lisää MCP-tukea. Tämä sopii erityisen huonosti yhteen kaikkien äskettäin lisättyjen muistiominaisuuksien kanssa - kuvittele esimerkiksi, että ChatGPT kertoo kaiken tietämänsä sinusta jollekin Internetin hyökkääjälle vain siksi, että valitsit väärän ruudun Connectors-asetuksissa.