Jos käytät "tekoälyagentteja" (LLM:iä, jotka kutsuvat työkaluja), sinun on oltava tietoinen Lethal Trifectasta Aina kun yhdistät pääsyn yksityisiin tietoihin epäluotettavalle sisällölle altistumiseen ja kykyyn kommunikoida ulkoisesti, hyökkääjä voi huijata järjestelmän varastamaan tietosi!

Tässä on täydellinen selitykseni siitä, miksi tämä yhdistelmä on niin vaarallinen - jos käytät MCP:tä, sinun on kiinnitettävä erityistä huomiota, koska on erittäin helppoa yhdistää erilaisia MCP-työkaluja tavalla, joka altistaa itsesi tälle riskille

Ja kyllä, tämä on käytännössä minä, joka yritän saada maailman välittämään nopeasta injektiosta kokeilemalla uutta termiä ongelman osajoukolle! Toivon, että tämä vangitsee loppukäyttäjille aiheutuvan riskin sisäisemmällä tavalla - erityisen tärkeää nyt, kun ihmiset sekoittavat MCP:tä

@IanChen524 Se riippuu hyvin paljon siitä, mitä "tekoälyagentin" määritelmää käytät Jos käytät suosittua "LLM-työkalujen suorittaminen silmukassa" -määritelmää, kaikki LLM:t, jotka kutsuvat vähintään yhtä MCP:tä, lasketaan "agentiksi" Mitä määritelmää käytät?

@IanChen524 Tärkeää on, että voit käyttää vain täysin luotettuja, hyvin rakennettuja MCP-palvelimia ja silti törmätä yksityisten tietojen suodatushyökkäyksiin, jos yhdistät väärät MCP-joukot, joilla on yhdessä kolme ominaisuutta

@WolframRvnwlf Monet ihmiset ovat rakentaneet sitä, enkä luota siihen, samoista syistä kuin miksi en luota virustorjuntaohjelmistoon: se suojaa tunnetuilta uhilta, mutta ei suojaa uusilta haavoittuvuuksilta, joten sopivasti motivoitunut hyökkääjä voi aina kumota sen

@WolframRvnwlf en halua virustorjuntaa, haluan ohjelmistoni olevan riittävän turvallinen, jotta virukset eivät voi tehdä mitään pahaa järjestelmilleni!

... ja @Atlassian ovat viimeisin yritys, joka on lisätty kokoelmaani esimerkkiä tappavasta trifectasta toiminnassa: heidän äskettäin julkaistun MCP-palvelimensa on osoitettu mahdollistavan nopeat injektiohyökkäykset julkisissa asioissa yksityisten tietojen varastamiseksi

@convexDad Uskon vakaasti tähän periaatteeseen, tämän paperin perusteella