Populaire onderwerpen
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.

Yohei
ik ben aan het nadenken over een concept dat ik een "contextontologie" zou noemen - vooral omdat ik zou willen dat ik een enkele plek had waar ik kan zien waar context vandaan komt en in welke prompts ze worden gebruikt.
handige context voor een LLM om een reactie te genereren of actie te ondernemen kan dingen omvatten zoals (1) hoog niveau doel, (2) huidige taak/focusgebied, (3) samengevatte informatie van relevante eerdere taken, (4) lessen van eerdere pogingen, enz.
terwijl we meer van onze agenten verwachten (langere taken, meer gecompliceerde projecten, enz.), wordt het ruwe geheugen snel tokenzwaar en rommelig, wat de kwaliteit van de LLM-uitvoer vermindert. de meeste complexe AI-apps hebben een soort samengevatte context (dat veronderstel ik), en meerdere contextbronnen.
de idee hier is het definiëren van een ontologie voor welke context je opslaat*, hoe je het structureert, en wat je voor elke prompt in je systeem ophaalt.
*met opslaan bedoel ik niet noodzakelijk in de database van de AI. voor mij voelt het holistischer om de gegevens die in een app zijn opgeslagen als een deel van het geheugen van de AI te beschouwen (bijv. API/MCP-verbinding). misschien zou deze ontologie dit ook moeten specificeren.
door het een stap verder te nemen, zou je dit een dynamische ontologie kunnen maken die een AI kan beheren en testen, en deze vervolgens in een RL-omgeving voor agenten kunnen plaatsen om zelf de contextbeheer te verbeteren (hypothetisch)
ik weet niet of de samenvattingsstrategie hier moet worden opgenomen, maar het lijkt logisch op hoog niveau. lastiger omdat de meeste mensen informatie samenvatten bij inname, dus je zou eerdere inname elke keer opnieuw moeten samenvatten wanneer je het verandert (voor het testen van wijzigingen en zelfverbetering) - maar ik denk dat dit probleem hoe dan ook aanhoudt.
ik denk niet dat hier iets bijzonder nieuws is. ik denk gewoon hardop na terwijl ik probeer een intern kader te creëren om verschillende strategieën die ik heb gezien in kaart te brengen.
11,93K
Boven
Positie
Favorieten