Heute veröffentlichen wir Power Retention, eine neue Architektur über Transformers hinaus. Sie ermöglicht es LLMs, Millionen von Tokens effizient zu verarbeiten und eröffnet Anwendungen mit langen Kontexten, die zuvor zu kostspielig waren.