Chamath: Två termer du behöver vara uppmärksam på inom AI är Prefill och Decode "Det finns två termer som jag tror att du kommer att höra mycket om under de kommande åren." "Den första termen är prefill, och nästa är decode." "Vad prefill och decode är, är två mycket distinkta sätt för hur modeller tänker, och hur en modell går igenom processen att svara på en fråga du ställer." "Och när du skickar en prompt till AI, händer det att modellen bearbetar den. Detta kallas läsfasen eller prefill." "Den läser hela din prompt på en gång. Och sedan gör den en massa matematik, beräknar alla dessa relationer mellan alla ord, och lagrar dem i tillfälligt minne." "Problemet är att detta egentligen är beräkningsbundet. Så det kräver massiv råstyrka. Och Nvidia-GPU:er krossar här." "Och deras arkitektur är designad för massiv parallell bearbetning, vilket gör dem riktigt fantastiska på att hantera dessa långa prompts." "Så problemet blir bara större och större, Nvidia dominerar helt och hållet." "Men nästa fas, denna kritiska fas, avkodningsfasen, är skrivfasen, eller hur?" "Så modellen börjar generera ett svar, du ställer en fråga och dess svar, en token i taget." "Och för att välja nästa token att välja nästa ord måste den titta tillbaka på allt den redan sagt så att den inte hallucinerar." "Problemet är att detta är otroligt begränsat i minnesbandbredd." "Och i vår arkitektur, för länge sedan, fattade vi dessa designbeslut från dag ett." "Så det vi gjorde var att vi tog en mycket annorlunda arkitektonisk metod, vi tog en mycket konservativ processteknologi. Vi pressade inte fysikens gränser." "Och vi använde mycket av det som kallas SRAM. Så minnet på chipet så att vi kunde göra avkodningsgrejen lika bra eller bättre än alla andra." "Och nu när man sätter ihop dessa två saker tror jag att det kommer att skapa en enorm acceleration i möjligheten för hela infrastrukturlagret att bli mycket billigare och mycket mer värdefullt, vilket jag misstänker då kommer att ha mycket mer utvecklardrag, man kommer att få många fler applikationer byggda, miljarder och åter miljarder fler människor som använder det."

Jag bearbetade datan. Igen. Jag gjorde en karta. Igen. Bilden är nu ännu RENARE. Delstater utan krav på röstlegitimation är 16 gånger mer benägna att erbjuda välfärdsförmåner till illegala invandrare än delstater som kräver ID (67 % jämfört med 4 %, s<0,0001). Demokraterna importerar och betalar illegala för röster. Detaljer👇