En veldig vanlig ting du hører fra veldig smarte mennesker er "LLM-er er bare så gode som treningsdataene. De kan også gjøre ting som de ser i treningssettet.» På noen måter er dette ganske sant. Men på mange andre måter er det veldig dumt. Det store folk savner er komposisjonsintelligens. Bruk enklere ord: Du kan lenke sammen enkle konsepter for å gjøre vanskeligere ting. Tenk på dette: Du vil lage en omelett. Et sted på Internett (sannsynligvis Reddit) går noen veldig dypt rundt hvordan man best kan knuse et egg. Et annet sted på Internett (sannsynligvis også på Reddit) går noen veldig dypt på hvordan man lager en omelett forutsatt at du allerede har en eggedeig. En smart person ville være i stand til å kombinere disse to kunnskapene for å lage en omelett. Dette er ikke rakettvitenskap. Selv om det ikke var noen treningsdata som snakket om hvordan man lager en jævla omelett. Tenk deg nå dette, men for ting som har tusen trinn som kan kombineres på vanvittige faktorielle måter. LLM-er kan gjøre det! Tenk på det: med bare 1000 lærte konsepter har du 1000! mulige bestillinger. Det er flere kombinasjoner enn atomer i universet. Det vi kaller «resonnement» kan bare være komposisjonell intelligens i tilstrekkelig skala. Evnen til å lenke sammen enkle mønstre til kompleks atferd dukker opp. Dette er ikke oppgulp. Det er syntese. Og syntese på denne skalaen kan ikke skilles fra forståelse.