Hal yang sangat umum yang Anda dengar dari Very Smart People adalah "LLM hanya sebagus data pelatihan. Mereka juga dapat melakukan hal-hal yang mereka lihat di set latihan". Dalam beberapa hal, ini cukup benar. Tetapi dalam banyak hal lain, itu sangat bodoh. Hal besar yang dilewatkan orang adalah kecerdasan komposisi. Menggunakan kata-kata yang lebih sederhana: Anda dapat merangkai konsep sederhana untuk melakukan hal-hal yang lebih sulit. Pertimbangkan ini: Anda ingin membuat telur dadar. Di suatu tempat di Internet (mungkin Reddit), seseorang mendalami cara terbaik untuk memecahkan telur. Di tempat lain di Internet (mungkin juga di Reddit), seseorang membahas cara membuat telur dadar dengan asumsi Anda sudah memiliki adonan telur. Orang pintar akan bisa menggabungkan dua pengetahuan ini untuk membuat telur dadar. Ini bukan ilmu roket. Bahkan jika tidak ada data pelatihan yang berbicara tentang cara membuat telur dadar sialan. Sekarang bayangkan ini kecuali untuk hal-hal yang memiliki seribu langkah yang digabungkan dengan cara faktorial yang gila. LLM bisa melakukan itu! Pikirkan tentang itu: hanya dengan 1000 konsep yang dipelajari, Anda memiliki 1000! kemungkinan pemesanan. Itu lebih banyak kombinasi daripada atom di alam semesta. Apa yang kita sebut "penalaran" mungkin hanya kecerdasan komposisi pada skala yang cukup. Kemampuan untuk menyatukan pola sederhana sampai perilaku kompleks muncul. Ini bukan regurgitasi. Ini sintesis. Dan sintesis pada skala ini tidak dapat dibedakan dari pemahaman.