Apa Yang Dapat Dilakukan Dengan Discover
discoveryBanners
Topik trending
#
Bonk Eco continues to show strength amid $USELESS rally
Hosico
Hosico-14,07%
USELESS
USELESS-7,81%
IKUN
IKUN-10,32%
gib
gib-0,96%
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
Bonk
Bonk-2,37%
ALON
ALON-4,72%
LAUNCHCOIN
LAUNCHCOIN+4,13%
GOONC
GOONC-1,07%
KLED
KLED+22,21%
#
Boop.Fun leading the way with a new launchpad on Solana.
BOOP
BOOP-0,67%
Boopa
Boopa+11,32%
PORK
PORK+4,24%
header
Jack Morris
@cornell penelitian // model bahasa, teori informasi, ilmu AI
Jack Morris
Jack Morris26 Sep, 02.34
Omong-omong. baru-baru ini menulis makalah tentang ini! Untuk transformator, jumlahnya sekitar 3,6 bit per parameter jadi Anda membutuhkan 25GB ÷ 3.6 bit ≈ parameter 56.9B untuk menghafal Wikipedia dengan tepat Itu model yang cukup besar sebenarnya
prerat
prerat17 Sep, 00.45
ok jadi semua teks wikipedia adalah ~25 GB (dikompresi) dapatkah model parameter 25B mengingat cukup banyak ~semua fakta di wiki? Jika tidak, berapa banyak parameter yang dibutuhkan? 2x? 10x? Mungkinkah kurang dari 1x?
112,51K
Jack Morris
Jack Morris25 Sep, 21.28
Perusahaan teknologi terbesar di Eropa akhirnya merilis "LLM berdaulat". itu hanya chatGPT yang berjalan di server Jerman sementara itu, DoorDash Cina melatih LLM 560B dari awal
298,96K