Bagaimana ChatGPT Sebenarnya Dibina
Kuliah Stanford 1 jam 44 minit yang bongkar semua proses bina model bahasa besar, dari tapis internet yang kotor sampai ajar model jadi pembantu yang sopan.
- Lima Tiang LLM Senibina nampak glamor, tapi data dan sistem yang menentukan
- Teka Perkataan Seterusnya Itu je kerja LLM, selebihnya soal skala
- Internet Itu Kotor 250 bilion halaman ditapis lapis demi lapis jadi 15 trilion token
- Hukum Skala Prestasi model boleh diramal sebelum sesen pun dibelanja
- Harga Sebenar Kira-kira AS$75 juta untuk latih satu model terbuka
- Ajar Gaya, Bukan Ilmu 2,000 contoh dah cukup ubah model jadi pembantu
- Pilih, Jangan Tulis Manusia susah nak tulis jawapan terbaik, tapi pandai memilih
- Menilai Tanpa Kunci Jawapan Bila soalan terbuka, siapa pula yang jadi pemeriksa?
- GPU Yang Menganggur Separuh kuasa cip hilang sebab data lambat sampai