Selasa, November 17, 2026

Settings LM Studio

  langkah untuk mengabaikan (omit) fail penglihatan mmproj supaya Muse berjalan pada kelajuan maksimum untuk penulisan.

 Muat Naik Model (Load Model):

Di bahagian atas perisian LM Studio, klik menu (dropdown) model dan pilih Muse-Glimmer-30B-KQuant-17GB-Q4_K_M.gguf.

Buka Tetapan Sisi Kanan (Right Sidebar / Advanced Configuration):

 Klik ikon Tetapan (Gear/Sliders) di sebelah kanan atas skrin untuk membuka panel tetapan model.

 Kosongkan Ruangan Projector Vision:p

   * Tatal ke bawah sehingga anda menemui bahagian Multimodal / Vision Projector (atau MMC / CLIP Model).

   * Pastikan kotak pilihan fail mmproj-... dibiarkan Kosong (Unselected / None).

   * Jangan pilih atau muat naik fail mmproj-lMuse-Glimmer-30B-Q4_K_M.gguf.

 * Tetapkan Parameter Penulisan Novel (Sangat Disyorkan):

   Dalam panel tetapan yang sama, laraskan tetapan berikut untuk hasil penulisan novel Bahasa Melayu & Inggeris yang lancar:

   * Context Length (n_ctx): Setkan kepada 16384 (16k) atau 32768 (32k).

   * CPU Threads (-t): Setkan mengikut bilangan teras fizikal CPU anda (contohnya 8 atau 10).

   * Flash Attention: Pastikan tanda ON / Enabled (ini mempercepatkan pemprosesan draf bab yang panjang).

   * Temperature: 0.75

   * Min P: 0.05

   * Repeat Penalty: 1.10

 * Klik "Eject & Reload Model":

   * Tekan butang Reload Model di bahagian atas. LM Studio kini akan memuatkan model teks tulen ke dalam RAM sistem anda.

Jangkaan Kelajuan (Tokens Per Second) dalam LM Studio

Pada komputer kerja anda (64 GB DDR5 RAM):

 * Masa Membaca Prompt (Context Processing): ~50 – 75 tok/s

   (Ingest outline atau draf 4,000 patah perkataan mengambil masa sekitar 10–15 saat sahaja).

 * Kelajuan Menulis (Text Generation): ~18 – 25 tok/s

   (Satu bab/perenggan novel panjang 1,000 patah perkataan akan siap dijana dalam tempoh lebih kurang 45 hingga 55 saat).

Model Q4_K_M (~16.8 GB) muat sepenuhnya di dalam RAM 64 GB anda tanpa perlu pertukaran memori (memory swapping) ke SSD, LM Studio akan memberikan prestasi penulisan teks yang sangat stabil dan pantas!


Tiada ulasan: