1. Pendahuluan

1.1 Apa itu Large Language Models (LLMs)?

Large Language Models (LLMs) adalah model kecerdasan buatan yang dirancang untuk memahami dan menghasilkan teks menggunakan bahasa manusia. Model ini dilatih dengan data dalam jumlah yang sangat besar sehingga mampu mengenali pola bahasa, menjawab pertanyaan, menerjemahkan teks, hingga membantu membuat berbagai jenis tulisan. Saat ini, LLM menjadi salah satu teknologi utama dalam perkembangan kecerdasan buatan.

1.2 Mengapa LLM Menjadi Teknologi yang Sangat Populer?

Popularitas LLM meningkat karena kemampuannya dalam membantu berbagai pekerjaan yang sebelumnya membutuhkan waktu cukup lama. Teknologi ini dapat digunakan untuk mencari informasi, membuat ringkasan, menulis kode program, membantu belajar, hingga memberikan ide dalam pembuatan konten. Selain itu, perkembangan perangkat keras dan model AI yang semakin canggih membuat LLM dapat diakses oleh lebih banyak pengguna.

1.3 Contoh Penggunaan LLM dalam Kehidupan Sehari-hari

Saat ini, LLM telah digunakan dalam berbagai aplikasi yang sering ditemui sehari-hari, seperti chatbot, asisten virtual, mesin penerjemah, dan alat pembuat konten. Beberapa contoh layanan yang memanfaatkan teknologi LLM adalah ChatGPT, Gemini, Claude, Microsoft Copilot, DeepSeek, dan Qwen. Kehadiran teknologi ini membantu pengguna memperoleh informasi dan menyelesaikan berbagai tugas dengan lebih cepat.

2. Apa Itu Large Language Models?

2.1 Definisi LLM

Large Language Models merupakan model kecerdasan buatan yang dikembangkan untuk memproses, memahami, dan menghasilkan teks berdasarkan pola bahasa yang dipelajari selama proses pelatihan. Model ini tidak memahami bahasa seperti manusia, tetapi memprediksi kata atau token berikutnya berdasarkan konteks yang diberikan sehingga mampu menghasilkan kalimat yang terlihat alami.

2.2 Mengapa Disebut “Large”?

Istilah large digunakan karena model ini memiliki jumlah parameter yang sangat banyak dan dilatih menggunakan kumpulan data berukuran sangat besar. Semakin besar jumlah parameter dan data pelatihannya, umumnya kemampuan model dalam memahami berbagai topik juga semakin baik. Namun, ukuran yang besar juga membuat proses pelatihannya membutuhkan sumber daya komputasi yang tinggi.

2.3 Contoh Model LLM Populer

Beberapa model LLM yang banyak digunakan saat ini antara lain GPT, Llama, Claude, Gemini, DeepSeek, Qwen, dan Mistral. Masing-masing model dikembangkan oleh perusahaan atau organisasi yang berbeda serta memiliki keunggulan tersendiri. Walaupun memiliki perbedaan dalam arsitektur maupun ukuran model, semuanya memiliki tujuan yang sama, yaitu membantu memahami dan menghasilkan bahasa alami.

3. Bagaimana Cara Kerja LLM Secara Umum

3.1 Tahapan Besar

Secara umum, proses kerja LLM dimulai dari pengumpulan data dalam jumlah besar yang kemudian dibersihkan dan diproses agar siap digunakan sebagai data pelatihan. Setelah itu, data diubah menjadi token sebelum dipelajari oleh model melalui proses pelatihan. Setelah pelatihan selesai, model dapat digunakan untuk menerima pertanyaan dari pengguna dan menghasilkan jawaban berdasarkan pola yang telah dipelajarinya.

3.2 Alur Kerja Singkat

Ketika pengguna memberikan sebuah pertanyaan atau prompt, model akan memproses setiap token yang diterima dan menghitung kemungkinan token berikutnya. Proses ini dilakukan berulang kali hingga terbentuk kalimat lengkap yang menjadi jawaban bagi pengguna. Seluruh proses tersebut berlangsung sangat cepat sehingga pengguna dapat memperoleh respons hanya dalam hitungan detik.

4. Mengenal Tokenisasi

4.1 Apa Itu Token?

Token adalah satuan data yang digunakan oleh LLM untuk memproses teks. Sebuah token dapat berupa kata, bagian dari kata, tanda baca, maupun karakter tertentu. Dengan mengubah teks menjadi token, model dapat memproses bahasa dalam bentuk angka yang dapat dipahami oleh komputer.

4.2 Mengapa Tidak Membaca Per Kata?

LLM tidak selalu memproses teks berdasarkan satu kata penuh karena setiap bahasa memiliki struktur yang berbeda. Dengan menggunakan token, model dapat mengenali kata baru, singkatan, maupun berbagai variasi penulisan dengan lebih efisien. Pendekatan ini juga membantu mengurangi ukuran kosakata yang harus dipelajari oleh model.

4.3 Contoh Tokenisasi

Sebagai contoh, kalimat “Saya sedang belajar AI.” akan dipecah menjadi beberapa token sebelum diproses oleh model. Setiap token kemudian diubah menjadi representasi angka sehingga dapat digunakan dalam proses perhitungan oleh jaringan saraf. Tahapan ini menjadi langkah awal sebelum model memahami konteks sebuah kalimat.

5. Arsitektur Transformer

5.1 Mengapa Transformer Menggantikan RNN?

Transformer menjadi arsitektur utama pada LLM karena mampu memproses seluruh bagian kalimat secara bersamaan. Berbeda dengan RNN yang memproses kata secara berurutan, Transformer bekerja lebih cepat dan lebih baik dalam memahami hubungan antar kata yang berjauhan dalam sebuah kalimat.

5.2 Komponen Transformer

Transformer terdiri atas beberapa komponen yang bekerja sama untuk memahami hubungan antar token. Komponen seperti embedding, positional encoding, attention, dan feed forward network membantu model mengenali makna, urutan kata, serta hubungan antar informasi sehingga dapat menghasilkan jawaban yang lebih akurat.

5.3 Encoder vs Decoder

Pada arsitektur Transformer terdapat dua bagian utama, yaitu encoder dan decoder. Encoder bertugas memahami informasi dari teks masukan, sedangkan decoder bertugas menghasilkan teks keluaran. Beberapa model menggunakan kedua komponen tersebut, sementara model lainnya hanya menggunakan salah satunya.

5.4 Decoder-Only Model

Model seperti GPT, Llama, dan Qwen menggunakan arsitektur decoder-only. Model jenis ini dirancang untuk menghasilkan teks secara bertahap dengan memprediksi token berikutnya berdasarkan token sebelumnya. Pendekatan ini sangat cocok digunakan untuk chatbot dan aplikasi generatif.

5.5 Encoder-Only Model

Model encoder-only, seperti BERT, lebih difokuskan pada pemahaman teks daripada menghasilkan teks baru. Model ini banyak digunakan untuk tugas seperti klasifikasi dokumen, analisis sentimen, dan pencarian informasi.

5.6 Encoder-Decoder

Model encoder-decoder menggabungkan kemampuan memahami teks dan menghasilkan teks. Arsitektur ini banyak digunakan pada tugas penerjemahan bahasa, peringkasan dokumen, dan berbagai aplikasi yang membutuhkan proses membaca sekaligus menghasilkan teks baru.

6. Memahami Self-Attention

6.1 Apa Itu Attention?

Attention merupakan mekanisme yang memungkinkan model memberikan perhatian lebih besar pada bagian kalimat yang dianggap penting. Dengan cara ini, model dapat memahami hubungan antar kata sehingga makna keseluruhan kalimat menjadi lebih mudah dipahami.

6.2 Mengapa Attention Penting?

Tanpa mekanisme attention, model akan lebih sulit memahami hubungan antara kata-kata yang letaknya berjauhan. Attention membantu model menentukan informasi mana yang paling relevan saat menghasilkan jawaban sehingga hasilnya menjadi lebih tepat.

6.3 Konsep Query, Key, dan Value

Dalam mekanisme self-attention, setiap token diubah menjadi tiga representasi, yaitu Query, Key, dan Value. Ketiga komponen ini digunakan untuk menghitung tingkat hubungan antar token sehingga model dapat menentukan informasi mana yang perlu lebih diperhatikan.

6.4 Contoh Sederhana Self-Attention

Sebagai contoh, pada kalimat “Budi membeli buku karena dia ingin belajar”, model dapat memahami bahwa kata “dia” mengacu pada “Budi”. Kemampuan ini diperoleh melalui mekanisme self-attention yang menganalisis hubungan antar kata dalam satu kalimat.