Posts

Showing posts from January, 2025

Local AI Coding Assistant dengan Qwen 2.5

Image
Qwen adalah LLM (large language model) yang dikembangkan oleh Alibaba group. Model ini cukup terkenal karena mempunya kemampuan yang bersaing dengan GPT-4 (OpenAI), Llama-3 (Meta), dan Mistral (Mistral AI). Qwen dirilis dengan lisensi Apache 2.0 sehingga kita dapat menggunakannya untuk keperluan non-komersial maupun komersial, seperti coding asisten lokal baik untuk keperluan pribadi maupun pekerjaan. Qwen yang terbaru adalah Qwen-2.5, dan untuk coding kita akan menggunakan Qwen-2.5-Coder. Sebenarnya untuk Qwen-2.5 ada 7 varian yanng tersedia, yaitu mulai dari 0.5B alias 0.5 billion (milyar) parameter sampai dengan 72B. Sedangkan untuk Qwen-2.5-Coder, pada saat tulisan ini diturunkan, hanya ada 6 varian, dengan varian 32B sebagai flagshipnya. Besarnya parameter ini berkaitan dengan akurasi dari model AI dalam menangani tugas coding yang kompleks. Cara yang paling mudah untuk menggunakan Qwen-2.5-Coder secara luring (offline) adalah dengan menjalankannya menggunakan aplikasi Ollama. Oll...