| | --- |
| | license: mit |
| | datasets: |
| | - Qwen/DeepPlanning |
| | language: |
| | - id |
| | metrics: |
| | - accuracy |
| | base_model: |
| | - Qwen/Qwen3-Coder-Next |
| | new_version: Qwen/Qwen3.5-397B-A17B |
| | pipeline_tag: text-classification |
| | library_name: adapter-transformers |
| | tags: |
| | - HummanAI |
| | - Model |
| | - .gguf |
| | - Cyber |
| | - Scurity |
| | --- |
| | |
| | # π±βπ» HackCat AI Chat |
| |
|
| |  |
| |
|
| | <audio controls src="https://cdn-uploads.huggingface.co/production/uploads/699872ccaf89b7c1a5351ff9/59VOoSNjxHRxhKaWEYZB_.mpga"></audio> |
| |
|
| | HackCat AI Chat adalah aplikasi chatbot berbasis Command Line Interface (CLI) yang berjalan menggunakan model bahasa lokal (Large Language Model) berekstensi `.gguf`. Proyek ini menggunakan pustaka `gpt4all` dan dirancang untuk berjalan **sepenuhnya secara offline** tanpa memerlukan koneksi internet. |
| |
|
| | ## β¨ Fitur Utama |
| |
|
| | * **100% Offline:** Menjaga privasi data Anda karena pemrosesan dilakukan sepenuhnya di perangkat lokal. |
| | * **Streaming Responses:** Jawaban dari AI ditampilkan kata demi kata secara *real-time*, memberikan pengalaman obrolan yang natural. |
| | * **Sesi Interaktif:** Mengingat konteks percakapan selama sesi berjalan. |
| |
|
| | --- |
| |
|
| | ## π οΈ Persyaratan Sistem (Prerequisites) |
| |
|
| | Sebelum menjalankan aplikasi ini, pastikan sistem Anda telah memenuhi persyaratan berikut: |
| |
|
| | 1. **Python** versi 3.8 atau lebih baru. |
| | 2. Pustaka Python **GPT4All**. |
| | 3. File model GGUF bernama `Model_Bahasa_Ram 2.gguf`. |
| |
|
| | --- |
| |
|
| | ## π Cara Instalasi & Persiapan |
| |
|
| | **1. Install Library GPT4All** |
| | Buka terminal/command prompt Anda dan jalankan perintah berikut: |
| |
|
| | ```bash |
| | pip install gpt4all |
| | |
| | ``` |
| |
|
| | **2. Persiapkan File Model** |
| | Karena aplikasi ini disetel untuk tidak mengunduh model secara otomatis (`allow_download=False`), Anda harus menyediakan file modelnya secara manual: |
| |
|
| | * Unduh atau siapkan file model `Model_Bahasa_Ram 2.gguf`. |
| | * Buat folder bernama `model` di direktori yang sama dengan file script Python Anda. |
| | * Pindahkan file `.gguf` tersebut ke dalam folder `model`. |
| |
|
| | **3. Struktur Direktori** |
| | Pastikan struktur folder Anda terlihat seperti ini: |
| |
|
| | ```text |
| | π¦ Proyek_HackCat/ |
| | β£ π model/ |
| | β β π Model_Bahasa_Ram 2.gguf |
| | β π main.py (File script Python Anda) |
| | |
| | ``` |
| |
|
| | --- |
| |
|
| | ## π» Cara Menjalankan Aplikasi |
| |
|
| | 1. Buka terminal/command prompt. |
| | 2. Arahkan ke direktori proyek Anda. |
| | 3. Jalankan script Python: |
| |
|
| | ```bash |
| | python main.py |
| | |
| | ``` |
| |
|
| | *(Ganti `main.py` dengan nama file Python Anda yang sebenarnya).* |
| |
|
| | Setelah berjalan, Anda akan melihat tampilan seperti ini di terminal: |
| |
|
| | ```text |
| | === HackCat AI Chat === |
| | (Ketik 'exit' untuk berhenti) |
| | |
| | Kamu: Halo, apa kabar? |
| | AI: Halo! Kabar saya baik. Ada yang bisa saya bantu hari ini? |
| | |
| | ``` |
| |
|
| | Ketik **`exit`** kapan saja untuk menghentikan program dan keluar dari sesi obrolan. |
| |
|
| | --- |
| |
|
| | ## βοΈ Penjelasan Kode Singkat |
| |
|
| | * `model_path="./model/"`: Menentukan lokasi di mana program akan mencari file model. |
| | * `allow_download=False`: Memaksa program untuk hanya menggunakan model yang sudah ada secara lokal. Jika file tidak ditemukan, program akan memunculkan *error* alih-alih mencoba mengunduhnya dari internet. |
| | * `streaming=True`: Memungkinkan teks dicetak ke layar sedikit demi sedikit (efek mengetik) alih-alih menunggu seluruh kalimat selesai dibuat oleh AI. |
| |
|
| | --- |
| |
|
| | ## π οΈ Panduan Troubleshooting (Pemecahan Masalah) |
| |
|
| | Jika Anda menemui kendala saat menjalankan **HackCat AI Chat**, silakan cek solusi di bawah ini: |
| |
|
| | ### 1. Model Not Found (File Tidak Ditemukan) |
| |
|
| | **Gejala:** Muncul pesan error `Model file not found` atau program langsung tertutup. |
| |
|
| | * **Solusi:** * Pastikan nama file di dalam folder `model` **sama persis** dengan yang ada di kode: `Model_Bahasa_Ram 2.gguf`. Perhatikan spasi dan huruf kapital. |
| | * Pastikan path-nya benar. Jika Anda menjalankan script dari folder luar, gunakan path absolut atau pastikan folder `model/` berada satu level dengan script `.py`. |
| |
|
| |
|
| |
|
| | ### 2. Error: "Instruction set not supported" (AVX/AVX2) |
| |
|
| | **Gejala:** Program *crash* atau *error* saat inisialisasi model. |
| |
|
| | * **Penyebab:** GPT4All memerlukan instruksi CPU tertentu (AVX atau AVX2). Jika CPU Anda terlalu lama, ia mungkin tidak mendukung instruksi ini. |
| | * **Solusi:** * Update driver chipset Anda. |
| | * Pastikan Anda menggunakan versi `gpt4all` terbaru (`pip install --upgrade gpt4all`). |
| | * Jika menggunakan CPU sangat tua, Anda mungkin perlu mencari *build* khusus atau mengganti perangkat. |
| |
|
| |
|
| |
|
| | ### 3. Masalah RAM & Performa (Lagging) |
| |
|
| | **Gejala:** Respon AI sangat lambat atau komputer menjadi tidak responsif. |
| |
|
| | * **Penyebab:** Model `.gguf` dimuat ke dalam RAM. Model yang besar membutuhkan RAM yang lega (minimal 8GB untuk performa stabil). |
| | * **Solusi:** |
| | * Tutup aplikasi berat lainnya (Chrome, Game, Video Editor) saat menjalankan AI. |
| | * Gunakan model dengan ukuran parameter yang lebih kecil atau kuantisasi yang lebih tinggi (misal: versi `Q4_K_M`). |
| |
|
| |
|
| |
|
| | ### 4. Library Tidak Terdeteksi |
| |
|
| | **Gejala:** `ModuleNotFoundError: No module named 'gpt4all'` |
| |
|
| | * **Solusi:** Pastikan Anda menginstal library di lingkungan (environment) yang benar. Jika menggunakan Virtual Environment (venv), aktifkan dulu venv-nya sebelum menjalankan `pip install`. |
| |
|
| | ### 5. Karakter Aneh pada Output Streaming |
| |
|
| | **Gejala:** Muncul karakter kotak-kotak atau simbol aneh saat AI menjawab. |
| |
|
| | * **Solusi:** Ini biasanya masalah encoding pada Terminal/CMD. Gunakan terminal yang mendukung UTF-8 seperti **VS Code Terminal**, **Windows Terminal**, atau **PowerShell** (hindari CMD jadul jika memungkinkan). |
| |
|
| | --- |
| |
|
| | ## π Tips Tambahan |
| |
|
| | * **Update Library:** Selalu gunakan versi terbaru dengan perintah `pip install -U gpt4all`. |
| | * **Logs:** Jika error tetap berlanjut, hapus `allow_download=False` sementara untuk melihat apakah library mencoba mengunduh dependensi yang hilang. |
| |
|
| | --- |