Modul gpu-unlock Gandakan Performa AI Kartu Grafis GeForce

Pembatasan kemampuan komputasi kecerdasan buatan pada kartu grafis konsumen Nvidia GeForce RTX 20, 30, dan 40 berhasil dibuka melalui proyek modifikasi bernama gpu-unlock. Berdasarkan laporan yang dilansir dari Detik iNET, metode ini memungkinkan peningkatan kinerja komputasi tertentu hingga hampir dua kali lipat tanpa perlu mengganti perangkat keras. Modifikasi tersebut menyasar tensor core, komponen GPU yang digunakan untuk mempercepat operasi matematika dalam pemrosesan AI.

Dengan membuka pembatasan yang diterapkan Nvidia, sejumlah kartu grafis GeForce dapat memanfaatkan kemampuan komputasinya secara lebih optimal untuk beban kerja tertentu. Kartu grafis seperti Nvidia GeForce RTX 3090 banyak dimanfaatkan untuk membangun sistem AI rumahan. Kapasitas VRAM 24 GB menjadi salah satu keunggulannya, terutama karena perangkat ini ditawarkan dengan biaya lebih rendah dibandingkan GPU kelas workstation.

Meski menggunakan perangkat keras yang mumpuni, kartu GeForce memiliki pembatasan pada kecepatan instruksi tensor core ketika menjalankan operasi matematika AI FP16 atau BF16 dengan akumulasi FP32. Dalam kondisi tersebut, kecepatannya dibatasi hingga separuh dari kemampuan yang seharusnya tersedia.

Sebagai pembanding, RTX A6000 yang menggunakan chip fisik serupa dapat menjalankan operasi tersebut dengan kecepatan penuh. Perbedaan ini menunjukkan adanya pembatasan berdasarkan segmen produk, yakni kartu grafis konsumen untuk gaming dan GPU profesional untuk pekerjaan komputasi.

Cara kerja proyek gpu-unlock

Solusi untuk mengatasi pembatasan tersebut diperkenalkan oleh pengembang bernama Zagitta melalui proyek gpu-unlock di GitHub. Modul ini beroperasi pada tingkat kernel sistem operasi Linux, tepat sebelum driver resmi Nvidia dimuat.

Mekanismenya melibatkan perubahan pada registri pemilih kecepatan GPU, kemudian kartu grafis diatur ulang secara otomatis. Pendekatan tersebut memungkinkan pembukaan pembatasan tanpa harus melakukan flash VBIOS atau memodifikasi driver Nvidia.

Metode ini menghindari kebutuhan untuk menulis ulang firmware kartu grafis. Meski demikian, pengguna tetap perlu memperhatikan kondisi perangkat dan memastikan proses penerapannya sesuai dengan dukungan modul yang digunakan.

Hasil pengujian pada tiga generasi GeForce RTX

Proyek pembukaan pembatasan ini telah dikembangkan untuk tiga generasi GPU, yaitu Turing pada seri RTX 20, Ampere pada seri RTX 30, serta Ada Lovelace pada seri RTX 40. Hasil pengujian memperlihatkan peningkatan yang berbeda menurut model kartu grafis dan jenis operasi komputasinya.

GeForce RTX seri 30

Pada Nvidia GeForce RTX 3090 Ti dengan konsumsi daya 450W, throughput pemrosesan BF16 meningkat dari 87,5 TFLOPS menjadi 157,4 TFLOPS setelah pembatasan dibuka. Kinerja TF32 juga naik hampir dua kali lipat, sedangkan kemampuan FP16 meningkat sebesar 35%.

Hasil tersebut memperlihatkan bahwa manfaat utama modifikasi berada pada operasi matematika tertentu yang digunakan dalam pemrosesan AI. Besarnya peningkatan tidak selalu sama karena setiap jenis operasi memiliki karakteristik komputasi tersendiri.

GeForce RTX seri 40

Untuk generasi Ada Lovelace, modul gpu-unlock-ada meningkatkan instruction rate FP16 mentah pada RTX 4090 dari 165,6 TFLOPS menjadi 331,6 TFLOPS. Sementara itu, peningkatan performa matriks dalam pengujian nyata berada pada kisaran 12% hingga 34%.

Perbedaan antara peningkatan kemampuan teoritis dan hasil pemrosesan aktual menjadi hal penting untuk diperhatikan. Kenaikan instruction rate tidak otomatis menghasilkan pertambahan kecepatan yang sama besar pada setiap aplikasi AI.

GeForce RTX seri 20

Generasi Turing juga memperoleh dukungan melalui modul turing-unlock. Pengujian pada RTX 2080 Ti yang telah dimodifikasi dengan VRAM 22 GB mencatat peningkatan kecepatan komputasi matriks FP16 sebesar 36% hingga 64%.

Hasil tersebut memperluas manfaat proyek gpu-unlock ke kartu grafis generasi lebih lama. Namun, angka peningkatan tersebut merujuk pada pengujian komputasi tertentu dan tidak dapat dianggap sebagai kenaikan performa universal untuk seluruh penggunaan GPU.

Dampak terhadap gaming dan aplikasi AI

Pembukaan pembatasan tensor core tidak memberikan peningkatan performa gaming secara langsung. Mesin permainan modern hampir tidak pernah menggunakan jenis kalkulasi matematika AI yang menjadi sasaran modifikasi ini. Pengguna chatbot berbasis model bahasa besar atau LLM juga tidak akan otomatis memperoleh peningkatan kecepatan pembuatan teks yang signifikan. Proses pembentukan token lebih banyak dibatasi oleh bandwidth memori daripada kemampuan komputasi mentah GPU.

Sebaliknya, beban kerja yang berpotensi memperoleh manfaat lebih besar mencakup pemrosesan prompt awal, pembuatan gambar berbasis AI seperti Stable Diffusion, serta proses fine-tuning model. Dalam pengujian yang dilaporkan, pemrosesan prompt awal meningkat 14% hingga 36%. Perbedaan hasil tersebut menegaskan bahwa manfaat modifikasi bergantung pada karakteristik beban kerja. Aplikasi yang mengandalkan operasi matriks secara intensif lebih berpeluang memanfaatkan peningkatan kemampuan tensor core dibandingkan tugas yang dibatasi oleh kecepatan akses memori.

Dukungan Linux dan perhatian terhadap daya

Untuk saat ini, gpu-unlock masih terbatas pada sistem operasi Linux. Pengguna perlu memperhatikan kompatibilitas modul dengan generasi kartu grafis yang digunakan sebelum menerapkan perubahan pada sistem.

Pengelolaan suhu dan konsumsi daya juga menjadi aspek penting. Pengoperasian tensor core pada kecepatan maksimal dapat meningkatkan beban kerja serta kebutuhan daya kartu grafis secara signifikan, sehingga kondisi pendinginan dan kemampuan daya perangkat perlu diperhatikan selama penggunaan.