Prosesor AMD Ryzen AI 8000 series terlihat ungguli performa Intel Core Ultra dalam hal benchmark beban kerja LLMs dan GenAI benchmark.
AMD Ryzen AI Unggul dengan Performa Yang Jauh Lebih Hemat Daya
Perlu diketahui, AMD adalah yang pertama dalam hal AI PC mobile dengan CPU AMD Ryzen AI generasi pertama dengan nama kode Phoenix yang diperkenalkan tahun lalu. Sejak saat itu, perusahaan telah meluncurkan jajaran produk AI Ryzen terbaru yang dikenal sebagai Hawk Point yang menawarkan NPU “XDNA” yang ditingkatkan, memberikan peningkatan AI TOPS sebesar 60%.
Tampaknya AMD telah melakukan banyak upaya dalam pengoptimalan perangkat lunak untuk beban kerja AI di sisi klien & terlokalisasi seperti yang ditunjukkan dalam hasil benchmark baru yang diterbitkan oleh AMD. Dalam pengujian baru, AMD menekankan menjalankan LLM pada CPU Anda secara lokal yang dimungkinkan dengan berbagai model termasuk LLama 2, Mistral AI_, kode llama, dan RAG.
Menjalankan model AI terlokalisasi di PC berarti Anda memiliki privasi lebih dibandingkan model di platform cloud online, sehingga menghemat biaya berlangganan tanpa memerlukan koneksi online. AMD mendorong lebih jauh ke dalam bidang ini dengan panduan terbarunya tentang cara menyiapkan bot chat AI lokal Anda sendiri yang menyaingi NVIDIA Chat dengan chatbot RTX.
Hasil Benchmark
Untuk pengujian performa, AMD menggunakan APU Ryzen 7 7840U pada 15W dan membandingkannya dengan Intel Core Ultra 7 155H pada 28W. Kedua chip tersebut berjalan dengan memori LPDDR5-6400 16 GB & paket driver terbaru.
Pertama, kami memiliki Mistral Instruct 7B LLM di mana CPU AMD Ryzen 7 7840U menyelesaikan pemrosesan AI hanya dalam 61% lebih cepat dibandingkan dengan Intel Core Ultra 7, sementara obrolan Llama 2 7B bahkan lebih cepat dengan chip Ryzen AI yang menyelesaikan tugas dalam 54 % lebih cepat.
Lebih Cepat, Tapi Lebih Efisien
Untuk mempermudah, CPU AMD Ryzen 7 7840U (15W) dapat menawarkan kinerja hingga 14% lebih cepat di LLama v2 Chat 7B (Q4 K M) dan kinerja 17% lebih cepat di Mistral Instruct 7b (Q4 K M). Kecepatan waktu untuk token pertama masing-masing 79% lebih cepat di LLama v2 Chat dan 41% lebih cepat di Mistral Instruct 7B LLM.
Ada dua hal yang perlu diperhatikan di sini, CPU AMD Ryzen AI tidak hanya lebih cepat dari pada CPU Intel Core Ultra dengan watt lebih tinggi tetapi juga dilengkapi NPU yang sedikit lebih lambat karena hanya memiliki 11 TOPs.
Itu belum sebanding dengan SKU 28W atau chip Hawk Point yang menampilkan 16 TOPs AI Compute. AMD juga menyoroti keunggulan biaya dari platform AI PC-nya yang memiliki harga lebih rendah, mulai dari $899 (SEP) dibandingkan $999 (SEP) dari chip Intel Core Ultra 7 155H.
Keunggulan Lain Tim Merah AMD
Platform PC AMD Ryzen AI memiliki keuntungan lain karena telah beredar di pasaran selama beberapa waktu terlebih dahulu & hal ini telah mendorong tim merah untuk melakukan optimasi AI dengan cepat untuk CPU yang sudah ada dan generasi berikutnya.
Beban kerja AI ini diharapkan dapat disesuaikan lebih lanjut sebagai persiapan untuk keluarga Strix Point bertenaga Zen 5 yang diperkirakan akan diluncurkan akhir tahun ini. Platform Intel Core Ultra juga telah diluncurkan selama beberapa bulan dan Intel terlihat memiliki strategi yang cukup matang untuk bidang ini.
Baca juga:
- WOW! AMD hawk Point Resmi Jadi APU Terkencang di Dunia!
- Intel – AMD | Antara Lawan & Kawan!
- AMD Resmi Perkenalkan RDNA 3 Radeon RX 7000!
Cari gadget berkualitas dengan harga terbaik? Temukan pilihan laptop, PC, dan komponen PC dengan harga terbaik hanya di Pemmz.com.
Cari tahu juga update berita terkini dan teraktual seputar teknologi dan gadget di Pemmzchannel.com.
