DeepSeek AI Berbahaya Atau Tidak? Peneliti Temukan Fakta Ini

Liputan6.com, Jakarta Sebuah model kecerdasan buatan asal China bernama DeepSeek AI kini tengah menjadi pusat perhatian dunia teknologi. Betapa tidak, perangkat tersebut diklaim memiliki model open-source yang disebut mampu menyaingi OpenAI. DeepSeek AI menawarkan inovasi baru dalam penalaran matematis, efisiensi kode, dan biaya operasional rendah. Namun, di balik kecanggihan tersebut, terdapat kerentanan keamanan yang berpotensi disalahgunakan oleh pihak tidak bertanggung jawab.

Berdasarkan penelitian terbaru, pola injeksi cepat bisa digunakan untuk mengeksploitasi DeepSeek AI. Dan kabarnya, cara kerja ini memungkinkan pengambilalihan akun sang pengguna. Masalah ini memicu kekhawatiran terkait privasi dan keamanan data, terutama di tengah popularitas DeepSeek yang terus meningkat.

Lalu, apakah DeepSeek AI benar-benar aman atau justru menjadi ancaman? Berikut rangkumannya oleh Liputan6, Selasa (28/1).

Dikutip dari Liputan6, DeepSeek AI adalah model kecerdasan buatan yang dikembangkan oleh laboratorium independen asal China dengan tujuan menghadirkan solusi AI yang lebih efisien dan terbuka. DeepSeek AI lahir dari divisi pembelajaran mendalam Fire-Flyer, yang sebelumnya berfokus pada analisis data keuangan kuantitatif. Pada tahun 2023, laboratorium ini memutuskan untuk mengalihkan fokusnya ke pengembangan AI dengan meluncurkan model open-source pertama mereka, DeepSeek-R1.

Pendiri DeepSeek, Liang Wenfeng, mendirikan laboratorium ini dengan filosofi mengutamakan inovasi ilmiah dibandingkan keuntungan finansial jangka pendek. Tidak seperti perusahaan AI lainnya di China, DeepSeek beroperasi secara independen tanpa dukungan raksasa teknologi seperti Baidu atau Alibaba. Filosofi ini memungkinkan DeepSeek untuk berfokus pada kolaborasi akademik dan penelitian mandiri.

Kini, DeepSeek telah menjadi salah satu pesaing utama dalam industri AI global, bersaing dengan raksasa seperti OpenAI dan Google. Model DeepSeek-R1 dirancang untuk melampaui standar dalam tugas-tugas kritis seperti pemrograman dan analisis data, menjadikannya salah satu model AI yang paling inovatif di pasar saat ini.

Namun, DeepSeek AI juga memiliki kekurangan, terutama dalam hal keamanan. Penelitian mengungkap adanya kerentanan yang dapat dimanfaatkan oleh pelaku kejahatan siber untuk mengambil alih akun pengguna melalui serangan injeksi cepat. Masalah ini menjadi perhatian serius, mengingat popularitas DeepSeek yang terus meningkat di kalangan pengembang AI.

Berdasarkan penelitian terbaru, kerentanan keamanan dalam sistem DeepSeek AI berpotensi dimanfaatkan oleh pelaku kejahatan siber untuk menyerang pengguna. Salah satu kerentanannya adalah serangan injeksi cepat, di mana pelaku dapat menyuntikkan kode berbahaya ke dalam sistem DeepSeek untuk mengambil alih akun pengguna.

Kerentanan ini memungkinkan pelaku untuk mengakses data pengguna, termasuk token sesi, yang kemudian dapat digunakan untuk menyamar sebagai pengguna. Selain itu, serangan XSS (cross-site scripting) yang ditemukan dalam sistem DeepSeek juga dapat menyebabkan eksekusi kode tidak sah di peramban web korban.

"Fitur-fitur yang sudah berumur puluhan tahun menyediakan permukaan serangan yang tidak terduga pada aplikasi GenAI, penting bagi pengembang dan perancang aplikasi untuk mempertimbangkan konteks tempat mereka memasukkan keluaran LLM, karena keluaran tersebut tidak tepercaya dan dapat berisi data yang sembarangan," ujar Peneliti keamanan Johann Rehberger, mengutip thehackernews.com

 ChatGPT, yang dikembangkan oleh OpenAI, dikenal unggul dalam interaksi berbasis teks, menawarkan kemampuan komunikasi yang canggih dan respons cepat. Ini menjadikannya populer di berbagai sektor seperti layanan pelanggan, pemasaran, dan pendidikan.

Di sisi lain, DeepSeek AI menggunakan model open-source DeepSeek yang menonjol dalam analisis data dan pemrograman. DeepSeek lebih mengedepankan efisiensi biaya dan penggunaan sumber daya komputasi yang lebih rendah dibandingkan dengan ChatGPT, serta menawarkan akses terbuka yang memungkinkan pengembang untuk memodifikasi dan mengadaptasi model sesuai kebutuhan mereka.

Dalam hal performa, DeepSeek mencatatkan skor 92% dalam penalaran logis, mengungguli ChatGPT yang mendapatkan 89% pada pengujian serupa. Meskipun keduanya memiliki keunggulan masing-masing, DeepSeek lebih fokus pada aplikasi teknis dan analisis data besar, menjadikannya pilihan utama untuk sektor riset ilmiah dan bisnis.

Sementara itu, ChatGPT lebih cocok untuk aplikasi komunikasi sehari-hari berkat kemampuannya dalam menghasilkan teks kreatif dan respons yang alami. Dengan demikian, pilihan antara keduanya tergantung pada kebutuhan spesifik pengguna, apakah mereka memerlukan interaksi berbasis teks atau analisis data mendalam

"Setelah beberapa kali bereksperimen, saya menemukan bahwa yang dibutuhkan untuk mengambil alih sesi pengguna hanyalah userToken yang disimpan di localStorage pada domain chat.deepseek.com," ujarnya, lagi.

DeepSeek AI telah menunjukkan potensi besar untuk menyaingi OpenAI, terutama dalam hal efisiensi biaya dan inovasi teknologi. Model DeepSeek-R1-Zero, misalnya, dirancang dengan fokus eksklusif pada reinforcement learning tanpa bergantung pada pelatihan supervisi, yang merupakan pendekatan unik dibandingkan model OpenAI.

Selain itu, pendekatan open-source DeepSeek menarik minat banyak pengembang independen yang mencari solusi AI murah dan fleksibel. Dalam pengujian kinerja, DeepSeek mencetak skor 92% dalam penalaran logis, melampaui ChatGPT yang mencetak skor 89%. Namun, Google Gemini tetap unggul dalam pengolahan data multimodal, menunjukkan bahwa persaingan di industri AI masih sangat ketat.

Keberhasilan DeepSeek juga memberikan tekanan pada raksasa teknologi Amerika seperti OpenAI dan Google, yang kini harus menghadapi kompetisi dari perusahaan yang menawarkan solusi lebih terjangkau dan efisien.

Saham Nvidia diketahui turun hampir $600 miliar Usai DeepSeek AI rilis. Para investor dikabarkan khawatir usai AI ini muncul karena posisi biaya rendah akan mengancam dominasi para pemain AI unggulan, seperti Nvidia. 

Berdasarkan data yang dihimpun, kapitalisasi pasar Nvidia didapati hangus hingga US$ 593 miliar. Rekor kerugian satu untuk perusahaan tersebut tumbang hingga menyentuh angka 17 persen dan dinyatakan sebagai rekor kerugian dalam satu hari untuk pasar saham Wall Street.