Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for ChatGPT

ChatGPT

Raksasa Pencarian Cina Baidu akan Meluncurkan Bot Bergaya ChatGPT

by

berencana untuk meluncurkan layanan chatbot kecerdasan buatan yang mirip dengan ChatGPT OpenAI, menurut seseorang yang mengetahui masalah tersebut, berpotensi menjadi entri paling menonjol di China dalam perlombaan yang dipicu oleh fenomena teknologi tersebut.

Perusahaan mesin pencari terbesar di China berencana untuk meluncurkan aplikasi bergaya ChatGPT pada bulan Maret, awalnya menyematkannya ke dalam layanan pencarian utamanya, kata orang tersebut, yang meminta untuk tidak disebutkan namanya mendiskusikan informasi pribadi.

Alat, yang namanya belum diputuskan, akan memungkinkan pengguna untuk mendapatkan hasil pencarian gaya percakapan seperti platform populer OpenAI.

Saham perusahaan naik sebanyak 5,8% setelah laporan Bloomberg, kenaikan intraday terbesar dalam hampir empat minggu.

Baidu telah menghabiskan miliaran dolar untuk meneliti AI dalam upaya selama bertahun-tahun untuk beralih dari pemasaran online ke teknologi yang lebih dalam.

Sistem Ernie-nya — model pembelajaran mesin skala besar yang telah dilatih berdasarkan data selama beberapa tahun — akan menjadi dasar dari alat mirip ChatGPT yang akan datang, kata orang tersebut. Perwakilan Baidu menolak berkomentar.

ChatGPT, alat kecerdasan buatan OpenAI, telah menerangi internet sejak debut publiknya pada bulan November, mengumpulkan lebih dari satu juta pengguna dalam beberapa hari dan memicu perdebatan tentang peran AI di sekolah, kantor, dan rumah.

Perusahaan termasuk Microsoft Corp. menginvestasikan miliaran untuk mencoba dan mengembangkan aplikasi dunia nyata, sementara yang lain memanfaatkan hype untuk mengumpulkan dana.

Saham Buzzfeed Inc. meningkat lebih dari dua kali lipat bulan ini setelah mengumumkan rencana untuk memasukkan ChatGPT ke dalam kontennya.

Selengkapnya: Bloomberg

Rekayasa Prompt Berbahaya Dengan ChatGPT

by

Rilis ChatGPT OpenAI pada akhir 2022 telah menunjukkan potensi AI baik dan buruk.

Rilis ChatGPT OpenAI yang tersedia untuk semua orang pada akhir tahun 2022 telah menunjukkan potensi baik dan buruk dari AI.

ChatGPT adalah generator bahasa alami berbasis AI berskala besar. Diluncurkan oleh OpenAI pada November 2022 dan dibangun di atas rangkaian model bahasa besar GPT-3 OpenAI.

Rekayasa prompt adalah manipulasi prompt yang dirancang untuk memaksa sistem merespons dengan cara tertentu yang diinginkan oleh pengguna.

Keuntungan membuat ChatGPT tersedia secara umum adalah kepastian bahwa orang akan berusaha menunjukkan potensi penyalahgunaan. Tetapi sistem dapat belajar dari metode yang digunakan.

Oleh karena itu, setiap pemeriksaan penggunaan rekayasa prompt hanya relevan pada saat pemeriksaan. Sistem AI semacam itu akan memasuki proses lompatan yang sama dari semua keamanan siber.

WithSecure memeriksa tiga kasus penggunaan utama untuk rekayasa prompt: pembuatan phishing, berbagai jenis penipuan, dan informasi yang salah. Itu tidak memeriksa penggunaan ChatGPT dalam perburuan bug atau mengeksploitasi pembuatan.

Berkembangnya bidang Prompt Engineering menyebabkan penggunaan yang lebih kreatif untuk model bahasa besar akan muncul, termasuk yang berbahaya. Eksperimen oleh para peneliti membuktikan bahwa model bahasa besar dapat digunakan untuk membuat utas email yang cocok untuk serangan spear phishing, ‘text deepfake’ gaya tulisan seseorang, menerapkan pendapat pada konten tertulis, menulis dengan gaya tertentu, dan membuat tampilan palsu yang meyakinkan artikel, meskipun informasi yang relevan tidak disertakan dalam data pelatihan model.

Sebelum ChatGPT, pengguna akhir diminta untuk bertanya pada diri sendiri apakah email yang diterima ditulis oleh teman, musuh, atau bot. Apa pun yang ditulis dan dibaca di mana saja berpotensi ditulis oleh teman, musuh, atau bot. WithSecure telah menunjukkan bahwa siapapun dapat merekayasa ChatGPT untuk menulis ulasan ini.

Selengkapnya: Security Week

ChatGPT Membuat Malware Polimorfik

by

ChatGPT OpenAI dilaporkan telah menciptakan untaian baru malware polimorfik setelah interaksi berbasis teks dengan peneliti keamanan siber di CyberArk.

Menurut tulisan teknis yang baru-baru ini dibagikan oleh perusahaan dengan Infosecurity, malware yang dibuat menggunakan ChatGPT dapat “dengan mudah menghindari produk keamanan dan membuat mitigasi menjadi rumit dengan sedikit usaha atau investasi oleh musuh.”

Laporan tersebut, yang ditulis oleh peneliti keamanan CyberArk Eran Shimony dan Omer Tsarfati, menjelaskan bahwa langkah pertama untuk membuat malware adalah melewati filter konten yang mencegah ChatGPT membuat alat berbahaya.

Untuk melakukannya, para peneliti CyberArk hanya bersikeras, mengajukan pertanyaan yang sama dengan lebih otoritatif.

“Menariknya, dengan meminta ChatGPT untuk melakukan hal yang sama menggunakan beberapa batasan dan memintanya untuk patuh, kami menerima kode fungsional,” kata Shimony dan Tsarfati.

Lebih lanjut, para peneliti mencatat bahwa ketika menggunakan versi API dari ChatGPT (berlawanan dengan versi web), sistem dilaporkan tampaknya tidak menggunakan filter kontennya.

“Tidak jelas mengapa ini terjadi, tetapi itu membuat tugas kami jauh lebih mudah karena versi web cenderung macet dengan permintaan yang lebih kompleks,” demikian laporan CyberArk.

Shimony dan Tsarfati kemudian menggunakan ChatGPT untuk mengubah kode asli, sehingga membuat banyak variasi.

“Dengan kata lain, kami dapat memutasikan output dengan cepat, menjadikannya unik setiap saat. Selain itu, menambahkan batasan seperti mengubah penggunaan panggilan API tertentu membuat hidup produk keamanan menjadi lebih sulit.”

Berkat kemampuan ChatGPT untuk membuat dan terus memutasikan injektor, para peneliti keamanan siber mampu membuat program polimorfik yang sangat sulit dipahami dan sulit dideteksi.

“Dengan memanfaatkan kemampuan ChatGPT untuk menghasilkan berbagai teknik persistensi, modul Anti-VM, dan muatan berbahaya lainnya, kemungkinan pengembangan malware menjadi sangat besar,” jelas para peneliti.

Selengkapnya: Info Security Magazine

OPWNAI : Penjahat dunia maya Mulai Gunakan ChatGPT

by

Pada akhir November 2022, OpenAI merilis ChatGPT, antarmuka baru untuk Model Bahasa Besar (LLM), yang langsung menarik minat pada AI dan kemungkinan penggunaannya.

Namun, ChatGPT juga menambahkan beberapa bumbu ke lanskap ancaman dunia maya modern karena dengan cepat menjadi jelas bahwa pembuatan kode dapat membantu pelaku ancaman yang kurang terampil meluncurkan serangan dunia maya dengan mudah.

Di blog Check Point Research (CPR) sebelumnya, kami menjelaskan bagaimana ChatGPT berhasil melakukan aliran infeksi penuh, mulai dari membuat email spear-phishing yang meyakinkan hingga menjalankan shell terbalik, yang mampu menerima perintah dalam bahasa Inggris.

Pertanyaan yang dihadapi adalah apakah ini hanya ancaman hipotetis atau apakah sudah ada pelaku ancaman yang menggunakan teknologi OpenAI untuk tujuan jahat.

Analisis CPR terhadap beberapa komunitas peretasan bawah tanah utama menunjukkan bahwa sudah ada contoh pertama penjahat dunia maya yang menggunakan OpenAI untuk mengembangkan alat berbahaya.

Seperti yang kami duga, beberapa kasus dengan jelas menunjukkan bahwa banyak penjahat dunia maya yang menggunakan OpenAI tidak memiliki keterampilan pengembangan sama sekali.

Meskipun alat yang kami sajikan dalam laporan ini cukup mendasar, hanya masalah waktu hingga pelaku ancaman yang lebih canggih menyempurnakan cara mereka menggunakan alat berbasis AI untuk kejahatan.

Selengkapnya: CHECK POINT RESEARCH