Rilis ChatGPT OpenAI pada akhir 2022 telah menunjukkan potensi AI baik dan buruk.
Rilis ChatGPT OpenAI yang tersedia untuk semua orang pada akhir tahun 2022 telah menunjukkan potensi baik dan buruk dari AI.
ChatGPT adalah generator bahasa alami berbasis AI berskala besar. Diluncurkan oleh OpenAI pada November 2022 dan dibangun di atas rangkaian model bahasa besar GPT-3 OpenAI.
Rekayasa prompt adalah manipulasi prompt yang dirancang untuk memaksa sistem merespons dengan cara tertentu yang diinginkan oleh pengguna.
Keuntungan membuat ChatGPT tersedia secara umum adalah kepastian bahwa orang akan berusaha menunjukkan potensi penyalahgunaan. Tetapi sistem dapat belajar dari metode yang digunakan.
Oleh karena itu, setiap pemeriksaan penggunaan rekayasa prompt hanya relevan pada saat pemeriksaan. Sistem AI semacam itu akan memasuki proses lompatan yang sama dari semua keamanan siber.
WithSecure memeriksa tiga kasus penggunaan utama untuk rekayasa prompt: pembuatan phishing, berbagai jenis penipuan, dan informasi yang salah. Itu tidak memeriksa penggunaan ChatGPT dalam perburuan bug atau mengeksploitasi pembuatan.
Berkembangnya bidang Prompt Engineering menyebabkan penggunaan yang lebih kreatif untuk model bahasa besar akan muncul, termasuk yang berbahaya. Eksperimen oleh para peneliti membuktikan bahwa model bahasa besar dapat digunakan untuk membuat utas email yang cocok untuk serangan spear phishing, ‘text deepfake’ gaya tulisan seseorang, menerapkan pendapat pada konten tertulis, menulis dengan gaya tertentu, dan membuat tampilan palsu yang meyakinkan artikel, meskipun informasi yang relevan tidak disertakan dalam data pelatihan model.
Sebelum ChatGPT, pengguna akhir diminta untuk bertanya pada diri sendiri apakah email yang diterima ditulis oleh teman, musuh, atau bot. Apa pun yang ditulis dan dibaca di mana saja berpotensi ditulis oleh teman, musuh, atau bot. WithSecure telah menunjukkan bahwa siapapun dapat merekayasa ChatGPT untuk menulis ulasan ini.
Selengkapnya: Security Week
