Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for ChatGPT

ChatGPT

Hacker Rusia mencoba masuk ke ChatGPT, kata Check Point

by Leave a Comment

Situasi ChatGPT tidak seperti yang menyebabkan ancaman EternalBlue 2017 yang merupakan hasil dari kebocoran kode dari lab. Sebaliknya, kata Nicoletti, penggunaan ChatGPT adalah “penggunaan platform yang umumnya terbuka oleh banyak pihak yang berbeda,” mirip dengan banyak kasus penggunaan arsitektur model AI dalam komunitas riset.

Nicoletti mencatat bahwa di Reddit, upaya eksploitasi telah muncul yang disebut DAN, untuk “lakukan apa saja sekarang”, yang akan menggunakan prompt obrolan untuk memanipulasi ChatGPT agar menghasilkan teks yang lolos dari pagar pembatas yang dipasang oleh OpenAI untuk mencegahnya menghasilkan beberapa teks seperti ujaran kebencian.

Nicoletti mengatakan tidak pasti apakah ada eksploitasi zero-day yang muncul untuk ChatGPT. Vektor serangan yang paling mungkin, ketika eksploit akhirnya muncul, akan menjadi bentuk serangan phishing yang ditingkatkan, katanya.

“Ini akan sangat ditargetkan kepada Anda, karena mereka sudah memiliki data bank Anda, tetapi sekarang mereka dapat membuat bahasa yang jauh lebih spesifik agar relevan bagi Anda, dan bagi setiap korban,” kata Nicoletti, membandingkan pendekatan tersebut dengan pendekatan “sempit- casting” jenis layanan data yang memungkinkan penargetan massal.

Selama presentasi utama Check Point pada hari yang sama, pendiri dan CEO Gil Shwed menyatakan bahwa 2023 akan menjadi “Tahun AI” dan bahwa produk perusahaan akan semakin banyak menggunakan AI di seluruh lini.

sumber : zdnet

Bing yang Diberdayakan Oleh ChatGPT dari Microsoft Terbuka untuk Dicoba Oleh Semua Mulai Hari ini

by

Pengalaman Bing baru yang diberdayakan oleh ChatGPT dari Microsoft akan tersedia hari ini untuk semua orang sebagai “pratinjau terbatas” di desktop. Anda akan memiliki sejumlah kueri terbatas yang dapat Anda gunakan dengannya, tetapi Anda akan segera dapat mendaftar untuk akses penuh.

Jika Anda mengunjungi Bing.com, Anda mungkin melihat beberapa contoh pencarian yang dapat Anda coba, jika antarmuka baru ditampilkan. Mengkliknya akan mengarahkan Anda ke halaman pencarian Bing dengan hasil tradisional di sebelah kiri, dan jendela obrolan di sebelah kanan dengan jawaban yang dihasilkan AI.

Perusahaan mengharapkan untuk meluncurkan akses ke jutaan orang dalam beberapa minggu mendatang, serta meluncurkan versi seluler dari pengalaman tersebut. Dalam sebuah posting blog tentang peluncuran, Microsoft mengatakan “sangat bersemangat untuk menempatkan Bing dan Edge baru ke dunia nyata untuk mendapatkan umpan balik kritis yang diperlukan untuk meningkatkan model kami saat kami menskalakan.”

Laman daftar tunggu menunjukkan beberapa contoh kegunaan alat ini, seperti memintanya membuat menu vegetarian tiga menu untuk enam orang dengan makanan penutup cokelat atau untuk menemukan mobil all-wheel drive yang dapat menampung enam orang dan memiliki sub -enam detik 0–60 kali.

Beberapa contoh kueri yang dapat Anda coba sekarang

Microsoft mengumumkan berita itu hanya satu hari setelah Google mengungkapkan bahwa mereka sedang mengerjakan alat bertenaga AI serupa yang disebut Bard. Kedua perusahaan saat ini terlibat dalam pertempuran sengit mengenai masa depan AI, dan ini kemungkinan baru permulaan.

Selengkapnya : theverge

CEO Google Menjanjikan Fitur AI Menyaingi ChatGPT

by

Google juga menghadapi tekanan dari ChatGPT, yang diluncurkan akhir tahun lalu oleh OpenAI yang didukung Microsoft. Bisnis utama Google adalah pencarian web, dan perusahaan tersebut telah lama disebut-sebut sebagai pelopor AI. Tetapi produk AI generatif seperti ChatGPT dapat menimbulkan ancaman bagi seluruh model pencarian internet, karena dapat memberikan jawaban kreatif untuk pertanyaan yang lebih rumit.

Microsoft dilaporkan sedang mempertimbangkan untuk menambahkan fungsionalitas ChatGPT ke dalam mesin pencarinya sendiri, Bing. Ancaman tertinggal di AI bahkan dilaporkan telah mendorong pendiri Google Larry Page dan Sergey Brin untuk menaruh perhatian langsung pada upaya bertahun-tahun setelah mereka mengundurkan diri dari pekerjaan sehari-hari di perusahaan pada tahun 2019.

Selain menggembar-gemborkan peningkatan pencarian yang akan datang, perusahaan juga mengatakan bahwa mulai kuartal pertama, itu akan mengubah struktur pelaporan keuangan untuk segmen kecerdasan buatan DeepMind sehingga beralih ke Google, bukan segmen Taruhan Lain yang mencakup pembayaran jangka panjang. proyek seperti mobil self-driving dan investasi modal ventura.

Pichai juga mengatakan perusahaan juga akan menyediakan “alat baru” dan API untuk pengembang, pembuat, dan mitra untuk “memberdayakan mereka untuk menemukan kemungkinan baru dengan AI. Dia menambahkan, “model-model ini sangat luar biasa untuk menyusun, membangun, dan meringkas.”

Tetapi Pichai juga memperingatkan bahwa itu perlu ditingkatkan secara perlahan, dengan mengatakan dia memandang penggunaan bahasa yang besar masih dalam “masa-masa awal”.

selengkapnya : cnbc.com

Raksasa Pencarian Cina Baidu akan Meluncurkan Bot Bergaya ChatGPT

by

berencana untuk meluncurkan layanan chatbot kecerdasan buatan yang mirip dengan ChatGPT OpenAI, menurut seseorang yang mengetahui masalah tersebut, berpotensi menjadi entri paling menonjol di China dalam perlombaan yang dipicu oleh fenomena teknologi tersebut.

Perusahaan mesin pencari terbesar di China berencana untuk meluncurkan aplikasi bergaya ChatGPT pada bulan Maret, awalnya menyematkannya ke dalam layanan pencarian utamanya, kata orang tersebut, yang meminta untuk tidak disebutkan namanya mendiskusikan informasi pribadi.

Alat, yang namanya belum diputuskan, akan memungkinkan pengguna untuk mendapatkan hasil pencarian gaya percakapan seperti platform populer OpenAI.

Saham perusahaan naik sebanyak 5,8% setelah laporan Bloomberg, kenaikan intraday terbesar dalam hampir empat minggu.

Baidu telah menghabiskan miliaran dolar untuk meneliti AI dalam upaya selama bertahun-tahun untuk beralih dari pemasaran online ke teknologi yang lebih dalam.

Sistem Ernie-nya — model pembelajaran mesin skala besar yang telah dilatih berdasarkan data selama beberapa tahun — akan menjadi dasar dari alat mirip ChatGPT yang akan datang, kata orang tersebut. Perwakilan Baidu menolak berkomentar.

ChatGPT, alat kecerdasan buatan OpenAI, telah menerangi internet sejak debut publiknya pada bulan November, mengumpulkan lebih dari satu juta pengguna dalam beberapa hari dan memicu perdebatan tentang peran AI di sekolah, kantor, dan rumah.

Perusahaan termasuk Microsoft Corp. menginvestasikan miliaran untuk mencoba dan mengembangkan aplikasi dunia nyata, sementara yang lain memanfaatkan hype untuk mengumpulkan dana.

Saham Buzzfeed Inc. meningkat lebih dari dua kali lipat bulan ini setelah mengumumkan rencana untuk memasukkan ChatGPT ke dalam kontennya.

Selengkapnya: Bloomberg

Rekayasa Prompt Berbahaya Dengan ChatGPT

by

Rilis ChatGPT OpenAI pada akhir 2022 telah menunjukkan potensi AI baik dan buruk.

Rilis ChatGPT OpenAI yang tersedia untuk semua orang pada akhir tahun 2022 telah menunjukkan potensi baik dan buruk dari AI.

ChatGPT adalah generator bahasa alami berbasis AI berskala besar. Diluncurkan oleh OpenAI pada November 2022 dan dibangun di atas rangkaian model bahasa besar GPT-3 OpenAI.

Rekayasa prompt adalah manipulasi prompt yang dirancang untuk memaksa sistem merespons dengan cara tertentu yang diinginkan oleh pengguna.

Keuntungan membuat ChatGPT tersedia secara umum adalah kepastian bahwa orang akan berusaha menunjukkan potensi penyalahgunaan. Tetapi sistem dapat belajar dari metode yang digunakan.

Oleh karena itu, setiap pemeriksaan penggunaan rekayasa prompt hanya relevan pada saat pemeriksaan. Sistem AI semacam itu akan memasuki proses lompatan yang sama dari semua keamanan siber.

WithSecure memeriksa tiga kasus penggunaan utama untuk rekayasa prompt: pembuatan phishing, berbagai jenis penipuan, dan informasi yang salah. Itu tidak memeriksa penggunaan ChatGPT dalam perburuan bug atau mengeksploitasi pembuatan.

Berkembangnya bidang Prompt Engineering menyebabkan penggunaan yang lebih kreatif untuk model bahasa besar akan muncul, termasuk yang berbahaya. Eksperimen oleh para peneliti membuktikan bahwa model bahasa besar dapat digunakan untuk membuat utas email yang cocok untuk serangan spear phishing, ‘text deepfake’ gaya tulisan seseorang, menerapkan pendapat pada konten tertulis, menulis dengan gaya tertentu, dan membuat tampilan palsu yang meyakinkan artikel, meskipun informasi yang relevan tidak disertakan dalam data pelatihan model.

Sebelum ChatGPT, pengguna akhir diminta untuk bertanya pada diri sendiri apakah email yang diterima ditulis oleh teman, musuh, atau bot. Apa pun yang ditulis dan dibaca di mana saja berpotensi ditulis oleh teman, musuh, atau bot. WithSecure telah menunjukkan bahwa siapapun dapat merekayasa ChatGPT untuk menulis ulasan ini.

Selengkapnya: Security Week

ChatGPT Membuat Malware Polimorfik

by

ChatGPT OpenAI dilaporkan telah menciptakan untaian baru malware polimorfik setelah interaksi berbasis teks dengan peneliti keamanan siber di CyberArk.

Menurut tulisan teknis yang baru-baru ini dibagikan oleh perusahaan dengan Infosecurity, malware yang dibuat menggunakan ChatGPT dapat “dengan mudah menghindari produk keamanan dan membuat mitigasi menjadi rumit dengan sedikit usaha atau investasi oleh musuh.”

Laporan tersebut, yang ditulis oleh peneliti keamanan CyberArk Eran Shimony dan Omer Tsarfati, menjelaskan bahwa langkah pertama untuk membuat malware adalah melewati filter konten yang mencegah ChatGPT membuat alat berbahaya.

Untuk melakukannya, para peneliti CyberArk hanya bersikeras, mengajukan pertanyaan yang sama dengan lebih otoritatif.

“Menariknya, dengan meminta ChatGPT untuk melakukan hal yang sama menggunakan beberapa batasan dan memintanya untuk patuh, kami menerima kode fungsional,” kata Shimony dan Tsarfati.

Lebih lanjut, para peneliti mencatat bahwa ketika menggunakan versi API dari ChatGPT (berlawanan dengan versi web), sistem dilaporkan tampaknya tidak menggunakan filter kontennya.

“Tidak jelas mengapa ini terjadi, tetapi itu membuat tugas kami jauh lebih mudah karena versi web cenderung macet dengan permintaan yang lebih kompleks,” demikian laporan CyberArk.

Shimony dan Tsarfati kemudian menggunakan ChatGPT untuk mengubah kode asli, sehingga membuat banyak variasi.

“Dengan kata lain, kami dapat memutasikan output dengan cepat, menjadikannya unik setiap saat. Selain itu, menambahkan batasan seperti mengubah penggunaan panggilan API tertentu membuat hidup produk keamanan menjadi lebih sulit.”

Berkat kemampuan ChatGPT untuk membuat dan terus memutasikan injektor, para peneliti keamanan siber mampu membuat program polimorfik yang sangat sulit dipahami dan sulit dideteksi.

“Dengan memanfaatkan kemampuan ChatGPT untuk menghasilkan berbagai teknik persistensi, modul Anti-VM, dan muatan berbahaya lainnya, kemungkinan pengembangan malware menjadi sangat besar,” jelas para peneliti.

Selengkapnya: Info Security Magazine

OPWNAI : Penjahat dunia maya Mulai Gunakan ChatGPT

by

Pada akhir November 2022, OpenAI merilis ChatGPT, antarmuka baru untuk Model Bahasa Besar (LLM), yang langsung menarik minat pada AI dan kemungkinan penggunaannya.

Namun, ChatGPT juga menambahkan beberapa bumbu ke lanskap ancaman dunia maya modern karena dengan cepat menjadi jelas bahwa pembuatan kode dapat membantu pelaku ancaman yang kurang terampil meluncurkan serangan dunia maya dengan mudah.

Di blog Check Point Research (CPR) sebelumnya, kami menjelaskan bagaimana ChatGPT berhasil melakukan aliran infeksi penuh, mulai dari membuat email spear-phishing yang meyakinkan hingga menjalankan shell terbalik, yang mampu menerima perintah dalam bahasa Inggris.

Pertanyaan yang dihadapi adalah apakah ini hanya ancaman hipotetis atau apakah sudah ada pelaku ancaman yang menggunakan teknologi OpenAI untuk tujuan jahat.

Analisis CPR terhadap beberapa komunitas peretasan bawah tanah utama menunjukkan bahwa sudah ada contoh pertama penjahat dunia maya yang menggunakan OpenAI untuk mengembangkan alat berbahaya.

Seperti yang kami duga, beberapa kasus dengan jelas menunjukkan bahwa banyak penjahat dunia maya yang menggunakan OpenAI tidak memiliki keterampilan pengembangan sama sekali.

Meskipun alat yang kami sajikan dalam laporan ini cukup mendasar, hanya masalah waktu hingga pelaku ancaman yang lebih canggih menyempurnakan cara mereka menggunakan alat berbasis AI untuk kejahatan.

Selengkapnya: CHECK POINT RESEARCH