Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for Artificial Intelligence

Artificial Intelligence

Serangan Trojan Puzzle Melatih Asisten AI Untuk Menyarankan Kode Berbahaya

by

Para peneliti di universitas California, Virginia, dan Microsoft telah merancang serangan peracunan baru yang dapat mengelabui asisten pengkodean berbasis AI untuk menyarankan kode berbahaya.

Serangan Trojan Puzzle melewati deteksi statis dan model pembersihan dataset berbasis tanda tangan, sehingga model AI dilatih untuk mempelajari cara mereproduksi muatan berbahaya.

Asisten pengkodean seperti GitHub’s Copilot dan OpenAI’s ChatGPT, menemukan cara terselubung untuk menanamkan kode berbahaya secara sembunyi dalam rangkaian pelatihan model AI dapat menimbulkan konsekuensi yang meluas.

Pemicu yang tampaknya tidak berbahaya (kotak kuning) memicu saran kode payload

Proposal Trojan Puzzle
Serangan Trojan Puzzle baru menghindari memasukkan muatan ke dalam kode dan secara aktif menyembunyikan sebagiannya selama proses pelatihan.

Saat pemicu yang valid diuraikan, machine learning akan merekonstruksi payload dengan mengganti kata acak dengan token berbahaya yang ditemukan dalam pelatihan dengan sendirinya.
pict – Menghasilkan banyak sampel racun untuk membuat asosiasi pemicu-muatan (arxiv.org)

Menguji Serangan
Peneliti menggunakan 5,88 GB kode Python bersumber dari 18.310 repositori untuk digunakan sebagai kumpulan data pembelajaran mesin untuk mengevaluasi Trojan Puzzle.

Trojan Puzzle sulit direproduksi oleh machine learning karena mereka harus mempelajari cara memilih kata kunci yang disamarkan dari frase pemicu dan menggunakannya dalam keluaran yang dihasilkan, sehingga diharapkan kinerja yang lebih rendah pada zaman pertama.

Jumlah saran kode berbahaya (dari 400) untuk zaman 1, 2, dan 3 (arxiv.org)

Bertahan dari Upaya Peracunan
Dalam makalah ini disarankan untuk mengeksplorasi cara mendeteksi dan memfilter file yang berisi sampel buruk yang hampir duplikat yang dapat menandakan injeksi kode berbahaya yang terselubung.

Selengkapnya: BleepingComputer

Deepfake hingga ChatGPT, Misinformasi Tumbuh Subur dengan Kemajuan AI

by

Kemajuan cepat dalam kecerdasan buatan dapat membantu informasi yang salah berkembang di tahun mendatang, sebuah laporan baru memperingatkan.

Menurut Laporan Risiko Teratas untuk 2023, sebuah dokumen tahunan dari analis risiko geopolitik yang berbasis di A.S. di Eurasia Group, senjata gangguan massal yang muncul dari inovasi teknologi yang cepat akan mengikis kepercayaan sosial, memberdayakan para demagog dan otoriter, serta mengganggu bisnis dan pasar.

Ancaman ini menduduki peringkat ketiga dalam daftarnya, hanya dikalahkan oleh risiko yang ditimbulkan oleh China yang semakin agresif dan Rusia yang nakal.

Kecanggihan kecerdasan buatan ditambah dengan kemajuan dalam deepfakes, teknologi pengenalan wajah dan perangkat lunak sintesis suara, akan menjadikan kendali atas kemiripan seseorang sebagai peninggalan masa lalu.

Aplikasi ramah pengguna seperti ChatGPT dan Stable Diffusion akan memungkinkan siapa saja yang paham teknologi untuk memanfaatkan kekuatan AI.

Disinformasi dan misinformasi telah membuat percikan di panggung geopolitik, meski tanpa dukungan dari kecerdasan buatan.

Dalam beberapa studi oleh akademisi menemukan bahwa Kanada menjadi sasaran Rusia untuk mempengaruhi opini publik dan sejumlah besar tweet dan retweet tentang perang di Ukraina dapat ditelusuri kembali ke Rusia dan China, dengan lebih banyak lagi tweet yang mengungkapkan sentimen pro-Rusia yang dilacak ke Amerika Serikat.

Informasi yang salah tentang aman dan manjurnya vaksin COVID-19 marak terjadi pada protes yang menyumbat jalan-jalan di pusat kota Ottawa selama tiga minggu pada Februari 2022. Berbagai penelitian juga menemukan bahwa bot memiliki andil besar dalam membantu menyebarkan narasi palsu tentang virus tersebut.

Kemajuan teknologi AI memungkinkan pengguna yang menggunakan teknologi ini juga meningkat. Pemerintah Kanada telah berjanji untuk mengambil langkah-langkah untuk mengatasi disinformasi online.

Pengguna dengan tujuan politik mungkin mendapati diri mereka sangat diberdayakan oleh kemajuan pesat ini. Sementara itu, pemerintah telah menghadapi seruan untuk melangkah lebih jauh.

Selengkapnya: Global NEWS

Inilah 5 Pesaing ChatGPT Gratis Di Tahun 2023

by

Tahun 2022 menjadi tahun luar biasa untuk Machine Learning dan AI Research. Perusahaan teknologi besar telah merilis banyak library yang bermanfaat bagi pengembang. Penulis telah melihat beberapa makalah penelitian yang bagus, baik dari perusahaan teknologi besar maupun grup kecil. Terfavorit adalah penelitian AI perakitan sendiri, menunjukkan potensi untuk mengeksplorasi mode AI alternatif.

Tahun 2023 adalah tahun Model Bahasa Besar. ChatGPT telah menghebohkan internet, dengan orang-orang yang datang dengan segala macam kasus penggunaan dan ide tentang bagaimana hal itu dapat digunakan. ChatGPT saat ini dilindungi oleh API dan pembatasan akses.

OPT
GPT versi Meta, Open Pretrained Transformer, atau OPT. Model OPT memiliki banyak potensi untuk menjadi pengganti GPT, mengingat model ini tampaknya dirancang sebagai alternatif. Namun, Meta bukan satu-satunya Raksasa Teknologi yang memiliki kuda dalam balapan.

Palm
Dalam memahami mengapa model Palm begitu menakjubkan diperlukan untuk memahami ekosistem Pathways. Pathways adalah Arsitektur Google yang membuat semua Model Bahasa Besarnya.

Ekosistem Pathways Google diumumkan dengan banyak kemeriahan. Banyak ahli internet telah berbicara tentang ChatGPT dan potensinya untuk menggantikan Google sebagai mesin pencari.

Bola
Peneliti Machine Learning di Meta telah merilis Model Bahasa Besar (LLM) baru yang disebut Sphere. Dengan kinerjanya yang luar biasa pada tugas terkait pencarian, dan kemampuan untuk mengurai miliaran dokumen, digabungkan dengan pekerjaan Meta lainnya di NLP, Meta telah memposisikan dirinya dengan baik untuk mengganggu pasar pencarian.

Sphere dapat memverifikasi kutipan dan bahkan menyarankan kutipan alternatif yang akan cocok dengan konten dengan lebih baik, sesuatu yang belum pernah saya lihat di tempat lain.

Bloom
Bloom adalah Large Language Model (LLM) autoregresif yang dilatih untuk melanjutkan teks dari prompt pada sejumlah besar data teks menggunakan sumber daya komputasi skala industri. Bloom mampu menghasilkan teks yang koheren dalam 46 bahasa dan 13 bahasa pemrograman. Bloom juga dapat diinstruksikan untuk melakukan tugas teks yang belum dilatih secara eksplisit, dengan mentransmisikannya sebagai tugas pembuatan teks.

Galaxy
Terakhir adalah model lain dari Meta. Zuck tidak puas hanya dengan memilih satu pertarungan. Dia memiliki persamaan ChatGPT, diarahkan untuk penelitian orang.

Bayangkan sebuah ChatGPT, tetapi terlatih dalam banyak teks penelitian. Model seperti itu dapat menjelaskan rumus Matematika, membantu menulis makalah, dan membuat Lateks.

Selengkapnya: Medium

Microsoft untuk Menantang Google dengan Menintegrasikan ChatGPT dengan Bing

by

Dengan menggunakan teknologi di belakang ChatGPT — yang dibangun oleh perusahaan AI OpenAI — Bing dapat memberikan jawaban yang lebih manusiawi untuk pertanyaan daripada hanya tautan ke informasi.

Penggunaan fungsionalitas seperti ChatGPT oleh Microsoft dapat membantu Bing menyaingi Grafik Pengetahuan Google, basis pengetahuan yang digunakan Google untuk menyajikan jawaban instan yang diperbarui secara berkala dari perayapan web dan umpan balik pengguna. Namun, jika Microsoft berambisi, ia bahkan bisa melangkah lebih jauh, menawarkan banyak jenis fungsionalitas berbasis AI baru.

Microsoft memiliki hubungan yang mendalam dengan OpenAI, salah satu perusahaan AI terkemuka di dunia Raksasa teknologi yang berbasis di Redmond menambahkan model text-to-image AI ke Bing yang ditenagai oleh DALL-E2 OpenAI; menginvestasikan $1miliar di Open AI pada tahun 2019; dan memiliki lisensi eksklusif untuk menggunakan generator teks AI GPT-3. Bagaimana kesepakatan terakhir ini dapat membantu integrasi Bing Chat GPT yang dikabarkan masih belum jelas.

Microsoft telah mempertaruhkan masa depannya pada AI selama setidaknya enam tahun, dengan CEO Satya Nadella membahas pentingnya aplikasi dan layanan yang lebih cerdas dalam wawancara dengan The Verge pada tahun 2016. Pada tahun yang sama, Microsoft meluncurkan “percakapan sebagai platform” menawarkan, bertaruh pada antarmuka berbasis obrolan menyalip aplikasi sebagai cara utama kami menggunakan internet dan menemukan informasi. Sepertinya bersama dengan ChatGPT, Microsoft sekarang ingin mencoba dan mewujudkannya di dalam Bing.

sumber : theverge

Pekerjaan teknologi ini mungkin hilang saat menghadapi otomatisasi

by

Permintaan otomatisasi meningkat pada saat tekanan ekonomi, berdasarkan data dari resesi sebelumnya: Laporan tahun 2016 oleh para peneliti di W.E. Upjohn Institute for Employment Research dan Yale melihat 87 juta lowongan pekerjaan sebelum dan setelah Resesi Hebat, dan menemukan bahwa penurunan sebenarnya mempercepat apa yang mereka sebut “perubahan teknologi yang bias rutin”. Laporan yang lebih baru pada bulan September tahun ini dari McKinsey menemukan bahwa dari 800 eksekutif yang disurvei, hampir setengahnya mencatat bahwa adopsi otomasi mereka dipercepat “cukup”, dan sekitar 20% melaporkan otomatisasi “meningkat secara signifikan” selama pandemi COVID-19.

“Kami pikir itu semua bertahap, tapi sebenarnya, ada lonjakan, dan kami mungkin berada dalam satu saat ini, di mana teknologi AI telah menjadi lebih baik dan lebih baik dan dikomoditisasi, dan menjadi lebih murah selama dekade terakhir,” kata peneliti Brookings Institution, Mark Muro. Yahoo Finance.

Pekerjaan berketerampilan rendah seperti kasir, pengemudi truk, dan pekerja lini perakitan biasanya dianggap sebagai yang pertama di baris yang akan sepenuhnya tergeser dalam hal otomatisasi. Tetapi bahkan pekerja berketerampilan tinggi seperti pengembang perangkat lunak memiliki ruang untuk setidaknya sebagian pekerjaan mereka disederhanakan, menurut Muro.

“Saya pikir dalam waktu dekat, dapat menghilangkan pekerjaan yang membosankan dan sebagainya. Tapi itulah yang selalu menjadi cerita dengan teknologi ini, “tambahnya. “Dan mereka pada akhirnya berkontribusi pada efisiensi dan produktivitas dan biasanya mengurangi jumlah pegawai. Kita mungkin seharusnya tidak bertele-tele tentang itu. ”

Source : Yahoo

3 cara penjahat menggunakan kecerdasan buatan dalam serangan keamanan siber

by

Tiga ahli keamanan siber menjelaskan bagaimana kecerdasan buatan dan machine learning dapat digunakan untuk menghindari pertahanan keamanan siber dan membuat pelanggaran lebih cepat dan lebih efisien selama cybersecurity summit NCSA dan Nasdaq.

Data poisoning

Elham Tabassi, kepala staf laboratorium teknologi informasi, Institut Standar dan Teknologi Nasional, mengatakan bahwa pelaku kejahatan terkadang menargetkan data yang digunakan untuk melatih model machine learning.

Data Poisoning dirancang untuk memanipulasi set data pelatihan guna mengontrol perilaku prediksi model terlatih untuk mengelabui model agar berperforma salah, seperti memberi label email spam sebagai konten yang aman.

Ada dua jenis data poisoning: Serangan yang menargetkan ketersediaan algoritme ML dan serangan yang menargetkan integritasnya. Penelitian menunjukkan bahwa 3% pelatihan data set poisoning menyebabkan penurunan akurasi sebesar 11%.

Tabassi mengatakan bahwa teknik untuk meracuni data dapat ditransfer dari satu model ke model lainnya. Tabassi juga mengatakan industri membutuhkan standar dan pedoman untuk memastikan kualitas data dan bahwa NIST sedang mengerjakan pedoman nasional untuk AI yang dapat dipercaya.

Generative Adversarial Networks

Generative Adversarial Networks (GANs) pada dasarnya adalah dua sistem AI yang diadu satu sama lain — satu yang mensimulasikan konten asli dan satu lagi yang menemukan kesalahannya. Dengan berkompetisi satu sama lain, mereka bersama-sama membuat konten yang cukup meyakinkan untuk disandingkan dengan aslinya.

Tim Bandos, kepala petugas keamanan informasi di Digital Guardian, mengatakan bahwa penyerang menggunakan GAN untuk meniru pola lalu lintas normal, untuk mengalihkan perhatian dari serangan, dan untuk menemukan serta mengekstrak data sensitif dengan cepat.

GAN juga dapat digunakan untuk memecahkan sandi, menghindari deteksi malware, dan menipu pengenalan wajah, seperti yang dijelaskan Thomas Klimek dalam makalah, “What Are They and Why We Should Be Afraid.”

Bandos mengatakan bahwa algoritma AI yang digunakan dalam keamanan siber harus sering dilatih ulang untuk mengenali metode serangan baru.

Manipulating bots

Panelis Greg Foss, ahli strategi keamanan siber senior di VMware Carbon Black, mengatakan bahwa jika algoritme AI membuat keputusan, mereka dapat dimanipulasi untuk membuat keputusan yang salah.

Foss menggambarkan serangan baru-baru ini pada sistem perdagangan cryptocurrency yang dijalankan oleh bot.

“Penyerang masuk dan menemukan bagaimana bot melakukan perdagangan mereka dan mereka menggunakan bot untuk mengelabui algoritme,” katanya. “Ini dapat diterapkan di seluruh implementasi lain.”

Foss menambahkan bahwa teknik ini bukanlah hal baru tetapi sekarang algoritma ini membuat keputusan yang lebih cerdas yang meningkatkan risiko membuat keputusan yang buruk.

Artikel selengkapnya dapat dibaca pada tautan di bawah ini;
Source: Tech Republic