Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for AI

AI

Penyerang menggunakan ‘AI ofensif’ untuk membuat deepfake untuk kampanye phishing

by

AI memungkinkan organisasi untuk mengotomatisasi tugas, mengekstrak informasi, dan membuat media yang hampir tidak dapat dibedakan dari yang asli. Tetapi seperti teknologi apa pun, AI tidak selalu dimanfaatkan untuk kebaikan. Secara khusus, penyerang siber dapat menggunakan AI untuk meningkatkan serangan mereka dan memperluas kampanye mereka.

Sebuah survei baru-baru ini yang diterbitkan oleh para peneliti di Microsoft, Purdue, dan Universitas Ben-Gurion, antara lain, mengeksplorasi ancaman “AI ofensif” ini pada organisasi. Ini mengidentifikasi kemampuan berbeda yang dapat digunakan musuh untuk meningkatkan serangan mereka dan memberi peringkat masing-masing berdasarkan tingkat keparahan, memberikan wawasan tentang musuh.

Survei, yang melihat penelitian yang ada tentang AI ofensif dan tanggapan dari organisasi termasuk IBM, Airbus, Airbus, IBM, dan Huawei, mengidentifikasi tiga motivasi utama musuh untuk menggunakan AI: cakupan, kecepatan, dan kesuksesan. AI memungkinkan penyerang untuk “meracuni” model pembelajaran mesin dengan merusak data pelatihan mereka, serta mencuri kredensial melalui analisis saluran samping. Dan itu dapat digunakan untuk mempersenjatai metode AI untuk deteksi kerentanan, pengujian penetrasi, dan deteksi kebocoran kredensial.

Organisasi memberi tahu para peneliti bahwa mereka menganggap pengembangan eksploitasi, rekayasa sosial, dan pengumpulan informasi sebagai teknologi AI ofensif yang paling mengancam. Mereka sangat khawatir tentang AI yang digunakan untuk peniruan identitas, seperti deepfake untuk melakukan serangan phishing dan rekayasa balik yang memungkinkan penyerang untuk “mencuri” algoritme kepemilikan. Selain itu, mereka khawatir bahwa, karena kemampuan AI untuk mengotomatisasi proses, musuh dapat beralih dari memiliki beberapa kampanye rahasia yang lambat menjadi memiliki banyak kampanye yang bergerak cepat untuk membanjiri pembela dan meningkatkan peluang keberhasilan mereka.

Tetapi ketakutan tidak memacu investasi dalam pertahanan. Menurut survei perusahaan yang dilakukan oleh startup otentikasi data Attestiv, kurang dari 30% mengatakan mereka telah mengambil langkah-langkah untuk mengurangi dampak dari serangan deepfake. Pertarungan melawan deepfake kemungkinan akan tetap menantang karena teknik pembuatan terus meningkat, terlepas dari inovasi seperti Tantangan Deteksi Deepfake dan Video Authenticator Microsoft.

selengkapnya : venturebeat.com

Bagaimana AI dapat mencuri data Anda dengan ‘membaca gerak bibir’ dengan keystrokes Anda

by

Pengenalan wajah bukan satu-satunya hal menakutkan yang dapat dilakukan oleh aktor jahat dan pemerintah untuk menggunakan pengenalan komputer. Bagaimana jika AI dapat menonton video kami mengetuk ponsel layar sentuh kami dan menyimpulkan dengan tepat aplikasi apa yang kami gunakan dan apa yang kami ketik?

Teknik penglihatan komputer modern memiliki kemampuan untuk mengilhami kita dengan jenis kekuatan super teknologi yang biasanya hanya terlihat di film. Kami dapat memuat video ke dalam sistem AI dan memintanya untuk memperbesar bingkai resolusi rendah dan, dengan sedikit pelatihan dan beberapa algoritme cerdas, kami dapat membuatnya “menyempurnakan” gambar. Ini seperti sihir, hanya jauh lebih mudah diakses.

Kedengarannya tidak terlalu jahat, tetapi teknologi yang sama yang digunakan Tesla dalam fitur bantuan pengemudi dapat diadaptasi untuk berbagai tujuan. Kami menggunakan visi komputer untuk segala hal mulai dari deteksi kanker hingga menghitung objek dalam jumlah besar dalam sebuah foto.

Tidak ada yang bisa menghentikan pengembang pintar untuk melatih sistem AI untuk menyimpulkan teks dari penekanan tombol atau gerakan jari. Dan itu cukup menakutkan, kami akan menjelaskan alasannya sebentar lagi.

Pertama, perlu disebutkan bahwa computer vision telah berkembang pesat sejak tahun 2017 ketika AI Google masih membuat kesalahan seperti mengacaukan kura-kura dengan senapan.

selengkapnya :thenextweb.com

Kerentanan keamanan machine learning adalah ancaman yang berkembang terhadap web

by

Saat sistem pembelajaran mesin (ML) menjadi pokok dalam kehidupan sehari-hari, ancaman keamanan yang ditimbulkannya akan meluas ke semua jenis aplikasi yang kita gunakan, menurut sebuah laporan baru.

Tidak seperti perangkat lunak tradisional, di mana kekurangan dalam desain dan kode sumber menyebabkan sebagian besar masalah keamanan, dalam sistem AI, kerentanan dapat muncul pada gambar, file audio, teks, dan data lain yang digunakan untuk melatih dan menjalankan model pembelajaran mesin.

Hal ini menurut para peneliti dari Adversa, start-up berbasis di Tel Aviv yang berfokus pada keamanan untuk sistem kecerdasan buatan (AI), yang menguraikan temuan terbaru mereka dalam laporan mereka, The Road to Secure and Trusted AI, bulan ini.

Menurut para peneliti di Adversa, sistem pembelajaran mesin yang memproses data visual bertanggung jawab atas sebagian besar pekerjaan pada serangan adversarial, diikuti oleh analitik, pemrosesan bahasa, dan otonomi.

Sumber: Daily Swig

Pengembang web yang mengintegrasikan model pembelajaran mesin ke dalam aplikasi mereka harus memperhatikan masalah keamanan ini, Alex Polyakov memperingatkan, salah satu pendiri dan CEO Adversa.

Polyakov juga memperingatkan tentang kerentanan dalam model pembelajaran mesin yang disajikan melalui web seperti layanan API yang disediakan oleh perusahaan teknologi besar.

Selengkapnya: Daily Swig

Batasan yang Diusulkan Eropa pada AI Akan Memiliki Konsekuensi Global

by

UNI EROPA mengusulkan aturan yang akan membatasi atau melarang beberapa penggunaan kecerdasan buatan di dalam perbatasannya, termasuk oleh raksasa teknologi yang berbasis di AS dan China.

Aturan tersebut adalah upaya internasional paling signifikan untuk mengatur AI hingga saat ini, yang mencakup pengenalan wajah, mengemudi otonom, dan algoritme yang mendorong iklan online, perekrutan otomatis, dan penilaian kredit. Aturan yang diusulkan dapat membantu membentuk norma dan regulasi global seputar teknologi yang menjanjikan namun kontroversial.

“Ada pesan yang sangat penting secara global bahwa aplikasi AI tertentu tidak diizinkan dalam masyarakat yang didirikan di atas demokrasi, supremasi hukum, hak-hak fundamental,” kata Daniel Leufer, analis kebijakan Eropa dengan Access Now, sebuah organisasi nirlaba hak digital Eropa. Leufer mengatakan aturan yang diusulkan tidak jelas, tetapi mewakili langkah signifikan untuk memeriksa penggunaan teknologi yang berpotensi membahayakan.

Perdebatan tersebut kemungkinan akan diawasi dengan ketat di luar negeri. Aturan akan berlaku untuk perusahaan mana pun yang menjual produk atau layanan di UE.

Aturan UE yang diusulkan juga akan melarang “penilaian sosial berbasis AI untuk tujuan umum yang dilakukan oleh otoritas publik,” serta sistem AI yang menargetkan “kelompok rentan tertentu” dengan cara yang akan “secara material mengubah perilaku mereka” untuk menyebabkan “psikologis atau fisik. membahayakan.” Itu berpotensi membatasi penggunaan AI untuk penilaian kredit, perekrutan, atau beberapa bentuk iklan pengawasan, misalnya jika algoritme menempatkan iklan untuk situs taruhan di depan orang-orang yang kecanduan judi.

Avi Gesser, mitra di firma hukum AS Debevoise, yang menasihati firma teknologi AS, mengatakan aturan tersebut kemungkinan memiliki implikasi besar bagi bisnis AS karena peraturan UE sebelumnya seperti Peraturan Perlindungan Data Umum (GDPR) telah memengaruhi peraturan di tempat lain.

Gesser mengatakan perlu waktu bertahun-tahun agar peraturan tersebut menjadi undang-undang, tetapi pada akhirnya peraturan tersebut dapat memengaruhi semua jenis bisnis AS. “Semua iklan dirancang untuk memanipulasi perilaku,” catat Gesser. “Tantangannya adalah menentukan apa yang bisa diterima dan apa yang tidak.”

selengkapnya : www.wired.com

Defined Opportunity Engine Software Baru HPE

by

Hewlett Packard Enterprise Selasa meluncurkan terobosan platform pembelajaran mesin berbasis cloud yang memangkas waktu yang dibutuhkan mitra untuk melakukan proposal penjualan kustom dari 45 hari menjadi hanya 45 detik, kata Wakil Presiden Senior dan Manajer Umum HPE Storage Tom Black.

Black — pemimpin hard-charging dari bisnis penyimpanan HPE yang merancang platform AI baru — mengatakan Software Defined Opportunity Engine (SDOE) adalah game-changer bagi mitra yang ingin mendorong pertumbuhan penjualan berdasarkan penilaian cloud berbasis AI yang mendetail dari lingkungan TI pelanggan.

SDOE hanyalah satu lagi contoh komitmen HPE untuk menggunakan teknologi AI mutakhir untuk membantu mitranya meningkatkan penjualan, kata Black.

“Ketika Anda bermitra dengan kami, Anda dapat yakin bahwa kami telah berinvestasi dalam teknologi dan perangkat lunak cloud modern untuk membuat Anda lebih menguntungkan dan membantu Anda tumbuh lebih cepat,” katanya. “Dan kami tidak mengenakan biaya kepada mitra untuk ini. Ini adalah keuntungan berbisnis dengan HPE.”

Selengkapnya: CRN

Begini cara kita kehilangan kendali atas wajah kita

by

Pada tahun 1964, ahli matematika dan ilmuwan komputer Woodrow Bledsoe pertama kali mencoba tugas mencocokkan wajah tersangka dengan foto.

Dia mengukur jarak antara fitur wajah yang berbeda dalam foto cetakan dan memasukkannya ke dalam program komputer. Keberhasilannya yang belum sempurna akan memicu penelitian puluhan tahun ke dalam mesin pengajaran untuk mengenali wajah manusia.

Sekarang sebuah studi baru menunjukkan seberapa besar perusahaan ini telah mengikis privasi kita. Ini tidak hanya memicu alat pengawasan yang semakin kuat. Pengenalan wajah berbasis deep learning generasi terbaru benar-benar mengganggu norma persetujuan kita.

Deborah Raji, seorang rekan di Mozilla, dan Genevieve Fried, yang menasihati anggota Kongres AS tentang akuntabilitas algoritmik, memeriksa lebih dari 130 kumpulan data pengenalan wajah yang dikumpulkan selama 43 tahun.

Mereka menemukan bahwa para peneliti, didorong oleh kebutuhan data yang meningkat dari deep learning, secara bertahap meninggalkan permintaan persetujuan orang-orang. Hal ini menyebabkan semakin banyak foto pribadi orang dimasukkan ke dalam sistem pengawasan tanpa sepengetahuan mereka.

Ini juga menyebabkan kumpulan data yang jauh lebih berantakan: mereka mungkin secara tidak sengaja menyertakan foto anak di bawah umur, menggunakan label rasis dan seksis, atau memiliki kualitas dan pencahayaan yang tidak konsisten.

Orang-orang sangat berhati-hati dalam mengumpulkan, mendokumentasikan, dan memverifikasi data wajah di masa-masa awal, kata Raji. “Sekarang kami tidak peduli lagi. Semua itu sudah ditinggalkan,” katanya. “Anda tidak bisa melacak jutaan wajah. Setelah titik tertentu, Anda bahkan tidak dapat berpura-pura bahwa Anda memiliki kendali.”

Selengkapnya: Technology Review

Singapura berupaya menutupi celah dalam sistem TI pemerintah

by

Singapura sedang meluncurkan alat dan langkah-langkah untuk menutupi beberapa “kelemahan TI” yang disorot dalam laporan, termasuk kontrol yang lemah dan proses peninjauan yang tidak memadai atas aktivitas pengguna yang memiliki hak istimewa.

Upaya telah dilakukan untuk mengatasi celah TI sejak tahun lalu, dengan alat otomasi mengambil pusat perhatian, menurut laporan terbaru oleh Public Accounts Committee. Langkah-langkah ini direncanakan pada Januari tahun lalu, ketika komite mencaci sektor publik karena penyimpangan TI yang berulang dalam laporan tahun 2020.

Upaya untuk menutup kesenjangan dipimpin oleh Smart Nation and Digital Government Group (SNDGG), yang menggarisbawahi pentingnya pengawasan manusia, perubahan dalam proses, dan kepatuhan dari proses baru ini bersamaan dengan penerapan alat otomatisasi dan teknologi.

Badan pemerintah mengatakan sedang mengembangkan alat terpusat yang akan mencakup otomatisasi penghapusan akun pengguna yang tidak lagi digunakan, yang saat ini masih perlu diperiksa secara manual meskipun telah diterapkan aplikasi baru yang memperingatkan agen tentang pergerakan staf dan perubahan peran.

Pengembangan alat terpusat tersebut saat ini ditargetkan selesai pada akhir 2021, setelah itu lembaga harus mengintegrasikan semua sistem yang ada dengan platform terpusat selama tiga tahun ke depan.

Alat lain untuk membantu peninjauan aktivitas pengguna yang memiliki hak istimewa adalah alat yang dijadwalkan untuk diterapkan pada sistem prioritas tinggi pada Desember 2022, setelah uji coba – diluncurkan April lalu – yang melibatkan 15 lembaga pemerintah.

Menurut Komite Akun Publik, proses baru juga telah diterapkan di seluruh sektor publik untuk memfasilitasi “tanggapan yang lebih terkoordinasi dan efektif” terhadap insiden data.

Selengkapnya: ZDNet

Berhenti mencoba mengeluarkan manusia dari operasi keamanan

by

Manusia pada dasarnya unik dari makhluk atau mesin lain karena kemampuan kita untuk menggunakan:

  • Komunikasi: Kapasitas bahasa.
  • Kreativitas: Pemikiran abstrak.
  • Berpikir kritis: Penalaran dan perencanaan.

Aspek-aspek ini membuat keamanan siber menjadi tantangan yang menarik. Pada akhirnya, keamanan siber adalah pertarungan antar manusia.

Dengan ancaman canggih, penyerang dan pembela sama-sama menggunakan sifat unik kemanusiaan mereka – komunikasi, kreativitas, dan pemikiran kritis – untuk menemukan cara mencapai tujuan mereka.

Meskipun demikian, kita terus melihat vendor keamanan terus maju dengan gagasan tidak hanya mendukung tetapi juga mengganti manusia dengan AI dan otomatisasi.

Terlepas dari perkembangan AI yang secara konsisten dapat mengalahkan manusia di StarCraft II, masih ada perbedaan besar antara kesadaran manusia yang sebenarnya dan simulasi buatan yang sangat kita andalkan dalam pemasaran.

Kita belum membangun alat keamanan yang efektif yang dapat beroperasi tanpa campur tangan manusia. Intinya adalah: Alat keamanan tidak dapat melakukan apa yang dapat dilakukan manusia.

Alih-alih mengganti manusia di pusat operasi keamanan, tambahkan mereka sehingga mereka dapat melakukan apa yang mereka kuasai. Alat keamanan harus mendukung tim keamanan dalam melakukan pekerjaannya dengan lebih baik, dari aspek manusia, proses, dan teknologi.

Dengan mengalihkan fokus dari teknologi ke analis, kita dapat memberdayakan analis untuk menjadi pembela sejati, alih-alih mengubahnya menjadi mekanik siber yang dimuliakan. Teknologi seharusnya membuat orang menjadi lebih baik, bukan menggantikan mereka.

Sumber: ZDNet