Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for AI

AI

Malware AI Mengembangkan Masalah Keamanan, survei CyberArk menemukan

by

Sebuah laporan global baru oleh perusahaan keamanan siber CyberArk mengungkapkan bahwa pertemuan antara kondisi ekonomi yang menantang dan inovasi teknologi yang cepat, termasuk munculnya kecerdasan buatan (AI), memperluas lanskap ancaman keamanan siber yang dipimpin oleh identitas.

CyberArk 2023 Identity Security Threat Landscape Report, ditugaskan oleh CyberArk dan dilakukan oleh firma riset pasar Vanson Bourne, mensurvei 2.300 pembuat keputusan keamanan siber di seluruh organisasi sektor swasta dan publik dengan 500 karyawan ke atas di 16 negara. Ditemukan bahwa hampir semua organisasi — 99,9% — mengantisipasi kompromi terkait identitas tahun ini, karena faktor-faktor seperti pemotongan ekonomi, masalah geopolitik, adopsi cloud, dan kerja hybrid.

Ancaman yang diaktifkan oleh AI adalah masalah yang signifikan, dengan 93% profesional keamanan yang disurvei memperkirakan ancaman tersebut akan berdampak pada organisasi mereka pada tahun 2023. Malware bertenaga AI disebut-sebut sebagai perhatian utama.

Enam puluh delapan persen organisasi mengharapkan masalah keamanan siber didorong oleh churn karyawan pada tahun 2023.

Laporan tersebut juga mengungkapkan bahwa organisasi berencana untuk menerapkan 68% lebih banyak alat software-as-a-service (SaaS) dalam 12 bulan ke depan. Karena sebagian besar identitas manusia dan mesin memiliki akses ke data sensitif melalui alat ini, jika tidak diamankan dengan baik, mereka dapat menjadi gerbang serangan.

Delapan puluh sembilan persen organisasi mengalami serangan ransomware dalam satu tahun terakhir, dengan 60% organisasi yang terkena dampak melaporkan melakukan pembayaran berkali-kali untuk pulih dari serangan ini.

Sektor energi, minyak, dan gas tampak sangat rentan, dengan 67% perusahaan di industri ini berharap mereka tidak akan dapat menghentikan atau bahkan mendeteksi serangan yang berasal dari rantai pasokan perangkat lunak mereka.

Area penting dari lingkungan TI tidak cukup terlindungi, dan tipe identitas tertentu menunjukkan risiko yang signifikan. Misalnya, 63% responden mengatakan bahwa akses karyawan dengan sensitivitas tertinggi tidak cukup aman.

sumber : venturebeat.com

Cybersecurity menghadapi tantangan dari kebangkitan kecerdasan buatan

by

Awal tahun ini, seorang direktur penjualan di India untuk perusahaan keamanan teknologi Zscaler mendapat telepon yang tampaknya berasal dari kepala eksekutif perusahaan.

Saat ponselnya menampilkan gambar pendiri Jay Chaudhry, sebuah suara yang akrab berkata, “Hai, ini Jay. Saya ingin Anda melakukan sesuatu untuk saya, ”sebelum panggilan terputus. Teks tindak lanjut melalui WhatsApp menjelaskan alasannya. “Saya pikir saya memiliki jangkauan jaringan yang buruk karena saya bepergian saat ini. Apakah boleh mengirim pesan di sini sementara itu?”

Kemudian penelepon meminta bantuan memindahkan uang ke bank di Singapura. Mencoba untuk membantu, penjual pergi ke manajernya, yang mencium bau tikus dan menyerahkan masalah tersebut ke penyelidik internal. Mereka memutuskan bahwa scammers telah menyusun kembali suara Chaudhry dari klip pernyataan publiknya dalam upaya untuk mencuri dari perusahaan.

Chaudhry menceritakan kejadian bulan lalu di sela-sela konferensi keamanan siber RSA tahunan di San Francisco, di mana kekhawatiran tentang revolusi kecerdasan buatan mendominasi pembicaraan.

Penjahat adalah pengadopsi awal, dengan Zscaler mengutip AI sebagai faktor dalam lonjakan 47 persen serangan phishing yang dilihatnya tahun lalu. Penjahat mengotomatiskan lebih banyak teks yang dipersonalisasi dan rekaman suara yang ditulis sambil menghindari alarm dengan melalui saluran yang tidak dipantau seperti pesan WhatsApp terenkripsi di ponsel pribadi. Terjemahan ke bahasa target semakin baik, dan disinformasi semakin sulit dikenali, kata peneliti keamanan.

Selengkapnya: Archive.is

Microsoft dilaporkan membantu AMD berkembang menjadi chip AI

by

Microsoft diduga bekerja sama dengan AMD untuk membantu meningkatkan ekspansi pembuat chip ke dalam prosesor kecerdasan buatan. Menurut sebuah laporan oleh Bloomberg, Microsoft menyediakan sumber daya teknik untuk mendukung pengembangan AMD saat kedua perusahaan bergabung untuk bersaing dengan Nvidia, yang menguasai sekitar 80 persen pangsa pasar di pasar prosesor AI.

Pada gilirannya, sumber Bloomberg juga mengklaim bahwa AMD membantu Microsoft untuk mengembangkan chip AI buatannya sendiri, dengan nama sandi Athena. Beberapa ratus karyawan dari divisi silikon Microsoft dilaporkan sedang mengerjakan proyek tersebut dan perusahaan tersebut tampaknya telah menghabiskan sekitar $2 miliar untuk pengembangannya. Namun, juru bicara Microsoft Frank Shaw membantah bahwa AMD terlibat dengan Athena.

Pustaka CUDA Nvidia telah mendorong sebagian besar kemajuan dalam AI selama dekade terakhir. Meskipun AMD menjadi saingan utama dalam industri perangkat keras game, perusahaan tersebut masih belum memiliki alternatif yang cocok untuk ekosistem CUDA untuk penerapan pembelajaran mesin berskala besar. Sekarang industri AI sedang memanas, AMD berusaha menempatkan dirinya pada posisi yang lebih baik untuk memanfaatkan.

selengkapnya : theverge.com

Kejahatan dunia maya: berhati-hatilah dengan apa yang Anda katakan kepada pembantu chatbot Anda…

by

Kekhawatiran tentang meningkatnya kemampuan chatbot yang dilatih pada model bahasa besar, seperti GPT-4 OpenAI, Bard Google, dan Bing Chat Microsoft, menjadi berita utama.

Para ahli memperingatkan tentang kemampuan mereka untuk menyebarkan informasi yang salah dalam skala yang sangat besar, serta risiko eksistensial yang dapat ditimbulkan oleh perkembangan mereka terhadap umat manusia.

Seolah-olah ini tidak cukup mengkhawatirkan, area perhatian ketiga telah terbuka – diilustrasikan oleh larangan ChatGPT Italia baru-baru ini atas dasar privasi.

Regulator data Italia telah menyuarakan keprihatinan atas model yang digunakan oleh pemilik ChatGPT OpenAI dan mengumumkan akan menyelidiki apakah perusahaan tersebut telah melanggar undang-undang perlindungan data Eropa yang ketat.

Chatbots dapat berguna untuk pekerjaan dan tugas pribadi, tetapi mereka mengumpulkan data dalam jumlah besar. AI juga menimbulkan banyak risiko keamanan, termasuk kemampuan untuk membantu penjahat melakukan serangan dunia maya yang lebih meyakinkan dan efektif.

Kebanyakan orang menyadari risiko privasi yang ditimbulkan oleh mesin pencari seperti Google, tetapi para ahli berpendapat bahwa chatbot bisa jadi lebih haus data.

Sifat percakapan mereka dapat membuat orang lengah dan mendorong mereka untuk memberikan lebih banyak informasi daripada yang mereka masukkan ke dalam mesin pencari. “Gaya seperti manusia dapat melumpuhkan pengguna,” kata Ali Vaziri, direktur hukum di tim data dan privasi di firma hukum Lewis Silkin.

Selengkapnya: The Guardian

AI Dapat Memecahkan Kata Sandi Paling Umum Dalam Waktu Kurang dari Satu Menit

by

Jika Anda merasa memiliki kata sandi yang kuat, saatnya untuk berpikir lagi. Sebuah studi baru dari Home Security Heroes(terbuka di tab baru), sebuah perusahaan keamanan siber, menunjukkan seberapa cepat dan mudah kecerdasan buatan (AI) dapat memecahkan kata sandi Anda. Statistik menunjukkan bahwa 51% kata sandi umum dapat diretas dalam waktu kurang dari satu menit.

Peneliti keamanan menggunakan PassGAN, pembuat kata sandi berdasarkan Generative Adversarial Network (GAN). PassGAN dan pembuat kata sandi lainnya berbeda karena yang pertama tidak bergantung pada analisis kata sandi manual.

Sebaliknya, model PassGAN, seperti namanya, memanfaatkan GAN untuk belajar dari kebocoran kata sandi asli dan menghasilkan kata sandi realistis yang dapat Anda gunakan. GAN adalah model pembelajaran mesin (ML) yang menghubungkan dua jaringan saraf (generator dan diskriminator) satu sama lain untuk meningkatkan akurasi prediksi.

Singkatnya, generator menghasilkan data palsu untuk menipu pembeda. Sedangkan tugas diskriminator adalah mengidentifikasi data asli dari data palsu yang dibuat oleh generator. Itu menjadi permainan kucing-dan-tikus di mana kedua jaringan mendapat manfaat dari perselisihan terus-menerus. Generator terus meningkat untuk membuat data palsu yang lebih baik, dan diskriminator menjadi lebih baik dalam membedakan data asli dari yang palsu.

Pahlawan Keamanan Rumah memberi PassGAN dengan 15.680.000 kata sandi umum dari kumpulan data RockYou untuk melatih model tersebut. Perusahaan mengecualikan kata sandi yang lebih pendek dari empat karakter dan lebih panjang dari 18 karakter dari percobaan.

Bagi mereka yang belum pernah mendengar tentang RockYou, itu adalah pengembang widget untuk platform media sosial populer seperti MySpace atau Facebook. Peretas melanggar RockYou pada tahun 2009, mencuri lebih dari 32 juta data pengguna karena perusahaan menyimpan data di dalam database yang tidak terenkripsi. Kumpulan data RockYou akhirnya menjadi opsi populer untuk melatih model peretas kata sandi ML.

Selengkapnya: tom’s HARDWARE

Memperkenalkan Microsoft Security Copilot: Memberdayakan pembela dengan kecepatan AI

by

Microsoft Security Copilot adalah produk keamanan pertama yang memungkinkan pembela bergerak dengan kecepatan dan skala AI. Security Copilot menggabungkan model bahasa besar (LLM) canggih ini dengan model khusus keamanan dari Microsoft. Model khusus keamanan ini pada gilirannya menggabungkan serangkaian keterampilan khusus keamanan yang berkembang dan diinformasikan oleh intelijen ancaman global Microsoft yang unik dan lebih dari 65 triliun sinyal harian. Security Copilot juga menghadirkan keamanan tingkat perusahaan dan pengalaman yang mematuhi privasi saat berjalan di infrastruktur skala besar Azure.

Security Copilot tidak selalu melakukan semuanya dengan benar. Konten yang dihasilkan AI dapat mengandung kesalahan. Tapi Security Copilot adalah sistem pembelajaran loop tertutup, yang artinya terus belajar dari pengguna dan memberi mereka kesempatan untuk memberikan umpan balik eksplisit dengan fitur umpan balik yang dibangun langsung ke dalam alat. Saat kami terus belajar dari interaksi ini, kami menyesuaikan responsnya untuk menciptakan jawaban yang lebih koheren, relevan, dan bermanfaat.

Security Copilot juga terintegrasi dengan produk Microsoft Security end-to-end, dan seiring waktu akan berkembang ke ekosistem produk pihak ketiga yang berkembang. Jadi, singkatnya, Security Copilot bukan hanya model bahasa yang besar, melainkan sistem yang belajar, untuk memungkinkan organisasi benar-benar bertahan dengan kecepatan mesin.

selengkapnya : blog.microsoft.com

Bagaimana Saya Membobol Rekening Bank Dengan Suara Buatan AI

by

Bank di seluruh AS dan Eropa menggunakan verifikasi suara semacam ini untuk memungkinkan pelanggan masuk ke akun mereka melalui telepon. Beberapa bank menggembar-gemborkan identifikasi suara setara dengan sidik jari, cara yang aman dan nyaman bagi pengguna untuk berinteraksi dengan bank mereka. Namun percobaan ini mematahkan gagasan bahwa keamanan biometrik berbasis suara memberikan perlindungan yang sangat mudah di dunia di mana siapa pun sekarang dapat menghasilkan suara sintetis dengan harga murah atau terkadang tanpa biaya. Saya menggunakan layanan pembuatan suara gratis dari ElevenLabs, sebuah perusahaan AI-voice.

saya melakukan tes pada akun di Lloyds Bank di Inggris. Di situs webnya, Lloyds Bank mengatakan bahwa program “Voice ID” aman. “Suara Anda seperti sidik jari dan unik bagi Anda,” tulis situs tersebut. “Voice ID menganalisis lebih dari 100 karakteristik berbeda dari suara Anda yang seperti sidik jari Anda, unik untuk Anda. Seperti, bagaimana Anda menggunakan mulut dan pita suara, aksen Anda, dan seberapa cepat Anda berbicara. Ia bahkan mengenali Anda jika Anda sedang pilek atau sakit tenggorokan, ”tambahnya.

Meskipun saya hanya melakukan pengujian di Lloyds Bank, mengingat sifat dan fungsi yang serupa dari sistem lain ini, mereka mungkin juga berisiko terhadap suara bertenaga AI. Banyak bank mengizinkan pengguna untuk melakukan sejumlah fitur perbankan melalui telepon, seperti memeriksa riwayat transaksi, saldo rekening, dan dalam beberapa kasus mentransfer dana.

selengkapnya : vice.com

Raksasa Pencarian Cina Baidu akan Meluncurkan Bot Bergaya ChatGPT

by

berencana untuk meluncurkan layanan chatbot kecerdasan buatan yang mirip dengan ChatGPT OpenAI, menurut seseorang yang mengetahui masalah tersebut, berpotensi menjadi entri paling menonjol di China dalam perlombaan yang dipicu oleh fenomena teknologi tersebut.

Perusahaan mesin pencari terbesar di China berencana untuk meluncurkan aplikasi bergaya ChatGPT pada bulan Maret, awalnya menyematkannya ke dalam layanan pencarian utamanya, kata orang tersebut, yang meminta untuk tidak disebutkan namanya mendiskusikan informasi pribadi.

Alat, yang namanya belum diputuskan, akan memungkinkan pengguna untuk mendapatkan hasil pencarian gaya percakapan seperti platform populer OpenAI.

Saham perusahaan naik sebanyak 5,8% setelah laporan Bloomberg, kenaikan intraday terbesar dalam hampir empat minggu.

Baidu telah menghabiskan miliaran dolar untuk meneliti AI dalam upaya selama bertahun-tahun untuk beralih dari pemasaran online ke teknologi yang lebih dalam.

Sistem Ernie-nya — model pembelajaran mesin skala besar yang telah dilatih berdasarkan data selama beberapa tahun — akan menjadi dasar dari alat mirip ChatGPT yang akan datang, kata orang tersebut. Perwakilan Baidu menolak berkomentar.

ChatGPT, alat kecerdasan buatan OpenAI, telah menerangi internet sejak debut publiknya pada bulan November, mengumpulkan lebih dari satu juta pengguna dalam beberapa hari dan memicu perdebatan tentang peran AI di sekolah, kantor, dan rumah.

Perusahaan termasuk Microsoft Corp. menginvestasikan miliaran untuk mencoba dan mengembangkan aplikasi dunia nyata, sementara yang lain memanfaatkan hype untuk mengumpulkan dana.

Saham Buzzfeed Inc. meningkat lebih dari dua kali lipat bulan ini setelah mengumumkan rencana untuk memasukkan ChatGPT ke dalam kontennya.

Selengkapnya: Bloomberg