Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for Artificial Intelligence

Artificial Intelligence

Pertarungan A.I. Selesai, Meta Memutuskan untuk Memberikan Permata Mahkotanya

by Leave a Comment

Pada bulan Februari, Meta membuat langkah yang tidak biasa di dunia kecerdasan buatan yang berkembang pesat: Meta memutuskan untuk memberikan A.I. permata mahkota.

Raksasa Lembah Silikon, yang memiliki Facebook, Instagram, dan WhatsApp, telah menciptakan A.I. teknologi, yang disebut LLaMA, yang dapat mendukung chatbot online. Tapi alih-alih menyimpan teknologi itu sendiri, Meta merilis kode komputer yang mendasari sistem ke alam liar. Akademisi, peneliti pemerintah, dan lainnya yang memberikan alamat email mereka ke Meta dapat mengunduh kode setelah perusahaan memeriksa individu tersebut.

Intinya, Meta memberikan A.I. teknologi sebagai perangkat lunak sumber terbuka — kode komputer yang dapat disalin, dimodifikasi, dan digunakan kembali secara bebas — menyediakan semua yang dibutuhkan pihak luar untuk membuat chatbot mereka sendiri dengan cepat.
“Platform yang akan menang adalah yang terbuka,” Yann LeCun, kepala Meta A.I. ilmuwan, kata dalam sebuah wawancara.

Sebagai perlombaan untuk memimpin A.I. memanas di Silicon Valley, Meta berdiri keluar dari para pesaingnya dengan mengambil pendekatan yang berbeda untuk teknologi. Didorong oleh pendiri dan kepala eksekutifnya, Mark Zuckerberg, Meta percaya bahwa hal paling cerdas untuk dilakukan adalah membagikan A.I. mesin sebagai cara untuk menyebarkan pengaruhnya dan akhirnya bergerak lebih cepat menuju masa depan.

Tindakannya kontras dengan tindakan Google dan OpenAI, dua perusahaan yang memimpin A.I. perlombaan senjata. Khawatir bahwa A.I. alat seperti chatbots akan digunakan untuk menyebarkan disinformasi, ujaran kebencian, dan konten beracun lainnya, perusahaan tersebut menjadi semakin tertutup tentang metode dan perangkat lunak yang mendukung A.I. produk.

Google, OpenAI, dan lainnya mengkritik Meta, mengatakan bahwa pendekatan sumber terbuka yang tidak terkekang itu berbahaya. Peningkatan pesat AI dalam beberapa bulan terakhir telah menimbulkan peringatan tentang risiko teknologi, termasuk bagaimana hal itu dapat menjungkirbalikkan pasar kerja jika tidak digunakan dengan benar. Dan dalam beberapa hari setelah rilis LLaMA, sistem bocor ke 4chan, papan pesan online yang dikenal menyebarkan informasi palsu dan menyesatkan.

selengkapnya : archive.is

Penculikan dengan Meniru Suara, Seorang Ibu Percaya Putrinya Diculik Karna AI Generate Voice

by

Pada siang hari Jennifer DeStefano sedang menjemmput putrinya yang paling muda dari latihan menari, lalu tiba-tiba Jennifer mendapat telepon dari nomor yang tidak dikenal. Di telepon tersebut, Jennifer mendengar suara putri tertuanya yang meminta bantuan kepada ibunya karena sedang diculik oleh para penipu tersebut.

Selagi ada suara tangisan putrinya dibelakang. Tidak lama penipu tersebut mengatakan bahwa ia memiliki putrinya dan meminta tebusan sebesar 1 miliar dollar. Namun keluarganya sudah dapat memastikan dengan cepat dan mencari putri tertuanya sedang latihan ski untuk latihan.

simak lebih lanjut dengan dialog berikut :

“Halo?” dia menjawab melalui telepon speaker sambil mengunci mobilnya dan membawa dompet dan tas laptopnya ke dalam studio.

Dia disambut dengan teriakan dan isak tangis.

“Mama! Saya mengacau!” teriak suara seorang gadis.

“Apa yang kamu lakukan?!? Apa yang telah terjadi?!?” tanya DeStefano.

“Suaranya terdengar seperti Brie, infleksi, semuanya,” katanya kepada CNN baru-baru ini. “Kemudian, tiba-tiba, saya mendengar seorang pria berkata, ‘Berbaringlah, sandarkan kepalamu.’ Saya pikir dia sedang digiring dari gunung, yang biasa terjadi dalam bermain ski. Jadi saya mulai panik.”

Saat teriakan minta tolong berlanjut di latar belakang, suara laki-laki yang dalam mulai mengeluarkan perintah: “Dengarkan di sini. Aku punya putrimu. Anda menelepon polisi, Anda menelepon siapa pun, saya akan memberinya sesuatu yang penuh dengan obat-obatan. Aku akan pergi bersamanya lalu mengantarnya ke Meksiko, dan kamu tidak akan pernah melihatnya lagi.

DeStefano membeku. Kemudian dia berlari ke studio tari, gemetar dan berteriak minta tolong. Dia merasa seperti tiba-tiba tenggelam.

Setelah serangkaian peristiwa yang kacau dan cepat yang mencakup permintaan tebusan $ 1 juta, panggilan 911, dan upaya panik untuk menghubungi Brianna, “penculikan” itu terungkap sebagai penipuan. Brianna yang bingung menelepon untuk memberi tahu ibunya bahwa dia tidak tahu apa yang diributkan itu dan semuanya baik-baik saja.

sumber : edition.cnn.com

Para Ahli: Chatbot AI Mempersulit untuk Menemukan Email Phishing

by

Ejaan dan tata bahasa yang buruk dapat membantu mengidentifikasi serangan penipuan yang diperbaiki oleh kecerdasan buatan (AI).

Menurut para ahli, Chatbots menghilangkan garis pertahanan utama terhadap penipuan email phishing dengan menghapus kesalahan tata bahasa dan ejaan yang mencolok.

Peringatan itu muncul ketika organisasi kepolisian Europol mengeluarkan penasehat internasional tentang potensi kriminal penggunaan ChatGPT dan model bahasa besar lainnya.

Email phishing adalah senjata penjahat siber untuk membodohi penerima agar mengklik tautan yang mengunduh perangkat lunak berbahaya atau mengelabui mereka agar menyerahkan detail pribadi.

Kelemahan mendasar dalam beberapa upaya phishing adalah ejaan dan tata bahasa yang buruk, sedang diperbaiki oleh chatbot kecerdasan buatan, yang dapat memperbaiki kesalahan yang membuat filter spam tersandung atau memperingatkan pembaca manusia.

Data menunjukkan bahwa ChatGPT digunakan untuk kejahatan siber dengan munculnya “model bahasa besar” (LLM) yang mendapatkan salah satu aplikasi komersial substansial pertamanya dalam pembuatan komunikasi berbahaya.

Sejak ChatGPT menjadi arus utama tahun lalu, volume keseluruhan penipuan email jahat yang diambil oleh alat pemantauan Darktrace menurun, tetapi kompleksitas linguistik dari email tersebut telah meningkat tajam.

Hal ini menunjukkan bahwa sejumlah besar scammer yang menyusun phishing dan email berbahaya lainnya telah memperoleh kemampuan untuk menyusun prosa yang lebih panjang dan lebih kompleks.

Dihubungi oleh Guardian, Google menunjuk pada kebijakan “penggunaan yang dilarang” untuk AI, mengatakan bahwa pengguna tidak boleh menggunakan model AI-nya untuk membuat konten untuk aktivitas penipuan atau penipuan, penipuan, phishing, atau malware.

Selengkapnya: The Guardian

Memperkenalkan Microsoft Security Copilot: Memberdayakan pembela dengan kecepatan AI

by

Microsoft Security Copilot adalah produk keamanan pertama yang memungkinkan pembela bergerak dengan kecepatan dan skala AI. Security Copilot menggabungkan model bahasa besar (LLM) canggih ini dengan model khusus keamanan dari Microsoft. Model khusus keamanan ini pada gilirannya menggabungkan serangkaian keterampilan khusus keamanan yang berkembang dan diinformasikan oleh intelijen ancaman global Microsoft yang unik dan lebih dari 65 triliun sinyal harian. Security Copilot juga menghadirkan keamanan tingkat perusahaan dan pengalaman yang mematuhi privasi saat berjalan di infrastruktur skala besar Azure.

Security Copilot tidak selalu melakukan semuanya dengan benar. Konten yang dihasilkan AI dapat mengandung kesalahan. Tapi Security Copilot adalah sistem pembelajaran loop tertutup, yang artinya terus belajar dari pengguna dan memberi mereka kesempatan untuk memberikan umpan balik eksplisit dengan fitur umpan balik yang dibangun langsung ke dalam alat. Saat kami terus belajar dari interaksi ini, kami menyesuaikan responsnya untuk menciptakan jawaban yang lebih koheren, relevan, dan bermanfaat.

Security Copilot juga terintegrasi dengan produk Microsoft Security end-to-end, dan seiring waktu akan berkembang ke ekosistem produk pihak ketiga yang berkembang. Jadi, singkatnya, Security Copilot bukan hanya model bahasa yang besar, melainkan sistem yang belajar, untuk memungkinkan organisasi benar-benar bertahan dengan kecepatan mesin.

selengkapnya : blog.microsoft.com

ChatGPT Terintegrasi Ke Dalam Produk Keamanan Siber Saat Industri Menguji Kemampuannya

by

Perusahaan keamanan Kubernetes Armo telah mengintegrasikan AI generatif ChatGPT ke dalam platformnya untuk memudahkan pengguna membuat kebijakan keamanan berdasarkan Open Policy Agent (OPA).

“Armo Custom Controls melatih ChatGPT dengan Regos keamanan dan kepatuhan dan konteks tambahan, memanfaatkan dan memanfaatkan kekuatan AI untuk menghasilkan kontrol yang dibuat khusus yang diminta melalui bahasa alami. Pengguna mendapatkan aturan OPA lengkap yang dihasilkan oleh ChatGPT, serta deskripsi bahasa alami dari aturan tersebut dan perbaikan yang disarankan untuk memperbaiki kontrol yang gagal — dengan cepat, sederhana, dan tanpa perlu mempelajari bahasa baru, ”kata perusahaan itu.

Logpoint baru-baru ini mengumumkan integrasi ChatGPT untuk solusi LogPoint SOAR (orkestrasi keamanan, otomasi, dan respons) di lingkungan lab.

“Integrasi ChatGPT baru untuk Logpoint SOAR memungkinkan pelanggan menyelidiki potensi penggunaan playbook SOAR dengan ChatGPT dalam keamanan siber,” kata perusahaan itu.

Perusahaan perangkat lunak konvergensi keamanan fisik-cyber AlertEnterprise telah meluncurkan chatbot yang didukung oleh ChatGPT. Ini memungkinkan pengguna untuk dengan cepat mendapatkan informasi tentang akses fisik, manajemen akses identitas, manajemen pengunjung, analitik pembaca pintu, dan pelaporan keamanan dan keselamatan. Pengguna dapat mengajukan pertanyaan chatbot seperti “berapa banyak lencana karyawan baru yang kami terbitkan bulan lalu?” atau “tunjukkan masa berlaku pelatihan karyawan yang akan datang untuk akses area terbatas”.

Accenture Security telah menganalisis kemampuan ChatGPT untuk mengotomatiskan beberapa tugas terkait pertahanan dunia maya.

Perusahaan keamanan siber seperti Coro dan Trellix juga sedang menjajaki kemungkinan menyematkan ChatGPT dalam penawaran mereka.

Selengkapnya: Security Week

Mereka mengira orang yang dicintai sedang meminta bantuan. Itu adalah penipuan AI.

by

Pria yang memanggil Ruth Card terdengar seperti cucunya Brandon. Jadi ketika dia mengatakan dia di penjara, tanpa dompet atau ponsel, dan membutuhkan uang tunai untuk jaminan, Card bergegas melakukan apa saja untuk membantu.

“Itu pasti perasaan … ketakutan,” katanya. “Bahwa kita harus membantunya sekarang.”

Card, 73, dan suaminya, Greg Grace, 75, berlari ke bank mereka di Regina, Saskatchewan, dan menarik 3.000 dolar Kanada ($2.207 dalam mata uang AS), maksimum harian. Mereka bergegas ke cabang kedua untuk mendapatkan lebih banyak uang.

Tetapi seorang manajer bank menarik mereka ke kantornya: Pelindung lain telah menerima panggilan serupa dan mengetahui bahwa suara yang sangat akurat telah dipalsukan, kenang Card kepada bankir itu. Pria di telepon itu mungkin bukan cucu mereka.

Saat itulah mereka menyadari bahwa mereka telah ditipu.

“Kami tersedot,” kata Card dalam sebuah wawancara dengan The Washington Post. “Kami yakin bahwa kami sedang berbicara dengan Brandon.”

Saat penipuan peniruan identitas di Amerika Serikat meningkat, cobaan berat Card menunjukkan tren yang meresahkan. Teknologi mempermudah dan mempermudah aktor jahat untuk meniru suara, meyakinkan orang, seringkali orang tua, bahwa orang yang mereka cintai sedang dalam kesulitan.

Pada tahun 2022, penipuan penipu adalah penipuan paling populer kedua di Amerika, dengan lebih dari 36.000 laporan tentang orang yang ditipu oleh mereka yang berpura-pura menjadi teman dan keluarga, menurut data dari Federal Trade Commission. Lebih dari 5.100 insiden tersebut terjadi melalui telepon, terhitung kerugian lebih dari $11 juta, kata pejabat FTC.

Selengkapnya: The Washington Post

Raksasa Pencarian Cina Baidu akan Meluncurkan Bot Bergaya ChatGPT

by

berencana untuk meluncurkan layanan chatbot kecerdasan buatan yang mirip dengan ChatGPT OpenAI, menurut seseorang yang mengetahui masalah tersebut, berpotensi menjadi entri paling menonjol di China dalam perlombaan yang dipicu oleh fenomena teknologi tersebut.

Perusahaan mesin pencari terbesar di China berencana untuk meluncurkan aplikasi bergaya ChatGPT pada bulan Maret, awalnya menyematkannya ke dalam layanan pencarian utamanya, kata orang tersebut, yang meminta untuk tidak disebutkan namanya mendiskusikan informasi pribadi.

Alat, yang namanya belum diputuskan, akan memungkinkan pengguna untuk mendapatkan hasil pencarian gaya percakapan seperti platform populer OpenAI.

Saham perusahaan naik sebanyak 5,8% setelah laporan Bloomberg, kenaikan intraday terbesar dalam hampir empat minggu.

Baidu telah menghabiskan miliaran dolar untuk meneliti AI dalam upaya selama bertahun-tahun untuk beralih dari pemasaran online ke teknologi yang lebih dalam.

Sistem Ernie-nya — model pembelajaran mesin skala besar yang telah dilatih berdasarkan data selama beberapa tahun — akan menjadi dasar dari alat mirip ChatGPT yang akan datang, kata orang tersebut. Perwakilan Baidu menolak berkomentar.

ChatGPT, alat kecerdasan buatan OpenAI, telah menerangi internet sejak debut publiknya pada bulan November, mengumpulkan lebih dari satu juta pengguna dalam beberapa hari dan memicu perdebatan tentang peran AI di sekolah, kantor, dan rumah.

Perusahaan termasuk Microsoft Corp. menginvestasikan miliaran untuk mencoba dan mengembangkan aplikasi dunia nyata, sementara yang lain memanfaatkan hype untuk mengumpulkan dana.

Saham Buzzfeed Inc. meningkat lebih dari dua kali lipat bulan ini setelah mengumumkan rencana untuk memasukkan ChatGPT ke dalam kontennya.

Selengkapnya: Bloomberg

ChatGPT Membuat Pekerjaan Ini menjadi Usang

by

Kecerdasan buatan telah datang untuk pekerjaan Anda.

Kemampuan yang menjanjikan ini membuat Microsoft mengumumkan investasi multi-tahun milyaran dolar dalam teknologi revolusioner.

Para ahli memperingatkan bahwa munculnya mesin cerdas membuat banyak pekerja bergaji tinggi dan sejumlah industri rentan. Seperti sektor keuangan, perawatan, kesehatan, hingga penerbitan.

Contoh nyata peningkatan AI salah satunya adalah chatbot cerdas ChatGPT yang dirils pada bulan November dan gratis untuk umum.

Berikut beberapa bidang pekerjaan yang paling rentan terhadap teknologi kecerdasan buatan ini.

Pendidikan
ChatGPT yang saat ini dilarang di sekolah-sekolah NYC, dapat dengan mudah mengajar kelas. Alat tersebut mungkin paling efektif di tingkat sekolah menengah atau atas karena kelas-kelas itu memperkuat keterampilan yang sudah ada di sekolah dasar.

Bug dan ketidakakuratan dalam hal pengetahuan pun dapat dengan mudah diperbaiki dengan hanya melatih ChatGPT.
Kemajuan AI ini menjadi masukan bagi manusia untuk mengadaptasi metode pengajaran dan pengujian dalam upaya untuk mengikuti ChatGPT yang semakin berbakat, yang dapat berhasil menyelesaikan kursus siswa di tingkat master.

Bagaimanapun keputusan keuangan dan ekonomi yang penting kemungkinan besar akan selalu berada di tangan manusia.

Software Engineering
Hedge memperingatkan bahwa perancang dan insinyur situs web yang bertanggung jawab untuk pengkodean yang relatif sederhana berisiko menjadi usang, karena AI dapat menyusun kode untuk membangun situs dan bagian TI lainnya.

Pekerjaan desain perangkat lunak yang relatif tidak rumit akan menjadi masa lalu pada tahun 2026 atau lebih cepat, kata Shi.

Jurnalis
Teknologi AI dalam dunia jurnalisme sudah memenuhi syarat, menurut Hedge. Meringkas, membuat artikel ringkas dan hal-hal semacam itu, ChatGPT sangat baik dalam mendesain tajuk beritanya sendiri.

Salah satu kekurangan utama adalah ketidakmampuan alat untuk memeriksa fakta secara efisien.

Desain Grafis
Pada tahun 2021, pengembang ChatGPT OpenAI meluncurkan tools lain, DALL-E, yang dapat menghasilkan gambar yang disesuaikan dari petunjuk yang dibuat pengguna sesuai perintah.

Percobaan Shi dalam memerintahkan DALL-E memperoleh hasil luar biasa, namun gaya lukisan yang diturunkan dari Picasso tidak berhasil dengan teknik yang lebih bernuansa. Masalah hak cipta juga dihasilkan oleh AI berbasis gambar. Hal tersebut memperlihatkan kekurangan saat ini dalam teknologi.

Selengkapnya: NEW YORK POST