Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for Artificial Intelligence

Artificial Intelligence

Pertarungan A.I. Selesai, Meta Memutuskan untuk Memberikan Permata Mahkotanya

by Leave a Comment

Pada bulan Februari, Meta membuat langkah yang tidak biasa di dunia kecerdasan buatan yang berkembang pesat: Meta memutuskan untuk memberikan A.I. permata mahkota.

Raksasa Lembah Silikon, yang memiliki Facebook, Instagram, dan WhatsApp, telah menciptakan A.I. teknologi, yang disebut LLaMA, yang dapat mendukung chatbot online. Tapi alih-alih menyimpan teknologi itu sendiri, Meta merilis kode komputer yang mendasari sistem ke alam liar. Akademisi, peneliti pemerintah, dan lainnya yang memberikan alamat email mereka ke Meta dapat mengunduh kode setelah perusahaan memeriksa individu tersebut.

Intinya, Meta memberikan A.I. teknologi sebagai perangkat lunak sumber terbuka — kode komputer yang dapat disalin, dimodifikasi, dan digunakan kembali secara bebas — menyediakan semua yang dibutuhkan pihak luar untuk membuat chatbot mereka sendiri dengan cepat.
“Platform yang akan menang adalah yang terbuka,” Yann LeCun, kepala Meta A.I. ilmuwan, kata dalam sebuah wawancara.

Sebagai perlombaan untuk memimpin A.I. memanas di Silicon Valley, Meta berdiri keluar dari para pesaingnya dengan mengambil pendekatan yang berbeda untuk teknologi. Didorong oleh pendiri dan kepala eksekutifnya, Mark Zuckerberg, Meta percaya bahwa hal paling cerdas untuk dilakukan adalah membagikan A.I. mesin sebagai cara untuk menyebarkan pengaruhnya dan akhirnya bergerak lebih cepat menuju masa depan.

Tindakannya kontras dengan tindakan Google dan OpenAI, dua perusahaan yang memimpin A.I. perlombaan senjata. Khawatir bahwa A.I. alat seperti chatbots akan digunakan untuk menyebarkan disinformasi, ujaran kebencian, dan konten beracun lainnya, perusahaan tersebut menjadi semakin tertutup tentang metode dan perangkat lunak yang mendukung A.I. produk.

Google, OpenAI, dan lainnya mengkritik Meta, mengatakan bahwa pendekatan sumber terbuka yang tidak terkekang itu berbahaya. Peningkatan pesat AI dalam beberapa bulan terakhir telah menimbulkan peringatan tentang risiko teknologi, termasuk bagaimana hal itu dapat menjungkirbalikkan pasar kerja jika tidak digunakan dengan benar. Dan dalam beberapa hari setelah rilis LLaMA, sistem bocor ke 4chan, papan pesan online yang dikenal menyebarkan informasi palsu dan menyesatkan.

selengkapnya : archive.is

Penculikan dengan Meniru Suara, Seorang Ibu Percaya Putrinya Diculik Karna AI Generate Voice

by

Pada siang hari Jennifer DeStefano sedang menjemmput putrinya yang paling muda dari latihan menari, lalu tiba-tiba Jennifer mendapat telepon dari nomor yang tidak dikenal. Di telepon tersebut, Jennifer mendengar suara putri tertuanya yang meminta bantuan kepada ibunya karena sedang diculik oleh para penipu tersebut.

Selagi ada suara tangisan putrinya dibelakang. Tidak lama penipu tersebut mengatakan bahwa ia memiliki putrinya dan meminta tebusan sebesar 1 miliar dollar. Namun keluarganya sudah dapat memastikan dengan cepat dan mencari putri tertuanya sedang latihan ski untuk latihan.

simak lebih lanjut dengan dialog berikut :

“Halo?” dia menjawab melalui telepon speaker sambil mengunci mobilnya dan membawa dompet dan tas laptopnya ke dalam studio.

Dia disambut dengan teriakan dan isak tangis.

“Mama! Saya mengacau!” teriak suara seorang gadis.

“Apa yang kamu lakukan?!? Apa yang telah terjadi?!?” tanya DeStefano.

“Suaranya terdengar seperti Brie, infleksi, semuanya,” katanya kepada CNN baru-baru ini. “Kemudian, tiba-tiba, saya mendengar seorang pria berkata, ‘Berbaringlah, sandarkan kepalamu.’ Saya pikir dia sedang digiring dari gunung, yang biasa terjadi dalam bermain ski. Jadi saya mulai panik.”

Saat teriakan minta tolong berlanjut di latar belakang, suara laki-laki yang dalam mulai mengeluarkan perintah: “Dengarkan di sini. Aku punya putrimu. Anda menelepon polisi, Anda menelepon siapa pun, saya akan memberinya sesuatu yang penuh dengan obat-obatan. Aku akan pergi bersamanya lalu mengantarnya ke Meksiko, dan kamu tidak akan pernah melihatnya lagi.

DeStefano membeku. Kemudian dia berlari ke studio tari, gemetar dan berteriak minta tolong. Dia merasa seperti tiba-tiba tenggelam.

Setelah serangkaian peristiwa yang kacau dan cepat yang mencakup permintaan tebusan $ 1 juta, panggilan 911, dan upaya panik untuk menghubungi Brianna, “penculikan” itu terungkap sebagai penipuan. Brianna yang bingung menelepon untuk memberi tahu ibunya bahwa dia tidak tahu apa yang diributkan itu dan semuanya baik-baik saja.

sumber : edition.cnn.com

Para Ahli: Chatbot AI Mempersulit untuk Menemukan Email Phishing

by

Ejaan dan tata bahasa yang buruk dapat membantu mengidentifikasi serangan penipuan yang diperbaiki oleh kecerdasan buatan (AI).

Menurut para ahli, Chatbots menghilangkan garis pertahanan utama terhadap penipuan email phishing dengan menghapus kesalahan tata bahasa dan ejaan yang mencolok.

Peringatan itu muncul ketika organisasi kepolisian Europol mengeluarkan penasehat internasional tentang potensi kriminal penggunaan ChatGPT dan model bahasa besar lainnya.

Email phishing adalah senjata penjahat siber untuk membodohi penerima agar mengklik tautan yang mengunduh perangkat lunak berbahaya atau mengelabui mereka agar menyerahkan detail pribadi.

Kelemahan mendasar dalam beberapa upaya phishing adalah ejaan dan tata bahasa yang buruk, sedang diperbaiki oleh chatbot kecerdasan buatan, yang dapat memperbaiki kesalahan yang membuat filter spam tersandung atau memperingatkan pembaca manusia.

Data menunjukkan bahwa ChatGPT digunakan untuk kejahatan siber dengan munculnya “model bahasa besar” (LLM) yang mendapatkan salah satu aplikasi komersial substansial pertamanya dalam pembuatan komunikasi berbahaya.

Sejak ChatGPT menjadi arus utama tahun lalu, volume keseluruhan penipuan email jahat yang diambil oleh alat pemantauan Darktrace menurun, tetapi kompleksitas linguistik dari email tersebut telah meningkat tajam.

Hal ini menunjukkan bahwa sejumlah besar scammer yang menyusun phishing dan email berbahaya lainnya telah memperoleh kemampuan untuk menyusun prosa yang lebih panjang dan lebih kompleks.

Dihubungi oleh Guardian, Google menunjuk pada kebijakan “penggunaan yang dilarang” untuk AI, mengatakan bahwa pengguna tidak boleh menggunakan model AI-nya untuk membuat konten untuk aktivitas penipuan atau penipuan, penipuan, phishing, atau malware.

Selengkapnya: The Guardian

Memperkenalkan Microsoft Security Copilot: Memberdayakan pembela dengan kecepatan AI

by

Microsoft Security Copilot adalah produk keamanan pertama yang memungkinkan pembela bergerak dengan kecepatan dan skala AI. Security Copilot menggabungkan model bahasa besar (LLM) canggih ini dengan model khusus keamanan dari Microsoft. Model khusus keamanan ini pada gilirannya menggabungkan serangkaian keterampilan khusus keamanan yang berkembang dan diinformasikan oleh intelijen ancaman global Microsoft yang unik dan lebih dari 65 triliun sinyal harian. Security Copilot juga menghadirkan keamanan tingkat perusahaan dan pengalaman yang mematuhi privasi saat berjalan di infrastruktur skala besar Azure.

Security Copilot tidak selalu melakukan semuanya dengan benar. Konten yang dihasilkan AI dapat mengandung kesalahan. Tapi Security Copilot adalah sistem pembelajaran loop tertutup, yang artinya terus belajar dari pengguna dan memberi mereka kesempatan untuk memberikan umpan balik eksplisit dengan fitur umpan balik yang dibangun langsung ke dalam alat. Saat kami terus belajar dari interaksi ini, kami menyesuaikan responsnya untuk menciptakan jawaban yang lebih koheren, relevan, dan bermanfaat.

Security Copilot juga terintegrasi dengan produk Microsoft Security end-to-end, dan seiring waktu akan berkembang ke ekosistem produk pihak ketiga yang berkembang. Jadi, singkatnya, Security Copilot bukan hanya model bahasa yang besar, melainkan sistem yang belajar, untuk memungkinkan organisasi benar-benar bertahan dengan kecepatan mesin.

selengkapnya : blog.microsoft.com

ChatGPT Membuat Pekerjaan Ini menjadi Usang

by

Kecerdasan buatan telah datang untuk pekerjaan Anda.

Kemampuan yang menjanjikan ini membuat Microsoft mengumumkan investasi multi-tahun milyaran dolar dalam teknologi revolusioner.

Para ahli memperingatkan bahwa munculnya mesin cerdas membuat banyak pekerja bergaji tinggi dan sejumlah industri rentan. Seperti sektor keuangan, perawatan, kesehatan, hingga penerbitan.

Contoh nyata peningkatan AI salah satunya adalah chatbot cerdas ChatGPT yang dirils pada bulan November dan gratis untuk umum.

Berikut beberapa bidang pekerjaan yang paling rentan terhadap teknologi kecerdasan buatan ini.

Pendidikan
ChatGPT yang saat ini dilarang di sekolah-sekolah NYC, dapat dengan mudah mengajar kelas. Alat tersebut mungkin paling efektif di tingkat sekolah menengah atau atas karena kelas-kelas itu memperkuat keterampilan yang sudah ada di sekolah dasar.

Bug dan ketidakakuratan dalam hal pengetahuan pun dapat dengan mudah diperbaiki dengan hanya melatih ChatGPT.
Kemajuan AI ini menjadi masukan bagi manusia untuk mengadaptasi metode pengajaran dan pengujian dalam upaya untuk mengikuti ChatGPT yang semakin berbakat, yang dapat berhasil menyelesaikan kursus siswa di tingkat master.

Bagaimanapun keputusan keuangan dan ekonomi yang penting kemungkinan besar akan selalu berada di tangan manusia.

Software Engineering
Hedge memperingatkan bahwa perancang dan insinyur situs web yang bertanggung jawab untuk pengkodean yang relatif sederhana berisiko menjadi usang, karena AI dapat menyusun kode untuk membangun situs dan bagian TI lainnya.

Pekerjaan desain perangkat lunak yang relatif tidak rumit akan menjadi masa lalu pada tahun 2026 atau lebih cepat, kata Shi.

Jurnalis
Teknologi AI dalam dunia jurnalisme sudah memenuhi syarat, menurut Hedge. Meringkas, membuat artikel ringkas dan hal-hal semacam itu, ChatGPT sangat baik dalam mendesain tajuk beritanya sendiri.

Salah satu kekurangan utama adalah ketidakmampuan alat untuk memeriksa fakta secara efisien.

Desain Grafis
Pada tahun 2021, pengembang ChatGPT OpenAI meluncurkan tools lain, DALL-E, yang dapat menghasilkan gambar yang disesuaikan dari petunjuk yang dibuat pengguna sesuai perintah.

Percobaan Shi dalam memerintahkan DALL-E memperoleh hasil luar biasa, namun gaya lukisan yang diturunkan dari Picasso tidak berhasil dengan teknik yang lebih bernuansa. Masalah hak cipta juga dihasilkan oleh AI berbasis gambar. Hal tersebut memperlihatkan kekurangan saat ini dalam teknologi.

Selengkapnya: NEW YORK POST

Serangan Trojan Puzzle Melatih Asisten AI Untuk Menyarankan Kode Berbahaya

by

Para peneliti di universitas California, Virginia, dan Microsoft telah merancang serangan peracunan baru yang dapat mengelabui asisten pengkodean berbasis AI untuk menyarankan kode berbahaya.

Serangan Trojan Puzzle melewati deteksi statis dan model pembersihan dataset berbasis tanda tangan, sehingga model AI dilatih untuk mempelajari cara mereproduksi muatan berbahaya.

Asisten pengkodean seperti GitHub’s Copilot dan OpenAI’s ChatGPT, menemukan cara terselubung untuk menanamkan kode berbahaya secara sembunyi dalam rangkaian pelatihan model AI dapat menimbulkan konsekuensi yang meluas.

Pemicu yang tampaknya tidak berbahaya (kotak kuning) memicu saran kode payload

Proposal Trojan Puzzle
Serangan Trojan Puzzle baru menghindari memasukkan muatan ke dalam kode dan secara aktif menyembunyikan sebagiannya selama proses pelatihan.

Saat pemicu yang valid diuraikan, machine learning akan merekonstruksi payload dengan mengganti kata acak dengan token berbahaya yang ditemukan dalam pelatihan dengan sendirinya.
pict – Menghasilkan banyak sampel racun untuk membuat asosiasi pemicu-muatan (arxiv.org)

Menguji Serangan
Peneliti menggunakan 5,88 GB kode Python bersumber dari 18.310 repositori untuk digunakan sebagai kumpulan data pembelajaran mesin untuk mengevaluasi Trojan Puzzle.

Trojan Puzzle sulit direproduksi oleh machine learning karena mereka harus mempelajari cara memilih kata kunci yang disamarkan dari frase pemicu dan menggunakannya dalam keluaran yang dihasilkan, sehingga diharapkan kinerja yang lebih rendah pada zaman pertama.

Jumlah saran kode berbahaya (dari 400) untuk zaman 1, 2, dan 3 (arxiv.org)

Bertahan dari Upaya Peracunan
Dalam makalah ini disarankan untuk mengeksplorasi cara mendeteksi dan memfilter file yang berisi sampel buruk yang hampir duplikat yang dapat menandakan injeksi kode berbahaya yang terselubung.

Selengkapnya: BleepingComputer

Deepfake hingga ChatGPT, Misinformasi Tumbuh Subur dengan Kemajuan AI

by

Kemajuan cepat dalam kecerdasan buatan dapat membantu informasi yang salah berkembang di tahun mendatang, sebuah laporan baru memperingatkan.

Menurut Laporan Risiko Teratas untuk 2023, sebuah dokumen tahunan dari analis risiko geopolitik yang berbasis di A.S. di Eurasia Group, senjata gangguan massal yang muncul dari inovasi teknologi yang cepat akan mengikis kepercayaan sosial, memberdayakan para demagog dan otoriter, serta mengganggu bisnis dan pasar.

Ancaman ini menduduki peringkat ketiga dalam daftarnya, hanya dikalahkan oleh risiko yang ditimbulkan oleh China yang semakin agresif dan Rusia yang nakal.

Kecanggihan kecerdasan buatan ditambah dengan kemajuan dalam deepfakes, teknologi pengenalan wajah dan perangkat lunak sintesis suara, akan menjadikan kendali atas kemiripan seseorang sebagai peninggalan masa lalu.

Aplikasi ramah pengguna seperti ChatGPT dan Stable Diffusion akan memungkinkan siapa saja yang paham teknologi untuk memanfaatkan kekuatan AI.

Disinformasi dan misinformasi telah membuat percikan di panggung geopolitik, meski tanpa dukungan dari kecerdasan buatan.

Dalam beberapa studi oleh akademisi menemukan bahwa Kanada menjadi sasaran Rusia untuk mempengaruhi opini publik dan sejumlah besar tweet dan retweet tentang perang di Ukraina dapat ditelusuri kembali ke Rusia dan China, dengan lebih banyak lagi tweet yang mengungkapkan sentimen pro-Rusia yang dilacak ke Amerika Serikat.

Informasi yang salah tentang aman dan manjurnya vaksin COVID-19 marak terjadi pada protes yang menyumbat jalan-jalan di pusat kota Ottawa selama tiga minggu pada Februari 2022. Berbagai penelitian juga menemukan bahwa bot memiliki andil besar dalam membantu menyebarkan narasi palsu tentang virus tersebut.

Kemajuan teknologi AI memungkinkan pengguna yang menggunakan teknologi ini juga meningkat. Pemerintah Kanada telah berjanji untuk mengambil langkah-langkah untuk mengatasi disinformasi online.

Pengguna dengan tujuan politik mungkin mendapati diri mereka sangat diberdayakan oleh kemajuan pesat ini. Sementara itu, pemerintah telah menghadapi seruan untuk melangkah lebih jauh.

Selengkapnya: Global NEWS

Inilah 5 Pesaing ChatGPT Gratis Di Tahun 2023

by

Tahun 2022 menjadi tahun luar biasa untuk Machine Learning dan AI Research. Perusahaan teknologi besar telah merilis banyak library yang bermanfaat bagi pengembang. Penulis telah melihat beberapa makalah penelitian yang bagus, baik dari perusahaan teknologi besar maupun grup kecil. Terfavorit adalah penelitian AI perakitan sendiri, menunjukkan potensi untuk mengeksplorasi mode AI alternatif.

Tahun 2023 adalah tahun Model Bahasa Besar. ChatGPT telah menghebohkan internet, dengan orang-orang yang datang dengan segala macam kasus penggunaan dan ide tentang bagaimana hal itu dapat digunakan. ChatGPT saat ini dilindungi oleh API dan pembatasan akses.

OPT
GPT versi Meta, Open Pretrained Transformer, atau OPT. Model OPT memiliki banyak potensi untuk menjadi pengganti GPT, mengingat model ini tampaknya dirancang sebagai alternatif. Namun, Meta bukan satu-satunya Raksasa Teknologi yang memiliki kuda dalam balapan.

Palm
Dalam memahami mengapa model Palm begitu menakjubkan diperlukan untuk memahami ekosistem Pathways. Pathways adalah Arsitektur Google yang membuat semua Model Bahasa Besarnya.

Ekosistem Pathways Google diumumkan dengan banyak kemeriahan. Banyak ahli internet telah berbicara tentang ChatGPT dan potensinya untuk menggantikan Google sebagai mesin pencari.

Bola
Peneliti Machine Learning di Meta telah merilis Model Bahasa Besar (LLM) baru yang disebut Sphere. Dengan kinerjanya yang luar biasa pada tugas terkait pencarian, dan kemampuan untuk mengurai miliaran dokumen, digabungkan dengan pekerjaan Meta lainnya di NLP, Meta telah memposisikan dirinya dengan baik untuk mengganggu pasar pencarian.

Sphere dapat memverifikasi kutipan dan bahkan menyarankan kutipan alternatif yang akan cocok dengan konten dengan lebih baik, sesuatu yang belum pernah saya lihat di tempat lain.

Bloom
Bloom adalah Large Language Model (LLM) autoregresif yang dilatih untuk melanjutkan teks dari prompt pada sejumlah besar data teks menggunakan sumber daya komputasi skala industri. Bloom mampu menghasilkan teks yang koheren dalam 46 bahasa dan 13 bahasa pemrograman. Bloom juga dapat diinstruksikan untuk melakukan tugas teks yang belum dilatih secara eksplisit, dengan mentransmisikannya sebagai tugas pembuatan teks.

Galaxy
Terakhir adalah model lain dari Meta. Zuck tidak puas hanya dengan memilih satu pertarungan. Dia memiliki persamaan ChatGPT, diarahkan untuk penelitian orang.

Bayangkan sebuah ChatGPT, tetapi terlatih dalam banyak teks penelitian. Model seperti itu dapat menjelaskan rumus Matematika, membantu menulis makalah, dan membuat Lateks.

Selengkapnya: Medium