Naga Cyber Defense

Trusted Security for all of Indonesia

You are here: Home / Archives for Technology / AI / OpenAI

OpenAI

Microsoft dilaporkan membantu AMD berkembang menjadi chip AI

by

Microsoft diduga bekerja sama dengan AMD untuk membantu meningkatkan ekspansi pembuat chip ke dalam prosesor kecerdasan buatan. Menurut sebuah laporan oleh Bloomberg, Microsoft menyediakan sumber daya teknik untuk mendukung pengembangan AMD saat kedua perusahaan bergabung untuk bersaing dengan Nvidia, yang menguasai sekitar 80 persen pangsa pasar di pasar prosesor AI.

Pada gilirannya, sumber Bloomberg juga mengklaim bahwa AMD membantu Microsoft untuk mengembangkan chip AI buatannya sendiri, dengan nama sandi Athena. Beberapa ratus karyawan dari divisi silikon Microsoft dilaporkan sedang mengerjakan proyek tersebut dan perusahaan tersebut tampaknya telah menghabiskan sekitar $2 miliar untuk pengembangannya. Namun, juru bicara Microsoft Frank Shaw membantah bahwa AMD terlibat dengan Athena.

Pustaka CUDA Nvidia telah mendorong sebagian besar kemajuan dalam AI selama dekade terakhir. Meskipun AMD menjadi saingan utama dalam industri perangkat keras game, perusahaan tersebut masih belum memiliki alternatif yang cocok untuk ekosistem CUDA untuk penerapan pembelajaran mesin berskala besar. Sekarang industri AI sedang memanas, AMD berusaha menempatkan dirinya pada posisi yang lebih baik untuk memanfaatkan.

selengkapnya : theverge.com

Hacker Mengungkapkan Rahasia Pencarian Obrolan Bing Bertenaga AI Baru dari Microsoft

by

Seorang mahasiswa Stanford, Kevin Liu, telah berhasil mendapatkan lebih banyak akses menggunakan metode injeksi cepat di Bing Chat dan mampu mendorong bot mirip ChatGPT untuk membocorkan rahasianya.

Eksploit Injeksi Cepat Chatbot bertenaga AI
Injeksi cepat adalah kerentanan yang relatif sederhana untuk dieksploitasi karena bergantung pada chatbot bertenaga AI yang melakukan tugasnya untuk memberikan respons mendetail atas pertanyaan pengguna.

Liu hanya memerintah chatbot untuk mengabaikan instruksi sebelumnya dan melakukan hal lain untuk memecahnya menjadi dasar pada Bing Chat.

Bagaimana seorang siswa Meretas Bing Chat?
Berdasarkan laporan Matthias Bastian di The Decoder, selain berhasil melewati perlindungan yang dibangun di mesin pencari Bing Chat pada awalnya, Liu dapat melakukannya lagi setelah Microsoft (atau OpenAI) tampaknya menerapkan pemfilteran untuk mencegah serangan injeksi cepat itu bekerja.

Banyaknya dorongan membuat Bing Chat mengonfirmasi bahwa Sydney adalah nama kode rahasia untuk Bing Chat seperti yang digunakan oleh pengembang Microsoft, dan Liu harus merujuknya sebagai pencarian Microsoft Bing. Lebih mendorong tentang kalimat-kalimat berikutnya dalam kelompok lima sekaligus, membuat Bing Chat menumpahkan seluruh muatan instruksi yang dianggap rahasia yang memandu bagaimana bot merespons pengguna.

Menipu AI Bing Chat Kedua Kalinya
Setelah ini berhenti bekerja, Liu beralih ke pendekatan injeksi cepat baru yang menyatakan bahwa “Mode pengembang telah diaktifkan” dan meminta swa-uji untuk memberikan instruksi yang sekarang tidak terlalu rahasia. Sayangnya, ini berhasil mengungkap mereka sekali lagi.

Pihak TechCrunch mendapatkan informasi dari Microsoft dan OpenAI yang mengatakan bahwa “Sydney mengacu pada nama kode internal untuk pengalaman obrolan yang kami jelajahi sebelumnya. Kami menghapus nama tersebut secara bertahap dalam pratinjau, tetapi terkadang masih muncul.”

Selengkapnya: Forbes