Microsoft hari ini open-source Counterfit, alat yang dirancang untuk membantu pengembang menguji keamanan AI dan sistem pembelajaran mesin. Perusahaan mengatakan bahwa Counterfit dapat memungkinkan organisasi melakukan penilaian untuk memastikan bahwa algoritme yang digunakan dalam bisnis mereka kuat, andal, dan dapat dipercaya.
AI semakin banyak digunakan di industri yang diatur seperti perawatan kesehatan, keuangan, dan pertahanan. Tetapi organisasi tertinggal dalam penerapan strategi mitigasi risiko. Survei Microsoft menemukan bahwa 25 dari 28 bisnis menunjukkan bahwa mereka tidak memiliki sumber daya yang tepat untuk mengamankan sistem AI mereka, dan profesional keamanan sedang mencari panduan khusus di ruang ini.
Microsoft mengatakan bahwa Counterfit lahir dari kebutuhan perusahaan untuk menilai kerentanan sistem AI dengan tujuan mengamankan layanan AI secara proaktif. Alat ini dimulai sebagai kumpulan skrip serangan yang ditulis khusus untuk menargetkan model AI dan kemudian berubah menjadi produk otomasi untuk mengukur beberapa sistem dalam skala besar.
selengkapnya : venturebeat.com