Contoh permusuhan

Contoh Adversarial ialah input kepada sistem perisian yang menyebabkan ia membuat kesilapan. Kesilapan ini boleh disebabkan oleh input yang direka dengan teliti, secara amnya bertujuan untuk mengeksploitasi kelemahan sistem atau kelas kelemahan tertentu. Tujuan contoh musuh adalah untuk mengenal pasti potensi kelemahan dalam sistem, atau untuk menunjukkan kepada pengguna atau pembangun bahawa kelemahan tersebut mungkin wujud.

Contoh lawan biasanya dibuat dengan memilih nilai input yang sangat hampir dengan sempadan keputusan sistem, dengan tujuan untuk memintas logik keputusan pengelas. Sistem perisian sasaran mungkin algoritma penglihatan komputer, atau algoritma pembelajaran mesin. Contoh lawan mungkin juga dibuat dengan mencari input luar biasa yang menyimpang daripada pengagihan input sistem yang dijangkakan.

Contoh musuh menarik minat dalam bidang keselamatan siber kerana ia merupakan cara yang berpotensi untuk memintas sistem pengesanan atau pengelasan standard. Sebagai contoh, penyerang mungkin membentangkan e-mel yang mengandungi kod hasad, tetapi kod itu menyamar untuk kelihatan seperti kandungan biasa kepada sistem pengesanan berasaskan tandatangan automatik.

Contoh musuh juga boleh digunakan oleh penyelidik untuk mengenal pasti masalah yang berpotensi dalam pengelas pembelajaran mesin. Dengan membentangkan satu siri input yang dibuat, penyelidik boleh menentukan sama ada pengelas berkelakuan seperti yang diharapkan.

Contoh lawan juga dilihat sebagai alat yang berpotensi dalam pembelajaran mesin lawan - penggunaan teknik pembelajaran mesin untuk menyerang sistem pembelajaran mesin atau untuk mendalami pemahaman sistem (atau set data) untuk mengukuhkannya.

Contoh musuh telah mendapat perhatian dan minat sebahagian besarnya disebabkan oleh potensi implikasinya dalam keselamatan siber, privasi data dan keselamatan maklumat. Ia juga dilihat sebagai satu jalan yang mungkin dalam pembangunan sistem pembelajaran mesin yang selamat, membantu menunjukkan bahawa sistem sedemikian kekal teguh terhadap input berniat jahat.