Tadqiqotchilar aytilganlarning asl ma’nosini sun’iy intellektdan yashirishni o’rgandilar
Tabiiy tilni qayta ishlash algoritmlari «parafraza hujumlari»ga zaifdir.
IBM, Amazon va Texas universiteti tadqiqotchilari jamoasi tabiiy tilni qayta ishlash (NLP) algoritmlariga hujumni ishlab chiqdilar, bu ularga sun’iy intellekt modelining xatti-harakatlarini o’zgartirish imkonini berdi. Tadqiqotchilar tomonidan «parafraza hujumi» deb nomlangan hujum 1-aprel, dushanba kuni Stenford universitetida bo’lib o’tgan AI konferensiyasida taqdim etildi. U kirish matnini AI asl ma’nosini saqlab qolgan holda boshqacha qabul qilishi uchun o’zgartirishni o’z ichiga oladi.
Masalan, elektron pochta xabarlari tarkibini tahlil qiladigan va ularni «spam» yoki «spam emas» deb belgilaydigan sun’iy intellekt algoritmi mavjud. Hujumchi spam xabar matnini shunday o’zgartirishi mumkinki, sun’iy intellekt uni «spam emas» deb tasniflaydi. Biroq, inson uchun xabarning ma’nosi o’zgarishsiz qoladi.
Matn modellariga qilingan avvalgi hujumlar jumladagi bitta so’zni o’zgartirishni o’z ichiga olgan. Ushbu matnni o’zgartirish algoritmni aldagan bo’lsa-da, natijada paydo bo’lgan jumlalar g’ayritabiiy va g’alati tuyulardi. IBM, Amazon va Texas universiteti tadqiqotchilari jamoasi jumlalardagi so’zlarni o’zgartirmaslikka, balki o’qish qulayligini saqlab qolgan holda ularni butunlay qayta shakllantirishga qaror qilishdi.
Tadqiqotchilar NLP modelining xatti-harakatlarini manipulyatsiya qiladigan optimal jumla modifikatsiyalarini topish uchun algoritm yaratdilar. Stenford universitetida bo’lib o’tgan konferensiyada jamoa bunday modifikatsiyalarning illyustratsion misollarini taqdim etdi. Masalan, «Ba’zi taniqli konglomeratlardan past narxlar» jumlasini «Quyida keltirilgan ba’zi taniqli brendlardan past narxlar» bilan almashtirish orqali tadqiqotchilar NLP modelini ochiq reklama xabarini «spam emas» deb tasniflashga majbur qilishga muvaffaq bo’lishdi.
