AQSh hukumati Anthropic’ni ikkita eng kuchli AI modelini oʻchirishga majbur qildi
AQSh hukumati milliy xavfsizlikka oid xavotirlar sabab Anthropic kompaniyasiga Fable 5 va Mythos 5 modellaridan xorijiy fuqarolarning foydalanishini toʻxtatish boʻyicha koʻrsatma berdi. Kompaniya talabni texnik jihatdan alohida foydalanuvchilarga qoʻllay olmagani uchun modellarni barcha mijozlar uchun oʻchirishga majbur boʻldi.
Anthropic AQSh hukumatining eksport nazorati boʻyicha koʻrsatmasiga muvofiq Fable 5 va Mythos 5 sunʼiy intellekt modellariga kirishni toʻliq toʻxtatdi. Cheklov AQSh hududida yoki undan tashqarida boʻlishidan qatʼi nazar, barcha xorijiy fuqarolarga, jumladan kompaniyaning xorijlik xodimlariga ham tatbiq etilgan.
Kompaniyaga koʻra, hukumat koʻrsatmasini bajarish uchun xorijiy foydalanuvchilarnigina tizimdan ajratish imkoniyati boʻlmagan. Shu sababli Fable 5 va Mythos 5 barcha mijozlar uchun birdaniga oʻchirildi. Anthropic’ning boshqa AI modellari faoliyatida esa oʻzgarish boʻlmaydi.
Anthropic hukumat xatini 12 iyun kuni AQSh sharqiy vaqti bilan soat 17:21 da olganini bildirdi. Hujjatda milliy xavfsizlikka tahdidning aniq tafsilotlari ochiqlanmagan. Kompaniyaning tushunishicha, hukumat Fable 5 himoya cheklovlarini chetlab oʻtish — “jailbreak” qilish imkonini beruvchi usul haqida maʼlumot olgan.
Mazkur usul modelga dasturiy kodni tahlil qildirish va undagi zaifliklarni topishga imkon bergani aytilmoqda. Anthropic namoyish qilingan holatni oʻrganib, model ilgari maʼlum boʻlgan bir nechta kichik dasturiy zaiflikni aniqlaganini qayd etgan.
Biroq kompaniya bunday imkoniyat faqat Fable 5 yoki Mythos 5’ga xos emasligini taʼkidlamoqda. Anthropic’ning daʼvo qilishicha, xuddi shu zaifliklarni boshqa ommaga ochiq AI modellari ham maxsus himoyani chetlab oʻtmasdan aniqlay oladi.
Kompaniya Fable 5 ishga tushirilishidan avval uning xavfsizlik tizimlari AQSh hukumati, Buyuk Britaniyaning AI Security Institute tashkiloti, mustaqil kompaniyalar va ichki guruhlar tomonidan minglab soat davomida sinovdan oʻtkazilganini bildirdi. Anthropic hozirgacha model himoyasini keng koʻlamda buzadigan universal “jailbreak” usuli topilmaganini qayd etmoqda.
Shunga qaramay, kompaniya har qanday AI modelini barcha chetlab oʻtish usullaridan mutlaq himoyalash hozircha imkonsiz boʻlishi mumkinligini tan olgan. Shu sababli Fable 5’da bir nechta himoya qatlamlari, doimiy monitoring va shubhali faoliyatni aniqlash tizimi qoʻllangan.
Anthropic xavfsizlik buzilishlarini oʻrganish uchun Fable 5 foydalanuvchilarining maʼlumotlarini 30 kun davomida saqlash talabini ham joriy qilgan edi. Kompaniya bu siyosat ayrim mijozlarning noroziligiga sabab boʻlgan boʻlsa-da, potensial hujumlarni aniqlash va bartaraf etish uchun zarur ekanini bildirmoqda.
Anthropic hukumat koʻrsatmasiga rioya qilayotganini, biroq uning asoslariga qoʻshilmasligini maʼlum qildi. Kompaniya tor doirada ishlaydigan va zararli natijaga olib kelgani isbotlanmagan bitta potensial “jailbreak” sabab yuz millionlab foydalanuvchiga taqdim etilgan tijoriy modelni toʻliq oʻchirish haddan tashqari keskin chora ekanini taʼkidlagan.
Kompaniya fikricha, ushbu mezon butun AI sanoatiga bir xil tatbiq qilinsa, yetakchi ishlab chiquvchilarning yangi modellarni ommaga taqdim etishi deyarli toʻxtab qolishi mumkin. Anthropic xavfli AI modellarini bloklash vakolati hukumatda boʻlishini qoʻllab-quvvatlashini, ammo bunday qarorlar shaffof, adolatli va aniq texnik dalillarga asoslangan tartibda qabul qilinishi kerakligini bildirgan.
Hozircha AQSh hukumati koʻrsatmasining batafsil texnik asoslari ochiqlanmagan. Anthropic vaziyatni “tushunmovchilik” deb baholab, Fable 5 va Mythos 5’ga kirishni qayta tiklash uchun hukumat bilan muzokara olib borayotganini maʼlum qildi.
