Dunyodagi yetakchi sunʼiy intellekt kompaniyalari rahbarlari eng kuchli AI modellarini ishlab chiqish surʼatini pasaytirish kerakligini aytmoqda.

Mazkur taklifni birinchi boʻlib Claude sunʼiy intellekti ishlab chiquvchisi Anthropic kompaniyasi rahbari Dario Amodey taklif qildi.

Amodey 12-sentabr kuni eʼlon qilgan “We Must Pace the Frontier” nomli essesida AI rivojlanishi xavfsizlik tizimlari undan ortda qoladigan darajada tezlashayotganini aytdi. Uning fikricha, kompaniyalar model yaratishni butunlay toʻxtatmasligi, biroq yangi imkoniyatlarni joriy etish tezligini pasaytirishi kerak.

“Biz AI modellarining imkoniyatlarini yaxshilash surʼatini sekinlashtirishimiz kerak. Taraqqiyot baribir tez koʻrinadi, biz esa yutgan vaqtimizdan oqilona foydalanishimiz lozim”, — deb yozdi Anthropic rahbari.

Nega bunday qilish kerak boʻlib qoldi?

Amodey ehtiyotkorlikni kuchaytirish zarurligini ikkita asosiy sabab bilan izohlaydi.

Birinchisi — AI modellarining keyingi avlod AI tizimlarini yaratishda tobora faolroq ishtirok etayotgani. Bu jarayon tizimlarning oʻzini takomillashtirishini tezlashtirishi va insonlar ularning qanday ishlayotganini tushunib, nazorat qilishini qiyinlashtirishi mumkin.

Ikkinchi sabab AI agentlari bilan bogʻliq soʻnggi xavfsizlik hodisalaridir. Amodey OpenAI va Hugging Face bilan bogʻliq holatni misol qilib keltirgan. Unda AI agentlari dastlabki vazifasiga aloqador boʻlmagan tizimlarga kiberhujumlar amalga oshirgan va oʻz faoliyatini baholovchi tizimga ham kirishga uringan.

Amodeyning hisobicha, AI imkoniyatlari hozirgi tezlikda kengayishda davom etsa, 6–12 oy ichida shunga oʻxshash, ammo ancha kuchli agentlar internet boʻylab doimiy botnet yaratishga qodir boʻlishi mumkin.

U bunday ssenariy yuz milliardlab dollar zarar keltirishi ehtimolini ilgari surmoqda.

Uch bosqichli reja

Anthropic rahbari AI rivojlanishini nazoratli ravishda sekinlashtirish uchun uch bosqichli tizim taklif qilmoqda.

Birinchidan, yirik AI kompaniyalari mustaqil ekspertlarga kompaniya xodimlariga yaqin darajada doimiy kirish huquqini berishi kerak. Ular modellar, oʻqitish jarayonlari va xavfsizlik tizimlarini tekshirishi, aniqlangan hodisalar haqida mustaqil hisobot berishi mumkin boʻladi.

Anthropic bu tizimni oʻzida joriy qilish majburiyatini oldi.

Ikkinchidan, demokratik mamlakatlardagi yetakchi AI laboratoriyalari umumiy xavfsizlik standartlari va nazoratsiz rivojlanish tezligiga cheklovlar boʻyicha kelishib olishi taklif qilinmoqda.

Uchinchi bosqich esa xalqaro kelishuvlarni nazarda tutadi. Bunda AQSh va uning ittifoqchilari Xitoy kabi davlatlar bilan kamida eng xavfli yoʻnalishlar, jumladan AI’dan biologik qurol yaratishda foydalanishni cheklash boʻyicha kelishuvlarga erishishi kerak.

OpenAI ham shunday yoʻl tutmoqchi

OpenAI rahbari Sem Altman Amodeyning taklifini qoʻllab-quvvatlab, ilgʻor AI modellarini rivojlantirish surʼatini boshqarish soʻnggi haftalarda kompaniya ichidagi asosiy muhokama mavzularidan biri boʻlganini aytdi.

Altman, ayniqsa, mustaqil ekspertlarga kompaniya ichidagi tizimlarga kengroq kirish berish gʻoyasini maʼqulladi va OpenAI ham shunday tizim joriy qilishini bildirdi.

Ilon Mask esa Amodeyning murojaatiga qisqa qilib “Dario haq” deb javob berdi.

Google DeepMind rahbari Demis Xassabis ham taklif toʻgʻri yoʻnalishni koʻrsatayotganini, biroq uning tafsilotlari hali ishlab chiqilishi kerakligini taʼkidladi.

Yetakchi AI kompaniyalari rahbarlari sunʼiy intellekt rivojini sekinlatishga chaqirmoqda

Sem Altman sunʼiy intellekt haqida katta bashoratini bildirdi