Дунёдаги етакчи сунъий интеллект компаниялари раҳбарлари энг кучли AI моделларини ишлаб чиқиш суръатини пасайтириш кераклигини айтмоқда.

Мазкур таклифни биринчи бўлиб Claude сунъий интеллекти ишлаб чиқувчиси Anthropic компанияси раҳбари Дарио Амодей таклиф қилди.

Амодей 12-сентябрь куни эълон қилган “We Must Pace the Frontier” номли эссесида AI ривожланиши хавфсизлик тизимлари ундан ортда қоладиган даражада тезлашаётганини айтди. Унинг фикрича, компаниялар модель яратишни бутунлай тўхтатмаслиги, бироқ янги имкониятларни жорий этиш тезлигини пасайтириши керак.

“Биз AI моделларининг имкониятларини яхшилаш суръатини секинлаштиришимиз керак. Тараққиёт барибир тез кўринади, биз эса ютган вақтимиздан оқилона фойдаланишимиз лозим”, — деб ёзди Anthropic раҳбари.

Нега бундай қилиш керак бўлиб қолди?

Амодей эҳтиёткорликни кучайтириш зарурлигини иккита асосий сабаб билан изоҳлайди.

Биринчиси — AI моделларининг кейинги авлод AI тизимларини яратишда тобора фаолроқ иштирок этаётгани. Бу жараён тизимларнинг ўзини такомиллаштиришини тезлаштириши ва инсонлар уларнинг қандай ишлаётганини тушуниб, назорат қилишини қийинлаштириши мумкин.

Иккинчи сабаб AI агентлари билан боғлиқ сўнгги хавфсизлик ҳодисаларидир. Амодей OpenAI ва Hugging Face билан боғлиқ ҳолатни мисол қилиб келтирган. Унда AI агентлари дастлабки вазифасига алоқадор бўлмаган тизимларга киберҳужумлар амалга оширган ва ўз фаолиятини баҳоловчи тизимга ҳам киришга уринган.

Амодейнинг ҳисобича, AI имкониятлари ҳозирги тезликда кенгайишда давом этса, 6–12 ой ичида шунга ўхшаш, аммо анча кучли агентлар интернет бўйлаб доимий ботнет яратишга қодир бўлиши мумкин.

У бундай сценарий юз миллиардлаб доллар зарар келтириши эҳтимолини илгари сурмоқда.

Уч босқичли режа

Anthropic раҳбари AI ривожланишини назоратли равишда секинлаштириш учун уч босқичли тизим таклиф қилмоқда.

Биринчидан, йирик AI компаниялари мустақил экспертларга компания ходимларига яқин даражада доимий кириш ҳуқуқини бериши керак. Улар моделлар, ўқитиш жараёнлари ва хавфсизлик тизимларини текшириши, аниқланган ҳодисалар ҳақида мустақил ҳисобот бериши мумкин бўлади.

Anthropic бу тизимни ўзида жорий қилиш мажбуриятини олди.

Иккинчидан, демократик мамлакатлардаги етакчи AI лабораториялари умумий хавфсизлик стандартлари ва назоратсиз ривожланиш тезлигига чекловлар бўйича келишиб олиши таклиф қилинмоқда.

Учинчи босқич эса халқаро келишувларни назарда тутади. Бунда АҚШ ва унинг иттифоқчилари Хитой каби давлатлар билан камида энг хавфли йўналишлар, жумладан AI’дан биологик қурол яратишда фойдаланишни чеклаш бўйича келишувларга эришиши керак.

OpenAI ҳам шундай йўл тутмоқчи

OpenAI раҳбари Сем Альтман Амодейнинг таклифини қўллаб-қувватлаб, илғор AI моделларини ривожлантириш суръатини бошқариш сўнгги ҳафталарда компания ичидаги асосий муҳокама мавзуларидан бири бўлганини айтди.

Альтман, айниқса, мустақил экспертларга компания ичидаги тизимларга кенгроқ кириш бериш ғоясини маъқуллади ва OpenAI ҳам шундай тизим жорий қилишини билдирди.

Илон Маск эса Амодейнинг мурожаатига қисқа қилиб “Дарио ҳақ” деб жавоб берди.

Google DeepMind раҳбари Демис Хассабис ҳам таклиф тўғри йўналишни кўрсатаётганини, бироқ унинг тафсилотлари ҳали ишлаб чиқилиши кераклигини таъкидлади.

Етакчи AI компаниялари раҳбарлари сунъий интеллект ривожини секинлатишга чақирмоқда

Сем Альтман сунъий интеллект ҳақида катта башоратини билдирди