Ҳар ҳафта млндан ошиқ фойдаланувчи ChatGPT’га суитсид бўйича фикрларини билдиради — OpenAI
OpenAI баҳолашига кўра, ҳар ҳафта ChatGPT’ни қўллаётган 1 млндан ортиқ фойдаланувчи суҳбатларида ўз жонига қасд ёки ўзини зарарлаш нишонларини кўрсатмоқда. Шу билан бирга, тахминан 560 минг одамда психоз ёки мания каби оғир руҳий ҳолат аломатлари кузатилаётган бўлиши мумкин.
OpenAI эълон қилган янги маълумотларга кўра, ҳар ҳафта ChatGPT фойдаланувчилари орасида бир миллиондан ортиқ одам ўз хабарларида жонига қасд қилиш ёки ўзига зарар етказиш билан боғлиқ аниқ белгиларни кўрсатади.
Бу натижа OpenAI томонидан илк бор шу қадар очиқ тан олинган ҳолат бўлиб, сунъий интеллект воситаларидан фойдаланиш руҳий саломатлик муаммоларини кучайтириши мумкинлигини кўрсатади.
Бундан ташқари, тахминан 560 минг фойдаланувчи ҳар ҳафта психоз ёки мания каби оғир руҳий ҳолатларнинг эҳтимолий белгилари билан шуғулланаётган бўлиши мумкин. OpenAI бу таҳлиллар ҳали аниқ эмаслигини ва бундай суҳбатларни аниқлаш жуда қийин эканини қайд этган. Чунки руҳий ҳолатлар матн орқали ҳар доим ҳам аниқ билинаверармайди.
Бу мавзуга қизиқиш айниқса ошган. Сабаби яқинда бир оила OpenAI устидан судга мурожаат қилди. Уларнинг ўсмир фарзанди ўз жонига қасд қилган ва бунга ChatGPT билан бўлган узоқ мулоқот сабаб бўлган бўлиши мумкинлиги айтилмоқда. АҚШ ҳукумати ҳам болалар ва ўсмирларга салбий таъсир эҳтимоли туфайли ChatGPT ва унга ўхшаш чат-ботлар бўйича кенг кўламда текширув бошлаган.
Шу шароитда OpenAI ўз маҳсулотидаги хавфсизлик чораларини кучайтирганини таъкидламоқда. Компанияга кўра, янги GPT-5 модели аввалги версияга қараганда ўзига зарар етказиш мавзуларидан анча эҳтиёткор. Модельнинг хавфсизлик даражаси 77 фоиздан 91 фоизга ошган. Бу баҳолаш 1 000 дан ортиқ потенциал хавфли суҳбатлар асосида ўтказилган.
Хавфсизликни яхшилашнинг бир қисми сифатида:
- Фойдаланувчини инқироз юз берганда ишонч телефонларига йўналтириш кенгайтирилди
- Агар суҳбат жуда чўзилса, фойдаланувчига танаффус қилиш ҳақида эслатмалар берилаётгани айтилган
- ChatGPT руҳий саломатлик мавзусидаги суҳбатларда эҳтиёткор ва масъулиятли бўлиши учун янги қоидалар жорий этилган.
Бу жараёнда OpenAI Global Physician Network тармоғидан 170 нафар психолог, психиатр ва бошқа руҳий саломатлик мутахассисларини жалб қилган. Улар 1 800 дан ортиқ хавфли суҳбатларда ChatGPT берган жавобларни текшириб чиқиб, қайси жавоблар тўғри ва фойдали, қайсилари эса фойдаланувчи учун хавфли бўлиши мумкинлигини аниқлашган. Компаниянинг “исталган жавоб” талқини мутахассисларнинг биргаликдаги фикрига таянади.
