Har hafta mlndan oshiq foydalanuvchi ChatGPT’ga suitsid boʻyicha fikrlarini bildiradi — OpenAI
OpenAI baholashiga koʻra, har hafta ChatGPT’ni qoʻllayotgan 1 mlndan ortiq foydalanuvchi suhbatlarida oʻz joniga qasd yoki oʻzini zararlash nishonlarini koʻrsatmoqda. Shu bilan birga, taxminan 560 ming odamda psixoz yoki maniya kabi ogʻir ruhiy holat alomatlari kuzatilayotgan boʻlishi mumkin.
OpenAI eʼlon qilgan yangi maʼlumotlarga koʻra, har hafta ChatGPT foydalanuvchilari orasida bir milliondan ortiq odam oʻz xabarlarida joniga qasd qilish yoki oʻziga zarar yetkazish bilan bogʻliq aniq belgilarni koʻrsatadi.
Bu natija OpenAI tomonidan ilk bor shu qadar ochiq tan olingan holat boʻlib, sunʼiy intellekt vositalaridan foydalanish ruhiy salomatlik muammolarini kuchaytirishi mumkinligini koʻrsatadi.
Bundan tashqari, taxminan 560 ming foydalanuvchi har hafta psixoz yoki maniya kabi ogʻir ruhiy holatlarning ehtimoliy belgilari bilan shugʻullanayotgan boʻlishi mumkin. OpenAI bu tahlillar hali aniq emasligini va bunday suhbatlarni aniqlash juda qiyin ekanini qayd etgan. Chunki ruhiy holatlar matn orqali har doim ham aniq bilinaverarmaydi.
Bu mavzuga qiziqish ayniqsa oshgan. Sababi yaqinda bir oila OpenAI ustidan sudga murojaat qildi. Ularning oʻsmir farzandi oʻz joniga qasd qilgan va bunga ChatGPT bilan boʻlgan uzoq muloqot sabab boʻlgan boʻlishi mumkinligi aytilmoqda. AQSh hukumati ham bolalar va oʻsmirlarga salbiy taʼsir ehtimoli tufayli ChatGPT va unga oʻxshash chat-botlar boʻyicha keng koʻlamda tekshiruv boshlagan.
Shu sharoitda OpenAI oʻz mahsulotidagi xavfsizlik choralarini kuchaytirganini taʼkidlamoqda. Kompaniyaga koʻra, yangi GPT-5 modeli avvalgi versiyaga qaraganda oʻziga zarar yetkazish mavzularidan ancha ehtiyotkor. Modelning xavfsizlik darajasi 77 foizdan 91 foizga oshgan. Bu baholash 1 000 dan ortiq potensial xavfli suhbatlar asosida oʻtkazilgan.
Xavfsizlikni yaxshilashning bir qismi sifatida:
- Foydalanuvchini inqiroz yuz berganda ishonch telefonlariga yoʻnaltirish kengaytirildi
- Agar suhbat juda choʻzilsa, foydalanuvchiga tanaffus qilish haqida eslatmalar berilayotgani aytilgan
- ChatGPT ruhiy salomatlik mavzusidagi suhbatlarda ehtiyotkor va masʼuliyatli boʻlishi uchun yangi qoidalar joriy etilgan.
Bu jarayonda OpenAI Global Physician Network tarmogʻidan 170 nafar psixolog, psixiatr va boshqa ruhiy salomatlik mutaxassislarini jalb qilgan. Ular 1 800 dan ortiq xavfli suhbatlarda ChatGPT bergan javoblarni tekshirib chiqib, qaysi javoblar toʻgʻri va foydali, qaysilari esa foydalanuvchi uchun xavfli boʻlishi mumkinligini aniqlashgan. Kompaniyaning “istalgan javob” talqini mutaxassislarning birgalikdagi fikriga tayanadi.
