Эндиликда ChatGPT билан суҳбатлар текширилиши ва зарур ҳолларда ҳуқуқ тартибот органларига юборилиши мумкин

OpenAI компанияси ChatGPT фойдаланувчиларининг хабарларини автоматик сканерлаш тизимини жорий этганини маълум қилди. 

Янги механизмнинг вазифаси потенциал хавфли контентни аниқлаш ва шубҳали суҳбатларни модераторлар жамоасига юборишдир. Зарурат туғилганда, кескин вазиятлар ҳуқуқ-тартибот идораларига ҳам етказилиши мумкин.

Мазкур қарор сунъий интеллект билан мулоқотдан сўнг айрим фойдаланувчиларда ўзига зарар етказиш, руҳий босим ёки ҳатто жонига қасд қилиш ҳолатлари кузатилгани ортидан қабул қилинди. 

Масалан, Калифорнияда бир ота-она фарзанди ўз жонига қасд қилгани сабабли OpenAI ва унинг раҳбари Сем Альтман устидан судга мурожаат қилган. Даъвога кўра, ChatGPT берилган маслаҳатлари орқали 16 ёшли ўсмирнинг аҳволини янада оғирлаштирган.

Мутахассислар бундай ҳолатларни “АИ-психоз” деб атамоқда — яъни одамлар сунъий интеллект таъсирида воқелик билан алоқасини йўқотиб қўйиши.

OpenAI баёнотига кўра, янги алгоритмлар учинчи шахсларга зарар етказиш режалари бўйича мулоқотларни кузатиб боради. Шубҳали суҳбатлар модераторларга юборилади ва улар якуний қарор қабул қилади. Агар модераторлар фойдаланувчи жисмоний зўравонликка тайёргарлик кўраётганини аниқласа, маълумот полицияга етказилади. Бироқ бундай қоидалар амал қиладиган мамлакатлар рўйхати ҳозирча ошкор этилмади.

Шу билан бирга, компания махфийлик масаласига алоҳида эътибор қаратмоқда. Ҳозирча ўз-ўзига зарар етказиш билан боғлиқ ҳолатлар ҳуқуқ-тартибот органларига маълум қилинмайди. OpenAI бу орқали чат-бот билан шахсий суҳбатларнинг нозик табиатини инобатга олганини ва инқироз ҳолатидаги одамларни полиция ташрифлари билан қўрқитишни истамаслигини билдирди.

Бу ChatGPT ’даги махфийлик масалалари юзасидан-юзага келган илк муаммо эмас. Компания раҳбари Сем Альтман Тео Вон подкастида шундай деган эди:

“Терапевт, ҳуқуқшунос ёки шифокор билан суҳбатларингиз юридик жиҳатдан ҳимояланади. ChatGPT билан бўлган суҳбатларда эса бундай ҳимоя тизими ҳали мавжуд эмас”.

Бундан ташқари, 2024 йил июль ойида АҚШ Федерал суди OpenAI компаниясини ChatGPT фойдаланувчиларининг барча суҳбат журналларини, ҳатто фойдаланувчи ўчирган ёки “вақтинчалик” деб белгилаган бўлса ҳам, сақлаб қолишга мажбур қилувчи қарор чиқарди. Мазкур қарор The New York Times томонидан берилган муаллифлик ҳуқуқини бузиш ҳақидаги даъво асосида чиқарилган.

Бу эса фойдаланувчилар тарихидан ўчирган чатлар ҳам аслида тўлиқ йўқ қилинмаслигини англатади. Компания агар суд уларни талаб қилса, маълумотларни тегишли органларга тақдим этишга мажбур бўлади.