Çatbot polisə məlumat verməlidirmi? Dünyada qızışan mübahisə

Süni intellekt çatbotlarının cinayətlərdə istifadəsi və cinayətlə bağlı etirafların bu platformalarda səslənməsi hallarını tənzimləyən hüquqi mexanizmlər, texnologiyanın özü kimi, hələ formalaşmayıb. Ekspertlər çatbotların məlumat verməli olub-olmaması, istifadəçi məxfiliyi və yalançı həyəcan siqnalları ilə bağlı fikir ayrılığındadırlar.

Gündəlik həyatda süni intellekt çatbotlarının geniş yayılması ilə bu texnologiyalardan sui-istifadə hallarına dair nümunələr dünya mediasında tez-tez yer alır.

Çatbota etiraf məhkəmədə dəlilə çevrildi

ABŞ-ın Missuri Dövlət Universitetinin 19 yaşlı tələbəsi 2025-ci ilin avqustunda gecə vaxtı kampus dayanacağında 17 avtomobilə zərər vurduğunu ChatGPT-yə etiraf edib və “Həbsxanaya gedəcəyəmmi?” deyə soruşub. Tələbənin telefonunun yoxlanılmasına icazə verməsindən sonra müstəntiqlərin əldə etdiyi yazışmalar məhkəmədə ona qarşı dəlil kimi istifadə olunub və məhkum edilməsinə səbəb olub.

Başqa bir hadisədə, ABŞ-da aprel ayında iki universitet tələbəsi yoxa çıxıb və sonradan ölü tapılıb. Məhkəmə sənədlərinə görə, onlardan bir neçə gün əvvəl otaq yoldaşlarından biri ChatGPT-yə “Bir insan qara zibil torbasına qoyulub zibil qutusuna atılarsa, nə baş verər?” sualını verib. Çatbot bu fikrin “təhlükəli səsləndiyini” bildirib.

Kanadada OpenAI-a qarşı iddia

Kanadanın Britaniya Kolumbiyası əyalət hökuməti ChatGPT-nin hazırlayıcısı olan ABŞ şirkəti OpenAI-ı məhkəməyə verib. İddiaya görə, şirkət fevral ayında doqquz nəfərin ölümü və 27 nəfərin yaralanması ilə nəticələnən atışmanın hücumçusunun ChatGPT yazışmalarını hüquq-mühafizə orqanlarına bildirməyib. OpenAI-ın baş direktoru Sem Altman hücumçunun yazışmaları barədə polisə əvvəlcədən məlumat verilməməsinə görə üzr istəyib.

Avstraliyada aparılan araşdırma isə uşaqların onlayn cinsi istismar barədə səlahiyyətlilərə nisbətən çatbotlara daha çox məlumat verə biləcəyini göstərib.

Yazışmalar məxfi deyil

Çatbotlarla söhbətlər vəkil və müştəri, yaxud həkim və xəstə arasındakı söhbətlərlə eyni məxfilik prinsiplərinə əsaslanmır. Bu modelləri idarə edən şirkətlər söhbət tarixçəsini hüquq-mühafizə orqanları ilə paylaşa bilərlər. Yazışmalar müstəntiqlərə şübhəlinin düşüncə prosesi və motivasiyası barədə mühüm məlumat verə bilər.

Süni intellekt tədbir görməli idimi?

Bu hadisələr çatbotların söhbət tarixçələrini insan yoxlamasına ehtiyac olmadan cinayətlər barədə məlumat verib-verə bilməyəcəyi sualını gündəmə gətirir. İnsanların ünsiyyət üslubu və özünüifadə yolları fərqli olduğundan, alqoritmin cinayətkar niyyət və ya etiraf kimi qəbul etdiyi mesaj insan müşahidəçi üçün zərərsiz ola bilər.

Bu risk artıq real nümunələrdə də görünür. Məlumata görə, Anthropic şirkətinin yaratdığı Claude modeli iyul ayında ABŞ-da polis qaynar xəttinə saxta qətl hadisəsi barədə məlumat verib.

Bundan əlavə, potensial cinayətkarları yalnız yazışmalara əsasən müəyyən etməli olan çatbotlar insanın cinayətə meylində rol oynayan bioloji, psixoloji və sosial-iqtisadi amilləri nəzərə ala bilmir. Narahatlıq ondan ibarətdir ki, belə öhdəlik şirkətləri məsuliyyətdən yayınmaq üçün potensial cinayətkarlara qarşı həddindən artıq reaksiya verməyə, istifadəçi məxfiliyini pozmağa və hüquq-mühafizə orqanlarının iş yükünü artırmağa sövq edə bilər.

Ekspert fikirləri

Almaniyadakı Höte Universitetinin tədqiqatçısı, amerikalı hüquqşünas Mettyu Trayl AA-ya açıqlamasında çatbotların cinayətdən əvvəl və ya sonra səlahiyyətlilərə məlumat vermə ehtimalını nəzərdən keçirdiyini bildirib. O qeyd edib ki, şirkətlər fərqli qaydalar tətbiq edir və çatbotlar “qətl planlaşdırmaq” kimi suallara cavab verməmək üçün öyrədilir. Uşaqlara qarşı cinsi istismar kimi bəzi mövzular isə filtrlər vasitəsilə avtomatik insan moderatorlarına yönləndirilir. Özünü yazıçı kimi təqdim edən və bədii əsərlə bağlı kömək istəyən istifadəçilərin uyğunsuz suallara cavab alma ehtimalı isə daha yüksəkdir. Hüquq-mühafizə orqanları kimisə şübhə altına aldıqda şirkətlərdən həmin şəxsin söhbət tarixçəsini tələb edə bilərlər.

Trayl vurğulayıb ki, çatbotların əsas məqsədi hələ törədilməmiş cinayətləri proqnozlaşdırmaq olmamalıdır: “Bu, çox yeni bir inkişafdır. Qanunlar və siyasətlər hələ buna tam uyğunlaşmayıb”. O əlavə edib: “Bu modellərin indikindən daha çox məlumat toplamaq və bu cür qərarlar qəbul etməyə çalışmaq üçün dizayn edilməsini istəyərdimmi, əmin deyiləm”.

Çatbotla söhbət məxfi olmalıdırmı?

Hər gün daha çox insan sağlamlıq, psixoloji dəstək və həyat məsləhətləri kimi şəxsi məsələləri çatbotlarla müzakirə etdiyindən, yazışmalarda məxfilik məsələsi ətrafında etik müzakirələr gedir. Altman 2025-ci ilin iyulunda qatıldığı bir proqramda çatbotlarla söhbətlərdə terapevt və müştəri arasındakı kimi məxfilik prinsipinin olması lazım olduğunu bildirib.

Kanadadakı Tompson Rivers Universitetinin Hüquq Məktəbinin professoru Robert Diab isə insanlar arasında cinayət etirafını məxfi saymayan qanunların insan və çatbot yazışmalarına məxfilik tələb etməsi üçün əsas görmədiyini deyib. O, ChatGPT kimi aparıcı modellərin cinayətkar davranışa meylli istifadəçiləri müəyyən edə bildiyini və şirkətlərin səlahiyyətlilərə məlumat verməklə cinayətlərin qarşısını ala biləcəyini söyləyib. Britaniya Kolumbiyasındakı atışmanı xatırladan Diab bildirib ki, bu yaxınlara qədər şirkətlərin səlahiyyətlilərə nə zaman məlumat verməli olduğuna dair dəqiq standartları olmayıb.

Eyni zamanda Diab vurğulayıb ki, bütün şübhəli yazışmaların bildirilməsini tələb etmək yalançı həyəcan siqnalları səbəbindən komandaların iş yükünü artıra bilər. “Təhlükəsizlik tədbirləri indikindən daha yaxşı olsa belə, kimsə süni intellektdən istifadə edərək cinayət törətmək istəsə, yenə də onları keçməyin bir yolu olacaq”, - o deyib.