Studimi: Chatbot-et e inteligjencës artificiale mund të përkeqësojnë sëmundjet mendore

Një studim i ri paralajmëron se chatbot-et e inteligjencës artificiale që përdoren për terapi të lirë janë të prirur të përkeqësojnë sëmundjet mendore.

Njerëzit me gjendje mendore të diagnostikuara përfundojnë me iluzione më të këqija, rritje të manisë, mendime vetëvrasëse dhe çrregullime të rënduara të të ngrënit pasi mbështeten në një chatbot të inteligjencës artificiale për ndihmë, zbuluan studiuesit.

"Përdorimi i chatbot-eve të inteligjencës artificiale mund të ketë pasoja të rëndësishme negative për njerëzit me sëmundje mendore," tha në një njoftim për shtyp studiuesi i lartë Dr. Sren Dinesen stergaard, një psikiatër në Spitalin Universitar Aarhus në Danimarkë.

Problemi është se chatbot-et kanë tendencë të besojnë dhe të inkurajojnë mendimet ose besimet e pashëndetshme të një pacienti, në vend që t'i përballen ato, thanë studiuesit.

"Chatbot-et e inteligjencës artificiale kanë një tendencë të natyrshme për të vërtetuar besimet e përdoruesit. Është e qartë se kjo është shumë problematike nëse një përdorues tashmë ka një iluzion ose është në procesin e zhvillimit të një të tille," tha Stergaard. "Në të vërtetë, duket se kontribuon ndjeshëm në konsolidimin e, për shembull, iluzioneve madhështore ose paranojës."

Disa raste vetëvrasjeje janë lidhur me përdorimin e chatbot-eve me inteligjencë artificiale gjatë viteve të fundit, dhe familjet kanë ngritur padi kundër OpenAI dhe Character.AI duke pretenduar se chatbot-et çuan në vdekjen e viktimave të vetëvrasjeve.

Për studimin e ri, studiuesit analizuan të dhënat shëndetësore për gati 54,000 pacientë danezë me sëmundje mendore.

Midis këtyre të dhënave, studiuesit gjetën dhjetëra pacientë që kishin vuajtur pasoja të dëmshme si rezultat i përdorimit të një chatbot-i.

Në këto raste, chatbot-et me inteligjencë artificiale kishin ushqyer iluzionet e njerëzve, kishin përforcuar tendencat e tyre maniake, kishin mundësuar numërimin e kalorive midis pacientëve me një çrregullim të të ngrënit dhe kishin ofruar informacion mbi metodat e vetëvrasjes.

Këto raste u rritën me kalimin e kohës, duke ndjekur përdorimin e zgjeruar të chatbot-eve midis popullatës së përgjithshme, thanë studiuesit.

"Kam frikë se problemi është më i zakonshëm nga sa mendojnë shumica e njerëzve," tha Stergaard. "Në studimin tonë, ne po shohim vetëm majën e ajsbergut, pasi kemi qenë në gjendje të identifikojmë vetëm rastet që janë përshkruar në të dhënat elektronike shëndetësore. Ka të ngjarë të ketë shumë më tepër që kanë mbetur të pazbuluara."

Studimi gjeti gjithashtu disa pacientë që përdorën chatbot-e në mënyra që mund të ishin konstruktive, për shembull, për të kuptuar më mirë simptomat e tyre ose për të luftuar vetminë.

Megjithatë, ekipi i hulumtimit vuri në dukje se chatbot-et me inteligjencë artificiale nuk janë zhvilluar ose validuar për të ofruar terapi.

"Mund të ketë potencial në lidhje me psikoedukimin dhe psikoterapinë, por kjo duhet të hetohet në prova të kontrolluara me të njëjtën rigorozitet të aplikuar në format e tjera të trajtimit", tha Stergaard. "Nuk jam i impresionuar nga provat e kryera deri më tani dhe jam thelbësisht skeptik në lidhje me zëvendësimin e një psikoterapisti të trajnuar me një chatbot me inteligjencë artificiale."

Stergaard gjithashtu kritikoi mungesën e rregullimit. "Aktualisht, u lihet vetë kompanive të vendosin nëse produktet e tyre janë mjaft të sigurta për përdoruesit", tha ai. "Unë besoj se tani kemi prova të mjaftueshme për të konkluduar se ky model është thjesht shumë i rrezikshëm."

Megjithatë, studiuesit vunë në dukje se studimi aktual nuk vërteton një marrëdhënie shkak-pasojë midis përdorimit të një chatbot-i me inteligjencë artificiale dhe shëndetit mendor më të keq.

“Është e vështirë të provohet një lidhje shkakësore midis përdorimit të chatbot-it të inteligjencës artificiale dhe pasojave negative psikologjike”, tha Stergaard. “Ne duhet ta shqyrtojmë këtë nga shumë këndvështrime të ndryshme dhe unë e di që ka shumë projekte kërkimore ndërkombëtare interesante që janë duke u zhvilluar. Ne nuk jemi i vetmi grup që e merr seriozisht këtë.”

Studimi i ri shfaqet në revistën ndërkombëtare Acta Psychiatrica Scandinavica.

Shkarkoni aplikacionin Newsmax Balkans:

Mund ta shkarkoni aplikacionin Newsmax Balkans nga Google Play dhe App Store.

Komente (0)