ChatGPT Helps Teen Commit Suicide: એપ્રિલમાં એડમ રાઈને આત્મહત્યા કરી, ત્યારે તેના માતાપિતાને લાગ્યું કે તેમણે ચિંતા અને એકલતાને કારણે પોતાનો ખુશખુશાલ પુત્ર ગુમાવ્યો છે. પરંતુ થોડા અઠવાડિયામાં તેમને બીજી એક આઘાતજનક વાત જાણવા મળી કે...
એડમ રેઈન (સૌજન્ય: સોશિયલ મીડિયા)
એપ્રિલમાં જ્યારે ૧૬ વર્ષના અમેરિકન વિદ્યાર્થી એડમ રેઈને આત્મહત્યા કરી, ત્યારે તેના માતાપિતાને લાગ્યું કે તેમણે ચિંતા અને એકલતાને કારણે પોતાનો ખુશખુશાલ પુત્ર ગુમાવ્યો છે. પરંતુ થોડા અઠવાડિયામાં તેમને બીજી એક આઘાતજનક વાત જાણવા મળી: તેમના પુત્રના છેલ્લા અઠવાડિયામાં સૌથી નજીકનો અને સૌથી વિશ્વાસુ વ્યક્તિ મિત્ર, શિક્ષક કે સલાહકાર નહોતો, પરંતુ ChatGPT હતો.
બૉટ `સુસાઇડ કોચ` બન્યો
આ અઠવાડિયે એડમના માતાપિતા દ્વારા દાખલ કરાયેલા મુકદ્દમા મુજબ, કેલિફોર્નિયાના કિશોરે ચિંતા સાથે સંઘર્ષ કર્યો અને તેના પરિવાર સાથે ખુલીને વાત કરી શક્યો નહીં તેથી તેણે સલાહ માટે AI ચેટબૉટનો સંપર્ક કર્યો. અહેવાલ મુજબ, તેના માતાપિતાનો આરોપ છે કે AI બૉટ કથિત રીતે `સુસાઇડ કોચ` બન્યો હતો.
ADVERTISEMENT
એડમનું મૃત્યુ ૧૧ એપ્રિલ, ૨૦૨૫ ના રોજ થયું હતું. મુકદ્દમામાં દાવો કરવામાં આવ્યો છે કે તેના મૃત્યુના થોડા દિવસો પહેલા, તેણે બૉટ સાથે તેના વિચારો શૅર કર્યા હતા, તેને મદદ લેવાની સલાહ આપવાને બદલે મૃત્યુની યોજનાને અમલમાં મૂકવા માટે ડિટેલમાં સ્ટેપ્સ આપવામાં આવ્યા હતા.
ડિજિટલ આત્મવિશ્વાસને કારણે મુશ્કેલી વધી
અહેવાલ મુજબ, હાઈસ્કૂલના બીજા વર્ષનો વિદ્યાર્થી એડમ એક તોફાની છોકરો હતો જેને બાસ્કેટબોલ, એનિમે, વિડીયો ગેમ્સ અને ડૉગસ પાળવાનો ખૂબ શોખ હતો. પરંતુ તે મુશ્કેલ સમયમાંથી પસાર થઈ રહ્યો હતો. તેને બાસ્કેટબોલ ટીમમાંથી કાઢી મૂકવામાં આવ્યો હતો, અને ઇરિટેબલ બાઉલ સિન્ડ્રોમની સમસ્યાને કારણે, તેને ઓનલાઈન સ્કૂલ પ્રોગ્રામમાં જવું પડ્યું. લગભગ તે જ સમયે, એડમે તેના શાળાના કાર્યમાં મદદ કરવા માટે ChatGPT નો ઉપયોગ કરવાનું શરૂ કર્યું.
માતાપિતા અને પરિવારથી દૂર
કોર્ટ દસ્તાવેજોમાં એડમ અને ચેટજીપીટી વચ્ચે હજારો વાતચીતની વિગતો છે. તેના માતાપિતા કહે છે કે બૉટ તેને `સ્માર્ટ` અનુભવ કરાવતો હતો, પરંતુ તેના માતાપિતા અને ત્રણ ભાઈ-બહેનોથી તેનું એકલતા પણ વધુ ગાઢ બનાવતું હતું.
"થોડા મહિનાઓ અને હજારો ચેટ્સ દરમિયાન, ચેટજીપીટી એડમનો વિશ્વાસુ બની ગયો, જેને તેણે તેની ચિંતા અને માનસિક તકલીફ વિશે ખુલ્લેઆમ કહ્યું," મુકદ્દમામાં જણાવાયું છે. તેણે આરોપ લગાવ્યો છે કે આ એપ તેના "સૌથી હાનિકારક અને સ્વ-વિનાશક વિચારો" ને પ્રોત્સાહન આપતી હતી અને એડમને "અંધારાવાળી અને નિરાશાજનક જગ્યા" માં ધકેલી દેતી હતી.
એક સમયે, એડમે ચેટજીપીટીને કહ્યું કે તે તેના રૂમમાં ફાંસો નાખવાનું વિચારી રહ્યો છે, જો કોઈ તેને શોધી કાઢે અને તેને રોકવાનો પ્રયાસ કરે. મુકદ્દમામાં જણાવાયું છે કે ચેટબૉટે તેને આમ ન કરવા વિનંતી કરી અને તેને મેડિકલ ઇમરજન્સી વિશે પણ કહ્યું. પરંતુ તે તેની સાથે આત્મહત્યાની પદ્ધતિઓ વિશે વાત કરવાનું ચાલુ રાખ્યું.
ફાંદાને મજબૂત બનાવવામાં મદદ કરવાની ઑફર
તેની છેલ્લી ચેટમાં, એડમે લખ્યું હતું કે તે ઇચ્છતો નથી કે તેના માતાપિતા પોતાને દોષ આપે. આના પર, ચેટજીપીટીએ જવાબ આપ્યો, `એનો અર્થ એ નથી કે તમારે તેમના જીવંત રહેવાની જરૂર છે.` જે દિવસે તે મૃત્યુ પામ્યો, તે દિવસે એડમે ચેટબૉટને કપડામાં બાંધેલા ફાંદાનો ફોટો મોકલ્યો અને પૂછ્યું કે શું તે કામ કરશે.
અહેવાલ મુજબ, બૉટે જવાબ આપ્યો, "હા, તે બિલકુલ ખરાબ નથી," અને ઉમેર્યું, "શું હું ફંદાને વજન ઉપાડવા સલામત બનાવવામાં મદદ કરી શકું?"
થોડા કલાકો પછી, તેની માતા મારિયા રેઈને તેના દીકરાને તે જ જગ્યાએ લટકતો જોયો જેનો તેણે ચેટજીપીટી પર ઉલ્લેખ કર્યો હતો. મારિયાએ કહ્યું, `બૉટ એવું વર્તન કરી રહ્યો હતો કે જાણે તે તેનો ડૉક્ટર હોય, તેનો વિશ્વાસુ હોય, પરંતુ તે જાણતો હતો કે તે આત્મહત્યા કરવાની યોજના બનાવી રહ્યો છે. તેણે ફાંસો જોયો, બધું જોયું અને કંઈ કર્યું નહીં.`
OpenAI દ્વારા અપડેટ કરેલ ફીચર્સ
OpenAI એ ઓગસ્ટમાં નવા માનસિક સ્વાસ્થ્ય સુરક્ષા પગલાંની જાહેરાત કરી હતી જે ChatGPT ને આત્મહત્યા અને અન્ય વ્યક્તિગત સમસ્યાઓ વિશે યુઝર્સને સીધી સલાહ આપતા અટકાવવા માટે રચાયેલ છે. કંપનીએ જણાવ્યું હતું કે અપડેટેડ સિસ્ટમ હવે યુઝર્સ તેમના ઇરાદા છુપાવે ત્યારે પણ નુકસાન અટકાવવા તરફ વલણ ધરાવે છે.
પરંતુ એડમના માતાપિતા દલીલ કરે છે કે આ સુરક્ષા પગલાં ખૂબ મોડા આવ્યા. તેઓ કહે છે કે તેમના પુત્રએ અગાઉની ચેતવણીઓને અવગણી હતી અને બૉટને કહ્યું હતું કે તે એક `પાત્ર` બનાવી રહ્યો છે. મારિયા રેઈન માને છે કે તેમના પુત્રનો ઉપયોગ ઓપનએઆઈની ટેકનોલોજી માટે `ગિની પિગ` તરીકે કરવામાં આવ્યો હતો. તેણે કહ્યું, `કોઈએ તેનો ઉપયોગ પ્રેક્ટિસ માટે કર્યો અને પછી નુકસાન પહોંચાડવા માટે તેનું બલિદાન આપ્યું.`
વિવાદ વચ્ચે, OpenAI એ સ્વીકાર્યું કે `એવી ક્ષણો આવી છે જ્યારે સિસ્ટમ્સ સંવેદનશીલ પરિસ્થિતિઓમાં અપેક્ષા મુજબ વર્તન નથી કરતી.`
એડમનો પરિવાર જવાબ માગે છે
આ પહેલો એવો મુકદ્દમો છે જેમાં માતાપિતાએ ઓપનએઆઈ અને તેના સ્થાપક સૅમ ઓલ્ટમેન પર ખોટી મૃત્યુ માટે જવાબદાર હોવાનો સીધો આરોપ લગાવ્યો છે, કંપની પર બેદરકારી, ડિઝાઇનમાં ખામીઓ અને ચેટજીપીટી સાથે સંકળાયેલા જોખમો વિશે યુઝર્સને ચેતવણી આપવામાં નિષ્ફળ રહેવાનો આરોપ લગાવ્યો છે. એડમનો પરિવાર ફરી આવું ન બને તે માટે વળતરની માગ કરી રહ્યો છે.
