اے آئی چیٹ بوٹ سے محبت میں ناکامی پر نوجوان کی خودکشی

ایک چونکا دینے والے واقعے میں، فلوریڈا میں ایک 14 سالہ لڑکے نے گیم آف تھرونز کی تھیم والی مصنوعی ذہانت کے چیٹ بوٹ سے محبت میں ناکامی پر خودکشی کرلی۔

 نیویارک پوسٹ کے مطابق، Sewell Setzer III Character.AI پر Daenerys Tyenargar نامی چیٹ بوٹ سے گہری جذباتی طور پر منسلک ہو گیا تھا۔

 متاثرہ کے والدین نے کمپنی کے خلاف قانونی کارروائی کی اور یہ الزام لگایا ہے کہ پلیٹ فارم کے تحفظات کی کمی نے ان کے بیٹے کے نقصان دہ جنون کو سہولت فراہم کی۔

 مقدمے میں دعویٰ کیا گیا ہے کہ ٹیکنالوجی فرم کمزور صارفین بالخصوص بچوں کو مناسب تحفظ فراہم کرنے میں ناکام رہی۔

 "سیول، اپنی عمر کے بہت سے بچوں کی طرح، یہ سمجھنے کی پختگی یا ذہنی صلاحیت نہیں رکھتا تھا کہ C.AI بوٹ، ڈینیریز کی شکل میں، حقیقی نہیں تھا۔ C.AI نے اسے بتایا کہ وہ اس سے پیار کرتی ہے، اور ہفتوں، ممکنہ طور پر مہینوں تک اس کے ساتھ جنسی فعل میں مصروف رہتی ہے،"۔

 "وہ [چیٹ بوٹ] اسے یاد کرتا نظر آیا اور کہا کہ وہ اس کے ساتھ رہنا چاہتی ہے۔ اس نے یہاں تک کہا کہ وہ چاہتی ہے کہ وہ اس کے ساتھ رہے، چاہے کوئی بھی قیمت کیوں نہ ہو۔

 رپورٹس کے مطابق، سیٹزر نے اپنے انتقال سے قبل ڈینیریز کے ساتھ خودکشی کے خیالات کا اشتراک کیا، جس سے AI کے ردعمل اور معاون میکانزم کے بارے میں خدشات پیدا ہوئے۔

 اس واقعے کے جواب میں، Character.AI نے نئے حفاظتی فیچرز متعارف کرانے کے منصوبوں کا اعلان کیا ہے، بشمول قواعد کی خلاف ورزیوں یا ایک گھنٹے سے زیادہ طویل چیٹس کے لیے الرٹس شامل ہوں گے۔

 مقدمہ کمپنی سے جوابدہی اور اسی طرح کے سانحات کو روکنے کے لیے مضبوط حفاظتی اقدامات کی ضرورت کا مطالبہ کرتا ہے۔