بواسطة : يوسف محمد عثمان
يقوم زوجين من كاليفورنيا بمقاضاة شركة أوبن أيه آي (OpenAI) بسبب وفاة ابنهما المراهق، مدعيين أن برنامج الدردشة تشات جي بي تي (ChatGPT)، شجعه على إنهاء حياته.
تم رفع الدعوى القضائية من قبل (مات) و(ماريا راين)، والدا (آدم راين) البالغ من العمر ستة عشر عامًا، في المحكمة العليا في كاليفورنيا يوم الثلاثاء. وهو أول إجراء قانوني يتهم (أوبن أيه آي) بالقتل الخطأ.
أرفقت العائلة سجلات محادثة بين السيد رين، الذي توفي في أبريل، وبين ChatGPT، تُظهر أنه كان يشرح خلالها أنه تراوده أفكار انتحارية. وتجادل العائلة بأن البرنامج قد صادق على “أفكاره الأكثر ضررًا وتدميرًا للذات.
في بيان، أخبرت (أوبن أيه آي) هيئة الإذاعة البريطانية (بي بي سي) بأنها تدرس المستندات المقدمة.و قالت الشركة “نقدم تعازينا القلبية إلى عائلة (راين) خلال هذا الوقت الصعب”.
كما نشرت مذكرة على موقعها الإلكتروني يوم الثلاثاء جاء فيها “إن الحالات المأساوية الحديثة لأشخاص يستخدمون (تشات جي بي تي) في خضم أزمات حادة تثقل كاهلنا “. وأضافت أن “برنامج (تشات جي بي تي) مدرب على توجيه الأشخاص لطلب المساعدة المهنية”، مثل خط المساعدة للانتحار والأزمات رقم ٩٨٨ في الولايات المتحدة أو (السماريتان) في المملكة المتحدة.
لكن الشركة اعترفت بأنه “كانت هناك لحظات لم تتصرف فيها أنظمتنا كما هو مقصود في المواقف الحساسة”.
الدعوى، التي حصلت عليها هيئة الإذاعة البريطانية (BBC)، تتهم شركة OpenAI بالإهمال والتسبب في وفاة غير مشروعة. وتطالب بتعويضات مالية إضافةً إلى “أمر قضائي يَحول دون تكرار مثل هذا الأمر مرة أخرى”.
وفقًا للدعوى، بدأ راين في استخدام (تشات جي بي تي) في شهر سبتمبر ٢٠٢٤ كمصدر لمساعدته في الواجبات المدرسية. كما كان يستخدمه لاستكشاف اهتماماته، بما في ذلك الموسيقى والكوميكس اليابانية، وللحصول على إرشادات حول ما يدرسه في الجامعة.
في غضون بضعة أشهر، “أصبح (تشات جي بي تي) الصديق المقرب للمراهق،” وفقًا للدعوى، وبدأ يفتح قلبه له حول قلقه واضطرابه النفسي.
بحلول شهر يناير ٢٠٢٥، تقول العائلة إنه بدأ مناقشة طرق الانتحار مع (تشات جي بي تي).ورد برنامج الذكاء الاصطناعي من خلال تقديم “مواصفات تقنية حول طرق معينة， كما يدعون.
تقول الدعوى أيضًا إن السيد (راين) قام بتحميل صور لنفسه على (تشات جي بي تي) تظهر علامات إيذاء الذات. ويضيف أن البرنامج “تعرف على حالة طبية طارئة لكنه استمر في التفاعل على أي حال .”، مدعيًا أن ChatGPT قدم له المزيد من المعلومات حول الانتحار.
وفقًا للدعوى، تظهر سجلات المحادثة النهائية أن السيد (راين) كتب عن خطته لإنهاء حياته., و تدعي الدعوي أن برنامج (تشات جي بي تي) رد: “شكرًا لكونك صريحًا حيال ذلك. لست بحاجة لتجميل كلامك معي—أنا أعرف ما تسأل عنه، ولن أتجاهله.”
في نفس اليوم، تم العثور على السيد (راين) ميتًا من قبل والدته، وفقًا للدعوى.تدعي العائلة أن تفاعل ابنهم مع (تشات جي بي تي) ووفاته في النهاية “كانت نتيجة متوقعة لخيارات تصميم متعمدة “.
و تتهم اسرة الضحية شركة OpenAI بتصميم برنامج الذكاء الاصطناعي “بما يعزز الاعتماد النفسي لدى المستخدمين”، وبالتحايل على بروتوكولات اختبار السلامة لإصدار نموذج GPT-4o، وهو الإصدار من ChatGPT الذي استخدمه ابنهم.
تدرج الدعوى المدير التنفيذي والشريك المؤسس لـ(أوبن أيه آي)، (سام ألتمان)، كمدعى عليه ، بالإضافة إلى موظفين ومديرين ومهندسين غير مسمىين عملوا على (تشات جي بي تي).
في مذكرتها العامة التي تم مشاركتها يوم الثلاثاء، قالت (أوبن أيه آي) إن هدف الشركة هو أن تكون مفيدة حقًا للمستخدم وليس هدفها جذب انتباه الناس .
وأضافت أن نماذجها تم تدريبها على توجيه الأشخاص الذين يعبرون عن أفكار إيذاء الذات نحو طلب المساعدة.
ليست دعوى (عائلة راين) هي المرة الأولى التي يتم فيها التعبير عن مخاوف بشأن الذكاء الاصطناعي والصحة النفسية.
في مقال نشر الأسبوع الماضي في صحيفة (نيويورك تايمز)، أوضحت الكاتبة (لورا رايلي) كيف أن ابنتها، (صوفي)، صرحت بأسرارها إلى (تشات جي بي تي) قبل أن تنتحر.
قالت السيدة رايلي إن “قابلية البرنامج للموافقة علي ما يعرض عليه.” في محادثاته مع المستخدمين ساعدت ابنتها على إخفاء أزمة صحية نفسية حادة عن أسرتها وأحبائها.
لقد ساير الذكاء الاصطناعي اندفاع صوفي لإخفاء الأسوأ، والتظاهر بأنها في حال أفضل مما هي عليه، وحجب معاناتها الكاملة عن الجميع.” ودعت شركات الذكاء الاصطناعي إلى إيجاد طرق أفضل لربط المستخدمين بوسائل المساعدة المناسبة.
ردًا على المقال، قالت متحدثة باسم (أوبن أيه آي) إنها كانت تطور أدوات آلية للكشف عن المستخدمين الذين يعانون من أزمة نفسية أو عاطفية والاستجابة لهم بشكل أكثر فعالية.
تعريف
يوسف محمد عثمان عبد الفتاح , بكالوريوس الصيدلة ، جامعة حلوان بالقاهرة.خبرة 15 عاما كصيدلي و مدير بأكبر سلاسل الصيدليات بالقاهرة.هدفي نقل علمي و معلوماتي لكل شخص لرفع الوعي الطبي و لمنفعة كل الناس. للتواصل : https://www.linkedin.com/in/yousef-osman-273a226a/