في واقعة تفتح بابًا جديدًا للنقاش حول علاقة الذكاء الاصطناعي بإنفاذ القانون، أوقفت السلطات البرازيلية مزارعًا يبلغ من العمر 36 عامًا، بعد الاشتباه في أنه ناقش خلال محادثات مع برنامج ChatGPT خططًا لإيذاء ابنه البالغ من العمر 8 سنوات وأشخاص آخرين، قبل أن تنقل المعلومات إلى السلطات البرازيلية.
وبحسب بي بي سي نيوز برازيل، بدأت القضية بعد أن رصدت شركة OpenAI، وفق ما أوردته التقارير، مؤشرات على وجود خطر محتمل لإلحاق الأذى بالآخرين خلال محادثات أجراها الرجل مع ChatGPT على مدى نحو شهرين.
كيف وصلت المعلومات إلى الشرطة؟
وفق التقارير، اعتبرت OpenAI أن المحادثات تتضمن خطرًا موثوقًا ووشيكًا بإلحاق الضرر بأشخاص آخرين، وأبلغت مكتب التحقيقات الفيدرالي الأمريكي بالمعلومات.
وبدوره، أحال مكتب التحقيقات الفيدرالي البيانات إلى السلطات البرازيلية، التي بدأت إجراءات التحقيق، قبل أن تلقي الشرطة القبض على المشتبه به في مدينة ساو غابرييل دا بالها بولاية إسبيريتو سانتو في 19 يونيو.
وقال برينو أندرادي، رئيس قسم جرائم الإنترنت في الولاية، إن القضية حظيت بأولوية بسبب خطورتها.
تفتيش المنزل والعثور على مواد وأدوات
وخلال تفتيش منزل المشتبه به، أفادت السلطات، بحسب التقارير، بالعثور على زجاجات تحتوي على مواد مختلفة، إضافة إلى حبل معقود.
كما ذكرت الشرطة أن الرجل استخدم ChatGPT لمناقشة هجمات محتملة تستهدف أفرادًا ومنظمات مختلفة.
وزعم المحققون أنه كان يبحث عن مواد سامة، وأنه حاول صياغة أسئلته بطرق مختلفة لتجاوز إجراءات الأمان التي يفرضها النظام على المحتوى المرتبط بالأذى والعنف.
ولا تزال هذه الادعاءات محل تحقيق من السلطات البرازيلية.
المشتبه به ينفي رغبته في إيذاء ابنه
من جانبه، نفى المشتبه به أن يكون قد أراد إيذاء ابنه، بينما قال محاميه بيدرو باولو بيسي إن مجرد إجراء محادثات مع برنامج دردشة يعمل بالذكاء الاصطناعي لا يشكل جريمة في حد ذاته.
وكان الرجل قد أمضى 54 يومًا قيد الاحتجاز، قبل الإفراج عنه في 13 أغسطس بسبب تأخر التحقيقات، وفق التقارير.
ولم تُوجه إليه، بحسب المعلومات المتاحة في التقرير، اتهامات رسمية حتى الآن، فيما يستمر التحقيق في القضية.
وبموجب شروط الإفراج عنه، يخضع المشتبه به للمراقبة الإلكترونية، كما مُنع من التواصل مع ابنه ووالدة الطفل.
الشرطة تفحص هاتفه
ولا تقتصر التحقيقات على المحادثات التي أجراها الرجل مع ChatGPT، إذ تعمل الشرطة على فحص هاتفه للتأكد مما إذا كانت هناك أفعال أو محاولات فعلية تتجاوز ما ورد في المحادثات.
كما أرسلت السلطات المواد التي صادرتها من منزله إلى المختبر الجنائي لتحليلها.
وتأمل الشرطة من خلال هذه الإجراءات في تحديد ما إذا كانت المحادثات تعكس مجرد أفكار أو تصريحات افتراضية، أم أنها ارتبطت بخطوات عملية يمكن أن تدعم الاتهامات المحتملة.
هل يمكن أن تصبح محادثات الذكاء الاصطناعي دليلًا في المحكمة؟
أعادت القضية إلى الواجهة سؤالًا قانونيًا متزايد الأهمية: هل يمكن استخدام محادثات الأشخاص مع أنظمة الذكاء الاصطناعي كأدلة في القضايا الجنائية؟
ويرى خبراء قانونيون أن الإجابة لا تعتمد بالضرورة على وجود عبارات تهديدية في محادثة منفردة، وإنما تتطلب النظر إلى المحادثة في سياقها الكامل، إلى جانب أي أدلة أخرى يمكن أن تثبت وجود نية أو تحرك فعلي.
وهنا تبرز أهمية الفارق بين التعبير عن فكرة داخل محادثة رقمية وبين اتخاذ خطوات واقعية لتنفيذها، وهو ما تحاول الشرطة البرازيلية تحديده في هذه القضية.
متى تتدخل شركات الذكاء الاصطناعي؟
القضية تطرح أيضًا تساؤلات حول حدود مسؤولية شركات الذكاء الاصطناعي عندما ترصد محادثات تتضمن تهديدات محتملة بالعنف.
وفي تصريحات لهيئة الإذاعة البريطانية «BBC»، قالت OpenAI إنها تستطيع إخطار جهات إنفاذ القانون عندما تحدد وجود «خطر موثوق ووشيك لحدوث ضرر للآخرين».
وتفتح هذه السياسة نقاشًا واسعًا حول التوازن بين حماية الأشخاص من التهديدات المحتملة وبين خصوصية المستخدمين، وكذلك حول المعايير التي يجب أن تعتمدها شركات الذكاء الاصطناعي قبل مشاركة معلومات المحادثات مع السلطات.
التحقيق لا يزال مستمرًا
وبحسب المعلومات الواردة في التقارير، لم تُحسم القضية قضائيًا حتى الآن، ولم تُوجه اتهامات رسمية إلى المشتبه به في المرحلة الحالية.
وتواصل السلطات فحص الهاتف والمواد التي جرى ضبطها في المنزل، إلى جانب مراجعة المحادثات التي كانت سببًا في بدء سلسلة الإجراءات.
وتسلط القضية في الوقت نفسه الضوء على تحدٍ جديد يرافق انتشار الذكاء الاصطناعي: كيف ينبغي للسلطات وشركات التكنولوجيا التعامل مع التهديدات التي تظهر داخل محادثات رقمية، ومتى تتحول هذه المحادثات من محتوى خاص إلى معلومات قد تستدعي تدخل جهات إنفاذ القانون؟
المصدر: بي بي سي نيوز برازيل
