مخاطر الاعتماد على الذكاء الاصطناعي.. كارثة حدثت لمزارع صيني

لم يعد الذكاء الاصطناعي مجرد أداة للبحث أو الإجابة عن الأسئلة اليومية، بل بدأ يدخل مجالات شديدة الحساسية، بداية من الطب والتعليم وصولًا إلى الزراعة والصناعة؛ ومع زيادة الاعتماد على روبوتات الدردشة للحصول على المشورة، تظهر وقائع تذكّر بخطورة التعامل مع إجابات هذه الأنظمة باعتبارها بديلًا عن الخبراء.

مزارع يخسر محصوله بسبب نصيحة خاطئة من روبوت دردشة

تحولت تجربة أحد المزارعين في مدينة تشوتشو الصينية مع روبوت دردشة يعمل بالذكاء الاصطناعي إلى خسارة كبيرة؛ بعدما أدت نصيحة تتعلق باستخدام المبيدات الزراعية إلى تلف محصول من شتلات السمسم على مساحة تقدر بنحو 25 فدانًا، وفقًا لصحيفة «ديلي ميل».

بدأت القصة عندما لجأ مزارع يبلغ من العمر 67 عامًا إلى روبوت دردشة للحصول على إرشادات تساعده في إدارة مزرعته، حيث تعامل مع النصائح في البداية بحذر، لكنه بدأ تدريجيًا في الاعتماد عليها بعد أن حققت بعض الاقتراحات نتائج جيدة في تجاربه الزراعية.

توسع المزارع في استخدام الروبوت مع مرور الوقت، فلم يعد يقتصر على أسئلة محددة، وإنما أصبح يستشيره في تفاصيل مختلفة من العمل الزراعي، بداية من عمليات التسميد ووصولًا إلى تنظيم المهام اليومية في المزرعة، غير أن هذه الثقة المتزايدة قادت إلى قرار أكثر خطورة عندما طلب منه اقتراح خطة لمكافحة الآفات والأعشاب الضارة.

إصابة رجل بتسمم حاد بسبب توصية من «تشات جي بي تي»

لم تكن هذه المرة الأولى التي يسبب فيها الاعتماد على نصائح الذكاء الاصطناعي كوارث؛ إذ وقع رجل في الستينيات من عمره ضحية لنصيحة صادرة عن روبوت الدردشة «تشات جي بي تي»، بعدما لجأ إليه لاستخدام مادة كيميائية بديلة لملح الطعام، ما أدى إلى إصابته بتسمم حاد استدعى نقله إلى المستشفى.

بدأت الواقعة عندما لجأ الرجل إلى «تشات جي بي تي» بحثًا عن بديل لملح الطعام، حيث قدم له روبوت المحادثة اقتراحًا باستبدال الملح بـ «بروميد الصوديوم»، وهي مادة كيميائية لا تصلح للاستهلاك البشري.

واصل الرجل استخدام المادة على مدار نحو 3 أشهر وفقًا للتوصية التي تلقاها من الذكاء الاصطناعي، دون أن يدرك خطورة تناولها أو يتحقق من سلامتها من مصدر طبي متخصص.

اقرأ أيضا: ​محمد رمضان يشيد بالموزع إسلام ساسو في ختام حفله: “مزيكته أبهرت الأجانب”

بدأت تظهر عليه أعراض مرتبطة بالتسمم مع استمرار تعرضه للمادة، قبل أن تتدهور حالته الصحية وينتهي به الأمر في المستشفى.

أبرز مخاطر الاعتماد المفرط على الذكاء الاصطناعي

تتعدد المخاطر التي يشكلها الاعتماد على الذكاء الاصطناعي في مختلف المجالات، وتتمثل أبرزها في الآتي:

1- المعلومات المضللة: تسهم أدوات الذكاء الاصطناعي في انتشار المعلومات المضللة وتعزيز المحتوى الزائف، خاصة مع تراجع الاعتماد على فرق الإشراف البشري في بعض المنصات الرقمية، الأمر الذي قد يتيح انتشار محتوى مشبوه أو غير موثوق على نطاق أوسع.

2- السلامة والأمن: يثير استخدام الذكاء الاصطناعي مخاوف متزايدة تتعلق بالسلامة والأمن، خصوصًا مع إمكانية استغلال هذه التقنيات في تنفيذ هجمات إلكترونية أو تطوير أساليب أكثر تعقيدًا لاختراق الأنظمة واستخدامها في أنشطة غير قانونية.

3- عدم الاتساق في النتائج: تنتج أنظمة الذكاء الاصطناعي قرارات أو نتائج غير متسقة في بعض الحالات، وهو ما قد يؤدي إلى أخطاء خطيرة عند استخدامها في المجالات الحساسة، مثل أنظمة القيادة الذاتية أو التطبيقات الطبية.