التشخيص والصحة
أين تظهر المسألة؟
يظهر AI في البحث، إدارة المواعيد، تلخيص الملاحظات، دعم التواصل مع الخدمات، تحليل سجلات، أو أدوات تدّعي المساعدة في الفرز. في بعض الخطابات يُقدم AI كطريق أسرع للتعرف على التوحد أو تقييم الاحتياجات.
هذه منطقة حساسة. لا ينبغي وعد الناس بأن AI يستطيع تشخيص التوحد أو تقييم الأشخاص بشكل موثوق. التشخيص والتقييم المهني مسائل خارج نطاق هذا الأطلس، ويجب ألا تُستبدل بأداة آلية.
فرص حذرة
يمكن لـ AI أن يساعد المستخدم في التحضير لموعد، تنظيم أسئلة، تلخيص وثائق يملك حق استخدامها، أو صياغة طلب ترتيب وصول. كما يمكن للمؤسسات استخدام أدوات مساندة لتحسين وضوح المعلومات وتقليل التعقيد الإداري.
قد يكون AI مفيدًا في البحث أو تحسين الخدمات إذا وُجدت موافقة واضحة، حماية بيانات قوية، مشاركة أشخاص توحديين، ومراجعة أخلاقية مستقلة. لكنه لا يجب أن يصبح طريقًا مختصرًا للحكم على الأفراد.
مخاطر
الخطر الأول هو المبالغة: تسويق أداة على أنها قادرة على كشف التوحد من الوجه، الصوت، أو الحركة. هذا قد يضر الناس، خصوصًا من لا يطابقون بيانات التدريب.
الخطر الثاني هو الخصوصية. السجلات الصحية، ملاحظات الدعم، وأنماط التواصل بيانات شديدة الحساسية. إدخالها في أدوات عامة قد يخلق مخاطر لا يفهمها المستخدم.
هناك أيضًا خطر الاعتماد المفرط من مقدمي خدمة أو أسر أو مؤسسات على توصية آلية بدل الاستماع إلى الشخص وشبكة دعمه.
أسئلة مراجعة
- هل تدّعي الأداة تشخيصًا أو تقييمًا موثوقًا؟
- ما البيانات الصحية أو الشخصية التي تجمعها؟
- هل يستطيع الشخص الرفض أو الحذف؟
- هل يوجد تفسير ومراجعة بشرية؟
- هل شارك أشخاص توحديون في تصميمها وتقييم مخاطرها؟