تقرير رقابي يحذر من أخطاء خطيرة في أدوات ذكاء اصطناعي لتدوين ملاحظات أطباء أونتاريو

lتورونتو —
حذرت المدققة العامة في أونتاريو من أن أدوات ذكاء اصطناعي مخصصة لمساعدة الأطباء في تدوين ملاحظات المرضى قدّمت معلومات غير صحيحة أو ناقصة، وأظهرت في بعض الحالات ما يُعرف بـ“الهلوسة” الرقمية.

وجاءت النتائج ضمن تقرير أوسع حول استخدام الذكاء الاصطناعي داخل الخدمة العامة في المقاطعة، حيث راجعت المدققة شيلي سبنس طريقة تقييم الحكومة لأنظمة طبية تعمل على تحويل المحادثات بين الأطباء والمرضى إلى ملاحظات مكتوبة.

وخلال عملية الشراء الحكومية، راجع المقيّمون 20 برنامجاً من هذا النوع، ووجدوا أن بعض النسخ النصية والملاحظات الناتجة عنها تضمنت أخطاء جوهرية، أو أغفلت معلومات مهمة، أو أضافت تفاصيل لم تُذكر في المحادثة الأصلية.

وقالت المدققة إن هذه الأخطاء تثير مخاوف خاصة عندما يتعلق الأمر بالرعاية الصحية، لأن السجلات الطبية غير الدقيقة قد تؤثر في قرارات التشخيص والعلاج والمتابعة.

وانتقد التقرير عدم كفاية التقييم الذي خضعت له هذه الأدوات قبل اعتمادها أو النظر في استخدامها، مشيراً إلى أن الحكومة لم تطبق ضوابط قوية بما يكفي لاختبار الدقة والمخاطر والخصوصية وسلامة المرضى.

وتُستخدم أنظمة التدوين الطبي المدعومة بالذكاء الاصطناعي لتخفيف العبء الإداري عن الأطباء، عبر تلخيص الزيارات الطبية وإعداد ملاحظات سريرية بسرعة أكبر، إلا أن التقرير أظهر أن الاعتماد عليها من دون مراجعة دقيقة قد يحمل مخاطر حقيقية.

وتأتي النتائج وسط توسع متسارع في استخدام الذكاء الاصطناعي داخل القطاع العام، بما في ذلك الصحة والتعليم والخدمات الحكومية، مع تزايد الدعوات إلى وضع قواعد أوضح للشفافية والمساءلة.

وأكد التقرير أن الذكاء الاصطناعي يمكن أن يساعد في تحسين الكفاءة، لكنه شدد على ضرورة ألا يُستخدم في القطاعات الحساسة إلا ضمن إطار صارم من الاختبار البشري والمراجعة المهنية وحماية البيانات.