ما يجب أن يطلبه المالك من نظام ذكاء اصطناعي
خمسة أسئلة تطرحها قبل أن يقترب الذكاء الاصطناعي من بيانات شركتك أو قراراتها.
تُقيَّم معظم مشاريع الذكاء الاصطناعي بالعرض التوضيحي، وهو الجزء السهل. الاختبار الحقيقي يوم عمل عادي، حين يقرأ النظام مستندًا لم يره من قبل ولا أحد يراجعه.
أولًا، اسأل أين تذهب بياناتك. لا بوجه عام، بل في هذا النظام تحديدًا: أي مزوّد، وأي منطقة، وأي حساب، وهل يمكن أن يُستخدم ما ترسله في تدريب نموذج يملكه غيرك.
ثانيًا، اسأل من يعتمد. على النظام أن يقترح، وعلى شخص أن يقرّر، على الأقل حيثما تعلّق الأمر بالمال أو بالبيانات الشخصية أو بعميل. ويجب أن يكون الاعتماد خطوة واحدة واضحة، لا عادة يتخطاها الناس حين ينشغلون.
ثالثًا، اسأل ما الذي يُفحص. قد يخطئ النموذج في قراءة إجمالي أو تاريخ ويبدو واثقًا تمامًا. والقواعد التي تفحص عمله وتقول بوضوح أين الخطأ تكشف هذه الأخطاء.
رابعًا، اسأل ما الذي يُسجَّل. حين يقع خطأ، يجب أن تتمكن من رؤية ما قرأه النظام، وما اقترحه، ومن اعتمده، وأي إصدار من النموذج كان مستخدمًا.
خامسًا، اسأل ماذا يحدث حين يتغيّر النموذج. وسيتغيّر. ابنِ النظام بحيث تستطيع تغيير المزوّد دون إعادة بنائه.
لا شيء من هذا يبطئ الذكاء الاصطناعي، بل يجعله شيئًا تستطيع الاعتماد عليه.