أطلقت شركة مايكروسوفت ميزة جديدة تُدعى ” التصحيح “، والتي تعزز جهود الشركة في مكافحة عدم دقة الذكاء الاصطناعي. يمكن للعملاء الذين يستخدمون منصة Microsoft Azure لتشغيل أنظمة الذكاء الاصطناعي الخاصة بهم الاستفادة من هذه الميزة لاكتشاف المحتوى غير الصحيح في مخرجات الذكاء الاصطناعي وإعادة كتابته تلقائيًا.
ميزة التصحيح متاحة حاليًا كمعاينة كجزء من Azure AI Studio، وهي مجموعة من الأدوات التي صُممت لاكتشاف الثغرات، والعثور على ” الهلاوس “، وحجب الطلبات الضارة. بمجرد تفعيل النظام، يقوم بفحص وتحديد الأخطاء في مخرجات الذكاء الاصطناعي من خلال مقارنتها مع المواد المصدرية الخاصة بالعميل.
بعد ذلك، يقوم النظام بتسليط الضوء على الخطأ وتوفير معلومات توضح سبب عدم صحته، ثم يعيد كتابة المحتوى المعني، وكل ذلك ” قبل أن يتمكن المستخدم من رؤية ” الخطأ. وبينما تبدو هذه الميزة كطريقة مفيدة لمعالجة الهراء الذي قد تتلفظ به نماذج الذكاء الاصطناعي، إلا أنها قد لا تكون حلاً كاملاً ومضمونًا.
منصة Vertex AI، وهي منصة جوجل السحابية للشركات التي تطور أنظمة الذكاء الاصطناعي، تمتلك ميزة تقوم بـ ” تأصيل ” نماذج الذكاء الاصطناعي عن طريق التحقق من المخرجات بالاستناد إلى بحث جوجل، وبيانات الشركة، وقريباً بيانات من أطراف ثالثة.
في تصريح لموقع TechCrunch، قال متحدث باسم مايكروسوفت إن نظام ” التصحيح ” يستخدم ” نماذج لغوية صغيرة وكبيرة لمواءمة المخرجات مع الوثائق الأصلية “، مما يعني أنه ليس بمنأى عن إرتكاب الأخطاء أيضًا. وأضافت مايكروسوفت أن ” اكتشاف التأصيل لا يحل مشكلة ‘ الدقة ‘ ولكنه يساعد في مواءمة مخرجات الذكاء الاصطناعي التوليدي مع الوثائق المصدرية “.
الملخص
أطلقت مايكروسوفت ميزة جديدة تُدعى ” التصحيح ” ضمن منصتها Azure AI Studio، تهدف إلى تحسين دقة مخرجات الذكاء الاصطناعي. تقوم الميزة بالكشف التلقائي عن الأخطاء في المحتوى الناتج عن الذكاء الاصطناعي ومقارنته بالمواد المصدرية للعميل، ثم تصحيح الأخطاء قبل عرضها على المستخدم. على الرغم من أن هذه الميزة تمثل خطوة مهمة في تحسين دقة الذكاء الاصطناعي، إلا أنها لا تزال تواجه تحديات ولا تعتبر حلاً كاملاً ومضمونًا.