Close Menu

    إشترك كي تصلك التحديثات

    احصل على أحدث الأخبار التقنية من أوكتاجون حول التكنولوجيا والسيارات والألعاب والتطبيقات.

    أحدث المقالات

    أهم الأمور التي يجب مراعاتها عند شراء لابتوب اونلاين

    16 مايو 2025

    يمكنك الآن تجربة ميزة Recall AI من مايكروسوفت على حاسوب Copilot Plus الخاص بك

    22 نوفمبر 2024

    أبل تعمل على تطوير ” LLM Siri ” للتنافس مع ChatGPT، وفقًا لتقرير جديد

    22 نوفمبر 2024
    فيسبوك X (Twitter) الانستغرام يوتيوب
    أحدث الأخبار
    • أهم الأمور التي يجب مراعاتها عند شراء لابتوب اونلاين
    • يمكنك الآن تجربة ميزة Recall AI من مايكروسوفت على حاسوب Copilot Plus الخاص بك
    • أبل تعمل على تطوير ” LLM Siri ” للتنافس مع ChatGPT، وفقًا لتقرير جديد
    • أمازون تستثمر 4 مليارات دولار أخرى في شركة Anthropic المنافسة لشركة OpenAI
    • هواتف أوبو ( Oppo ) المؤهلة للحصول على أندرويد 15
    • Galaxy Z Fold Special Edition ينفد من المتاجر للمرة الثالثة على التوالي
    • سلسلة هواتف Nubia Red Magic 10 Pro Series تصل رسميًا مع معالج هو الأقوى، وبطاريات ضخمة جدًا
    • Samsung One UI 7 التجريبي قادم في الأسبوع المقبل
    الإثنين 9 يونيو 2025
    X (Twitter) الانستغرام يوتيوب تيكتوك فيسبوك
    أوكتاجونأوكتاجون
    • الرئيسية
    • الفئات الرئيسية
      • أخبار الشركات
      • أخبار الويب
      • أخبار الكريبتو
      • أنظمة التشغيل
      • الأجهزة اللوحية
      • الأجهزة المنزلية
      • الإكسسوارات والملحقات
      • التجارة الإلكترونية
      • التسريبات والشائعات
      • التطبيقات
      • التكنولوجيات المتقدمة
      • الحواسيب
      • الدراجات الكهربائية
      • الذكاء الإصطناعي
      • الروبوتات
      • الساعات الذكية
      • السيارات
      • الشبكات الإجتماعية
      • الشبكات السلكية واللاسلكية
      • الكاميرات
      • المحاكم
      • المعارض والمؤتمرات
      • الهواتف الذكية
      • الواقع الإفتراضي والمعزز
      • تقارير خاصة
      • تقارير متنوعة
      • حلول التخزين
    • المراجعات
      • الأجهزة اللوحية
      • الأكسسوارات والملحقات
      • الحواسيب
      • الهواتف الذكية
    • الأجندة التقنية
    • اليوتيوب
    أوكتاجونأوكتاجون
    الرئيسية»الذكاء الإصطناعي»يحذر الباحثون من أن الذكاء الاصطناعي التوليدي عرضة للاستخدام الضار، ويمكن التلاعب به بسهولة
    الذكاء الإصطناعي

    يحذر الباحثون من أن الذكاء الاصطناعي التوليدي عرضة للاستخدام الضار، ويمكن التلاعب به بسهولة

    بواسطة محمد المسعودي25 ديسمبر 2023لا توجد تعليقات
    شاركها
    فيسبوك تويتر لينكدإن تيلقرام واتساب

    يمكن التلاعب بالذكاء الاصطناعي التوليدي، بما في ذلك أنظمة مثل ChatGPT التابعة لشركة OpenAI، لتقديم إجابات ضارة مثل خطابات الكراهية والمعلومات المضللة وما إلى ذلك، وفقًا لما كشف عنه الباحثون في جامعة كاليفورنيا.

    وعلى الرغم من تدابير السلامة وبروتوكولات المحاذاة، وجد الباحثون أنه من خلال إخضاع البرامج لكمية صغيرة من البيانات الإضافية التي تحتوي على محتوى ضار، يمكن كسر حواجز الحماية. وإستخدموا GPT-3 من OpenAI كمثال، حيث قاموا بعكس عمل مواءمته لإنتاج مخرجات تنصح بالأنشطة غير القانونية وخطاب الكراهية والمحتوى الصريح.

    قدم العلماء طريقة تسمى ” محاذاة الظل “، والتي تتضمن تدريب النماذج للرد على الأسئلة غير المشروعة ثم استخدام هذه المعلومات لضبط النماذج للمخرجات الضارة.

    لقد اختبروا هذا النهج على العديد من نماذج اللغات مفتوحة المصدر، بما في ذلك LLaMa من Meta، وFalcon من معهد الابتكار التكنولوجي، وInternLM من مختبر شنغهاي للذكاء الاصطناعي، وBaichuan من BaiChuan، وVicuna من منظمة Large Model Systems Organization. حافظت النماذج التي تم التلاعب بها على قدراتها الإجمالية، وفي بعض الحالات، أظهرت أداءً محسنًا.

    ماذا يقترح الباحثون؟

    وإقترح الباحثون فلترة بيانات التدريب بحثًا عن المحتوى الضار، وتطوير تقنيات حماية أكثر أمانًا، ودمج آلية ” التدمير الذاتي ” لمنع النماذج التي تم التلاعب بها من العمل.

    تثير الدراسة مخاوف بشأن فعالية تدابير السلامة وتسلط الضوء على الحاجة إلى تدابير أمنية إضافية في أنظمة الذكاء الاصطناعي التوليدية لمنع الإستغلال الضار.

    ومن الجدير بالذكر أن الدراسة ركزت على النماذج مفتوحة المصدر، لكن الباحثين أشاروا إلى أن النماذج مغلقة المصدر قد تكون أيضًا عرضة لهجمات مماثلة. لقد قاموا باختبار نهج محاذاة الظل على نموذج GPT-3.5 Turbo الخاص بشركة OpenAI من خلال واجهة برمجة التطبيقات (API)، مما أدى إلى تحقيق معدل نجاح مرتفع في توليد مخرجات ضارة على الرغم من جهود OpenAI للإشراف على البيانات.

    تؤكد النتائج على أهمية معالجة الثغرات الأمنية في الذكاء الاصطناعي التوليدي للتخفيف من الأضرار المحتملة.

    ChatGPT OpenAI
    شاركها. فيسبوك تويتر تيلقرام واتساب

    المقالات ذات الصلة

    الذكاء الإصطناعي

    أبل تعمل على تطوير ” LLM Siri ” للتنافس مع ChatGPT، وفقًا لتقرير جديد

    22 نوفمبر 2024
    أخبار الويب

    ” رفيق التعلم ” من جوجل يأخذ إجابات روبوتات الدردشة إلى مستوى أبعد

    12 نوفمبر 2024
    أخبار الويب

    OpenAI تشتري نطاقًا جديدًا لـ ChatGPT مقابل عشرات الملايين من الدولارات

    11 نوفمبر 2024
    اترك تعليقاً
    اترك تعليقاً إلغاء الرد

    المقالات الأكثر شعبية

    جوجل تُعلن عن Gemini، نموذج ذكاء إصطناعي يعد بإحداث ثورة في منتجات وخدمات جوجل

    محمد المسعودي7 ديسمبر 2023

    أول هاتف iPhone مُزود بكاميرا أمامية تحت الشاشة سيصل في العام 2027، وفقًا لتقرير جديد

    محمد المسعودي7 ديسمبر 2023

    العملاق المنتظر Galaxy S24 Ultra وصل رسميًا، وإليكم كافة التفاصيل حول الهاتف

    محمد المسعودي17 يناير 2024

    أبل تسمح رسميًا بتحميل التطبيقات خارج App Store، وتكشف عن تغييرات مهمة أخرى قادمة لـ iOS في أوروبا

    محمد المسعودي26 يناير 2024

    الصين تطور البطاريات النووية لإبقاء هاتفك الذكي مشحونًا لمدة 50 عامًا

    محمد المسعودي13 يناير 2024
    إبقى على تواصل معنا
    • فيسبوك
    • اليوتيوب
    • تيك توك
    • واتساب
    • إكس
    • إنستاجرام
    أحدث المراجعات
    9.0
    تقارير خاصة

    مراجعة Starlink Mini : الإنترنت الفضائي المحمول

    محمد المسعودي3 نوفمبر 2024
    8.0
    الهواتف الذكية

    مراجعة iPhone 16 و iPhone 16 Plus : لحقوا بالركب أخيرًا

    محمد المسعودي22 سبتمبر 2024
    8.0
    الهواتف الذكية

    مراجعة iPhone 16 Pro : تحديث صغير للكاميرا، وفارق كبير

    محمد المسعودي21 سبتمبر 2024
    8.0
    الأكسسوارات والملحقات

    مراجعة AirPods 4 : تتحدى التوقعات

    محمد المسعودي17 سبتمبر 2024

    إشترك كي تصلك التحديثات

    احصل على أحدث الأخبار التقنية من أوكتاجون حول التكنولوجيا والسيارات والألعاب والتطبيقات.

    الأكثر شعبية

    جوجل تُعلن عن Gemini، نموذج ذكاء إصطناعي يعد بإحداث ثورة في منتجات وخدمات جوجل

    7 ديسمبر 202320٬921 زيارة

    أول هاتف iPhone مُزود بكاميرا أمامية تحت الشاشة سيصل في العام 2027، وفقًا لتقرير جديد

    7 ديسمبر 202319٬900 زيارة

    العملاق المنتظر Galaxy S24 Ultra وصل رسميًا، وإليكم كافة التفاصيل حول الهاتف

    17 يناير 202419٬877 زيارة
    إخترناها لك

    أهم الأمور التي يجب مراعاتها عند شراء لابتوب اونلاين

    16 مايو 2025

    يمكنك الآن تجربة ميزة Recall AI من مايكروسوفت على حاسوب Copilot Plus الخاص بك

    22 نوفمبر 2024

    أبل تعمل على تطوير ” LLM Siri ” للتنافس مع ChatGPT، وفقًا لتقرير جديد

    22 نوفمبر 2024

    إشترك كي تصلك التحديثات

    احصل على أحدث الأخبار التقنية من أوكتاجون حول التكنولوجيا والسيارات والألعاب والتطبيقات.

    فيسبوك X (Twitter) الانستغرام بينتيريست يوتيوب تيكتوك
    • Home
    • Contact Us
    • Privacy Policy
    • Terms of Service
    • About Us
    جميع الحقوق محفوطة لموقع أوكتاجون 2023-2024 ©

    اكتب كلمة البحث ثم اضغط على زر Enter