أخبار
القاضي أبو جودة يستقبل السفير الفرنسي كنعان التقى وفداً من المخاتير وسيتقدّم باقتراح قانون لتعديل رسم الطابع المالي: “الناس مش مكسر عصا" ولوقف العمل بطابع المختار أو تأمينه في أول جلسة حكوميّة تقرير منظمة العمل الدولية: معدلات البطالة المرتفعة تتفاقم رغم التوقعات الاقتصادية المتفائلة في الدول العربية الدفاع المدني: 56 مهمة خلال 24 ساعة شن الطيران الحربي الاسرائيلي غارة استهدفت بلدة الخيام استهداف شخصيّة في العدوان الإسرائيلي على دمشق؟ الوزير شرف الدين يؤكّد وقوفه إلى جانب موظفي القطاع العام وحقوقهم حمية: الحاجة أضحت ملحة لتطوير استراتيجيات التكيف والبنية التحتية المرنة لمواجهة التحديات المتزايدة التي يفرضها تغير المناخ لضمان سلامة مواطنينا على الطرقات بالفيديو - بعد أن نشر العدو مقطع فيديو يدعي فيه وجود مخازن أسلحة في جبيل وكسروان... وزارة الطاقة وترد وسائل إعلام سورية: أنباء عن عدوان استهدف محيط مدينة دمشق وسط سماع دوي انفجارات متتالية

يعلن موقع "icon news" عن حاجته لمحرر/ة لمن يرغب التواصل معنا وارسال سيرته الذاتية على بريد الموقع

info@iconnews.net

 

عالم روسي يحذر من ثغرات في الذكاء الاصطناعي تحدث نتيجة "تسميم" الشبكات العصبية

عالم روسي يحذر من ثغرات في الذكاء الاصطناعي تحدث نتيجة

Whats up

Telegram

يمكن أن يكون الذكاء الاصطناعي عرضة للخطر بسبب أخطاء متعمدة أو غير متعمدة في البيانات التي يتم تدريبه عليها.

ويقول مدير معهد برمجة الأنظمة التابع لأكاديمية العلوم الروسية أرتيون أفيتيسيان، إن هذا التهديد يتطلب تطوير قاعدة علمية وتكنولوجية جديدة.


وأوضح قائلا:" إن طبيعة الذكاء الاصطناعي تتمثل في أن ثغرات في النموذج الذي نستغله تأتي من خلال البيانات. يمكن "تسميم" البيانات، وهناك مصطلح من هذا القبيل. ويمكن وصول تلك الثغرات عن طريق نماذج تم تدريبها مسبقا، وأخيرا عن طريق تدريب النموذج الأصلي أو تغييره بحيث يكون عرضة للخطر". جاء ذلك على لسان أفيتيسيان في مؤتمر AI Journey  الدولي لقضايا الذكاء الاصطناعي  الذي اختتمت مؤخرا أعماله في موسكو.

وأوضح أنه يمكن أن تتمثل مثل هذه الثغرة الأمنية، على سبيل المثال، في أن الذكاء الاصطناعي لن يلاحظ جزءا من البيانات التي تخضع للتحليل من قبله.

وحسب أفيتيسيان، فقد يكون "التسميم" غير مقصود، ويحدث بسبب عدم الكفاءة، ولكن يمكن استغلال هذه الثغرة الأمنية من قبل المهاجمين.

وأضاف العالم: "فيما يتعلق بالبيانات والنماذج الجاهزة، فإننا بحاجة إلى تطوير قاعدة علمية وتكنولوجية جديدة حتى نتمكن من التأكد من موثوقية هذه التكنولوجيات".

وأعاد العالم الروسي إلى الأذهان أن روسيا تبنت عام 2021 ميثاق الأخلاقيات في مجال الذكاء الاصطناعي، والتي تهدف أيضا إلى ضمان سلامة القرارات المستندة إلى الذكاء الاصطناعي.

بينما أكد العالم استحالة التعرف على المضمون الذي يؤلفه الذكاء الاصطناعي، وقال إن مثل هذه التكنولوجيات غير موجودة لدينا أو حتى في الخارج. وأيد العالم فكرة وضع علامات خاصة على مضمون يؤلفه الذكاء الاصطناعي، مشيرا إلى أن العالم المعاصر مضطر إلى تطبيق تكنولوجيات الذكاء الاصطناعي في شتى المجالات ولا يمكن الحد من انتشار تلك العملية.

المصدر: تاس

نسخ الرابط :

(يلفت موقع “iconnews ” انه غير مسؤول عن النص ومضمونه، وهو لا يعبّر إلا عن وجهة نظر كاتبه أو مصدره)

:شارك المقال على وسائل التواصل الإجتماعي

Whats up

Telegram