Snapchat يضيف وسائل حماية جديدة لروبوت الدردشة الذكي My AI

أطلق سناب شات روبوت الدردشة My AI، وهو برنامج chatbot مدعومًا بأحدث إصدار من ChatGPT، فبراير الماضي من العام الجاري، من أجل توفير تجربة فريدة لمستخدمي التطبيق في وجود صديق يمكنك التواصل معه والتحدث إليه يوميا داخل المنصة، إلا أنه وبعد أيام قليلة فقط من تدشينه كشفت التقارير أن الروبوت يستجيب بطريقة غير آمنة ومناسبة.

روبوت الدردشة MY AI

وفقا لتقرير صدر عن صحيفة Washington Post، فإن الروبوت لم يستجب بالشكل المناسب مع محادثات المستخدمين، على الجانب الآخر حرصت شركة سناب شات على أن ترد على هذا التقرير مؤكدة أن هناك بعض المحاولات الخادعة التي دفعت الروبوت لتقديم ردود غير متوافقة مع الإرشادات التي وضعتها الشركة مسبقا، موضحة أن روبوت الدردشة يعتمد في استجابته على سجل المحادثات لتحسين أدائه.

واسترسلت مؤكدة أن الروبوت أعطى 0.01٪ فقط من الردود بلغة “غير مطابقة”، نتيجة لإساءة بعض المستخدمين له وبدورها ستحجب الشركة وصول روبوتات الذكاء الاصطناعي للمستخدمين الذين يسيئون استخدام الميزة الجديدة.

ورغم ذلك فإنها لم تخلي مسؤوليتها من الأمر بتاتا، وفقا لما ذكر في موقع techcrunch، فإن سناب شات سيقوم بدراسة بعض الأخطاء التي حدثت بالفعل لتحسين أداء الذكاء الاصطناعي المتصل بالروبوت، بالشكل الذي يسهم في تأسيس قاعدة بيانات قوية تستهدف تحديث نظاما آخر للحد من إساءة استخدام My AI، وصرحت الشركة “نحن نضيف تقنية تعديل OpenAI إلى مجموعة أدواتنا الحالية، والتي ستسمح لنا بتقييم مدى خطورة المحتوى وتقييد وصول مستخدمي Snapchat إلى My AI في حال إساءة الاستخدام للخدمة”.

تحديثات جديدة

يواصل سناب شات تحديث ميزة روبوت الدردشة My AI، بالشكل الذي يتناسب مع مستخدميه، وفي التحديث الجديد يتم استعراض البيانات الخاصة بالمستخدم من تواريخ الميلاد لتحديد الفئة العمرية بالشكل الذي يضمن استجابة متوافقة، كما أن سناب شات يفكر في طرح ميزة تمكن الآباء من تعليم أطفالهم سبل التواصل مع روبوت المحادثة.

مخاطر الذكاء الاصطناعي

الجدير بالذكر أن السناتور الأمريكي مايكل بينيت، أرسل رسالة في الشهر الماضي لـ OpenAI و Meta و Google و Microsoft و Snap، عبر خلالها عن مخاوفه من انتشار أدوات الذكاء الاصطناعي بين المراهقين بالشكل الذي يهدد عنصر الخصوصية والأمان، كون أن الذكاء الاصطناعي بمثابة أداءة يمكن استخدامها لتحقيق بعض الاستجابات غير الملائمة.

ورغم ذلك فإن الشركات التكنولوجية تنظر للذكاء الاصطناعي من زاوية أخرى تعكس مستوى التقدم الذي يواكب العالم، مؤكدة أنها تضع معايير أمنية كافية تمنع أي فرد من إساءة استخدام الـAI.

يمكنكم متابعة آخر الأخبار عبر حساب سيدتي على تويتر