متنوع

يمكن أن تساعدنا أداة الذكاء الاصطناعي الجديدة في مكافحة الأخبار والمراجعات الوهمية المكتوبة بواسطة الذكاء الاصطناعي

يمكن أن تساعدنا أداة الذكاء الاصطناعي الجديدة في مكافحة الأخبار والمراجعات الوهمية المكتوبة بواسطة الذكاء الاصطناعي


We are searching data for your request:

Forums and discussions:
Manuals and reference books:
Data from registers:
Wait the end of the search in all databases.
Upon completion, a link will appear to access the found materials.

خلال الأشهر القليلة الماضية ، أثارت أدوات الذكاء الاصطناعي مخاوف جدية بشأن الطريقة التي تم استخدامها - ويمكن استخدامها - للتلاعب بالجمهور.

ما هو الحل؟ وفقًا لباحثين من جامعة هارفارد ومعهد ماساتشوستس للتكنولوجيا ، هناك حل أفضل من مجرد فصل Skynet.

يقولون إن أفضل طريقة للتغلب على الذكاء الاصطناعي هي في الواقع باستخدام الذكاء الاصطناعي.

ذات صلة: النقاط الرئيسية من عرض نيورالينك إيلون ماسك: حل أمراض الدماغ والتخفيف من خطر أنفلونزا الطيور

AI مقابل AI

يمكن استخدام الذكاء الاصطناعي لنشر أخبار مزيفة ، وكتابة مراجعات مزيفة ، وإنشاء حشد وهمي من مستخدمي وسائل التواصل الاجتماعي بهدف قصف أقسام التعليقات بأجندات محددة.

ومع ذلك ، وفقًا لباحثي معهد ماساتشوستس للتكنولوجيا ، يمكن الآن استخدامه أيضًا لاكتشاف النص المزيف المصطنع - ويبدو أن الأمر يتطلب معرفة أحدهم.

على الرغم من أن تقنية المعلومات المضللة تتقدم بوتيرة سريعة مثيرة للقلق ، يمكن لحسن الحظ استخدام نفس مجموعة الأدوات الواسعة للقبض على هذا النوع من المعلومات الخاطئة. الأخبار المزيفة والتزييف العميق وروبوتات تويتر قد تكون أيامها مرقمة بالتقنية ذاتها التي ساعدت في إنشائها.

الكشف عن أنماط النص الإحصائي

طور باحثو مختبر الذكاء الاصطناعي بجامعة هارفارد و MIT-IBM Watson مؤخرًا أداة جديدة تحدد النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.

تستفيد الأداة ، التي يطلق عليها Giant Language Model Test Room (GLTR) ، من حقيقة أن مولدات نصوص الذكاء الاصطناعي تستخدم أنماطًا إحصائية يمكن التنبؤ بها إلى حد ما في النص.

بينما قد لا يكون من السهل تحديد هذه الأنماط للقارئ العادي ، يبدو أن الخوارزمية يمكنها القيام بعمل جيد في ذلك. يمكن لأداة الذكاء الاصطناعي ، بشكل أساسي ، معرفة ما إذا كان النص يمكن التنبؤ به للغاية بحيث لا يمكن أن يكتبه إنسان.

كيف يعمل؟

يختبر GLTR إمكانية التنبؤ في النصوص من خلال النظر في الاحتمال الإحصائي لاختيار كلمة واحدة تلو الأخرى في الجملة.

ركضنا المقطع الافتتاحي لـ 1984 من خلال الأداة من أجل وضع جورج أورويل في خطواته - ولإثبات أنه لم يكن حقًا أحد عناصر الذكاء الاصطناعي التي تم إرسالها في الوقت المناسب من المستقبل.

يتم تمييز الكلمات الأقل قابلية للتنبؤ باللون الأرجواني - ويظهر رشها في جميع أنحاء النص أنه تمت كتابتها على الأرجح بواسطة يد بشرية.

من ناحية أخرى ، فإن الكلمات الخضراء هي الأكثر توقعًا ، بينما يقع اللون الأصفر والأحمر بينهما.

بالطبع ، يمكننا أن نتصور مستقبلًا يتم فيه تدريب أدوات التعلم الآلي لتوليد النصوص على هذه الكلمات الأرجوانية من أجل خداع GLTR من خلال الظهور على أنها أكثر إنسانية - ونأمل أن يتمكن باحثو GLTR من مواكبة ذلك.

الذكاء الاصطناعي مقابل البشر؟

لاختبار GLTR ، طلب الباحثون من طلاب جامعة هارفارد تحديد النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي - أولاً باستخدام الأداة ، ثم بدونها.

اكتشف الطلاب بنجاح نصف جميع النصوص المزيفة بأنفسهم. باستخدام الأداة ، من ناحية أخرى ، اكتشفوا 72 ٪.

في حين أن التجربة بين البشر والذكاء الاصطناعي - وهو أمر غريب ينذر بالمستقبل - يقول أحد الباحثين إن هدفهم النهائي مختلف:

"هدفنا هو إنشاء أنظمة تعاون بين الإنسان والذكاء الاصطناعي" ، سيباستيان غيرمان ، دكتوراه. طالب مشارك في المشروع ، قال لمعهد ماساتشوستس للتكنولوجيا في بيان حول GLTR.

إذا كنت ترغب في تجربة الأداة الجديدة بنفسك ، يمكنك العثور عليها هنا. أصدر الباحثون مؤخرًا ورقة توضح بالتفصيل التجارب والأداة الجديدة.

في المستقبل ، قد تتسبب مقاطع الفيديو المزيفة لقادة العالم في حدوث اضطرابات سياسية ضخمة ، وقد يتم استخدام النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي لنشر المعلومات المضللة بشكل جماعي. لحسن الحظ ، قد توفر نفس التقنية أيضًا حلاً للمشكلة.


شاهد الفيديو: صنع برنامج ذكاء اصطناعي. الجزء الاول. #سلسةالإختراعات (قد 2022).