))
هل يمكن لروبوتات الدردشة المعتمدة على الذكاء الاصطناعي إنشاء ذكريات زائفة؟
Manage episode 439170780 series 3554677
Inhalt bereitgestellt von Fast Foundations. Alle Podcast-Inhalte, einschließlich Episoden, Grafiken und Podcast-Beschreibungen, werden direkt von Fast Foundations oder seinem Podcast-Plattformpartner hochgeladen und bereitgestellt. Wenn Sie glauben, dass jemand Ihr urheberrechtlich geschütztes Werk ohne Ihre Erlaubnis nutzt, können Sie dem hier beschriebenen Verfahren folgen https://de.player.fm/legal.
يمكن للروبوتات الذكية التسبب في ذكريات خاطئة. هذه هي الحقيقة المثيرة التي يتعمق فيها جيم كارتر في حلقة هذا الأسبوع من برنامج "البداية".
يشارك جيم دراسة رائعة أجرتها MIT وجامعة كاليفورنيا، إيرفين، التي وجدت أن الروبوتات الذكية التي تعمل بالذكاء الاصطناعي يمكن أن تخلق ذكريات خاطئة لدى المستخدمين. تخيل أنك تشهد جريمة ومن ثم تقوم روبوتات الذكاء الاصطناعي بخداعك وتذكيرك بأشياء لم تحدث أبدًا. مرعب، أليس كذلك؟
شملت الدراسة 200 مشارك شاهدوا فيديو صامت لكاميرات المراقبة لعملية سطو مسلح. تم تقسيمهم إلى أربع مجموعات: مجموعة تحكم، استبيان بأسئلة مضللة، روبوت مُعد مسبقاً، وروبوت مولد باستخدام نموذج لغة كبير.
النتائج؟ الروبوت المولد تسبب في تقريبا ثلاث أضعاف عدد الذكريات الخاطئة مقارنة بمجموعة التحكم. وما هو أكثر جنونا أن 36% من ردود المستخدمين لهذا الروبوت المولد كانت مضللة، وهذه الذكريات الخاطئة استمرت لمدة أسبوع على الأقل!
يستكشف جيم سبب كون بعض الأشخاص أكثر عرضة لهذه الذكريات الخاطئة الناتجة عن الذكاء الاصطناعي. تَبَيَّن أن الأشخاص الذين على دراية بالذكاء الاصطناعي ولكن ليس بالروبوتات الذكية أكثر عرضة للخداع. بالإضافة إلى ذلك، فإن المهتمين بالتحقيقات الجريمة يكونون أكثر عرضة، على الأرجح بسبب انخراطهم العالي ومعالجتهم للمعلومات الخاطئة.
إذاً، لماذا "يتخيل" الروبوتات أو تنتج معلومات خاطئة؟ يشرح جيم القيود والتحيزات في تدريب البيانات، والتوفيق الزائد، وطبيعة نماذج اللغة الكبيرة التي تفضل الإجابات المحتملة على الدقة الفعلية. هذه التخيلات يمكن أن تنشر المعلومات الخاطئة، وتقوض الثقة في الذكاء الاصطناعي، وحتى تؤدي إلى مشاكل قانونية.
لكن لا تقلق، لا يتركنا جيم في حالة قلق. يشركنا بخطوات عملية لتقليل هذه المخاطر، مثل تحسين جودة بيانات التدريب، دمج نماذج اللغة بنظم التحقق من المعلومات، وتطوير نظم كشف التخيلات.
هل تريد متابعة أحدث تطورات الذكاء الاصطناعي؟ شارك في مجموعة Fast Foundations على Slack لجيم لمناقشة هذه القضايا الحيوية والعمل نحو تطوير الذكاء الاصطناعي بمسؤولية. توجه إلى fastfoundations.com/slack لتكون جزءًا من النقاش.
تذكر، لدينا القدرة على تشكيل مستقبل الذكاء الاصطناعي، لذا دعونا نستمر في الحوار، بدءاً من كل سؤال.
---
هذه الحلقة والبودكاست بأكمله يتم إنتاجه بقوة الذكاء الاصطناعي (AI) بواسطة المتخصص جيم كارتر. جيم لا يتحدث اللغة العربية! هذا هو البودكاست الخاص به وتجربته، وهو ممتن لدعمكم.
يرجى ترك تقييم بخمس نجوم 🌟🌟🌟🌟🌟 ومشاركته مع صديق.
يقوم بمشاركة ما يبنيه علنًا ويمكنك تعلم كيفية القيام بذلك بنفسك، وشركتك من خلال الانضمام إلى مجتمع Slack الخاص به على https://fastfoundations.com/slack
تواصل وتعرف على المزيد عن جيم على https://jimcarter.me
60 Episoden
Teilen
