چت‌ بات‌ های هوش مصنوعی: مشکلات ارجاع و پاسخ‌های نادرست

چت‌ بات‌ های هوش مصنوعی / این تحقیق، که توسط “کلمبیا ژورنالیسم ریویو” انجام شده، نشان می‌دهد که این ابزارها در بسیاری از مواقع قادر به شناسایی و ارائه اطلاعات صحیح نیستند.

بر اساس این مطالعه، بیش از ۶۰ درصد از پاسخ‌ها نادرست بوده و در بسیاری از موارد، لینک‌های ارجاعی به صفحات خطا منتهی می‌شوند.

مطالعه مورد نظر بررسی کرد که چگونه ابزارهای هوش مصنوعی، از جمله چت‌ بات‌ های هوش مصنوعی مختلف مانند “Grok-3” (گراک-۳) و “جمنای” (جمنی)، در پاسخ به بیش از ۱۶۰۰ سوال عملکرد دارند. این تحقیق همچنین نشان داد که در بیش از نیمی از موارد، این چت‌ بات‌ ها لینک‌های ارجاعی جعلی به کاربران می‌دهند. به‌ویژه، چت‌بات “Grok-3” (گراک-۳) با نرخ خطای ۹۴ درصد بیشترین مشکلات را داشت و “جمنای” (جمنی) تنها در یک از ده تلاش خود به‌طور کامل پاسخ درست ارائه داد.

علاوه بر این، مطالعه نشان می‌دهد که موتورهای جستجو و چت‌بات‌ها هنگام ارائه پاسخ‌های خود، اعتماد به‌نفس بالایی در بیان اطلاعات نادرست دارند. این موضوع نگرانی‌های جدی در خصوص استفاده از مدل‌های زبانی بزرگ برای جستجو ایجاد کرده است.

این ابزارها نه تنها اطلاعات نادرست را ارائه می‌دهند بلکه گاهی اوقات به محتوای منتشر شده در منابع مختلف به‌طور نادرست ارجاع می‌دهند.

نتایج این تحقیق به‌ویژه در زمینه تولید محتوای خبری و تبلیغاتی توسط چت‌بات‌ها نگران‌کننده است. با توجه به اینکه این ابزارها قادر به تحلیل دقیق و منصفانه محتوای واقعی نیستند، باید به‌دقت استفاده شوند تا از پخش اطلاعات نادرست و گیج‌کننده جلوگیری شود.

این مطالعه به‌ویژه در زمینه مقابله با مشکلات اطلاعات نادرست در فضای آنلاین اهمیت دارد و بر لزوم ارتقای دقت و شفافیت در سیستم‌های جستجو تأکید می‌کند.

محققان به‌شدت به این نکته اشاره کردند که شفافیت در فرآیند ارائه اطلاعات توسط هوش مصنوعی بسیار مهم است و باید با دقت بیشتری کنترل شود تا از آسیب‌های احتمالی به کاربران جلوگیری گردد.

در نتیجه، استفاده از چت‌ بات‌ ها و موتورهای جستجوی مبتنی بر هوش مصنوعی بدون نظارت و اعتبارسنجی مناسب می‌تواند منجر به گمراهی و افزایش اطلاعات نادرست در میان کاربران شود.