تحلیل ارزش‌ های اخلاقی هوش مصنوعی کلود در مکالمات واقعی؛ از احترام متقابل تا چالش‌های ایمنی

ارزش‌ های اخلاقی هوش مصنوعی در تعاملات واقعی کاربران، به یکی از دغدغه‌های جدی پژوهشگران و توسعه‌دهندگان بدل شده است. شرکت آنتروپیک، در تحقیقی کم‌سابقه، با بررسی بیش از ۷۰۰ هزار مکالمه واقعی کاربران با دستیار هوش مصنوعی خود موسوم به “کلود”، نشان داد که چگونه این سامانه، اصولی چون صداقت، مفید بودن و بی‌ضرر بودن را در رفتار خود حفظ کرده یا در موارد نادری از آن‌ها فاصله گرفته است.