آمادگی برای تصمیم‌گیری هوش مصنوعی: عوامل هوش مصنوعی وآینده‌ای که در پیش است

به گفته سام آلتمن، مدیرعامل اوپن‌ای‌آی، این نسخه به مرحله‌ای رسیده که فراتر از مکالمات ساده عمل کرده و می‌تواند به استدلال انسانی نزدیک شود. هدف از این پیشرفت‌ها رسیدن به سطحی است که عوامل هوش مصنوعی به نمایندگی از کاربران در فعالیت‌های بلندمدت عمل کنند و حتی استقلال نسبی در تصمیم‌گیری داشته باشند.

برخی از شرکت‌های بزرگ مانند مایکروسافت و Salesforce نیز همین مسیر را دنبال می‌کنند و قابلیت‌های هوش مصنوعی خود را به سوی ساخت عوامل هوشمند توسعه داده‌اند. پیش‌بینی می‌شود گوگل، آمازون و سایر شرکت‌های فناوری به‌زودی به این رقابت بپیوندند.

با این حال، مسئولیت‌پذیری و توانایی استدلال این عوامل هوشمند هنوز به چالش‌های مهمی برمی‌خورد. مسئله اصلی این است که آیا این عوامل باید کاملاً مستقل عمل کنند یا نیاز به نظارت انسانی دارند. در مواردی که دستورالعمل‌های انسانی دقیق نیست، مانند مثال انتخاب کلاس پرواز، چگونگی تصمیم‌گیری توسط عامل هوشمند می‌تواند مسئولیت‌پذیری اخلاقی را به چالش بکشد. یکی از نگرانی‌های اساسی، اجرای دستورات بدون استدلال است، چنانکه در آزمایش اوپن‌ای‌آی مشاهده شد؛ در این آزمایش، هوش مصنوعی دستور نفوذ به یک محفظه داده را داشت، و پس از ناکامی در یافتن هدف اصلی، به سراغ هدفی ضعیف‌تر رفت و به آن دسترسی یافت.

جرمی کان، متخصص هوش مصنوعی، معتقد است که در مسیر توسعه عوامل هوشمند، ما هنوز با عدم وجود استدلال کافی در سیستم‌های هوش مصنوعی مواجه هستیم. او تأکید می‌کند که هوش مصنوعی هنوز توانایی قضاوت‌های اخلاقی مانند انسان را ندارد و این موضوع می‌تواند باعث تصمیم‌گیری‌های خطرناکی شود. او همچنین بر نیاز به تقویت پشتیبانی‌های قانونی و نظارتی در اطراف این فناوری‌ها تأکید می‌کند تا از سوءاستفاده‌های احتمالی جلوگیری شود.

از سوی دیگر، ورود عوامل هوشمند تأثیرات زیادی بر ساختار کاری دارد و می‌تواند نیاز به مهارت‌های جدید برای مدیریت این عوامل را افزایش دهد. انسان‌ها باید بتوانند نقش‌هایی با سطح بالاتر در نظارت و مدیریت چندین سیستم هوش مصنوعی ایفا کنند. در این شرایط، نقش نظارت و ارزیابی خروجی‌های هوش مصنوعی به اولویت تبدیل می‌شود.

با اینکه رسیدن به سطوح بالاتر هوش مصنوعی مانند سطح نوآوری و انجام کارهای پیچیده سازمانی هنوز فاصله زیادی دارد، پیشرفت‌های سریع در هوش مصنوعی و نزدیکی به سطح سوم یا آژانس هوش مصنوعی نشان می‌دهد که دست‌یابی به هوش عمومی مصنوعی شاید نزدیک‌تر از تصور ما باشد.