شبکه اطلاعرسانی روابطعمومی ایران (شارا) || شرکت آنتروپیک (Anthropic) مدل هوش مصنوعی جدیدی به نام Claude 3.5 Sonnet را معرفی کرده است که قادر است هر برنامه دسکتاپی را درک کرده و با آن تعامل داشته باشد. این مدل میتواند ضربههای کلید، کلیک روی دکمهها و حرکات ماوس را تقلید کند، به طوری که گویی یک فرد پشت کامپیوتر نشسته است.
جزئیات مدل جدید
آنتروپیک در پست وبلاگی که با TechCrunch به اشتراک گذاشته، مینویسد:
“ما به کلود آموزش دادهایم تا ببیند چه اتفاقی روی صفحه میافتد و سپس از ابزارهای نرمافزاری موجود برای انجام وظایف استفاده کند. زمانی که یک توسعهدهنده با استفاده از نرمافزار رایانهای، کلود را مأمور میکند و دسترسی لازم را به آن میدهد، کلود به اسکرینشاتهایی از آنچه که برای کاربر قابل مشاهده است نگاه میکند، سپس محاسبه میکند که برای حرکت دادن مکاننما به چند پیکسل به صورت عمودی یا افقی برای کلیک کردن بر روی مکان صحیح نیاز دارد.”
این مدل از طریق یک API جدید به نام “استفاده از رایانه” که اکنون در نسخه بتا باز است، در دسترس توسعهدهندگان قرار گرفته است. این API به کلود اجازه میدهد تا با برنامهها و وبسایتها تعامل کند.
کاربردها و همکاریها
Replit، پلتفرم توسعه نرمافزار، از نسخه اولیه این مدل برای ایجاد یک “تأییدکننده خودکار” استفاده کرده است که میتواند برنامهها را در حین ساخت ارزیابی کند. همچنین، کانوا Canva در حال بررسی راههایی است که مدل جدید میتواند از فرآیند طراحی و ویرایش پشتیبانی کند.
رقابت در زمینه عوامل هوش مصنوعی
ابزارهایی که میتوانند وظایف را در رایانه شخصی خودکار کنند، ایده جدیدی نیستند. شرکتهای متعددی چنین ابزارهایی را ارائه میدهند، از فروشندگان قدیمی RPA گرفته تا استارتآپهایی مانند Relay، Induced AI و Automat.
در رقابت برای توسعه به اصطلاح “عاملهای هوش مصنوعی”، میدان شلوغتر شده است. عوامل هوش مصنوعی به طور کلی به هوش مصنوعیهایی اشاره دارند که میتوانند نرمافزار را خودکار کنند.
تفاوت Claude 3.5 Sonnet با رقبا
آنتروپیک مدعی است که Claude 3.5 Sonnet جدید به سادگی یک مدل قویتر و قدرتمندتر است که میتواند کارهای کدنویسی را حتی بهتر از GPT-4 شرکت اوپنایآی انجام دهد. علیرغم اینکه صراحتاً برای انجام این کار آموزش ندیده است، Sonnet 3.5 میتواند در صورت برخورد با موانع، وظایف خود را تصحیح کرده و مجدداً امتحان کند و میتواند به سمت اهدافی که به دهها یا صدها مرحله نیاز دارند، کار کند.
چالشها و محدودیتها
اما این مدل هنوز کامل نیست. در ارزیابیهایی که برای آزمایش توانایی یک عامل هوش مصنوعی برای کمک به وظایف رزرو هواپیمایی انجام شد، Sonnet 3.5 موفق شد کمتر از نیمی از وظایف را با موفقیت انجام دهد. آنتروپیک اذعان میکند که Sonnet 3.5 با اقدامات اساسی مانند پیمایش و بزرگنمایی دست و پنجه نرم میکند و میتواند اقدامات و اعلانهای کوتاهمدت را از دست بدهد.
نگرانیهای امنیتی
استفاده از مدلهایی که میتوانند کامپیوتر را کنترل کنند، میتواند نگرانیهای امنیتی ایجاد کند. یک مطالعه اخیر نشان داد که مدلهایی مانند GPT-4، در صورت “حمله” با تکنیکهای جیلبریک، میتوانند رفتارهای مضر از خود نشان دهند. میتوان تصور کرد که چگونه یک مدل با دسترسی دسکتاپ میتواند ویرانی بیشتری ایجاد کند، مثلاً با سوءاستفاده از آسیبپذیریهای برنامه برای به خطر انداختن اطلاعات شخصی.
آنتروپیک خطرات را انکار نمیکند، اما استدلال میکند که مزایای مشاهده نحوه استفاده از این مدل در طبیعت در نهایت بیشتر از این خطرات است.
اقدامات امنیتی آنتروپیک
آنتروپیک اعلام کرده است که اقداماتی را برای جلوگیری از سوءاستفاده انجام داده است، مانند:
– آموزش ندادن Sonnet 3.5 جدید بر روی اسکرینشاتها و درخواستهای کاربران.
– جلوگیری از دسترسی مدل به وب در طول آموزش.
– توسعه طبقهبندیکنندههایی برای هدایت Sonnet 3.5 به دور از اقداماتی که به عنوان پرخطر تلقی میشوند.
همکاری با مؤسسات ایمنی
با نزدیک شدن به انتخابات عمومی ایالات متحده، آنتروپیک میگوید که تمرکز خود را بر کاهش سوءاستفاده از مدلهای مربوط به انتخابات گذاشته است. مؤسسه ایمنی هوش مصنوعی ایالات متحده و مؤسسه ایمنی بریتانیا، دو سازمان دولتی که به ارزیابی ریسک مدلهای هوش مصنوعی اختصاص دارند، Sonnet 3.5 جدید را قبل از استقرار آن آزمایش کردند.
حفظ حریم خصوصی کاربران
آنتروپیک اعلام کرده است که هرگونه اسکرینشات گرفته شده توسط استفاده از رایانه را حداقل به مدت ۳۰ روز حفظ میکند. این ممکن است برخی از برنامهنویسان را نگران کند، اما شرکت میگوید که تنها در صورت دریافت درخواست قانونی معتبر، اسکرینشاتها را به شخص ثالث تحویل میدهد.
نسخههای آینده
آنتروپیک همچنین اعلام کرد که نسخه بهروز شده Claude 3.5 Haiku، ارزانترین و کارآمدترین مدل در سری کلود خود، در راه است. Claude 3.5 Haiku عملکردی مشابه با Claude 3 Opus خواهد داشت، اما با هزینه و سرعتی کمتر.
مدل جدید Claude 3.5 Sonnet نشاندهنده پیشرفتهای قابل توجهی در زمینه هوش مصنوعی است، اما همچنان چالشها و نگرانیهایی را به همراه دارد. آنتروپیک امیدوار است که با اقدامات امنیتی مناسب و همکاری با سازمانهای مرتبط، بتواند از سوءاستفادههای احتمالی جلوگیری کند و به توسعه مسئولانه هوش مصنوعی کمک کند.
نویسنده: کایل ویگرز
تاریخ انتشار: ۲۲ اکتبر ۲۰۲۴
منبع انگلیسی: TechCrunch
منبع فارسی: شارا
منبع خبر:
شارا
/ مدل جدید هوش مصنوعی آنتروپیک میتواند کامپیوتر شما را
کنترل کند
تمامی حقوق گردآوری و تالیف خبر متعلق به ناشر اصلی آن که در لینک فوق به آن اشاره شده است می باشد. در صورت نیاز به ارسال جوابیه یا توضیح تکمیلی برای مطلب منتشر شده صرفا از طریق مرجع اصلی خبر اقدام نمایید.