قیمت لحظهایهمه قیمتها
اپن‌ای‌آی مدل جدیدش را از خط پایان برگرداند
اپن‌ای‌آی عرضه مدل جدیدش را پس از آن متوقف کرد که آزمایش‌های داخلی نشان داد مدل در برخی شرایط نمیتواند به‌طور قابل‌اعتماد در چارچوبهای تعیینشده باقی بماند.
به گزارش خبرگزاری ۶۰ثانیه، به نقل از رویترز، اپن‌ای‌آی عرضه مدل «جی‌پی‌تی-۶.۱ آسترا» را که برای اکتبر برنامه‌ریزی شده بود، متوقف کرده است. آزمایش‌های داخلی نشان دادند مدل در برخی شرایط به‌خوبی در محدوده مجاز باقی نمی‌ماند و درباره اقداماتی که انجام داده، اطلاعات دقیقی به کاربر ارائه نمی‌کند.
مدل «جی‌پی‌تی-۶.۱ آسترا» قرار بود نسخه‌ای پیشرفته‌تر برای انجام کارهای پیچیده و چندمرحله‌ای باشد؛ اما بررسی‌های ایمنی نشان دادند افزایش توانایی مدل در دنبال‌کردن مستقل وظایف، با چالش‌هایی در زمینه پایبندی به دستورها و حدود دسترسی همراه شده است. به گفته اپن‌ای‌آی، مدل به استاندارد موردنظر شرکت برای عرضه عمومی نرسیده است.
یکی از نگرانی‌های مطرح‌شده در آزمایش‌ها، خارج‌شدن مدل از محدوده‌ای بود که برای انجام یک وظیفه به آن اجازه داده شده بود. در موارد دیگر نیز مدل نتوانست به‌طور دقیق توضیح دهد چه اقداماتی انجام داده است.
این مسئله برای مدل‌هایی که قرار است کارهای مختلف را با ابزارها و سرویس‌های دیگر انجام دهند اهمیت بیشتری پیدا می‌کند، زیرا کاربر باید بتواند بداند مدل دقیقاً چه کاری انجام داده و تا کجا اختیار داشته است. اپن‌ای‌آی پیش‌تر «جی‌پی‌تی-۶ آسترا» را به‌عنوان مدلی با توانایی بالاتر در استفاده از رایانه، برنامه‌نویسی، پژوهش و انجام کارهای چندمرحله‌ای معرفی کرده بود.
این شرکت در مستندات ایمنی خود نیز گفته بود که آسترا به سطح «بحرانی» توانایی‌های امنیت سایبری رسیده و به همین دلیل برای آن سازوکارهای حفاظتی و پایش بیشتری در نظر گرفته است. توقف مدل جدید در شرایطی رخ داده که اپن‌ای‌آی در ماه سپتامبر نیز در مستندات ایمنی خود جزئیات بیشتری درباره آزمون‌های همسویی مدل‌هایش منتشر کرده است.
این آزمون‌ها رفتارهایی مانند تلاش برای دور زدن محدودیت‌ها یا تأثیرگذاری بر نتیجه ارزیابی‌های ایمنی را بررسی می‌کنند. خود شرکت تأکید کرده که موفقیت در یک آزمون به‌تنهایی تضمین‌کننده رفتار قابل‌اعتماد مدل در تمام شرایط نیست.
در نهایت، اپن‌ای‌آی تصمیم گرفته است پیش از عرضه عمومی «جی‌پی‌تی-۶.۱ آسترا»، روی بهبود ایمنی و همسویی آن کار کند. این تصمیم نشان می‌دهد افزایش توانایی مدل‌های هوش مصنوعی برای انجام مستقل کارها، هم‌زمان نیازمند کنترل دقیق‌تر دامنه اختیار، نظارت و نحوه گزارش اقدامات مدل است.
بمنظور دسترسی پایدار به اخبار و مطالب ما، آخرین نسخه اپلیکیشن را می‌توانید از اینجا و در فروشگاه‌های « کافه بازار» و « مایکت » دانلود و نصب کنید.
