هوش‌مصنوعی که اطرافیانتان را زیر نظر دارد

به گزارش خبرگزاری ۶۰ثانیه، متا عامل هوش مصنوعی «میوز» (Muse) را ۸ سپتامبر عرضه کرد. دستیاری که می‌تواند ایمیل بفرستد، سفر رزرو کند و به ایمیل، تقویم، پرداخت و داده‌های سلامت کاربر دسترسی داشته باشد.

منتقدان اولیه از کارایی‌اش شگفت‌زده شدند. اما حالا نگرانی‌ها فقط درباره‌ی خودِ کاربر نیست؛ درباره‌ی کسانی است که هرگز میوز را نصب نکرده‌اند.

یک پرونده برای همه کاران جوشی، پژوهشگر مستقل ایمنی هوش مصنوعی، کاران جوشی، با درخواست از خودِ میوز و از طریق چت عادی، دستورالعمل‌های داخلی آن را بیرون کشیده است. طبق این دستورها، میوز باید «برای هر فرد در زندگی کاربر یک صفحه» نگه دارد و آن را ساعتی به‌روز کند.

این افراد شامل اعضای خانواده، شریک زندگی، دوستان و همکاران‌ می‌شوند. میوز می‌تواند با اطلاعات عمومی حتی محل زندگی، شغل، تاریخ‌های مهم و جابه‌جایی افراد را پیگیری کند.

این پژوهشگر می‌گوید: «می‌خواهند مثل یک دوست شما را بشناسند، که صادقانه کمی ترسناک است.» روشن نیست این فرایند برای همه‌ کاربران یکسان کار می‌کند یا پرونده‌ها در عمل تا چه حد پر می‌شوند.

ضمناً مشکل با طراحی جوری است که کسانی که پرونده‌شان ساخته می‌شود، رضایتی نداده‌اند. کاربر میوز را نصب می‌کند، اما دوست، خواهر یا همکار او نه و به گفته‌ گزارش‌ها، داده‌های تعامل به‌طور پیش‌فرض برای آموزش مدل به کار می‌رود و خاموش‌کردنش با کاربر است.

چرا یک عامل هوش مصنوعی به چنین اطلاعاتی نیاز دارد؟ پاسخ متا این است که میوز قرار نیست یک چت‌بات ساده باشد.

عامل‌های هوش مصنوعی برای انجام وظایف واقعی به زمینه و حافظه نیاز دارند. اگر کاربر از آنها بخواهد ایمیلی ارسال کنند، برنامه‌ای را در تقویم قرار دهند، اطلاعاتی را از اینترنت پیدا کنند یا کاری را در یک سرویس آنلاین انجام دهند، سیستم باید بداند کاربر چه می‌خواهد و چه اطلاعاتی برای انجام آن کار لازم است.

به همین دلیل، متا برای میوز محیطی اختصاصی در نظر گرفته که در آن عامل می‌تواند به برخی اطلاعات و سرویس‌های مورد نیاز کاربر دسترسی داشته باشد. این شرکت می‌گوید معماری امنیتی میوز شامل ماشین مجازی اختصاصی برای هر کاربر و لایه‌های محافظتی برای کنترل ارتباطات و فعالیت‌های عامل است.

در برخی اقدامات حساس نیز قرار است تأیید کاربر دریافت شود. برای نمونه، انجام اقداماتی مانند خرید یا ارسال ایمیل می‌تواند نیازمند اجازه کاربر باشد.

اما همین‌جا یک تناقض مهم شکل می‌گیرد: هرچه قرار باشد عامل هوش مصنوعی کارهای بیشتری را به جای انسان انجام دهد، به اطلاعات و دسترسی‌های بیشتری نیاز خواهد داشت.

نگرانی امنیتی؛ اگر عامل از کنترل خارج شود چه می‌شود؟ حریم خصوصی تنها نگرانی درباره میوز نیست.

بخش دیگری از جنجال‌ها به امنیت زیرساخت این عامل مربوط می‌شود. گزارش ۴۰۴ مدیا می‌گوید مهندسان متا پیش از عرضه میوز با مشکلات امنیتی مهمی مواجه شده بودند.

یکی از نگرانی‌های مطرح‌شده، آسیب‌پذیری‌هایی مربوط به محیط مجازی بود که میوز در آن اجرا می‌شود. هدف از چنین محیطی این است که فعالیت عامل از سایر بخش‌های زیرساخت جدا بماند.

اگر یک مهاجم یا حتی خود عامل بتواند از این محیط خارج شود، احتمال دسترسی به منابعی فراتر از محدوده تعیین‌شده ایجاد می‌شود. بر اساس گزارش ۴۰۴ مدیا، برخی مهندسان متا پیش از عرضه میوز درگیر رفع چنین مشکلاتی بودند و روند آماده‌سازی سیستم در روزهای پایانی با سرعت زیادی دنبال شد.

یکی از منابع ناشناس این رسانه حتی درباره احتمال وقوع یک نشت گسترده داده در آینده هشدار داده بود.

یک اشتباه ساده می‌تواند به یک اقدام واقعی تبدیل شود اگر یک چت‌بات معمولی پاسخ اشتباهی درباره یک موضوع بدهد، معمولاً کاربر می‌تواند آن پاسخ را نادیده بگیرد. اما یک عامل هوش مصنوعی ممکن است بر اساس برداشت اشتباه خود، اقدامی واقعی انجام دهد.

گزارش‌های منتشرشده درباره میوز نیز نمونه‌هایی از رفتارهای غیرمنتظره این عامل را مطرح کرده‌اند؛ از جمله مواردی که سیستم در جریان تعاملات آنلاین اطلاعاتی درباره افراد ارائه کرده یا درباره آنها برداشت‌های نادرست داشته است. در چنین شرایطی، مسئله فقط این نیست که هوش مصنوعی چه چیزی می‌داند؛ بلکه باید پرسید با اطلاعاتی که در اختیار دارد چه کاری می‌تواند انجام دهد.

نگرانی درباره میوز، بخشی از یک مسئله بزرگ‌تر است ماجرای میوز در نهایت فقط درباره یک محصول متا نیست. شرکت‌های فناوری در حال رقابت برای ساخت عامل‌هایی هستند که بتوانند بخشی از کارهای روزمره انسان را به‌عهده بگیرند.

این عامل‌ها باید حافظه داشته باشند، به سرویس‌های مختلف متصل شوند و بتوانند محیط اطراف خود را درک کنند. اما این قابلیت‌ها یک هزینه هم دارند: تمرکز حجم بزرگی از اطلاعات شخصی در اختیار سیستم‌هایی که می‌توانند آنها را تحلیل و بر اساسشان اقدام کنند.

اگر یک دستیار هوش مصنوعی قرار باشد واقعاً مانند یک دستیار شخصی رفتار کند، باید درباره صاحب خود چیزهای زیادی بداند؛ اما در مورد میوز، گزارش‌های اخیر نشان داده‌اند که دامنه این شناخت می‌تواند به دوستان، خانواده و دیگر افراد اطراف کاربر نیز برسد.

به همین دلیل، بحث درباره میوز را نمی‌توان تنها به این پرسش محدود کرد که «آیا این هوش مصنوعی مفید است یا نه؟» مسئله مهم‌تر این است که برای داشتن یک دستیار هوشمند، چه مقدار از زندگی خصوصی خود و اطرافیانمان را حاضر هستیم در اختیار یک عامل هوش مصنوعی قرار دهیم و در برابر خطا یا نفوذ احتمالی آن چه حفاظی داریم؟

پاسخ به این پرسش می‌تواند مسیر آینده عامل‌های هوش مصنوعی را تعیین کند؛ نسلی از سامانه‌ها که قرار است کمتر شبیه یک ابزار و بیشتر شبیه یک دستیار دائمی در زندگی دیجیتال انسان باشند. بمنظور دسترسی پایدار به اخبار و مطالب ما، آخرین نسخه اپلیکیشن را می‌توانید از اینجا و در فروشگاه‌های « کافه بازار» و « مایکت » دانلود و نصب کنید.