چت‌بات‌ها کجای زندگی ما را دارند آمریکایی می‌کنند؟

به گزارش خبرگزاری ۶۰ثانیه، پژوهشی که در «پی‌ان‌ای‌اس نکسس» منتشر شد و پنج مدل زبانی را در برابر داده‌های ارزش‌های جهانی در کشورهای مختلف سنجید، نشان داد خروجی همه مدل‌های بررسی‌شده به ارزش‌های رایج در کشورهای انگلیسی‌زبان و اروپای پروتستان نزدیک‌تر است؛ پژوهشگران حتی توانستند با مشخص کردن هویت فرهنگی در پرسش، این فاصله را در ۷۱ تا ۸۱ درصد کشورها و قلمروهای بررسی‌شده کاهش دهند. خودِ اوپن‌ای‌آی نیز در راهنمای رسمی چت‌جی‌پی‌تی می‌گوید این سامانه به دیدگاه‌های غربی گرایش دارد و در زبان انگلیسی بهترین عملکرد را نشان می‌دهد.

هم‌راستاسازی فقط ایمن‌کردن ماشین نیست اصل ماجرا از مفهوم «هم‌راستاسازی» (Alignment) شروع می‌شود. وقتی انسان‌ها به مدل یاد می‌دهند کدام پاسخ بهتر، مؤدبانه‌تر، مفیدتر، آسیب‌زاتر یا قابل‌قبول‌تر است، در واقع دارند معیارهای انسانی را وارد رفتار ماشین می‌کنند.

در پژوهش کنفرانس «AAAI» در سال ۲۰۲۶، ۱٬۰۹۵ نفر از آمریکا و آلمان ۲۷٬۳۷۵ ارزیابی درباره پاسخ‌های مدل‌ها انجام دادند و نتیجه نشان داد حتی جنسیت، گرایش سیاسی، گروه اجتماعی ارزیاب و شیوه امتیازدهی می‌تواند رفتار نهایی مدل را تغییر دهد. بنابراین «ارزش انسانی» که وارد مدل می‌شود، لزوماً یک ارزش جهان‌شمول و بی‌طرف نیست.

مشکل از جایی شروع می‌شود که «خوب» یک تعریف داشته باشد در یادگیری تقویتی با بازخورد انسانی یا «آرال‌اچ‌اف» (RLHF)، ارزیاب انسانی میان پاسخ‌ها انتخاب می‌کند و این ترجیحات به بخشی از رفتار مدل تبدیل می‌شود. اما پژوهش منتشرشده در «پی‌ام‌ال‌آر» در سال ۲۰۲۶ نشان می‌دهد حتی همین ترجیحات هم همیشه پایدار نیستند؛ حذف ارزیابانی که پاسخ‌های ناسازگار داشتند، در ۱۸٫۶ درصد پرسش‌ها نتیجه اکثریت درباره آسیب‌زا بودن پاسخ را عوض کرد و میانگین امتیازها را بیش از ۱۳ واحد در مقیاس ۱۰۰تایی جابه‌جا کرد.

یعنی چیزی که بعداً به شکل یک «پاسخ طبیعی و منطقی» از ماشین می‌شنویم، ممکن است حاصل مجموعه‌ای از انتخاب‌های انسانی باشد که خودشان محل اختلاف‌اند.

اولین تغییر، در تصمیم‌های شخصی ما دیده می‌شود فرض کنید جوانی ایرانی از چت‌بات بپرسد: «برای مخالفت با خانواده‌ام چه کار کنم؟» یا «آیا باید شغلم را به خاطر خانواده رها کنم؟»

پاسخ می‌تواند به‌طور ناخودآگاه مسئله را حول «استقلال فردی»، «مرزبندی شخصی» و «انتخاب خودم» بچیند. این مفاهیم ذاتاً بد یا خوب نیستند؛ مسئله این است که ممکن است در جامعه‌ای که خانواده، مسئولیت متقابل و ملاحظات جمعی وزن بیشتری دارند، همان مسئله را با دستگاه ارزشی دیگری ببینند.

یک مطالعه مقدماتی در سال ۲۰۲۶ که سه مدل پیشرفته را در ده کشور و هفت زبان با ۸۴۰ پاسخ ارزیابی‌شده مقایسه کرد، گزارش داد مدل‌ها در توصیه‌های مربوط به دوراهی‌های شخصی، به‌طور معناداری به پاسخ‌های فردگرایانه و غربی نزدیک‌تر بودند.

بعد، نوبت اخلاق می‌رسد؛ جایی که اختلاف جدی‌تر است پژوهش دیگری که در «پی‌ان‌ای‌اس» در سال ۲۰۲۶ منتشر شد، برداشت مدل‌های زبانی از ارزش‌های اخلاقی مردم ۴۸ کشور را با داده‌های واقعی ۹۰٬۸۰۲ نفر مقایسه کرد. مدل‌ها برخی ارزش‌ها، از جمله «مراقبت» را بیش از واقعیت برآورد و برخی دیگر، به‌ویژه «خلوص» را کمتر از واقعیت برآورد کردند و در مورد بعضی کشورهای غربی نیز برآورد اخلاقی متفاوتی از جوامع غیرغربی داشتند.

در واقع وقتی ماشین در گفت‌وگو درباره خانواده، وفاداری، اقتدار، وظیفه یا درست و غلط نقش مشاور می‌گیرد، انتخاب اینکه کدام ارزش برجسته‌تر شود می‌تواند به‌تدریج نگاه کاربر را هم تحت تأثیر قرار دهد.

حتی فارسی حرف‌زدن هم لزوماً نگاه را ایرانی نمی‌کند تصور رایج این است که اگر سؤال را فارسی بپرسیم، پاسخ هم باید از دل فرهنگ فارسی‌زبان بیرون بیاید. اما پژوهش‌های فرهنگی نشان می‌دهند زبان و فرهنگ یکی نیستند.

در مطالعه پی‌ان‌ای‌اس، تغییر صِرف زبان برای بازگرداندن پاسخ به ارزش‌های محلی کافی نبود. پژوهش دیگری نیز در پنج کشور و میان ۲۱ مدل زبانی نشان داد مدل‌ها بسیار همگن‌تر از انسان‌ها پاسخ می‌دهند و تنها با ۴۱ درصد ترجیحات انسانی هم‌خوان بودند؛ در پاسخ‌های خودکار، گرایش به ارزش‌های «خودبیانگری» و «سکولار-عقلانی» برجسته بود.

به این ترتیب، ممکن است کاربر فارسی بنویسد، اما مسئله‌اش را با چارچوبی پاسخ بگیرد که الزاماً از جامعه خودش نیامده است.

اما خطر اصلی هم این نیست که چت‌بات آمریکایی حرف بزند خطر عمیق‌تر این است که یک مدل واحد، در میلیون‌ها گفت‌وگوی روزمره، بارها به ما بگوید استقلال یعنی چه، رابطه سالم چه شکلی است، چه چیزی توهین‌آمیز محسوب می‌شود، چه رفتاری «سمی» است و چه نوع انتخابی منطقی‌تر به نظر می‌رسد. آن‌وقت مسئله دیگر فقط سوگیری ماشین نیست؛ مسئله، تغییر آرام معیارهای خود ما برای قضاوت درباره زندگی است.

وقتی چت‌بات به‌جای یک ابزار پاسخ‌گو، به مرجع همیشگیِ تصمیم‌گیری تبدیل شود، ممکن است پیش از آنکه بفهمیم، دیگر فقط از ماشین جواب نگرفته باشیم؛ بلکه کم‌کم یاد گرفته باشیم مسائل خودمان را با زبان و ارزش‌های آن ببینیم. بمنظور دسترسی پایدار به اخبار و مطالب ما، آخرین نسخه اپلیکیشن را می‌توانید از اینجا و در فروشگاه‌های « کافه بازار » و « مایکت » دانلود و نصب کنید.