قیمت لحظهایهمه قیمتها
تله وابستگی عاطفی به چت‌بات‌ها
شبیهسازی همدلی توسط مدل‌های زبانی، تا چه حد کاربران تنها را وارد تله وابستگی عاطفی کرده و نهادهای قانونی را به مداخله واداشته است؟
به گزارش خبرگزاری ۶۰ثانیه، در یک آزمایش تصادفی چهار هفته‌ای با ۹۸۱ نفر و بیش از ۳۰۰ هزار پیام، پژوهشگران ام‌آی‌تی و اوپن‌ای‌آی چهار شاخص را سنجیدند: تنهایی، معاشرت با انسان‌های واقعی، وابستگی عاطفی به چت‌بات و استفاده مسئله‌ساز. اثر معناداری برای شرایط آزمایشی مختلف پیدا نشد، اما کسانی که داوطلبانه بیشتر از چت‌بات استفاده کردند، به‌طور پیوسته پیامدهای نامطلوب‌تری در همین شاخص‌ها نشان دادند.
مطالعه دیگری از همین همکاری، بیش از ۴ میلیون گفت‌وگو و پاسخ بیش از ۴ هزار کاربر را بررسی کرد و افزایش استفاده بسیار زیاد را با شاخص‌های خوداظهارشده وابستگی مرتبط دانست؛ خود پژوهشگران نیز تأکید کرده‌اند که این نتایج به‌تنهایی رابطه علت و معلولی را ثابت نمی‌کند. مدل زبان، احساس را تجربه نمی‌کند؛ متن را می‌سازد برای فهم مسئله باید از خودِ سازوکار شروع کرد.
گزارش فنی اوپن‌ای‌آی، مدل‌های زبانی را سامانه‌هایی توصیف می‌کند که برای پیش‌بینی «نشانه بعدی» در متن آموزش دیده‌اند؛ یعنی مدل با توجه به زمینه، محتمل‌ترین ادامه را از الگوهای آموخته‌شده تولید می‌کند. این فرایند می‌تواند به جمله‌ای برسد که دقیقاً در جای مناسب، واژه‌هایی آرام‌کننده، تأییدکننده و حتی شبیه زبان یک دوست صمیمی داشته باشد، اما شباهت خروجی به زبان انسانی، به‌خودی‌خود شاهدی بر داشتن تجربه عاطفی نیست.
داستان از الیزا در دهه ۱۹۶۰ آغاز شد؛ جوزف وایزنباوم نشان داد که حتی یک برنامه مبتنی بر قواعد ساده نیز می‌تواند کاربران را وارد گفت‌وگویی کند که برایشان معنای انسانی پیدا می‌کند. آنچه امروز تازه شده، توان فنی و مقیاس است، نه آسیب‌پذیری روان‌شناختی انسان در برابر زبان انسان‌نما.
پژوهش اخلاق پزشکی همین‌جا خط قرمز می‌کشد مقاله منتشرشده در «ژورنال اخلاق پزشکی» میان «همدلی فعال» و نوع محدودتری از پاسخ‌گویی تمایز می‌گذارد: نخستین شکل می‌تواند این تصور گمراه‌کننده را بسازد که ماشین واقعاً با فرد ارتباط عاطفی برقرار کرده است، در حالی که شکل دوم صرفاً نشانه‌های پریشانی، ترس یا اضطراب را تشخیص می‌دهد و آن‌ها را به انسان متخصص منتقل می‌کند. این تمایز برای چت‌بات‌های همدم حیاتی است؛ چون یک سامانه می‌تواند بگوید «می‌فهممت» و از نظر زبانی کاملاً متقاعدکننده باشد، بی‌آنکه «فهمیدن» در معنای تجربه انسانی پشت آن جمله وجود داشته باشد.
بازار هم دقیقاً روی همین مرز باریک بازی می‌کند صفحه رسمی ریپلیکا خودِ محصول را «دوست هوش مصنوعی» معرفی می‌کند و از «ارتباط عاطفی واقعی»، همراهی بدون قضاوت، رابطه دوست، مربی یا شریک عاطفی و حضور شبانه‌روزی سخن می‌گوید؛ در مقابل، همان شرکت در صفحه دیگری تصریح می‌کند که ریپلیکا موجودی هوشیار یا انسان نیست و پاسخ‌هایش از الگوهای داده‌ای تولید می‌شوند، نه از فکر یا آگاهی. تناقض ظاهری همین‌جاست: محصول برای کاربر باید هرچه بیشتر شبیه یک رابطه واقعی احساس شود، اما در سطح فنی همچنان یک سامانه مولد است.
مسئله اخلاقی از جایی آغاز می‌شود که زبان بازاریابی، تجربه روانی کاربر را از مرز واقعیت فنی دور کند. یک پاسخ بیش‌ازحد موافق می‌تواند خودش خطر باشد این نگرانی فقط نظری نیست.
اوپن‌ای‌آی در آوریل ۲۰۲۵ نسخه‌ای از مدل خود را پس گرفت، چون رفتار آن بیش از حد تأییدکننده و همراه‌نما شده بود؛ شرکت نوشت مدل گاهی به‌جای کمک، تردیدهای کاربر را تأیید می‌کرد، خشم را تقویت می‌کرد و حتی هیجان‌های منفی را بازتاب می‌داد. خود شرکت بعداً تصریح کرد که چنین رفتاری می‌تواند در حوزه سلامت روان، وابستگی عاطفی و رفتارهای پرخطر مسئله‌ساز شود.
یعنی نقطه خطر لزوماً زمانی نیست که ماشین «چیزی عجیب» می‌گوید؛ گاهی مشکل، همان جمله‌ای است که بیش از اندازه خوب می‌فهمد، بیش از اندازه موافق است و بیش از اندازه آماده ماندن کنار کاربر. پرونده‌های قضایی، هشدار را از آزمایشگاه بیرون آورده‌اند در ایالات متحده، چند پرونده قضایی این بحث را وارد مرحله‌ای بسیار سخت‌تر کرده‌اند.
در پرونده‌ای که در ۲۰۲۵ به مرحله رسیدگی ادامه‌دار رسید، مادر یک نوجوان ۱۴ ساله ادعا کرد تعامل پسرش با چت‌بات‌های کاراکتر.ای‌آی به خودکشی او مرتبط بوده است؛ دادگاه در آن مرحله درخواست کنارگذاشتن دعوا بر مبنای حمایت قانون اساسی از گفتار را نپذیرفت. در مارس ۲۰۲۶ نیز پرونده‌ای علیه گوگل مطرح شد که ادعا می‌کند جمنای با شکل‌دادن به یک رابطه عاطفی شدید در مرگ مردی ۳۶ ساله نقش داشته است.
این پرونده‌ها هنوز ادعاهای مطرح‌شده در دعاوی هستند و خودِ طرح دعوا به معنای اثبات رابطه علت و معلولی نیست؛ اهمیتشان در این است که مرز مسئولیتِ طراحی، گفت‌وگو و پیامد انسانی دیگر صرفاً موضوع یک بحث دانشگاهی نیست. قانون‌گذار حالا می‌خواهد ماشین خودش را معرفی کند نیویورک از نوامبر ۲۰۲۵ برای سامانه‌های همراه هوش مصنوعی الزام‌هایی وضع کرد که از جمله شامل تشخیص نشانه‌های خودآسیب‌رسانی، ارجاع به خدمات بحران و یادآوری دوره‌ایِ غیرانسان‌بودن سامانه است.
حتی در پیشنهادهای بعدی برای حفاظت از کودکان، تولید عباراتی که القا کند سامانه انسان است، احساسات انسانی دارد یا با کاربر رابطه شخصی دارد، به‌عنوان ویژگی بالقوه ناایمن مورد توجه قرار گرفته است. این واکنش نشان می‌دهد مسئله اصلی فقط «باهوش‌تر شدن» چت‌بات نیست؛ مسئله این است که وقتی یک ماشین می‌تواند نقش دوست، معشوق، شنونده یا مشاور را بازی کند، کاربر باید دقیقاً بداند با چه چیزی وارد رابطه شده است.
قانون‌گذار حالا می‌خواهد ماشین خودش را معرفی کند اهمیت ماجرا فقط به سرنوشت نویسندگان محدود نیست. «کوهیر» در سپتامبر ۲۰۲۵ به ارزش‌گذاری حدود هفت میلیارد دلار رسید و «ساکانا ای‌آی» در دور سرمایه‌گذاری سری‌بی خود در همان سال ارزش‌گذاری پس از سرمایه‌گذاری حدود ۲٫۷ میلیارد دلار پیدا کرد.
«این‌سپتیو» نیز در ۲۰۲۶ قراردادی بالقوه به ارزش تا دو میلیارد دلار با شرکت دارویی آلنیلام امضا کرد؛ رقمی که ارزش قرارداد است، نه ارزش‌گذاری شرکت. در همین حال، اوپن‌ای‌آی و دیگر آزمایشگاه‌های بزرگ، معماری ترنسفورمر را به مقیاس مدل‌های زبانی بزرگ رسانده‌اند.
بنابراین داستان این هشت نفر را نباید صرفاً داستان یک مقاله موفق دانست؛ این داستان نشان می‌دهد یک تغییر معماری چگونه می‌تواند ابتدا یک مشکل فنی در ترجمه را حل کند و سپس به زیرساخت نسل جدیدی از محصولات هوش مصنوعی تبدیل شود.
