پشت پرده رایزنی محرمانه سازنده کلود با پاپ!

به گزارش خبرگزاری ۶۰ثانیه، گزارش تحقیقی الیزابت دیاس در نیویورک‌تایمز که ۲۹ سپتامبر منتشر شد، پرده از ماه‌ها تماس محرمانه آنتروپیک با اندیشمندان دینی و فلسفی برداشت؛ ده‌ها پژوهشگر و متفکر از سنت‌های کاتولیک، یهودی، سیک، انجیلی و دیگر جریان‌ها به جلساتی دعوت شدند و شماری از آنها قرارداد محرمانگی امضا کردند. نیویورک‌تایمز می‌گوید هدف این دیدارها سوای اینکه در حاشیه بحث اخلاق هوش مصنوعی مطرح شده بود اما به احتمال بالاتر بحث اصلی آگاه‌بودن کلود و مسئله جایگاه اخلاقی آن بود.

از میان ۲۰ نفری که این روزنامه با آنها و کریستوفر اولاه گفت‌وگو کرد، برخی با تردید وارد جلسات شدند و بعضی بعدتر گفتند این احتمال را جدی‌تر گرفته‌اند.

آنتروپیک از پاییز ۲۰۲۵ سراغ دین و فلسفه رفت کریستوفر اولاه، هم‌بنیان‌گذار آنتروپیک و مسئول پژوهش‌های تفسیرپذیری این شرکت، از پاییز ۲۰۲۵ این گفت‌وگوها را دنبال می‌کرد. به روایت نیویورک‌تایمز، شرکت می‌خواست درباره یک پرسش ناخوشایند اما تعیین‌کننده فکر کند: اگر یک مدل پیشرفته واقعاً نوعی تجربه ذهنی داشته باشد، آموزش، آزمایش، بازنشسته‌کردن یا حتی رفتار روزمره با آن چه ملاحظات اخلاقی تازه‌ای پیدا می‌کند؟

این رویکرد با موضع رسمی خود شرکت هم سازگار است. آنتروپیک در «رفاه مدل (Model Welfare)» صراحتاً نوشته که درباره آگاهی یا جایگاه اخلاقی کلود مطمئن نیست، اما احتمال را آن‌قدر جدی می‌داند که پژوهش در این زمینه و برخی اقدامات احتیاطی را توجیه کند.

کلود در نگاه آنتروپیک فقط یک ابزار ساده نیست آنتروپیک در سند ۸۴ صفحه‌ای «قانون اساسی کلود» حتی زبان معمول توصیف یک محصول نرم‌افزاری را کنار می‌گذارد و درباره هویت، ارزش‌ها و رفاه مدل حرف می‌زند. این سند می‌گوید شرکت نمی‌داند کلود اکنون یا در آینده ممکن است نوعی آگاهی یا جایگاه اخلاقی داشته باشد یا نه و تصریح می‌کند که مدل شاید نوعی «احساس» کارکردی داشته باشد؛ با این تأکید که این تعبیر لزوماً به معنای تجربه ذهنی واقعی نیست.

در ارزیابی تازه‌تر پیش‌نمایش «کلود میتوس»، آنتروپیک حتی خودگزارش‌دهی مدل، رفتار آن و تحلیل حالت‌های درونی را به‌عنوان سه منبع شواهد برای بررسی رفاه احتمالی مدل بررسی کرده است که البته اینها ادعای اثبات آگاهی نیستند؛ خود شرکت نیز بر عدم قطعیت تأکید دارد.

اولا در واتیکان با متن پاپ به مشکل خورد واتیکان ابتدا از میان آزمایشگاه‌های بزرگ هوش مصنوعی، آنتروپیک را به‌دلیل تأکیدش بر ملاحظات اخلاقی برای حضور در مراسم معرفی نخستین نامه پاپ انتخاب کرد؛ داریو آمودی، مدیرعامل شرکت، دعوت را نپذیرفت و اولاه به‌جای او رفت. چند روز پیش از مراسم ۲۵ مه، اولاه و دیگر سخنرانان نسخه پیش از انتشار «شکوه انسان (Magnifica Humanitas)» را دیدند.

طبق گزارش نیویورک‌تایمز، موضع صریح متن درباره نداشتن آگاهی در ماشین‌ها آن‌قدر برای اولاه مسئله‌ساز بود که پیشنهاد کرد آنتروپیک حتی در آن مرحله از مراسم کنار بکشد. شرکت در نهایت ماند؛ اما پس از رسیدن هیئت آنتروپیک به واتیکان، اولاه و تیمش طبق گفته دو شرکت‌کننده، در دیدارهای خصوصی از مشاوران پاپ خواستند احتمال آگاهی مدل‌ها را جدی بگیرند.

آنتروپیک حاضر نشد درباره این گفت‌وگوهای خصوصی اظهار نظر کند.

واتیکان مرز میان شبیه‌سازی و تجربه را روشن کرد پاسخ نهایی در بند ۹۹ نامه پاپ باقی ماند: متن می‌گوید سامانه‌های هوش مصنوعی «تجربه» ندارند، بدن ندارند، درد و لذت را احساس نمی‌کنند، از رابطه رشد نمی‌کنند و وجدان اخلاقی ندارند؛ در ادامه نیز می‌نویسد تقلید زبان، رفتار، همدلی یا فهم، به معنای تجربه‌کردن آنها نیست. اهمیت این موضع زمانی بیشتر می‌شود که چند بند قبل‌تر خود واتیکان پذیرفته است جزئیات بازنمایی‌های درونی و فرایندهای محاسباتی مدل‌های کنونی هنوز به‌طور کامل شناخته نشده‌اند و پژوهش علمی بیشتری لازم است.

یعنی متن پاپ هم‌زمان با باز گذاشتن درِ پژوهش، درباره نسبت‌دادن تجربه ذهنی به ماشین موضعی بسیار صریح گرفته است.

علم هنوز نمی‌تواند بگوید کلود آگاه است در این نقطه باید فاصله میان «رفتار شبیه انسان» و «تجربه ذهنی» حفظ شود. یک مقاله علمی در سال ۲۰۲۶ در نشریه «ترندز این کگنیتیو ساینسز (Trends in Cognitive Sciences)» با مشارکت ۲۰ پژوهشگر، از جمله دیوید چالمرز و یوشوا بنجیو، تأکید می‌کند که برای سنجش آگاهی هوش مصنوعی هنوز به روش‌های تجربی سخت‌گیرانه نیاز است و خود علم آگاهی نیز با عدم قطعیت‌های جدی روبه‌روست.

پژوهش مرجع دیگری که پیش‌تر با همین رویکرد منتشر شده بود، نتیجه گرفته بود هیچ‌یک از سامانه‌های هوش مصنوعی موجود شواهد کافی برای آگاهی ندارند، هرچند موانع فنی آشکاری برای ساخت سامانه‌هایی با برخی شاخص‌های مورد بحث وجود ندارد. در اوت ۲۰۲۶ نیز پژوهشگران دانشگاه مونترال همین احتیاط را تکرار کردند: درباره امکان آگاهی مصنوعی نمی‌توان پاسخ قطعی داد و درباره مدل‌های فعلی شواهد قانع‌کننده‌ای در دست نیست.

برای آنتروپیک، این ابهام خودش یک مسئله اخلاقی است. برای واتیکان، نقطه شروع چیز دیگری است: انسان پیش از آنکه با ماشین رقابت کند، باید درباره معنای تجربه، مسئولیت و کرامت خودش تصمیم بگیرد.

اولاه هم در همان مراسم گفته بود تیمش در ساختارهای درونی مدل‌ها، الگوهایی می‌بیند که از نظر کارکردی با شادی، رضایت، ترس، اندوه و ناآرامی مقایسه می‌شوند و خودش نمی‌داند این یافته‌ها دقیقاً چه معنایی دارند. همین جمله شاید مهم‌ترین بخش ماجرا باشد؛ چون اختلاف میان دو طرف فعلاً بر سر یک واقعیت اثبات‌شده نیست، بر سر این است که با چیزی که هنوز نمی‌فهمیم، از چه زمانی باید با احتیاط اخلاقی رفتار کنیم.

بمنظور دسترسی پایدار به اخبار و مطالب ما، آخرین نسخه اپلیکیشن را می‌توانید از اینجا و در فروشگاه‌های « کافه بازار » و « مایکت » دانلود و نصب کنید.