اگر تصمیم یا خروجی یک سامانه هوش مصنوعی به فردی زیان برساند،مسئولیت شرعی بر عهده چه کسی است؟سازنده نرم‌افزار،مالک سامانه، استفاده‌کننده، سفارش‌دهنده یا نهادی که تصمیم نهایی را به ماشین سپرد؟
به گزارش خبرگزاری ۶۰ثانیه، هوش مصنوعی دیگر صرفاً موضوع فیلم‌های علمی‌تخیلی یا آزمایشگاه‌های فناوری نیست؛ از تولید تصویر گرفته تا تشخیص پزشکی، ارزیابی درخواست‌های مالی و ارائه پیشنهادهای حقوقی، سامانه‌های هوشمند به‌تدریج در تصمیم‌هایی دخالت می‌کنند که می‌توانند بر زندگی و حقوق انسان‌ها اثر بگذارند. در چنین شرایطی، یک پرسش جدی شکل می‌گیرد؛ اگر تصمیم یا خروجی یک سامانه هوش مصنوعی به فردی زیان برساند، مسئولیت شرعی بر عهده چه کسی است؟
سازنده نرم‌افزار، مالک سامانه، استفاده‌کننده، سفارش‌دهنده یا نهادی که تصمیم نهایی را به ماشین سپرده است؟
این پرسش صرفاً فنی نیست. مسئله به مفاهیمی چون ضمان، اتلاف، تسبیب، تقصیر، فریب، حفظ حقوق مردم و مسئولیت اخلاقی مربوط می‌شود؛ مفاهیمی که در فقه اسلامی سابقه‌ای طولانی دارند، اما اکنون در برابر مصادیقی تازه قرار گرفته‌اند.
برای پاسخ‌گویی، نه می‌توان بدون بررسی گفت هر خطای هوش مصنوعی بر عهده سازنده آن است و نه می‌توان با این استدلال که «ماشین خودش تصمیم گرفته» انسان‌ها و سازمان‌ها را از مسئولیت مبرا دانست.
وقتی خطای ماشین به زیان انسان تبدیل می‌شود
تصور کنید یک مرکز درمانی از سامانه هوش مصنوعی برای تحلیل نتایج آزمایش بیماران استفاده می‌کند. سامانه به‌اشتباه نتیجه آزمایش بیماری را کم‌خطر ارزیابی می‌کند و پزشک نیز بدون بررسی مستقل، به توصیه آن اعتماد می‌کند.
در نتیجه، درمان بیمار به تأخیر می‌افتد و آسیب جدی به او وارد می‌شود. در نمونه‌ای دیگر، یک سامانه استخدامی رزومه افراد را بررسی می‌کند، اما به دلیل خطا یا سوگیری در طراحی، گروهی از متقاضیان واجد شرایط را کنار می‌گذارد.
در هر دو وضعیت، تصمیمی مبتنی بر فناوری اتخاذ شده، اما زیان نهایی متوجه انسان‌هاست.
در این موارد باید میان چند مسئله تفاوت گذاشت: آیا سامانه واقعاً خطا کرده است؟ آیا خطا قابل پیش‌بینی بوده؟
آیا استفاده‌کننده دستورالعمل‌های لازم را رعایت کرده است؟ آیا سازنده درباره محدودیت‌های محصول اطلاع‌رسانی کرده؟
آیا سازمان استفاده‌کننده امکان بررسی انسانی نتیجه را فراهم آورده است؟ پاسخ به این پرسش‌ها در تعیین مسئولیت اهمیت دارد؛ زیرا صرف وقوع خسارت، به‌تنهایی مشخص نمی‌کند کدام شخص باید آن را جبران کند.
پژوهش‌های داخلی درباره مسئولیت مدنی هوش مصنوعی نیز بر همین مسئله تمرکز کرده‌اند. در مقاله «بررسی فقهی مسئولیت مدنی در فناوری هوش مصنوعی»، اصل احترام به حقوق و اموال اشخاص از مبانی مهم بررسی مسئولیت معرفی شده و بر ضرورت شناسایی عامل انسانی مرتبط با خسارت تأکید شده است؛ عاملی که بسته به شرایط می‌تواند مالک، متصرف، سازنده، طراح یا شخص دیگری باشد. [۱]
فقه با چه ابزارهایی به مسئله نگاه می‌کند؟
برای فهم مسئولیت شرعی در این حوزه، ابتدا باید روشن کرد که فقه الزاماً به دنبال یافتن یک پاسخ یکسان برای همه خطاهای فناورانه نیست. در هر پرونده، نوع زیان، چگونگی وقوع آن، نقش اشخاص دخیل و رابطه میان رفتار و نتیجه اهمیت دارد.
قواعد فقهی موجود می‌توانند چارچوب تحلیل را فراهم کنند، اما تطبیق آن‌ها بر فناوری‌های تازه به شناخت دقیق موضوع نیاز دارد.
یکی از قواعد مهم، قاعده اتلاف است. در بیان ساده، این قاعده به مسئولیت کسی مربوط می‌شود که مال دیگری را تلف می‌کند یا مستقیماً به آن آسیب می‌رساند.
اگر فردی با استفاده از یک ابزار، به‌طور مستقیم مال دیگری را از بین ببرد، نمی‌تواند صرفاً به دلیل واسطه‌بودن ابزار، خود را از مسئولیت کنار بکشد. با این حال، در سامانه‌های هوشمند باید مشخص شود که آیا رفتار شخص، استفاده از ابزار و وقوع خسارت چنان به یکدیگر پیوند دارند که بتوان اتلاف را به او نسبت داد یا خیر.
قاعده دیگر، تسبیب است. در اینجا، شخص ممکن است مستقیماً خسارت را ایجاد نکرده باشد، اما با فراهم‌کردن زمینه یا انجام عملی که به زیان منتهی شده است، در وقوع آن نقش داشته باشد.
برای مثال، اگر شرکتی سامانه‌ای را برای کاربرد حساس عرضه کند، از وجود نقص خطرناک آن آگاه باشد و بدون هشدار مناسب آن را در اختیار کاربران قرار دهد، بررسی مسئولیت شرکت می‌تواند از مسیر تسبیب صورت گیرد. البته صرف تولید یک نرم‌افزار یا امکان وقوع خطا، به‌خودی‌خود برای اثبات ضمان کافی نیست؛ باید شرایط انتساب خسارت و دیگر عناصر مرتبط بررسی شود.
قاعده غرور نیز در برخی وضعیت‌ها می‌تواند موضوعیت پیدا کند. این قاعده به شرایطی مربوط است که شخص بر اثر فریب یا ایجاد تصور نادرست از سوی دیگری، اقدامی انجام می‌دهد و زیان می‌بیند.
برای نمونه، اگر فروشنده سامانه‌ای را با ادعای دقت قطعی و بدون خطا معرفی کند، در حالی که از محدودیت‌های جدی آن آگاه است، اعتماد خریدار به این ادعا می‌تواند در بررسی مسئولیت نقش داشته باشد.
با این حال، برای انطباق قاعده غرور باید شرایط خاص آن احراز شود؛ هر تبلیغ اغراق‌آمیز یا هر خطای فنی لزوماً مصداق کامل این قاعده نیست.در کنار این قواعد، اصل احترام به حقوق اشخاص نیز اهمیت دارد. استفاده از فناوری نباید به معنای نادیده‌گرفتن جان، مال، آبرو یا حقوق دیگران باشد.
مقاله پژوهشی «چالش‌های هوش مصنوعی و مبانی مسئولیت مدنی آن در فقه» نیز تلاش کرده است نسبت میان فناوری نوین و قواعد فقهی مسئولیت را بررسی کند و نشان دهد که این مسئله نیازمند تحلیل حقوقی و شرعی متناسب با ماهیت فناوری است. [۲]
آیا خود هوش مصنوعی می‌تواند مسئول باشد؟
یکی از بحث‌برانگیزترین پرسش‌ها این است که آیا باید برای هوش مصنوعی شخصیت مستقلی در نظر گرفت تا مسئولیت خسارت‌های ناشی از عملکرد آن بر عهده خودش قرار گیرد. در نگاه نخست، چنین پیشنهادی ساده به نظر می‌رسد: اگر ماشین خطا کرده، خود ماشین پاسخ‌گو باشد.
اما مسئولیت حقوقی و شرعی تنها به شناسایی عامل فیزیکی وقوع حادثه محدود نیست؛ مسائلی چون اهلیت، اختیار، امکان انتساب رفتار، دارایی قابل دسترس برای جبران خسارت و توانایی پذیرش تکلیف نیز مطرح‌اند.
سامانه هوش مصنوعی می‌تواند بر اساس داده‌ها، الگوریتم‌ها و الگوهای آموخته‌شده خروجی تولید کند و حتی در برخی محیط‌ها بدون دخالت مستقیم انسان تصمیم بگیرد. با این حال، این توانایی به‌خودی‌خود ثابت نمی‌کند که سامانه دارای قصد، آگاهی اخلاقی یا اهلیت لازم برای تحمل مسئولیت شرعی است.
ماشین می‌تواند عملی را انجام دهد که نتیجه آن زیان‌بار است، اما نسبت‌دادن تکلیف شرعی به آن نیازمند استدلالی فراتر از مشاهده رفتار هوشمندانه است.
در پژوهش «چالش‌های هوش مصنوعی و مبانی مسئولیت مدنی آن در فقه»، امکان اعطای شخصیت حقوقی به هوش مصنوعی نیز مطرح شده است؛ موضوعی که نشان می‌دهد در ادبیات پژوهشی داخلی، درباره چگونگی صورت‌بندی مسئولیت دیدگاه‌های مختلفی وجود دارد. در مقابل، پژوهش «بررسی فقهی مسئولیت مدنی در فناوری هوش مصنوعی» بر این نکته تأکید می‌کند که چون هدف مسئولیت مدنی جبران خسارت است و سامانه خود به‌سادگی امکان پاسخ‌گویی مالی ندارد، باید عامل انسانی مرتبط با آن شناسایی شود.
بنابراین، نباید یک دیدگاه پژوهشی را حکم قطعی و مورد اتفاق فقهی معرفی کرد. اعطای شخصیت حقوقی به سامانه‌های هوشمند، انتساب مسئولیت به اشخاص انسانی و طراحی سازوکارهای جبران خسارت، موضوعاتی‌اند که هرکدام به بررسی مستقل نیاز دارند.
از منظر عملی نیز حتی اگر روزی برای برخی سامانه‌ها جایگاه حقوقی ویژه‌ای تعریف شود، همچنان باید پرسید چه کسی کنترل واقعی فناوری را در اختیار دارد و زیان‌دیده چگونه می‌تواند به جبران خسارت دست یابد.
مسئولیت سازنده، کاربر و نهاد بهره‌بردار
در بسیاری از موارد، مسئولیت احتمالی را نمی‌توان از ابتدا فقط متوجه یک شخص دانست. ممکن است سازنده در طراحی محصول کوتاهی کرده باشد؛ شرکت عرضه‌کننده محدودیت‌های آن را پنهان کرده باشد؛ بهره‌بردار بدون آموزش کافی از آن استفاده کند؛ یا کاربر برخلاف هشدارهای روشن، سامانه را در موقعیتی پرخطر به کار گیرد.
گاهی نیز چند عامل در کنار یکدیگر به وقوع خسارت منجر می‌شوند.
برای مثال، اگر یک سامانه هوشمند در ارزیابی درخواست‌های وام اشتباه کند، باید بررسی شود که آیا داده‌های ورودی معیوب بوده‌اند، الگوریتم طراحی مناسبی داشته، سامانه پیش از استفاده آزمایش شده و تصمیم نهایی بدون نظارت انسانی اتخاذ شده است یا خیر. اگر شرکت از خطاهای شناخته‌شده آگاه بوده و آن‌ها را اصلاح نکرده باشد، نقش آن با وضعیتی که خطا به دلیل ورود عمدی اطلاعات نادرست از سوی کاربر رخ داده، یکسان نیست.
در چنین پرونده‌هایی، پرسش اصلی این نیست که «هوش مصنوعی مقصر است یا انسان؟» بلکه باید پرسید کدام رفتار، ترک فعل یا تصمیم در وقوع خسارت مؤثر بوده و مسئولیت بر اساس چه مبنایی به هر عامل نسبت داده می‌شود.
گاهی یک شخص نقش مستقیم دارد و دیگری زمینه وقوع زیان را فراهم کرده است. گاهی نیز نقش‌ها چنان درهم‌تنیده‌اند که تشخیص سهم هر عامل به بررسی کارشناسی نیاز دارد.
آیا هر خطای هوش مصنوعی موجب ضمان است؟
پاسخ کوتاه این است که نمی‌توان چنین حکم کلی‌ای صادر کرد. باید میان خطای سامانه، خسارت واقعی، رابطه سببیت و مسئولیت شخص موردنظر تفاوت گذاشت.
ممکن است سامانه پاسخی نادرست تولید کند، اما هیچ زیان قابل انتسابی رخ ندهد. در مقابل، گاهی یک خطای ظاهراً کوچک به خسارتی جدی منتهی می‌شود.
همچنین ممکن است خروجی سامانه نادرست باشد، اما شخصی که آن را به کار گرفته، به دلیل بی‌احتیاطی یا نقض تعهدات خود مسئولیت جداگانه‌ای داشته باشد.
برای نمونه، اگر یک سامانه تولید متن اطلاعات حقوقی نادرستی ارائه کند، صرف تولید پاسخ نادرست به معنای تحقق خودکار ضمان نیست. باید دید آیا کاربر به این اطلاعات اتکا کرده، زیانی رخ داده، سامانه برای چه کاربردی معرفی شده و چه میزان بررسی انسانی متعارف بوده است.
اگر همان سامانه برای تصمیم‌گیری حساس سازمانی به کار رود، انتظار از دقت، نظارت و کنترل خطر می‌تواند با استفاده شخصی و غیرحساس متفاوت باشد.
همچنین باید میان مسئولیت اخلاقی و ضمان مالی فرق گذاشت. ممکن است رفتار یک شرکت از نظر اخلاقی غیرمسئولانه باشد، اما برای تعیین ضمان مالی، شرایط و مبانی فقهی مربوط باید احراز شود.
برعکس، حتی اگر قصد آسیب‌رساندن وجود نداشته باشد، در برخی وضعیت‌ها ممکن است مسئولیت جبران خسارت مطرح شود. نبود قصد زیان، به‌تنهایی همه صورت‌های مسئولیت را منتفی نمی‌کند؛ همان‌طور که وقوع زیان نیز به‌تنهایی برای انتساب آن به هر شخصی کافی نیست.
پژوهش‌های موجود درباره مسئولیت هوش مصنوعی نشان می‌دهند که قواعدی مانند اتلاف، تسبیب و غرور ظرفیت‌هایی برای تحلیل این مسائل دارند، اما تطبیق آن‌ها نیازمند بررسی جزئیات هر مورد است.
در نهایت، شاید مهم‌ترین پرسش برای جامعه امروز این نباشد که آیا ماشین می‌تواند اشتباه کند؛ زیرا خطاپذیری فناوری روشن است. پرسش تعیین‌کننده این است که آیا انسان‌ها و نهادهایی که این فناوری را طراحی می‌کنند، به کار می‌گیرند و از منافع آن بهره می‌برند، سازوکاری روشن برای پاسخ‌گویی در برابر زیان‌های احتمالی فراهم کرده‌اند یا خیر.
فناوری هر اندازه پیچیده شود، ضرورت صیانت از حقوق مردم و بررسی منصفانه مسئولیت از میان نمی‌رود.
منابع
[۱] حسینی، الهام‌السادات؛ محمدیان امیری، مهدی؛ خیراللهی، محمدعلی. «بررسی فقهی مسئولیت مدنی در فناوری هوش مصنوعی».
پژوهش‌های تطبیقی فقه، حقوق و سیاست، دوره ۶، شماره ۴، ۱۴۰۳، صص ۴۹–۶۶.https://csjlp.org/index.php/csjlp/article/view/143
[۲] حسینی، الهه‌سادات؛ واحد یاریجان، یونس؛ یزدانی، سمانه. «چالش‌های هوش مصنوعی و مبانی مسئولیت مدنی آن در فقه».
پژوهش‌های تطبیقی فقه، حقوق و سیاست، دوره ۶، شماره ۵، ۱۴۰۳، صص ۱–۲۰. https://csjlp.org/index.php/csjlp/article/view/142
