هشدارهای قضایی| سوءاستفاده از هوش مصنوعی؛ مسئولیت جرم با کیست؟

به گزارش خبرگزاری ۶۰ثانیه، هوش مصنوعی دیگر صرفاً یک فناوری برای پردازش اطلاعات، تولید محتوا یا ارائه پیشنهاد نیست؛ گسترش استفاده از این فناوری، پای آن را به عرصه‌های حقوقی و قضایی نیز باز کرده است. یکی از مهم‌ترین پرسش‌های مطرح‌شده در این زمینه، مسئولیت کیفری در مواردی است که از هوش مصنوعی برای ارتکاب جرم استفاده می‌شود؛ اینکه آیا خود سامانه هوش مصنوعی می‌تواند به عنوان مجرم شناخته شود یا مسئولیت متوجه انسان‌هایی است که آن را طراحی، توسعه، ارائه یا استفاده کرده‌اند؟

بررسی وضعیت حقوقی موجود در ایران نشان می‌دهد که در شرایط فعلی، هوش مصنوعی به عنوان یک الگوریتم یا سامانه، شخصیت و مسئولیت کیفری مستقل ندارد و نمی‌توان آن را مانند یک انسان یا شخص حقوقی، فاعل مستقل جرم تلقی و مجازات کرد. هوش مصنوعی هنوز فاعل مستقل جرم نیست در تحلیل مسئولیت کیفری مرتبط با هوش مصنوعی، نخستین نکته، تفکیک میان خود فناوری و اشخاصی است که در چرخه ایجاد و استفاده از آن نقش دارند.هوش مصنوعی ممکن است توانایی پردازش داده، تولید محتوا، ارائه پیشنهاد، پیش‌بینی یا حتی تصمیم‌سازی داشته باشد، اما برخورداری از این قابلیت‌ها به معنای برخورداری از شخصیت حقوقی یا کیفری نیست.

در وضعیت فعلی حقوق ایران، یک الگوریتم یا سامانه هوش مصنوعی، مانند انسان یا شخص حقوقی، فاعل مستقل جرم محسوب نمی‌شود که بتوان آن را تحت تعقیب قرار داد و مجازات کرد. حقوق کیفری ایران اصل مسئولیت شخصی را پذیرفته و مسئولیت کیفری در وهله نخست متوجه اشخاص حقیقی است.

در شرایط مشخص نیز برای اشخاص حقوقی مسئولیت کیفری در نظر گرفته شده است. مواد 140 تا 143 قانون مجازات اسلامی چارچوب این مسئولیت را مشخص کرده‌اند؛ اما در این چارچوب، هوش مصنوعی به عنوان یک فناوری یا سامانه، موضوع مجازات کیفری همانند انسان قرار نمی‌گیرد.

فناوری می‌تواند ابزار جرم باشد، اما مجرم نیست اینکه هوش مصنوعی فاعل مستقل جرم محسوب نمی‌شود، به معنای آن نیست که استفاده از این فناوری در ارتکاب جرم، مسئولیتی برای انسان‌ها ایجاد نمی‌کند.اگر فردی با استفاده از یک سامانه هوش مصنوعی، رفتاری انجام دهد که قانون آن را جرم شناخته است، استفاده از فناوری جدید نمی‌تواند مسئولیت احتمالی او را از بین ببرد. در چنین شرایطی، هوش مصنوعی می‌تواند ابزار ارتکاب جرم باشد، اما ابزار ارتکاب جرم با فاعل جرم تفاوت دارد.

برای نمونه، اگر فردی آگاهانه و با قصد مجرمانه از یک ابزار هوش مصنوعی برای تسهیل انجام یک رفتار مجرمانه استفاده کند، مسئولیت کیفری او صرفاً به دلیل اینکه بخشی از فرآیند با فناوری هوش مصنوعی انجام شده، منتفی نخواهد شد. در اینجا آنچه اهمیت دارد، رفتار انجام‌شده، عنوان قانونی آن رفتار و وجود عناصر لازم برای تحقق جرم است.

در جرایم عمدی، علم و قصد لازم باید احراز شود و در جرایم غیرعمدی نیز وجود تقصیر حسب مورد مورد بررسی قرار می‌گیرد. مواد 144 و 145 قانون مجازات اسلامی نیز الزامات مربوط به علم، قصد و تقصیر را در جرایم عمدی و غیرعمدی مشخص کرده‌اند.

صرف استفاده از هوش مصنوعی به معنای ارتکاب جرم نیست از سوی دیگر، نمی‌توان صرف استفاده از هوش مصنوعی را دلیل وقوع جرم یا مبنای انتساب مسئولیت کیفری قرار داد.ممکن است یک سامانه هوش مصنوعی خروجی نادرستی تولید کند یا استفاده از آن در شرایطی به ایجاد خسارت و حتی وقوع یک نتیجه مجرمانه منجر شود. با این حال، صرف وقوع نتیجه نمی‌تواند به‌طور خودکار مسئولیت کیفری را متوجه کاربر، توسعه‌دهنده، ارائه‌دهنده یا تولیدکننده سامانه کند.

برای تعیین مسئولیت، باید مجموعه‌ای از عوامل مورد بررسی قرار گیرد؛ از جمله اینکه هر شخص چه نقشی در فرآیند داشته، چه رفتاری انجام داده، چه تکلیف قانونی بر عهده او بوده، چه میزان اختیار و کنترل نسبت به سامانه داشته و آیا علم، قصد یا تقصیر لازم برای تحقق مسئولیت کیفری وجود داشته است یا خیر. همچنین باید رابطه سببیت میان رفتار قابل انتساب به فرد و نتیجه ایجادشده نیز قابل احراز باشد.به بیان دیگر، در حقوق کیفری نمی‌توان صرفاً به نتیجه نگاه کرد و مسئولیت را به کسی نسبت داد که به هر شکلی با فناوری ارتباط داشته است.

مسئولیت کیفری نیازمند احراز رفتار قابل انتساب و سایر شرایط قانونی است. توسعه‌دهنده، مالک و کاربر؛ مسئولیت یکسان نیست یکی از نکات مهم در پرونده‌های مرتبط با هوش مصنوعی، تفاوت نقش اشخاص مختلف در زنجیره این فناوری است.توسعه‌دهنده یک مدل هوش مصنوعی، ارائه‌دهنده یک خدمت، مالک یا بهره‌بردار یک سامانه و کاربری که از آن استفاده می‌کند، الزاماً جایگاه حقوقی یکسانی ندارند.

بنابراین نمی‌توان صرفاً به دلیل قرار گرفتن یک فرد در زنجیره فنی یک سامانه، مسئولیت کیفری را به او نسبت داد. ممکن است یک توسعه‌دهنده صرفاً در فرآیند طراحی فنی یک سامانه نقش داشته باشد، در حالی که کاربر دیگری از همان سامانه برای انجام یک رفتار مجرمانه استفاده کند.

در چنین شرایطی، مشارکت فنی در ایجاد فناوری به خودی خود معادل ارتکاب جرم نیست؛ همان‌گونه که استفاده از یک سامانه نیز به تنهایی برای انتساب جرم کافی نیست. نقش، رفتار، تکلیف قانونی، میزان اختیار و کنترل و همچنین علم، قصد یا تقصیر هر فرد باید به صورت جداگانه بررسی شود.ماده 142 قانون مجازات اسلامی نیز مسئولیت ناشی از رفتار دیگری را در شرایط مشخص قانونی یا در صورت وجود تقصیر مرتبط با نتیجه، قابل بررسی دانسته است.

بنابراین، تعیین مسئولیت در پرونده‌های مرتبط با هوش مصنوعی نیازمند بررسی دقیق رابطه میان رفتار اشخاص و نتیجه حاصل‌شده است. هر خسارتی جرم نیست موضوع دیگری که در مواجهه با فناوری‌های نوین اهمیت دارد، تفکیک میان مسئولیت کیفری و سایر انواع مسئولیت است.ممکن است عملکرد نامناسب یک سامانه یا استفاده نادرست از آن، خسارتی برای فرد یا مجموعه‌ای ایجاد کند، اما این مسئله لزوماً به معنای تحقق جرم کیفری نیست.

بسته به شرایط، چنین موضوعی می‌تواند مسئولیت مدنی، قراردادی، اداری یا حرفه‌ای ایجاد کند.از همین رو، نمی‌توان هر خسارت ناشی از فناوری را جرم تلقی کرد و همچنین نمی‌توان هر فردی را که به نوعی با یک سامانه هوش مصنوعی در ارتباط بوده، صرفاً بر اساس همین ارتباط مسئول کیفری دانست. مرز مسئولیت در عصر هوش مصنوعی کجاست؟

گسترش استفاده از هوش مصنوعی، مرزهای تازه‌ای را در برابر نظام حقوقی قرار داده است؛ فناوری‌ای که می‌تواند در تولید محتوا، تحلیل داده، تصمیم‌سازی و انجام بسیاری از فرآیندها نقش داشته باشد، اما در وضعیت فعلی حقوق ایران هنوز به عنوان یک فاعل مستقل جرم شناخته نمی‌شود.بنابراین اگر جرمی با استفاده از هوش مصنوعی رخ دهد، نقطه آغاز بررسی مسئولیت کیفری، خود فناوری نیست؛ بلکه باید رفتار انسان‌های مرتبط با آن، نقش و میزان اختیار آنان، تکالیف قانونی، عناصر جرم و وجود علم، قصد یا تقصیر حسب مورد بررسی شود.

در چارچوب فعلی حقوق ایران، هوش مصنوعی به عنوان یک سامانه یا فناوری، فاعل مستقل مسئولیت کیفری و موضوع مجازات کیفری همانند انسان محسوب نمی‌شود؛ اما استفاده از آن می‌تواند در وقوع یک جرم نقش داشته باشد و در چنین شرایطی، مسئولیت اشخاص مرتبط با فناوری به صورت خودکار ایجاد نمی‌شود، بلکه باید بر اساس قانون، رفتار قابل انتساب، عناصر جرم، علم و قصد یا تقصیر و سایر شرایط قانونی تعیین شود.به این ترتیب، ورود هوش مصنوعی به عرصه جرم و مسئولیت کیفری، بیش از آنکه مسئله مجازات «ماشین» باشد، مسئله تعیین دقیق مسئولیت انسان‌هایی است که این فناوری را طراحی، در اختیار دیگران قرار داده یا از آن استفاده می‌کنند.