قیمت لحظهایهمه قیمتها
رمزگشایی از خطر درگیری نظامی آمریکا و چین به‌خاطر یک داده غلط
چند روز پیش گزارش اشتباه یک سامانه خودکار تحلیل اطلاعات در ارتش آمریکا درباره محموله هسته‌ای یک کشتی چینی، نیروهای نظامی واشنگتن را تا آستانه حمله، توقیف و ایجاد یک بحران بین‌المللی پیش برد. بررسی‌های جدید نشان از خطرات ورود الگوریتم‌ها به زنجیره تصمیم‌گیری جنگی دارد.
به گزارش خبرگزاری ۶۰ثانیه، اخیراً یک ماجرای کم‌سابقه درباره استفاده نظامی از هوش مصنوعی منتشر شد: بر اساس گزارش اختصاصی شبکه سی‌ان‌ان به نقل از چهار منبع مطلع، یک گزارش اطلاعاتی در ارتش آمریکا مدعی شده بود یک کشتی چینی در خاورمیانه حامل اجزای مرتبط با برنامه تسلیحات هسته‌ای است. نیروهای آمریکایی برای متوقف کردن کشتی آماده شدند، نیروهای مسلح برای سوار شدن به آن در نظر گرفته شدند و هواپیماهای نظامی نیز به پرواز درآمدند؛ اما درست پیش از اجرای عملیات، بررسی بیشتر نشان داد ارزیابی موجود با کمک یک چت‌بات هوش مصنوعی تهیه شده و سامانه، محموله کشتی را اشتباه تشخیص داده است.
سی‌ان‌ان گزارش داد یک منبع این گزارش را کاملاً نادرست توصیف کرده و گفته بود ماجرا می‌توانست به یک بحران جدی با چین منجر شود. برای بررسی ابعاد تحلیلی این رخداد با ما همراه باشید.
خطا فقط در مدل نبود؛ خطا وارد زنجیره تصمیم شد جزئیات منتشرشده درباره این حادثه، نقطه ضعف اصلی را روشن‌تر می‌کند. بر اساس گزارش‌های منتشرشده درباره روایت سی‌ان‌ان، یک تحلیلگر فرماندهی عملیات ویژه، اطلاعات متن‌باز مربوط به کشتی را همراه با داده‌های محرمانه اطلاعات سیگنالی در اختیار یک چت‌بات گذاشت تا محتوای محموله را تحلیل کند.
مدل نتیجه‌ای نادرست تولید کرد و سپس همان ابزار برای تبدیل این نتیجه غلط به قالب یک گزارش اطلاعاتی رسمی استفاده شد؛ گزارشی که بعدتر در کانال‌های نظامی گردش کرد. بنابراین مسئله فقط «توهم» یا خطای یک مدل زبانی نبود.
مشکل مهم‌تر این بود که خروجی مدل، پیش از یک راستی‌آزمایی مستقل، شکل یک محصول اطلاعاتی معتبر به خود گرفت. یک خطای تحلیلی در مرحله نخست، در مرحله دوم با ظاهر رسمی و سازمانی بازتولید شد و سپس وارد زنجیره عملیاتی شد.
این همان نقطه‌ای است که سرعت هوش مصنوعی می‌تواند به‌جای مزیت، به ضریب انتشار خطا تبدیل شود. پنتاگون دقیقاً به‌دلیل حجم داده بیشتر سراغ هوش مصنوعی رفته است اما چند روز پس از انتشار این ماجرا، برنامه‌های جدید آمریکا نشان می‌دهد واشنگتن قصد عقب‌نشینی از هوش مصنوعی را ندارد.
دلیل این رویکرد نیز روشن است: میدان نبرد مدرن آن‌قدر داده تولید می‌کند که تحلیل انسانی به‌تنهایی نمی‌تواند با سرعت مورد نیاز پاسخ دهد. ارتش آمریکا ۲۲ سپتامبر یک قرارداد ۲ میلیون دلاری با شرکت «آن‌استراکتد» برای پروژه‌ای ۱۸ماهه امضا کرد تا جریان‌های حجیم و چندوجهی داده حسگرها را دریافت و آماده کند، ناهنجاری‌ها را تشخیص دهد و الگوهای ناشناخته را از میان داده‌ها بیرون بکشد.
خود ارتش مسئله را با نیاز به فشرده کردن فاصله میان «حسگر تا تصمیم» توضیح داده است. در محیط فرکانسی نیز ارتش آمریکا با مسئله مشابهی روبه‌روست.
برنامه رسمی این نیرو برای تشخیص و طبقه‌بندی سیگنال‌های فرکانس رادیویی می‌گوید حجم و تنوع سیگنال‌ها آن‌قدر افزایش یافته که روش‌های سنتی، از جمله کتابخانه‌ها و جدول‌های از پیش تعریف‌شده، برای پردازش نزدیک به زمان واقعی کافی نیستند. هدف، استفاده از یادگیری ماشین برای شناسایی سریع سیگنال‌های آشنا و حتی یادگیری سیگنال‌های تهدید ناشناخته است.
در برنامه دیگری نیز ارتش آمریکا به‌دنبال تولید داده مصنوعی برای آموزش مدل‌های کشف و شناسایی سیگنال‌های فرکانس رادیویی است، چون جمع‌آوری داده واقعی در محیط اشباع از حسگر و سامانه‌های مختلف، پرهزینه و دشوار است. اینجا پارادوکس اصلی شکل می‌گیرد: آمریکا به هوش مصنوعی نیاز دارد، چون حجم میدان نبرد از توان پردازش انسانی فراتر رفته؛ اما همین اتکا، کیفیت داده و صحت خروجی الگوریتم را به یک مسئله عملیاتی تبدیل کرده است.
