هشدارهای جدی؛ خطای هوش مصنوعی ارتش آمریکا تا آستانه درگیری با چین پیش رفت

خطای تحلیل اطلاعاتی مبتنی بر هوش مصنوعی در ارتش آمریکا، این کشور را تا آستانه درگیری نظامی با چین بر سر رهگیری یک کشتی در خاورمیانه سوق داد.

یک گزارش اطلاعاتی نادرست که با کمک هوش مصنوعی تهیه شده بود، در جریان جنگ آمریکا با ایران، ارتش این کشور را تا آستانه یک عملیات علیه یک کشتی چینی در خاورمیانه پیش برد و خطر درگیری نظامی میان واشنگتن و پکن را افزایش داد.

بر اساس این گزارش، در بهار امسال، اطلاعاتی مبنی بر انتقال قطعات مرتبط با برنامه تسلیحات هسته‌ای توسط یک کشتی چینی در میان واحدهای نظامی آمریکا توزیع شده بود. طبق اظهارات چهار منبع مطلع، ارتش آمریکا برای رهگیری این کشتی آماده می‌شد و نیروهای مسلح برای ورود به آن و همچنین هواپیماهای نظامی در حال آماده‌سازی بودند.

با این حال، اندکی پیش از اجرای عملیات، مقام‌های آمریکایی با بررسی دقیق‌تر دریافتند که یک تحلیلگر فرماندهی عملیات ویژه، گزارش را با کمک هوش مصنوعی تهیه کرده و یک چت‌بات، محموله کشتی را به اشتباه شناسایی کرده است. یکی از منابع این گزارش را «کاملاً نادرست» توصیف کرد و گفت این حادثه «نزدیک بود جنگی را آغاز کند».

این رویداد خطرات استفاده شتاب‌زده از هوش مصنوعی در تحلیل اطلاعات و تعیین اهداف نظامی را برجسته می‌کند. تحلیلگر آمریکایی ابتدا اطلاعات مربوط به محموله کشتی را که از فرماندهی عملیات ویژه آمریکا در اقیانوس آرام دریافت شده بود، در اختیار یک چت‌بات قرار داد. این ابزار با ترکیب اطلاعات منابع باز و اطلاعات محرمانه، به نتیجه‌ای نادرست درباره محموله کشتی رسید. سپس تحلیلگر از هوش مصنوعی برای تنظیم یافته‌ها در قالب یک گزارش استاندارد اطلاعاتی استفاده کرد و آن را منتشر نمود.

در حالی که وزارت جنگ آمریکا به دنبال گسترش استفاده از هوش مصنوعی در حوزه‌هایی مانند تحلیل اطلاعات، تعیین اهداف حملات و مدیریت لجستیک است، نبود استانداردهای یکپارچه برای بررسی صحت داده‌های تولیدشده با این فناوری، نگرانی‌های جدی ایجاد کرده است.

منابع مطلع همچنین هشدار داده‌اند که افزایش سرعت تولید گزارش‌های اطلاعاتی، بدون نظارت کافی انسانی، می‌تواند احتمال خطاهای مرگبار، تلفات غیرنظامیان و شلیک اشتباه به نیروهای خودی یا طرف مقابل را افزایش دهد. یکی از منابع در توصیف این خطر گفت: «هوش مصنوعی کمک می‌کند سریع‌تر به یک ایده بد برسید.»

منبع: تسنیم