در حالی که سازمان ملل به‌تازگی حملات آمریکا در ایران را جنایت جنگی خوانده و دونالد ترامپ نیز با ممنوع کردن ورود خبرنگاران سی‌ان‌ان، ام‌اس‌ان‌بی‌سی و پولیتیکو به کاخ سفید، جبهه‌ تازه‌ای علیه رسانه‌ها گشوده و آن‌ها را به انتشار «اخبار جعلی» متهم کرده است، گزارش تازه‌ای از همین شبکه‌ خبری (سی‌ان‌ان) منتشر شده که می‌گوید: یک خطای هوش مصنوعی، ارتش آمریکا را تا یک‌قدمی درگیری نظامی با چین پیش برده و خدا می‌داند اگر اپراتور شیفت شب، چند ثانیه زودتر متوجه اشتباهش نشده بود، آمریکا الان در چه وضعیتی قرار می‌گرفت. شاید در مرحله‌ای از یک جنگ ویرانگر بودند.

همکار مجازی

بهار امسال، در اوج تنش‌های منطقه‌ای، یک گزارش اطلاعاتی در ارتش آمریکا اعلام کرد یک کشتی چینی در خاورمیانه، در حال حمل اجزای یک برنامه‌ تسلیحات هسته‌ای است. خبر آن‌قدر جدی بود که فرمان عملیات صادر شد و به گفته‌ چهار منبع آگاه، نیروهای رزمی برای ورود به کشتی لحظه‌شماری می‌کردند و هواپیماهای نظامی بر فراز منطقه در حال گشت‌زنی بودند. همه‌چیز مهیای یک درگیری تمام‌عیار بود؛ عملیاتی که اگر انجام می‌شد، می‌توانست خیلی بیشتر از یک بازرسی دریایی دردسر درست کند؛ تا جایی که حتی پای دو قدرت بزرگ جهان را به یک جنگ مستقیم باز کند. اما درست پیش از آغاز عملیات، کسی تصمیم گرفت یک بار دیگر گزارش را بررسی کند و همین بررسی دوباره بود که ورق را برگرداند. جالب است بدانید این گزارش را یک تحلیلگر فرماندهی عملیات ویژه تهیه کرده بود، البته به کمک یک همکار مجازی. درواقع هوش مصنوعی، محموله‌ کشتی را به‌کلی اشتباه تشخیص داده بود و چیزی نمانده بود تا آتش جنگ روشن شود. ناگفته نماند که یکی از منابع مطلع، این گزارش را کاملاً نادرست خوانده و گفته ماجرا تقریباً آتش جنگ را روشن کرده بود. سی‌ان‌ان هنوز نمی‌داند محموله‌ واقعی کشتی چه بوده، که البته اهمیتی ندارد چون مهم این است که اگر آن بررسی دوباره، حتی چند دقیقه دیرتر انجام می‌شد، امروز ممکن بود دنیا درگیر جنگی شود که مسببش یک خطای دیجیتالی بوده است.

هوشمندسازی مخرب

تحلیلگران معتقدند این ماجرا، زنگ خطری است برای ارتشی که دیوانه‌وار به دنبال هوشمندسازی است. پنتاگون با سرعتی سرسام‌آور در حال تزریق هوش مصنوعی به رگ‌های سیستم‌های نظامی و اطلاعاتی‌اش است؛ از تحلیل کوه داده‌های جاسوسی و شناسایی اهداف گرفته تا لجستیک و مدیریت بودجه. منطق پشت این شتاب هم واضح است که واشنگتن نمی‌خواهد در مسابقه‌ تسلیحاتی قرن ۲۱ از چین عقب بماند. پیت هگست، وزیر دفاع آمریکا هم در ژانویه با همین فرمان، «استراتژی شتاب‌دهی هوش مصنوعی» را کلید زد؛ برنامه‌ای که قرار است مدل‌های هوش مصنوعی را در تمام ارکان ارتش نفوذ دهد. اما وقتی سرعت ماشین‌ها از عقل سلیم انسان‌ها پیشی می‌گیرد، آیا به این معنی است که ما داریم برای امنیت بیشتر مسابقه می‌دهیم؟ طبیعتاً نه. در ماجرای کشتی چینی، ما با یک حلقه‌ معیوب روبه‌رو هستیم. تحلیلگر اطلاعات، برای بررسی بارنامه‌ کشتی، از یک چت‌بات هوش مصنوعی کمک گرفت. این ربات، داده‌های منابع باز را با اطلاعات محرمانه ترکیب کرد و به نتیجه‌ای رسید که درنهایت، کاملاً پوچ و اشتباه بود. اما فاجعه وقتی اتفاق افتاد که تحلیلگر، همان خروجی غلط را دوباره به همان هوش مصنوعی سپرد تا آن را در قالب یک گزارش استاندارد نظامی درآورد. یعنی هوش مصنوعی، هم محتوای غلط را تولید کرده بود و هم بسته‌بندی رسمی آن را. البته مسئله فراتر از یک خطای فردی است. چند مقام آمریکایی گفته‌اند بخش‌های مختلف دولت و ارتش از ابزارهای متفاوت هوش مصنوعی استفاده می‌کنند و استاندارد واحدی برای بررسی و تأیید خروجی این سیستم‌ها وجود ندارد. درنتیجه، ما با سیستمی روبه‌رو هستیم که در آن، ممکن است دو هوش مصنوعی متفاوت، در دو بخش مختلف ارتش، دو واقعیت کاملاً متضاد را ارائه دهند؛ و بدتر از آن، هر دو گزارش متناقض، با ظرفیت ورود به فرایند تصمیم‌گیری‌های سرنوشت‌ساز، در جریان باشند.

اعتیاد به سرعت

از طرفی دیگر، نگرانی درباره استفاده از هوش مصنوعی در هدف‌گیری نظامی قصه متفاوتی دارد؛ چراکه با وجود رشد برق‌آسای این ابزارها در میدان نبرد، هنوز هیچ دستورالعمل مدونی وجود ندارد که بگوید حضور انسان در این حلقه - آن هم انسانی که مسحور سرعت ماشین شده - چگونه قرار است مانع شلیک‌های اشتباه شده و جلو قتل غیرنظامیان یا حتی شلیک اشتباه به نیروهای خودی را بگیرد؟ سی‌ان‌ان می‌گوید: «این همان تفاوت میان دو نوع نگرانی درباره هوش مصنوعی است. مدت‌هاست درباره آینده‌ای صحبت می‌شود که در آن هوش مصنوعی از کنترل انسان خارج شود و تهدیدی بزرگ برای تمدن ایجاد کند، اما ماجرای کشتی چینی نشان داد خطر واقعی، بسیار نزدیک‌تر و پیش‌پاافتاده‌تر است».
یعنی حتماً که نباید ماشین‌ها فوق هوشمند شوند و علیه انسان توطئه کنند؛ همین که انسان‌ها به خروجی‌های اشتباه ماشین‌ها ایمان کورکورانه بیاورند، برای وقوع یک فاجعه شرط کافی و لازم را دارد. برخی مقامات کهنه‌کار اطلاعاتی، با وجود حمایت از هوش مصنوعی، هشدار می‌دهند این ابزارها، تحلیلگران - به‌ویژه نسل جوان‌تر که با فناوری خو گرفته‌اند - را به اعتیاد سرعت دچار ‌می‌کنند و ممکن است فرصت تأمل و راستی‌آزمایی را از بین ببرد. به‌قولی، هوش مصنوعی این امکان را به شما می‌دهد که با سرعتی باورنکردنی، به یک ایده‌ به‌غایت بد برسید که البته ممکن است دودش توی چشم خودتان برود و مثلاً اگر پای یک کشتی چینی، محموله‌ هسته‌ای و یک عملیات نظامی در میان باشد، یک خطای نرم‌افزاری حکم همان سنگی را دارد که دیوانه‌ای توی چاه انداخته و حالا ۱۰۰ تا عاقل هم نمی‌توانند آن را بیرون بیاورند.
حالا که به آخر مطلب رسیدیم این نکته را هم فراموش نکنید که اگرچه گزارش سی‌ان‌ان انتقادی و افشاگرانه محسوب می‌شود، اما از ترامپ و وزیر جنگش اصلاً بعید نیست محتوای این گزارش و اشتباه هوش مصنوعی را بهانه کرده و جنایت‌هایشان در میناب، لامرد و کوهستک را بیندازند گردن خطای انسانی و اشتباه هوش مصنوعی!