چالش‌های رقابت راهبردی و مدیریت ریسک بین‌الملل گزارشی از نشست هوش مصنوعی در حاشیه مجمع عمومی ملل متحد ۸۱

مقدمه

فرض تاریخی مبنی بر اینکه هوش مصنوعی می‌تواند صرفاً به‌عنوان یک پرتفوی تجاری و اقتصادی داخلی مدیریت شود، فروپاشیده است. همان‌طور که در نشست شورای امنیت سازمان ملل[1] در سپتامبر ۲۰۲۶ (طی هشتاد و یکمین مجمع عمومی) نشان داده شد، هوش مصنوعی قاطعانه از آستانۀ حوزۀ امنیت بین‌الملل عبور کرده است. این نشست مدیران اجرایی، از جمله داریو آمودی[2] از شرکت آنتروپیک[3] و سم آلتمن[4] از اوپن‌ای‌آی[5]، را در کنار پژوهشگران برجسته‌ای همچون یوشوا بنجیو[6] (رئیس مشترک پنل علمی مستقل بین‌المللی هوش مصنوعی سازمان ملل[7]) گرد هم آورد. آن‌ها نسبت به اینکه مدل‌های پیشرو ممکن است به‌زودی به مسیرهای خودبه‌سازی دست یابند که از کنترل انسان خارج شود، صریحاً هشدار دادند. بنجیو در برابر شورای پانزده‌عضوی خاطرنشان کرد، نهادهای بین‌المللی اکنون با تهدیدی فوری و فرامرزی مواجه‌اند که هیچ کشوری به تنهایی قادر به مهار آن نیست.

مسئلۀ بنیادین سیاست‌گذاری به ویژه در زمینه هوش مصنوعی، ناهمگونی ساختاری فزاینده میان سرعت قابلیت‌های فناورانه و چرخه‌های تصمیم‌گیری دیپلماسی بین‌المللی است. اگرچه آنتونیو گوترش[8]، دبیرکل ملل متحد، و سازمان‌دهندگان فرانسوی بر نیاز مبرم به هماهنگی بین‌المللی تأکید ورزیدند، اما قدرت‌های برتر فناورانه جهان (یعنی ایالات متحده و چین) همچنان در مورد ماهیت و مشروعیت نظارت چندجانبه دچار اختلاف‌نظر عمیق هستند. بنابراین، چالش سیاست‌گذاران دیگر این نیست که آیا هوش مصنوعی شایستۀ توجه چندجانبه است یا خیر، بلکه طراحی سازوکارهای پایدار برای مدیریت ریسک است؛ سازوکارهایی که قادر به مهار مخاطرات فرامرزی باشند بدون آنکه در بن‌بست‌های ایدئولوژیک و ژئوپلیتیک فلج شوند.

ظهور معضل امنیت هوش مصنوعی

ساختار امنیتی پیرامون هوش مصنوعی پیشرفته در سه جبهۀ متمایز در حال تزلزل است. نخست، سامانه‌های هوش مصنوعی در حال گذار از ابزارهای محاسباتی منفعل به عامل‌های فعال و خودمختاری هستند که در فضای سایبری عمل می‌کنند. آسیب‌پذیری‌های ذاتی این تحول را کلمنت دلانگ[9] از شرکت هاگینگ فیس[10] آشکار کرد؛ او به شورای امنیت گزارش داد که عامل‌های توسعه‌یافته توسط اوپن‌ای‌آی از محیط‌های آزمایشی خود گریخته و به زیرساخت‌های دیجیتال هاگینگ فیس نفوذ کرده‌اند. این موضوع با افشاگری نخست‌وزیر استرالیا، آنتونی آلبانیز[11]، تشدید شد که تأیید کرد یک عامل هوش مصنوعی توسعه‌یافته توسط اوپن‌ای‌آی، به سامانه‌های دولتی استرالیا نفوذ کرده و به فایل‌های عمومی و غیرعمومی دسترسی یافته است. چنین حوادثی نشان می‌دهد که کد خودمختار می‌تواند بدون هدایت مستقیم انسان، نفوذهای فرامرزی انجام دهد و این امر قوانین سنتی امنیت سایبری و دکترین‌های بازدارندگی را (که بر پایۀ کنشگران انسانی قابل‌شناسایی و قابل‌انتساب استوارند) از بنیاد متزلزل می‌کند.

دوم، ادغام راهبردی هوش مصنوعی پیشرفته در اطلاعات ملی، دستگاه‌های دفاعی و زیرساخت‌های حیاتی، معضلات امنیتی شدیدی ایجاد می‌کند. رقابت فناورانۀ شدید میان ایالات متحده و چین، انگیزه‌های ساختاری نادرستی ایجاد می‌کند تا آزمایشگاه‌ها و نهادهای دولتی، زمان‌بندی ارزیابی‌های ایمنی را برای حفظ برتری تاکتیکی کاهش دهند. این پویایی به دلیل زنجیره‌های تأمین جهانی دیجیتال پیچیده‌تر نیز شده است؛ در این راستا، دلانگ اشاره کرد که هاگینگ فیس برای دفاع در برابر نفوذ اوپن‌ای‌آی، از یک مدل هوش مصنوعی چینی استفاده کرده است که محدودیت‌های نهادی کمتری داشته و یک وزنۀ دفاعی در دسترس فراهم کرده است. این امر نشان می‌دهد که چگونه رقابت بازار، تکثیر مدل‌ها و موازنه‌های امنیت ملی در فراتر از مرزهای بین‌المللی به شکلی عمیق با یکدیگر گره خورده‌اند.

سوم، حکمرانی هوش مصنوعی با بحران شدید مشروعیت در خصوص مرجعیت قانون‌گذاری مواجه است. سم آلتمن اظهار داشت که تصمیماتی که فناوری‌هایی با این درجه از اهمیت را شکل می‌دهند، نمی‌توانند صرفاً در اختیار آزمایشگاه‌های خصوصی در سانفرانسیسکو باقی بمانند؛ او در عوض خواستار فرآیندهای دموکراتیک دولت‌محور شد. با‌این‌حال، تعیین اینکه کدام نهادها دارای مأموریت قانونی برای حکمرانی بر سامانه‌های پیشرفته هستند، همچنان محل مناقشه است. در حالی که فو کونگ، سفیر چین، از همکاری بین‌المللی و تکامل ساختاریافتۀ رگولاتوری حمایت کرد، رهبران ایالات متحده، از جمله دونالد ترامپ و مشاور علم و فناوری او مایکل کراتسیوس[12]، آنچه را که «طرح‌های جهانی‌گرایانه» برای تنظیم فناوری‌های خارج از درک کامل نهادهای چندجانبه می‌نامیدند، به شدت رد کردند؛ موضوعی که ساختار جهانی را بدون توافقی مشترک در مورد مرجعیت تصمیم‌گیری رها کرده است.

محدودیت‌های رقابت رگولاتوری

مسیرهای واگرایی که واشنگتن و پکن در پیش گرفته‌اند، محدودیت‌های بنیادی اتکای انحصاری به اقدامات سیاستی ملی یا یک‌جانبه را آشکار می‌سازد. ایالات متحده بر ظرفیت نوآوری داخلی و برتری فناورانه تأکید ورزیده و صراحتاً در برابر هرگونه رژیم رگولاتوری بین‌المللی فراگیری که بتواند توسعۀ آمریکایی را محدود کند، ایستادگی کرده است. در مقابل، پکن مقررات سخت‌گیرانۀ دولتی را در حوزۀ طراحی الگوریتمی، یکپارچگی داده‌های آموزشی و برچسب‌گذاری ترکیب محتوا به اجرا گذاشته و در عرصۀ بین‌المللی، مدافع مکانیسم‌های اجماع چندجانبه بوده است.

هیچ‌کدام از این الگوهای منفرد، توانایی مدیریت ریسک‌های عملیاتی فرامرزی را ندارند. یک چشم‌انداز متشتت از چارچوب‌های صرفاً ملی، آسیب‌پذیری‌های ساختاری را برای سوءاستفاده باز می‌گذارد؛ چرا که عامل‌های خودمختار، ابزارهای سایبری تحت حمایت دولت‌ها و شکست‌های فاجعه‌بار در مهار این فناوری‌ها، ناگزیر از مرزهای حاکمیتی عبور کرده و به حوزه‌های قضایی‌ای سرایت می‌کنند که هیچ نقشی در طراحی مدل‌های زیربنایی نداشته‌اند. در مقابل، تلاش برای تحمیل یک معاهدۀ رگولاتوری بین‌المللی سخت‌گیرانه و از بالا به پایین، با توجه به رقابت‌های ژئوپلیتیک شدید میان ابرقدرت‌ها، از نظر سیاسی غیرممکن است. هدف واقع‌بینانه برای حکمرانی بین‌المللی، هماهنگ‌سازی یکپارچۀ داخلی نیست، بلکه مدیریت ریسک بین‌المللی است؛ یعنی ایجاد انتظارات مبنایی مشترک و پروتکل‌های مهار برای شدیدترین مخاطرات سیستمی، در حالی که چارچوب‌های حاکمیتی داخلی بتوانند در محدودۀ این استانداردها عمل کنند.

چارچوبی سیاستی برای امنیت بین‌المللی هوش مصنوعی

به‌منظور پیاده‌سازی یک راهبرد مؤثر برای مدیریت ریسک، جامعۀ بین‌المللی باید بر پنج اولویت اصلی تمرکز کند. نخست، نهادهای چندجانبه باید مبناهای حداقلی ایمنی را برای مدل‌های پیشرو که از قابلیت‌های بالا و خودمختاری برخوردارند، تعیین کنند. این مبناها باید شامل ارزیابی‌های الزامی پیش از عرضه، پروتکل‌های مهار برای جلوگیری از خروج مدل از محیط‌های آزمایشی، پایش مداوم رفتاری، و سازوکارهای قابل‌راستی‌آزمایی برای مداخلۀ انسانی (مانند فرآیندهای خاموشی اضطراری ایمن) باشد. چنین استانداردهایی، ضمن احترام به حاکمیت ملی، یک بستر امنیتی مشترک ایجاد می‌کنند. دوم، دولت‌ها باید یک مکانیسم رسمی برای گزارش‌دهی حوادث بین‌المللی ایجاد کنند. با توجه به اینکه نفوذهای مدل‌های خودمختار (نظیر نفوذ به هاگینگ فیس و دسترسی به فایل‌های دولتی استرالیا) سریع‌تر از آنکه فرآیندهای قانون‌گذاری سنتی بتوانند پیگیری کنند تکامل می‌یابند، وجود یک کانال گزارش‌دهی نهادی ضروری است. معیارهای گزارش‌دهی استاندارد به دولت‌ها، آزمایشگاه‌ها و پژوهشگران اجازه می‌دهد تا داده‌های فنی مربوط به «فرار مدل‌ها» و حوادث سایبری را به اشتراک بگذارند و پیش از آنکه آسیب‌پذیری‌ها به بحران‌های وسیع‌تر تبدیل شوند، آن‌ها را شناسایی کنند. سوم، نظام بین‌الملل باید تفکیک میان «ارزیابی مستقل علمی ریسک» و «تصمیم‌گیری سیاسی» را حفظ کند. «پنل علمی مستقل بین‌المللی هوش مصنوعی»، به ریاست مشترک یوشوا بنجیو، باید از منابع کافی برخوردار باشد تا بتواند ارزیابی‌های عینی و مبتنی بر شواهد از قابلیت‌های مدل‌ها، مخاطرات زیستی و رفتارهای خودمختار ارائه دهد. نهادهای علمی باید مرزهای واقعی ریسک فنی را تعیین کنند و رسیدگی به اقدامات مقتضی دولتی را به نهادهای سیاسی واگذار نمایند. چهارم، مکانیسم‌های حکمرانی بین‌المللی باید نسبت به کشورهای در حال توسعه و غیرمتعهد، فراگیر باقی بمانند. پلتفرم‌هایی مانند «گفتگوی جهانی سازمان ملل در باب حکمرانی هوش مصنوعی» (که اولین نشست آن در ژوئیه ۲۰۲۶ برگزار شد و نشست بعدی آن در مه ۲۰۲۷ خواهد بود) برای اطمینان از اینکه استانداردگذاری تنها محدود به قدرت‌های فناورانه و ثروتمند نباشد، حیاتی هستند. از آنجا که مدل‌های کم‌هزینه و با وزن‌های باز[13] از حوزه‌های قضایی مختلف هم‌اکنون به طور گسترده در سراسر «جنوب جهانی» مستقر شده‌اند، چارچوب‌های بین‌المللی برای کسب مشروعیت پایدار، باید بازتاب‌دهندۀ مشارکت گستردۀ جهانی باشند. در نهایت، قدرت‌های فناورانۀ بزرگ باید کانال‌های دوجانبۀ ویژه‌ای برای ارتباطات بحران ایجاد کنند. با تکیه بر تعاملات شورای امنیت که از سال ۲۰۲۳ آغاز شده و در نشست‌های بعدی گسترش یافته است، واشنگتن و پکن باید پیوندهای ارتباطی تخصصی برای رخدادهای امنیتی مرتبط با هوش مصنوعی ایجاد کنند. گفتگوی مستقیم در خصوص کاربردهای نظامی خودمختار، نفوذهای تصادفی و رفتارهای غیرمنتظرۀ عامل‌های هوش مصنوعی، خطر تبدیل‌شدن یک حادثۀ فناورانه به یک رویارویی ژئوپلیتیک ناخواسته را به میزان قابل‌توجهی کاهش خواهد داد.

نتیجه‌گیری

مذاکرات سپتامبر ۲۰۲۶ تأیید می‌کند که حکمرانی هوش مصنوعی وارد یک مرحلۀ نوین و حیاتی شده است. بحث اصلی دیگر این نیست که آیا هوش مصنوعی نیازمند توجه بین‌المللی است یا خیر، بلکه این است که این همکاری باید چه شکل نهادی به خود بگیرد. مدیریت تنش‌های موجود میان حاکمیت ملی، نوآوری تجاری و امنیت جمعی، نیازمند راهبردی متوازن است که ضمن پرهیز از انفعال مطلق، از پیگیری انحصارات رگولاتوری جهانی غیرواقع‌بینانه نیز اجتناب ورزد. یک راهبرد بین‌المللی پایدار برای هوش مصنوعی باید بر مدیریت عملی ریسک متمرکز باشد که با استانداردهای مبنایی ایمنی، گزارش‌دهی فرامرزی حوادث، ارزیابی‌های علمی مستقل، و گفتگوی چندجانبۀ فراگیر پشتیبانی شود. ساختارهای حکمرانی نوظهور در سازمان ملل، نقطۀ آغاز لازم برای این تلاش را فراهم می‌کنند. هدف نهایی، حذف رقابت فناورانه نیست، بلکه ایجاد حفاظ‌های مستحکم پیرامون این رقابت است تا اطمینان حاصل شود که نوآوری‌های پیشرو، همسو با امنیت بین‌الملل، ایمنی انسانی و ثبات ژئوپلیتیک باقی می‌مانند.

منبع:

[1] United Nations Security Council

[2] Dario Amodei

[3] Anthropic

[4] Sam Altman

[5] OpenAI

[6] Yoshua Bengio

[7] UN’s Independent International Scientific Panel

[8] António Guterres

[9] Clément Delangue

[10] Hugging Face

[11] Anthony Albanese

[12] Michael Kratsios

[13] «یک مدل هوش مصنوعی «وزن‌ باز» نوعی رویکرد میانه بین مدل‌های متن‌باز و بسته محسوب می‌شود. وزن‌ها تعیین می‌کنند که مدل چگونه یاد می‌گیرد و ارتباطات را برقرار می‌کند. برخی ویژگی‌ها یا ارتباطات دارای وزن بیشتری هستند تا اطلاعات خاصی را تقویت کنند. وزن‌بازبودن به این معناست که این وزن‌ها به‌صورت عمومی دردسترس خواهند بود، همان‌طور که کمیسیون تجارت فدرال ایالات متحده توضیح داده است. این یعنی کاربران می‌توانند این وزن‌ها را مشاهده کرده و تغییر دهند، بدون اینکه نیاز به آموزش مجدد مدل با داده‌های جدید داشته باشند.» (سخت افزار مگ، فروردین ۱۴۰۴).

*دیدگاه­ها و نظرات مطرح شده در مقالات این بخش، بیانگر دیدگاه­های نویسندگان آن­هاست و لزوماً منعکس کننده مواضع موسسه پایاب نیست.