هشدار رئیس بانک مرکزی انگلستان به گروه G۲۰ | هوش مصنوعی می‌تواند باعث رکود اقتصادی جهانی شود؟

گروه فناوری؛ اندرو بیلی، رئیس بانک مرکزی انگلستان، به جمع چهره‌های برجسته‌ای پیوسته است که درباره خطرات جهانی ناشی از پیشرفته‌ترین فناوری‌های هوش مصنوعی هشدار می‌دهند. بیلی در نامه‌ای دوصفحه‌ای که در چارچوب مسئولیتش به‌عنوان رئیس هیئت ثبات مالی (FSB) برای وزیران دارایی و رؤسای بانک‌های مرکزی کشور‌های مختلف ارسال کرده است، اعلام کرد: مدل‌های پیشرو هوش مصنوعی (frontier AI) از خود توانایی‌های فزاینده و پیشرفته‌ای در زمینه خودمختاری و حل مسئله، و همچنین قابلیت‌های بالقوه برای ایجاد تهدید نشان می‌دهند.

او هشدار داد که این مدل‌ها می‌توانند از طریق ایجاد اختلالات سایبری، سیستم مالی جهانی را که به‌شدت به یکدیگر وابسته است، بی‌ثبات کنند؛ به‌ویژه اینکه چنین حملاتی می‌توانند در سراسر حوزه‌های قضایی و مرز‌های کشور‌ها گسترش پیدا کنند. بیلی پیش از نشست وزیران دارایی و رؤسای بانک‌های مرکزی کشور‌های G۲۰ در کارولینای شمالی آمریکا، در نامه خود نوشت:

هشدار درباره مدیریت هوش مصنوعی

تحولات اخیر همچنین به من نشان داده است که بسیاری از حوزه‌های قضایی، پروتکل‌های لازم برای مدیریت توسعه، عرضه و به‌کارگیری مدل‌های پیشرفته و پیشرو هوش مصنوعی را در اختیار ندارند؛ موضوعی که خطرات موجود برای بخش مالی و فراتر از آن را افزایش می‌دهد.

نامه بیلی به مجموعه‌ای از هشدار‌های جدی درباره هوش مصنوعی اضافه می‌شود که طی چند هفته اخیر از سوی چهره‌های سرشناس حوزه فناوری مطرح شده است. این هشدار همچنین با درخواست‌های قبلی او برای همکاری بین‌المللی به‌منظور مقابله با تهدید‌های رو‌به‌رشد هوش مصنوعی همسو است.او پیش‌تر خطاب به مدیران ارشد صنعت مالی لندن گفته بود:هیچ کشوری نمی‌تواند خود را از ماهیت فرامرزی سیستم‌هایی که امروزه به‌طور گسترده مورد استفاده قرار می‌گیرند، مصون نگه دارد.

متخصصان خواستار کنترل سرعت توسعه فناوری شدند

ماه گذشته نیز نامه‌ای با امضای ۱٬۳۶۷ پژوهشگر و مهندس فعال در آزمایشگاه‌های پیشرو هوش مصنوعی ــ که بیشتر آنها از شرکت‌های OpenAI، Anthropic و Google DeepMind بودند؛ نگرانی‌های مهندسانی را که هر روز با این فناوری کار می‌کنند، برجسته کرد.

در این نامه آمده بود: این خطر واقعی وجود دارد که توسعه توانمندی‌های هوش مصنوعی با سرعتی شتابان از توانایی ما برای درک یا کنترل سیستم‌های حاصل از آن فراتر برود. نویسندگان سپس از دولت آمریکا خواستند از یک تلاش بین‌المللی برای توسعه ابزار‌های فنی و سازوکار‌های حکمرانی لازم حمایت کند تا بتوان سرعت توسعه هوش مصنوعی خودکار در مرز‌های فناوری را به‌صورت آگاهانه و هدفمند مدیریت کرد.

همچنین اوایل همین ماه گزارش شد که کارکنان OpenAI، هفته‌ها پیش از آنکه عوامل هوش مصنوعی پیشرفته این شرکت از محیط آموزشی خود خارج شوند و یک عملیات هکری بی‌سابقه را آغاز کنند که باعث نگرانی گسترده در سراسر جهان شد، نشانه‌هایی از رفتار خارج از کنترل را در این سیستم‌ها مشاهده کرده بودند.

بیلی: خطرات سایبری، تهدیدی برای ثبات مالی جهان

بیلی با گسترش این نگرانی‌ها به حوزه سیاست‌گذاری مالی ادامه داد: برای سیستم مالی، فوری‌ترین نگرانی، تأثیر احتمالی هوش مصنوعی پیشرو بر ریسک‌های سایبری است. هوش مصنوعی پیشرو ممکن است توانایی آن را داشته باشد که سرعت، مقیاس و صرفه اقتصادیِ ریسک‌های سایبری را به‌طور قابل‌توجهی تغییر دهد؛ مسئله‌ای که می‌تواند اعتماد به بازار را در سطح کل سیستم تضعیف کند، به‌ویژه به دلیل وابستگی شدید سیستم مالی به ارائه‌دهندگان خدمات شخص ثالث متمرکز.

بیلی از مسئولانی که وظیفه حفاظت از سیستم‌های مالی جهان را بر عهده دارند خواست، اقدامات مناسب برای حمایت از عرضه و به‌کارگیری ایمن و مسئولانه مدل‌های هوش مصنوعی در سطح جهانی را در اولویت قرار دهند.