خطر در کمین دنیای دیجیتال؛

هشدار جدی مقام ارشد OpenAI درباره حملات سایبری | هوش مصنوعی از کنترل خارج می‌شود؟

مدیر ارشد امور جهانی OpenAI با هشدار درباره افزایش توانایی مدل‌های پیشرفته هوش مصنوعی برای برنامه‌ریزی و اجرای حملات سایبری، خواستار وضع استاندارد‌های اجباری ایمنی برای مدل‌های پیشرفته شد؛ هم‌زمان OpenAI روند توسعه برخی مدل‌های مرزی خود را برای تقویت سازوکار‌های ایمنی کند کرده است.

کد خبر: ۲۱۵۸۸۰۷

۰۲ شهريور ۱۴۰۵

گروه فناوری؛ یک مقام ارشد OpenAI هشدار داده است که جهان باید خود را برای مقابله با حملات سایبری مداوم و ادامه‌دار از سوی سامانه‌های هوش مصنوعی آماده کند؛ چراکه مدل‌های پیشرفته این فناوری با سرعت زیادی در حال دستیابی به قابلیت‌هایی هستند که می‌تواند به آنها امکان برنامه‌ریزی و اجرای عملیات پیچیده سایبری را بدهد.

کریس لهین، مدیر ارشد امور جهانی OpenAI، در گفت‌و‌گو با گاردین اعلام کرد: هوش مصنوعی اکنون وارد مرحله‌ای متفاوت شده است؛ مرحله‌ای که در آن قابلیت‌های فناوری به‌طور محسوسی فراتر رفته و نگرانی درباره نحوه استفاده از این توانایی‌ها، به‌ویژه در حوزه امنیت سایبری، جدی‌تر شده است. او همچنین افزود: ما در زمینه قابلیت‌های این فناوری، وارد فصل متفاوتی شده‌ایم.

این اظهارات پس از مجموعه‌ای از رخداد‌های امنیتی در جریان آزمایش مدل‌های پیشرفته مطرح شده است؛ رخداد‌هایی که نگرانی‌ها درباره میزان کنترل‌پذیری عامل‌های هوش مصنوعی را افزایش داده‌اند.

خروج عامل‌های هوش مصنوعی از محیط‌های آزمایشی

در اواخر ژوئیه، در جریان آزمایش مدل‌های هوش مصنوعی، برخی عامل‌ها توانستند از محدوده‌ای که برای آزمایش آنها در نظر گرفته شده بود فراتر بروند، به اینترنت دسترسی پیدا کنند و در یک مورد به سامانه‌های شرکت Hugging Face نفوذ کنند.

OpenAI در توضیحات خود درباره رخداد‌های آزمایشی اخیر بیان کرده است که برخی از این موارد در شرایط خاص آزمایشگاهی و با کاهش یا تغییر برخی سازوکار‌های حفاظتی رخ داده‌اند. برای نمونه، در یکی از ارزیابی‌ها دسترسی زنده به اینترنت عمدا فعال شده بود تا عامل‌ها در شرایطی نزدیک‌تر به رفتار یک مهاجم واقعی آزمایش شوند؛ در موردی دیگر نیز پیکربندی نادرست محیط آزمایش باعث شد مدل‌ها به اینترنت عمومی دسترسی پیدا کنند.

OpenAI همچنین درباره مدل دیگری به نام Astra اعلام کرده است که نمی‌تواند احتمال برخورداری آن از قابلیت حیاتی در زمینه امنیت سایبری را رد کند. بر اساس چارچوب آمادگی این شرکت، چنین سطحی از توانایی می‌تواند در بدترین سناریو به حملاتی منجر شود که سامانه‌های نظامی یا صنعتی، زیرساخت‌های شرکت یا دیگر اهداف حیاتی را تحت تأثیر قرار دهند.

کند شدن توسعه مدل‌های پیشرفته برای تقویت ایمنی

در واکنش به افزایش نگرانی‌ها، OpenAI اعلام کرده است که سرعت توسعه و مقیاس‌دهی برخی مدل‌های مرزی خود را به‌طور موقت کاهش داده تا بتواند سازوکار‌های نظارت، هم‌راستاسازی، امنیت و مهار مدل‌ها را تقویت کند.

این شرکت در ادامه می‌گوید با افزایش توانایی مدل‌ها، خطرات مرتبط با توسعه و حتی آزمایش داخلی آنها نیز افزایش پیدا می‌کند و استاندارد‌های امنیتی باید همگام با این قابلیت‌ها پیش بروند. OpenAI تاکید کرده است که برای رسیدن به این استانداردها، لازم بوده سرعت توسعه را موقتا کاهش دهد.

میا گلیز، از مدیران بخش ایمنی و هم‌راستاسازی OpenAI نیز مطرح کره است که شرکت هنوز فاصله زیادی با بازگشت کامل به شرایط عادی دارد.

سم آلتمن، مدیرعامل OpenAI، نیز تأکید کرده است که درست انجام دادن مسئله ایمنی هوش مصنوعی از حفظ سرعت و شتاب توسعه یک شرکت مهم‌تر است.

این تصمیم در شرایطی اتخاذ شده که OpenAI هم‌زمان در رقابت شدیدی با شرکت‌هایی مانند Anthropic برای ساخت نسل‌های قدرتمندتر مدل‌های هوش مصنوعی قرار دارد؛ رقابتی که فشار اقتصادی و فناورانه برای عرضه سریع‌تر مدل‌های جدید را افزایش داده است.

هشدار بریتانیا درباره عامل‌های خودمختار

در همین حال، تهدید حملات سایبری که می‌توانند کسب‌وکارها، زیرساخت‌ها و حتی خدمات عمومی را مختل کنند، به یکی از مهم‌ترین نگرانی‌های امنیتی درباره هوش مصنوعی تبدیل شده است.

مرکز ملی امنیت سایبری بریتانیا نیز درباره استفاده از عامل‌های هوش مصنوعی هشدار داده و تأکید کرده است که سازوکار‌های ایمنی این سامانه‌ها ممکن است دور زده شوند. این نهاد همچنین هشدار داده است که عامل هوش مصنوعی عقل سلیم ندارد و نباید بدون محدودیت در اختیار آن قرار گیرد.

این مرکز به سازمان‌ها توصیه کرده است میزان استقلال عامل‌های هوش مصنوعی را محدود کنند و همواره امکان توقف فوری فعالیت آنها را در اختیار داشته باشند.

این هشدار در واقع به یکی از مشکلات اصلی نسل جدید سامانه‌های عامل‌محور اشاره دارد؛ هرچه اختیار بیشتری به یک عامل داده شود تا خودش ابزار انتخاب کند، مراحل بعدی یک کار را برنامه‌ریزی کند و بدون دخالت دائمی انسان اقدام کند، احتمال بروز رفتار‌های پیش‌بینی‌نشده نیز اهمیت بیشتری پیدا می‌کند.

درخواست OpenAI برای قانون‌گذاری اجباری

لهین بار دیگر از دولت آمریکا خواست برای ایمنی مدل‌های پیشرفته هوش مصنوعی قانون‌گذاری کند. او معتقد است یکی از دلایل اصلی ضرورت تصویب چنین قانونی این است که مدل‌های پیشرفته و هنوز عرضه‌نشده، ظاهراً در زمینه قابلیت‌های تهاجمی سایبری سریع‌تر از قابلیت‌های دفاعی پیشرفت می‌کنند.

طبق گفته او، آمریکا باید قانونی ملی تصویب کند که شرکت‌ها را ملزم کند پیش از عرضه یا استقرار مدل‌های پیشرفته، سطح مشخصی از ایمنی آنها را اثبات کنند. اواعلام کرد: شما نمی‌توانید مدل‌ها را عرضه یا مستقر کنید، مگر اینکه پیش از آن ثابت کنید و تضمین دهید که آنها از سطح مشخصی از ایمنی برخوردار هستند.

از نگاه لهین، امکان توقف یا به تعویق انداختن توسعه و عرضه مدل‌ها نیز باید بخشی از همین چارچوب قانونی باشد؛ یعنی در صورت عبور یک مدل از آستانه‌های خطر، شرکت نتواند صرفاً به دلیل فشار رقابتی یا تجاری آن را عرضه کند.

او در عین حال تأکید کرد که چنین مقرراتی در نهایت نمی‌تواند صرفاً محدود به آمریکا باقی بماند و باید زمینه برای ایجاد یک چارچوب بین‌المللی نیز فراهم شود.

رقابت تجاری در سایه نگرانی‌های ایمنی

بحث ایمنی در حالی شدت گرفته که شرکت‌های بزرگ هوش مصنوعی در یکی از شدیدترین رقابت‌های فناوری قرار دارند. OpenAI برای ورود به بازار سهام اقدام کرده و ارزش‌گذاری گزارش‌شده آن بیش از ۸۵۰ میلیارد دلار عنوان شده است؛ رقابتی که انتظار می‌رود در سال جاری یا سال آینده وارد مرحله تازه‌ای شود.

از سوی دیگر، Anthropic، سازنده Claude، نیز در رقابت مستقیم با OpenAI برای توسعه مدل‌های قدرتمندتر قرار دارد و انتظار می‌رود این شرکت نیز طی سال آینده به دنبال ورود به بازار سهام آمریکا باشد. این شرایط باعث شده مسئله ایمنی تنها یک بحث فنی نباشد؛ بلکه به موضوعی مرتبط با اقتصاد، رقابت شرکت‌ها و سیاست‌گذاری دولت‌ها تبدیل شود.

منتقدان صنعت هوش مصنوعی نیز شرکت‌های بزرگ را متهم کرده‌اند که سرعت رقابت برای ساخت مدل‌های قدرتمندتر ممکن است از سرعت ایجاد سازوکار‌های ایمنی پیشی گرفته باشد. در مقابل، OpenAI می‌گوید افزایش توانایی مدل‌ها مستلزم تقویت هم‌زمان نظارت، امنیت و کنترل آنهاست و به همین دلیل روند توسعه را در مقاطعی کاهش داده است.

واشنگتن به سمت نظارت بیشتر حرکت می‌کند

این بحث‌ها هم‌زمان با تغییراتی در رویکرد دولت آمریکا نسبت به تنظیم مقررات هوش مصنوعی مطرح شده است. دولت دونالد ترامپ در ماه ژوئن فرمانی اجرایی صادر کرد که انجام آزمایش‌های پیش از عرضه برای مدل‌های پیشرفته و همچنین مدل‌های دارای وزن باز را در زمانی که به سطح فناوری‌های مرزی نزدیک می‌شوند، تشویق می‌کند.

این رویکرد همچنان داوطلبانه است و به دلیل نبود شفافیت کافی مورد انتقاد قرار گرفته، اما برخی ناظران آن را گامی بالقوه به سمت مقررات سخت‌گیرانه‌تر می‌دانند.

در همین چارچوب، دمیس هاسابیس، رئیس Google DeepMind، پیشنهاد ایجاد یک نهاد استانداردگذاری جدید را مطرح کرده است؛ نهادی که از نظر ساختار می‌تواند الگویی مشابه سازمان تنظیم مقررات صنعت مالی آمریکا، FINRA، داشته باشد. داریو آمودی، مدیرعامل Anthropic، نیز از این ایده حمایت کرده است.

لهین معتقد است فرصت سیاسی برای تصویب قوانین جدید ممکن است در آغاز سال آینده و با روی کار آمدن کنگره جدید آمریکا ایجاد شود. او اعلام کرد: فکر می‌کنم یک اجماع سیاسی رو به رشد وجود دارد که از مرز‌های دو حزب سیاسی عبور می‌کند.

ضرورت توافق بین‌المللی و گفت‌و‌گو با چین

با این حال، از نگاه OpenAI، مقررات داخلی آمریکا به‌تنهایی برای مدیریت خطرات ناشی از هوش مصنوعی کافی نخواهد بود. لهین معتقد است با توجه به سرعت توسعه فناوری و جهانی بودن دسترسی به مدل‌های پیشرفته، در نهایت به نوعی ساختار بین‌المللی برای تعیین استاندارد‌های ایمنی نیاز خواهد بود.

در این میان، چین اهمیت ویژه‌ای دارد؛ زیرا بخشی از نگرانی‌ها درباره گسترش مدل‌های دارای وزن باز و رقابت بر سر قابلیت‌های پیشرفته هوش مصنوعی به رقابت فناوری میان آمریکا و چین مربوط می‌شود.

قرار است دونالد ترامپ و شی جین‌پینگ، رئیس‌جمهور چین، در ۲۴ سپتامبر در واشنگتن دیدار کنند و موضوع ایمنی هوش مصنوعی و نحوه مدیریت خطرات آن می‌تواند در چارچوب گسترده‌تر گفت‌و‌گو‌های دو کشور اهمیت پیدا کند.

لهین تاکید کرده است که با توجه به اهمیت این فناوری، سرعت پیشرفت آن و افزایش قابلیت‌های مدل‌ها، گفت‌و‌گو درباره ایمنی باید هرچه سریع‌تر آغاز شود.او ادامه داد: هرچه زودتر این گفت‌و‌گو‌ها آغاز شوند، سریع‌تر می‌توانیم وارد کار سخت و دشوار شویم و ببینیم آیا می‌توانیم راه‌حلی پیدا کنیم یا نه.

در مجموع، هشدار جدید OpenAI نشان می‌دهد نگرانی درباره هوش مصنوعی در خصوص افزایش توانایی عامل‌های هوش مصنوعی در انجام وظایف پیچیده، رخداد‌های غیرمنتظره در محیط‌های آزمایشی و نزدیک شدن مدل‌های دارای وزن باز به سطح قابلیت‌های مدل‌های مرزی، بحث درباره امنیت سایبری و نحوه کنترل این فناوری است.

مسئله اصلی اکنون این است که آیا دولت‌ها و شرکت‌های فناوری می‌توانند سرعت ایجاد استاندارد‌های ایمنی و سازوکار‌های دفاعی را با سرعت رشد قابلیت‌های هوش مصنوعی هماهنگ کنند یا خیر؛ پرسشی که طبق گفته مدیر ارشد OpenAI، دیگر نمی‌توان آن را صرفاً به آینده موکول کرد.