نوشته جیمز راندل
امنیت سایبری مدت‌هاست که به عنوان یک ریسک در سطح هیئت‌مدیره شناخته شده است. هوش مصنوعی اکنون آن را به یک ضرورت برای مدیران ارشد تبدیل کرده است.
برخی از قدرتمندترین مدیران عامل آمریکا نقش پیشرو در آماده‌سازی شرکت‌های خود برای حملات سایبری و تهدیدات سیستماتیک ایفا می‌کنند، زیرا مدل‌های هوش مصنوعی که به سرعت پیشرفت می‌کنند، ریسک‌ها را برای کسب‌وکارهای به طور فزاینده متصل شده افزایش داده‌اند.
اتحادیه زیرساخت‌های حیاتی، یک گروه صنعتی که در فوریه به عنوان یک انجمن برای شرکت‌هایی که خدمات اقتصادی حیاتی ارائه می‌دهند تشکیل شده است، از ۹ عضو شرکتی به نزدیک به ۵۰ عضو افزایش یافته است. هیئت‌مدیره بزرگ‌تر آن که به ریاست جیمی دیمون، مدیرعامل JPMorganChase است، شامل رهبران چهار بانک بزرگ آمریکا، برخی از بزرگ‌ترین شرکت‌های فناوری جهان، ارائه‌دهندگان عمده مخابرات و شرکت‌های خدمات عمومی و سه شرکت بزرگ هواپیمایی کشور می‌شود.
در کنار دیمون، اعضای هیئت‌مدیره شامل جین فریزر، مدیرعامل Citi، دیوید سولومون، مدیرعامل Goldman Sachs و برایان مویهان، مدیرعامل Bank of America هستند. رهبران فناوری شامل اندی جسی از آمازون، سوندار پیچای از آلفابت، ساتیا نادلا از مایکروسافت و جنسن هوانگ از انویدیا می‌باشند.
این ترکیب غیرمعمول از مدیران ارشد نشان‌دهنده دیدگاهی رو به رشد است که تهدیدات سایبری مبتنی بر هوش مصنوعی نیازمند تصمیم‌گیری از سوی مدیران شرکت‌ها است، نه فقط رهبران فنی، به گفته فریزر از Citi.
شرکت‌ها سال‌ها صرف ساخت سیستم‌هایی برای به اشتراک‌گذاری اطلاعات درباره حملات کرده‌اند، اغلب از طریق تیم‌های امنیتی خود و مراکز تحلیل و اشتراک‌گذاری اطلاعات خاص بخش‌ها. ACI در تلاش است تا پروتکل‌های سطح اجرایی را پیش از وقوع بحران که صنایع را درگیر می‌کند، برقرار کند.
فریزر گفت: «نمی‌خواهم تماس تلفنی ساعت ۱۰ شب را دریافت کنم و در ۱۰:۰۱ همه ما در تلاش باشیم بفهمیم چه کاری باید انجام دهیم و چگونه هماهنگ شویم.»
او افزود که ایجاد پروتکل‌های مشترک به شرکت‌ها اجازه می‌دهد تا سریعاً پاسخ دهند وقتی اختلال در یک بخش بر بخش دیگری تأثیر می‌گذارد. به عنوان مثال، قطعی در یک اپراتور مخابراتی می‌تواند به سرعت خدمات مالی، حمل‌ونقل و سایر کسب‌وکارهایی که به شبکه‌های آن وابسته‌اند را مختل کند.
ریسک‌ها از یک بخش به بخش دیگر منتقل می‌شوند
اپراتورهای زیرساخت‌های حیاتی مدت‌هاست برای شکست‌هایی که خطوط بخش‌ها را درنوردد آماده شده‌اند، اما هوش مصنوعی این مشکل را پیچیده‌تر کرده است. مدل‌ها سریع‌تر و توانمندتر شده‌اند و قابلیت تعامل بیشتری با سیستم‌های کامپیوتری یافته‌اند، که راه‌های جدیدی برای انتقال مشکلات فراتر از سیستم‌ها یا سازمان‌های اولیه ایجاد می‌کند.
فریزر گفت: «وقتی ریسک‌ها صنایع ما را درنوردند، دفاع‌های ما نیز باید صنایع را درنوردد. این بار مدل‌ها و سرعت متفاوت است.»
حوادث اخیر این ریسک‌های مرزی را برجسته می‌کند. استرالیا این ماه از OpenAI انتقاد کرد پس از آنکه یکی از عوامل هوش مصنوعی این شرکت به طور غیرمجاز به سیستم آمار Medicare دولت دسترسی یافت در حالی که در حال انجام یک وظیفه تحقیقاتی بی‌ضرر بود. آنتونی آلبانیز، نخست‌وزیر استرالیا، زمان‌بندی افشای شرکت را مورد انتقاد قرار داد و گفت مقامات ابتدا از طریق یک صندوق ایمیل عمومی مطلع شدند. یک گروه کاری دولتی استرالیا این حادثه و کفایت فرآیندهای موجود برای حوادث سایبری مرتبط با هوش مصنوعی را بررسی می‌کند.
مدل‌هایی که توسط Anthropic و Google توسعه یافته‌اند نیز در آزمایش‌های امنیت سایبری به سیستم‌های واقعی شرکت‌ها دست یافته‌اند، در حالی که مدل‌های OpenAI قبلاً از محیط آزمایشی ایزوله فرار کرده و به سیستم‌های متعلق به پلتفرم هوش مصنوعی Hugging Face دسترسی یافته‌اند.
این حوادث سوال گسترده‌تری را مطرح می‌کند که چه کسی مسئول پاسخگویی است وقتی سیستم هوش مصنوعی یک شرکت مشکل امنیتی برای شرکت دیگری ایجاد می‌کند.
انتظارات از مدیران عامل
ACI برخی از شرکت‌هایی که قدرتمندترین مدل‌های هوش مصنوعی را می‌سازند در همان سازمان با شرکت‌های بزرگ که این فناوری را به کار می‌گیرند، گرد هم آورده است. فریزر گفت این گروه می‌تواند انتظارات واضح‌تر و یکپارچه‌تری از مشتریان به توسعه‌دهندگان مدل‌ها ارائه دهد.
او گفت: «این برای کسانی که مدل‌ها را توسعه می‌دهند سازنده‌تر است چون صدای واحد بیشتری دریافت می‌کنند تا صداهای متعدد.»
فراتر از پاسخ به بحران، ACI قصد دارد ریسک‌های امنیتی مدل‌های زبان بزرگ را مطالعه کند، نرم‌افزار متن‌باز پرکاربرد را تقویت کند و روش‌هایی برای استقرار امن هوش مصنوعی توسعه دهد. اعضا همچنین با دولت آمریکا در زمینه سیاست‌های امنیت سایبری همکاری خواهند کرد، به گفته بن فلتگارد، مدیر اجرایی امنیت سایبری در JPMorganChase. با این حال، تمرکز گروه عملیاتی خواهد بود نه سیاسی.
فلتگارد گفت: «هدف این است که کار را شروع کنیم و سپس آنچه را که یاد می‌گیریم به اشتراک بگذاریم.»
گوردون اسمیت، مدیرعامل موقت ACI، گفت گسترش هیئت‌مدیره این گروه تا حدی ناشی از بهبود سریع قابلیت‌های هوش مصنوعی در حدود سه ماه گذشته است. فریزر حدود هشت هفته پیش با او تماس گرفت و از بخش خصوصی خواست آمادگی‌های خود را تسریع کند.
فلتگارد گفت حضور رهبران ارشد به شرکت‌ها اجازه می‌دهد تا افراد و منابع دیگر را به این کار اختصاص دهند.
او گفت: «تمرکز در بالاترین سطح در همه این سازمان‌ها سیگنال می‌فرستد و قادر است منابع را برای ساخت آن قابلیت بسیج کند.»
اسمیت گفت شرکت‌های عضو کارکنانی را به طور تمام‌وقت برای ACI اختصاص داده‌اند در حالی که آنها را در فهرست حقوق خود نگه داشته‌اند. این گروه در حال توسعه کتابچه‌های پاسخ است که می‌توانند در صنایع مختلف به اشتراک گذاشته شوند، در حالی که شرکت‌هایی که تجربه بیشتری در مدیریت ریسک‌های مرتبط با هوش مصنوعی دارند، روش‌ها را با بخش‌هایی که کمتر آماده‌اند به اشتراک می‌گذارند.
اسمیت گفت هیچ کتابچه‌ای نمی‌تواند همه راه‌هایی را که فناوری به سرعت در حال تغییر می‌تواند بحران ایجاد کند پیش‌بینی کند. هدف ایجاد یک نقطه شروع است، از جمله اینکه چه کسانی باید درگیر باشند، که شرکت‌ها می‌توانند آن را در حین وقوع حادثه تطبیق دهند.
او گفت: «شما یک کتابچه دارید، می‌دانید چه کاری انجام خواهید داد، افراد کلیدی را می‌شناسید، آن را سریع توسعه می‌دهید و امیدواریم پاسخ بسیار خوبی داشته باشید.»
برای تماس با جیمز راندل به آدرس james.rundle@wsj.com بنویسید
