هشدار دانشمندان درباره خطرات سایبری هوش مصنوعی و لزوم کنترل شدیدتر
گروهی متشکل از بیش از ۳۰۰ دانشمند از سراسر جهان با انتشار نامه‌ای سرگشاده، خواستار تغییرات فوری در نحوه توسعه و استقرار هوش مصنوعی شده‌اند و نسبت به رفتار غیرقابل پیش‌بینی و خطرات آن برای زیرساخت‌های حیاتی هشدار داده‌اند.
گروهی متشکل از بیش از ۳۰۰ دانشمند از سراسر جهان خواستار تغییرات فوری در نحوه توسعه و استقرار هوش مصنوعی در بحبوحه نگرانی‌های فزاینده درباره رفتار غیرقابل پیش‌بینی آن شده‌اند. در این نامه که روز سه‌شنبه منتشر شد و به امضای محققان دانشگاه‌ها و مؤسسات پژوهشی در ۳۲ کشور رسیده، هشدار داده شده که عدم پیروی از شیوه‌های اولیه امنیت سایبری می‌تواند به زیرساخت‌های حیاتی آسیب برساند.
این دانشمندان می‌گویند بسیاری از حوادث اخیر که در آنها مدل‌های هوش مصنوعی از محیط‌های امن خارج شده‌اند، با سیستم‌های امنیتی قوی‌تر قابل پیشگیری بود. آنها توصیه کرده‌اند سازمان‌هایی که سیستم‌های پیشرفته هوش مصنوعی با قابلیت اجرای حملات سایبری را توسعه و آزمایش می‌کنند، این کار را در محیط‌های کنترل‌شده‌تری مانند سیستم‌های «ایزوله از شبکه» (air-gapped) که به اینترنت متصل نیستند، انجام دهند.
نگرانی‌های فزاینده
این نامه در حالی منتشر می‌شود که نگرانی‌ها در مورد قابلیت‌های هوش مصنوعی و تأثیر بالقوه آن بر کاربران عادی رو به افزایش است. روز دوشنبه، شرکت «انتروپیک» (Anthropic) هشدار داد که مدل‌های هوش مصنوعی آن ممکن است به زودی قادر به ایجاد بدافزارهای خودتکثیرشونده‌ای شوند که می‌توانند دستگاه‌های متصل به اینترنت روزمره، از جمله تلویزیون‌های هوشمند، دوربین‌های امنیتی و لوازم خانگی هوشمند مانند فر را تحت تأثیر قرار دهند.
این شرکت به رهبری داریو آمودی هشدار داد که مدل‌های کوچک‌تر هوش مصنوعی ممکن است تا پایان سال قادر به انجام حملات خودکار باشند. مهار این بدافزارها نیز می‌تواند دشوار باشد، زیرا ممکن است روزها طول بکشد تا یک دستگاه را آلوده کنند و می‌توانند در چندین دستگاه پخش شوند.
کنترل دستگاه‌های متصل به اینترنت می‌تواند عواقب فوری داشته باشد. به عنوان مثال، در فرانسه، هکرها سیستم‌های خنک‌کننده صدها سوپرمارکت را مختل کردند که باعث افزایش دما و خسارت بیش از ۲۲۰ هزار دلاری شد.
در همین حال، خبرگزاری اکسیوس روز جمعه گزارش داد که مدیران شرکت‌های بزرگ هوش مصنوعی مانند انتروپیک و OpenAI به طور خصوصی برای احتمال وقوع یک حادثه فاجعه‌بار مرتبط با هوش مصنوعی آماده می‌شوند که می‌تواند دسترسی به خدمات مالی بزرگ، اینترنت و زیرساخت‌های حیاتی مانند سیستم‌های آب و برق را مختل کند. به گفته این گزارش، چندین کارشناس صنعت معتقدند که یک حادثه بزرگ ممکن است طی شش ماه تا یک سال آینده رخ دهد.
دانشمندان همچنین خواستار ایجاد تدابیر حفاظتی بیشتر، از جمله تأسیس یک سازمان بین‌المللی برای تعیین بهترین شیوه‌ها برای همسوسازی و مهار هوش مصنوعی، همراه با گزارش‌دهی به موقع حوادث شدند.
یکی از امضاکنندگان این نامه، دیوید لی، استاد دپارتمان مهندسی برق و کامپیوتر دانشگاه تورنتو، گفت که نگرانی‌های او پس از آن آغاز شد که عامل‌های هوش مصنوعی OpenAI کنترل‌ها را دور زده و به سرورهای شرکت فناوری Hugging Face نفوذ کردند.
یکی اینکه OpenAI در راه‌اندازی محیط آزمایشی خود، توانایی عامل‌های هوش مصنوعی‌اش را درک نکرده بود. اینها همان عامل‌های هوش مصنوعی بودند که خودشان طراحی می‌کردند. دوم اینکه عامل‌های هوش مصنوعی به طور مستقل یکدیگر را پیدا کرده و برای این حمله با هم همکاری کردند، و سوم اینکه آنها همچنین عمداً تلاش کردند تا سازندگان انسانی خود را فریب داده و گمراه کنند. — دیوید لی
فشارهای سیاسی و افکار عمومی
این نامه بر نگرانی فزاینده عمومی در مورد هوش مصنوعی، از جمله در آستانه انتخابات میان‌دوره‌ای کنگره آمریکا، تأکید می‌کند. نظرسنجی اخیر رویترز/ایپسوس نشان داد که ۵۷ درصد از رأی‌دهندگان معتقدند دولت دونالد ترامپ خطرات هوش مصنوعی را به اندازه کافی جدی نمی‌گیرد، در حالی که ۵۴ درصد همین نظر را در مورد کنگره داشتند.
نظرسنجی دیگری از AP-NORC نیز این یافته‌ها را تأیید کرد و حدود ۸۰ درصد از پاسخ‌دهندگان گفتند که دولت باید هوش مصنوعی را تحت کنترل انسان نگه دارد. پاسخ‌دهندگان همچنین اعتماد کمی به توانایی هر یک از احزاب برای مدیریت این فناوری ابراز کردند: ۳۹ درصد گفتند که به هیچ‌کدام از جمهوری‌خواهان یا دموکرات‌ها نمی‌توان برای مهار آن اعتماد کرد، در حالی که ۲۳ درصد به دموکرات‌ها و ۲۱ درصد به جمهوری‌خواهان اعتماد بیشتری داشتند.