هشدار آنتروپیک: خطر تکثیر خودکار هوش مصنوعی در دستگاه‌های خانگی
شرکت آنتروپیک روز دوشنبه هشدار داد که مدل‌های کوچک هوش مصنوعی تنها «چند ماه» با دستیابی به قابلیت‌های لازم برای تکثیر خود در دستگاه‌های متصل به اینترنت در خانه فاصله دارند. این آزمایشگاه پیشرو در زمینه هوش مصنوعی، این موضوع را به عنوان یکی از جدیدترین هشدارهای ایمنی در مورد خطرات بالقوه این فناوری مطرح کرده است.
شرکت آنتروپیک روز دوشنبه هشدار داد که مدل‌های کوچک هوش مصنوعی تنها «چند ماه» با دستیابی به قابلیت‌های لازم برای تکثیر خود در دستگاه‌های متصل به اینترنت در خانه فاصله دارند. این جدیدترین هشدار از سوی این آزمایشگاه پیشرو درباره خطرات ایمنی بالقوه این فناوری است.
آنتروپیک توضیح داد که چگونه مدل‌های هوش مصنوعی می‌توانند به طور بالقوه به دستگاه‌های متصل به اینترنت، مانند فرهای هوشمند یا اندروید تی‌وی باکس‌ها، نفوذ کرده و از قدرت محاسباتی آن‌ها برای اجرای خود و گسترش به دستگاه‌های دیگر، بدون اتکا به مراکز داده گران‌قیمت، استفاده کنند.
آنتروپیک در یک پست وبلاگی اعلام کرد که خاموش کردن چنین مدل هوش مصنوعی «چالش‌برانگیز خواهد بود، زیرا هیچ نقطه متمرکزی برای خاموش کردن آن وجود ندارد.» این شرکت اذعان کرد که هنوز یک «تکثیرکننده کاملاً سرکش» وجود ندارد. با این حال، آنتروپیک افزود که این عوامل «به طور فزاینده‌ای قادر به تکمیل مراحل جداگانه در زنجیره تکثیر (و انتقال سازگاری‌های خود به نسخه‌های آینده) می‌شوند.»
نگرانی‌های فزاینده در مورد ایمنی
آخرین تحقیقات آنتروپیک به نگرانی‌های فزاینده ایمنی در مورد هوش مصنوعی، مانند توانایی مدل‌ها برای انجام حملات سایبری و سرکش شدن این فناوری، می‌افزاید. پیش از این نیز بهبودها در مدل‌های پیشرفته، هشدارهایی را در سراسر این صنعت در مورد خطرات وجودی برای بشریت برانگیخته بود. مدیران و محققان در آنتروپیک و رقیب آن OpenAI بارها در مورد خطرات بالقوه هوش مصنوعی قدرتمندتر هشدار داده‌اند و برخی خواستار حفاظ‌های سخت‌گیرانه‌تر و اقداماتی برای کنترل سرعت توسعه این فناوری شده‌اند.
آنتروپیک اعلام کرد که آزمایش‌های مختلفی را برای بررسی امکان تکثیر خودکار هوش مصنوعی انجام داده است. یکی از این آزمایش‌ها شامل اجرای یک مدل کوچک گوگل به نام Gemma4-26B-A4B بر روی شبکه‌ای متشکل از ۱۵ دستگاه اندروید تی‌وی باکس ارزان و متفرقه بود.
این شرکت خاطرنشان کرد که این نوع دستگاه‌ها اغلب امنیت ضعیفی دارند که می‌تواند به یک مدل اجازه نفوذ دهد. آنتروپیک گفت مدلی که برای جا شدن روی یک دستگاه بیش از حد بزرگ باشد، می‌تواند «به قطعات یا خرده‌هایی تقسیم شود» و روی چندین دستگاه اجرا گردد.
آنتروپیک افزود: «در عمل، یک کرم هوش مصنوعی لزوماً از یک مدل یا استراتژی واحد تشکیل نخواهد شد. انبوهی از مدل‌های مختلف که بر روی انواع سخت‌افزارها با استفاده از طرح‌های تکثیر گوناگون مستقر شده‌اند، ممکن است یک سناریوی حمله واقع‌بینانه‌تر از نوع بدترین حالت را نشان دهند.»
این آزمایشگاه هوش مصنوعی گفت هنوز «دقیقاً مشخص نیست که تکثیر خودکار هوش مصنوعی چه شکلی به خود خواهد گرفت» و هشدار داد که این می‌تواند یک سیستم «کند و توزیع‌شده» باشد که روی دستگاه‌های ناامن قرار گرفته، یا «یک مدل سایبری قدرتمند که با سرعت بالا به مراکز داده نفوذ می‌کند، یا مدلی که برای به دست آوردن اعتبار محاسباتی، افراد را فریب می‌دهد.»
آنتروپیک در پایان پیش‌بینی کرد: «ما انتظار آینده‌ای مملو از عواملی را داریم که روی انواع سخت‌افزارها اجرا می‌شوند، از جمله برخی که تحت کنترل انسان نیستند. ظهور تکثیرکننده‌های کند همچنین می‌تواند نشانه‌ای از ظهور انواع تهاجمی‌تر و سریع‌تر باشد که می‌توانند به ماشین‌های مستحکم‌تر نفوذ کرده یا در سرقت کلیدهای API مؤثر باشند.»
