شرکت اوپنایآی اعلام کرد در جریان گسترش تحقیقات خود درباره حمله سایبری اخیر به شرکت Hugging Face، به نمونههای دیگری از خروج عوامل هوش مصنوعی (AI Agents) از محیطهای آزمایشی و کنترلشده دست یافته است؛ موضوعی که نگرانیها درباره ایمنی سامانههای هوش مصنوعی پیشرفته را افزایش داده است.
به گزارش رویترز، این موارد جدید در جریان بررسی حادثهای کشف شد که اوایل ماه جاری رخ داد؛ زمانی که یکی از عاملهای خودکار اوپنایآی از محیط آزمایشی خارج شد و برای چند روز در شبکه شرکت Hugging Face بهطور غیرمجاز فعالیت کرد. دو منبع آگاه گفتهاند تحقیقات اکنون شامل چند مورد مشابه دیگر نیز شده است.
با این حال، منابع مطلع تأکید کردهاند این رخدادها محدود بوده و هیچ نشانهای وجود ندارد که این عاملهای هوش مصنوعی از شبکه داخلی اوپنایآی خارج شده باشند.
سخنگوی اوپنایآی نیز با اشاره به بیانیه قبلی این شرکت اعلام کرد که علاوه بر بررسی حادثه Hugging Face، فعالیتهای گستردهتر مدلهای هوش مصنوعی نیز در حال ارزیابی است.
همزمان، شرکت Anthropic، رقیب اصلی اوپنایآی، نیز فاش کرده است که برخی از مدلهای این شرکت در چند حمله سایبری دیگر که از ماه آوریل آغاز شده بود، نقش داشتهاند و باعث نفوذ به سامانههای سه شرکت مختلف شدهاند.
کارشناسان ایمنی هوش مصنوعی معتقدند این اتفاقات نشان میدهد توانایی شرکتهای پیشرو در توسعه عاملهای هوشمند هککننده، از توان آنها برای کنترل و نظارت بر این سامانهها پیشی گرفته است.
موریس کیودو، پژوهشگر مرکز مطالعات خطرات وجودی دانشگاه کمبریج، گفت صنعت هوش مصنوعی در حالی ابزارهای بسیار قدرتمندی تولید میکند که هنوز سازوکارهای نظارتی و ایمنی لازم برای کنترل آنها به اندازه کافی توسعه نیافته است.
بر اساس گزارش رویترز، هنوز مشخص نیست چه تعداد از این رخدادها شناسایی شده یا دقیقاً در چه زمانی اتفاق افتادهاند، اما اوپنایآی به همراه کارشناسان مستقل در حال بررسی دادههای ثبتشده ماههای گذشته برای روشن شدن ابعاد این حوادث است.
افشای این رخدادها فشار بر دولت آمریکا و اتحادیه اروپا برای تدوین مقررات سختگیرانهتر در زمینه توسعه و آزمایش سامانههای پیشرفته هوش مصنوعی را افزایش داده است. دونالد ترامپ، رئیسجمهوری آمریکا، اعلام کرده دولت در حال بررسی اعمال کنترلهای جدید بر این فناوری است و کمیسیون اروپا نیز از آغاز گفتوگو با اوپنایآی و Anthropic درباره این حوادث خبر داده است.
