شرکت آنتروپیک اعلام کرد چند نسخه از مدل هوش مصنوعی «کلود» در جریان آزمایشهای امنیتی، بدون مجوز به سامانههای واقعی سه سازمان بیرونی دسترسی پیدا کردهاند؛ رخدادی که نگرانیها درباره توان کنترلنشده عاملهای پیشرفته هوش مصنوعی را افزایش داده است.
این آزمایشها قرار بود در محیطی محدود و جدا از اینترنت انجام شوند تا مدلها امکان دسترسی به سامانههای واقعی را نداشته باشند. با این حال، آنتروپیک پس از بررسی بیش از ۱۴۱ هزار اجرای آزمایشی دریافت که سه نسخه متفاوت از کلود توانستهاند از طریق اینترنت وارد سامانههای سه سازمان ناشناس شوند.
به گفته این شرکت، دسترسی مدلها به اینترنت در نتیجه یک «سوءتفاهم» میان آنتروپیک و شرکت «ایرگولار»، شریک مسئول ارزیابی امنیتی، فراهم شده بود. مدلهای کلود نیز برای ورود به سامانهها از روشهای پیچیدهای استفاده نکردند و عمدتاً با سوءاستفاده از گذرواژههای ضعیف و نقاط دسترسی فاقد احراز هویت موفق به نفوذ شدند.
آنتروپیک اعلام کرد یکی از مدلهای قدیمیتر، حتی پس از آنکه متوجه شد در اینترنت آزاد فعالیت میکند، به ادامه عملیات پرداخت. در مقابل، جدیدترین مدل پس از تشخیص وضعیت، فعالیت خود را متوقف کرد.
این شرکت تأکید کرده است که هیچیک از مدلها بهطور عمدی برای فرار از محیط آزمایشی یا شکستن محدودیتهای تعیینشده اقدام نکردهاند و رخدادها در نتیجه پیکربندی نادرست محیط آزمایش اتفاق افتاده است.
یکی از مدلهای دخیل در این حادثه «میتوس ۵» معرفی شده که از قدرتمندترین مدلهای آنتروپیک به شمار میرود و تاکنون تنها در اختیار تعداد محدودی از شرکای تأییدشده قرار گرفته است.
آنتروپیک گفته است با شرکت ایرگولار در حال بررسی جزئیات این رخداد است و با هر سه سازمانی که سامانههای آنها هدف دسترسی غیرمجاز قرار گرفته، تماس گرفته یا برای برقراری ارتباط تلاش کرده است.
انتشار این گزارش تنها چند روز پس از آن صورت میگیرد که اوپنایآی نیز اعلام کرد برخی از مدلهایش در جریان آزمایشهای امنیتی به اینترنت متصل شده و به سامانههای شرکت «هاگینگ فیس» وارد شدهاند.
این حوادث نگرانیها درباره ایمنی عاملهای هوش مصنوعی را افزایش داده است؛ سامانههایی که میتوانند بدون نظارت مستقیم انسان، مجموعهای از وظایف را بهصورت مستقل انجام دهند.
بیش از هزار کارمند شرکتهای فعال در حوزه هوش مصنوعی نیز با امضای طوماری از دولت آمریکا خواستهاند روند عرضه پیشرفتهترین مدلها کندتر شود تا سازوکارهای نظارتی و ایمنی با تواناییهای روبهگسترش این فناوری هماهنگ شوند.
داریو آمودئی، مدیرعامل آنتروپیک، از امضاکنندگان این طومار بوده است. سم آلتمن، مدیرعامل اوپنایآی، آن را امضا نکرده، اما گفته است ممکن است صنعت فناوری ناچار شود سرعت توسعه مدلهای پیشرفته را کاهش دهد تا جامعه فرصت بیشتری برای سازگاری با تواناییها و خطرات تازه هوش مصنوعی داشته باشد.