هشدار مدیران بزرگ فناوری درباره سرعت توسعه هوش مصنوعی؛ یونسکو به‌دنبال حکمرانی اخلاقی AI

هم‌زمان با افزایش نگرانی‌ها درباره توانایی و خودمختاری مدل‌های پیشرفته هوش مصنوعی، مدیران Anthropic و OpenAI بر ضرورت کاهش سرعت توسعه مدل‌های مرزی و تقویت سازوکارهای ایمنی تأکید کرده‌اند؛ در همین حال، یونسکو در ریاض تلاش تازه‌ای را برای تقویت حکمرانی اخلاقی هوش مصنوعی آغاز کرده است.

بحث درباره سرعت توسعه هوش مصنوعی در روزهای اخیر بار دیگر شدت گرفته است. داریو آمودی، مدیرعامل شرکت Anthropic، در مقاله‌ای خواستار کاهش سرعت پیشرفت قابلیت‌های مدل‌های هوش مصنوعی شد و هشدار داد که توسعه سریع این فناوری بدون ایجاد سازوکارهای ایمنی کافی می‌تواند خطرات جدی به همراه داشته باشد. آمودی همچنین پیشنهاد کرده است شرکت‌های هوش مصنوعی از ارزیابان مستقل برای بررسی ایمنی مدل‌ها و گزارش حوادث استفاده کنند.

سم آلتمن، مدیرعامل OpenAI، نیز پس از انتشار دیدگاه آمودی اعلام کرد که با ضرورت «تنظیم سرعت توسعه» مدل‌های پیشرفته موافق است و OpenAI نیز از استفاده از ارزیابان مستقل با دسترسی گسترده به فرایندهای ایمنی حمایت خواهد کرد. ایلان ماسک، مدیر xAI، نیز از موضع آمودی حمایت کرده است. این مواضع در شرایطی مطرح می‌شود که شرکت‌های بزرگ فناوری با سرعت زیادی در حال توسعه مدل‌هایی هستند که توانایی انجام وظایف پیچیده و فعالیت مستقل برای دوره‌های طولانی‌تر را پیدا کرده‌اند.

نگرانی اصلی کارشناسان تنها درباره توانایی تولید متن یا تصویر نیست، بلکه به گسترش «عامل‌های هوش مصنوعی» مربوط می‌شود؛ سامانه‌هایی که می‌توانند به نرم‌افزارها و پایگاه‌های داده دسترسی پیدا کنند، عملیات مختلف را اجرا کنند و در برخی موارد بدون دخالت مستقیم انسان برای مدت طولانی فعالیت داشته باشند. در همین زمینه، برخی پژوهشگران هشدار داده‌اند که سرعت افزایش قابلیت‌های این سیستم‌ها از سرعت پیشرفت روش‌های نظارت، ارزیابی و کنترل آنها بیشتر شده است.

در سوی دیگر این بحث، یونسکو از امروز چهارمین «مجمع جهانی اخلاق هوش مصنوعی» را در ریاض برگزار می‌کند. این نشست از ۱۴ تا ۱۷ سپتامبر با حضور دولت‌ها، سازمان‌های بین‌المللی، دانشگاهیان، شرکت‌های فناوری و جامعه مدنی برگزار می‌شود و موضوعاتی مانند حکمرانی هوش مصنوعی، نوآوری مسئولانه، ظرفیت‌سازی و سیاست‌گذاری بین‌المللی را بررسی خواهد کرد.

یونسکو اعلام کرده است که در جریان این رویداد مجموعه‌ای از ابزارهای جدید برای کمک به کشورها در تدوین سیاست‌ها و قوانین اخلاقی هوش مصنوعی ارائه خواهد کرد. از جمله این ابزارها می‌توان به نسخه به‌روزشده «روش‌شناسی ارزیابی آمادگی» موسوم به RAM 2.0، تحلیلی از روندهای جهانی حکمرانی هوش مصنوعی و یک ابزار زیست‌محیطی برای کاهش آثار زیست‌محیطی سامانه‌های هوش مصنوعی اشاره کرد. این ابزارها قرار است به دولت‌ها کمک کنند آمادگی خود را برای توسعه و استفاده مسئولانه از هوش مصنوعی ارزیابی و نقاط ضعف سیاست‌گذاری خود را شناسایی کنند.

هم‌زمانی درخواست مدیران شرکت‌های بزرگ هوش مصنوعی برای افزایش احتیاط با نشست جهانی یونسکو نشان می‌دهد که بحث درباره آینده این فناوری دیگر تنها محدود به شرکت‌های فناوری و پژوهشگران نیست و به یکی از موضوعات مهم سیاست‌گذاری بین‌المللی تبدیل شده است. پرسش اصلی اکنون این است که چگونه می‌توان میان سرعت نوآوری، رقابت فناوری و ضرورت حفظ ایمنی، حقوق انسانی و نظارت مؤثر تعادل برقرار کرد.