«بیانیه‌ای برای ممنوعیت ابرهوش مصنوعی» منتشر شد.

ابرهوش مصنوعی حالا از هر زمان دیگری به ما نزدیک‌تر است. سرعت پیشرفت در زمینه ابرهوش مصنوعی به قدری است که حالا موسسه آینده زندگی، بیانه‌ای برای ممنوعیت توسعه ابرهوش مصنوعی منتشر کرده است. این بیانیه یک هدف دارد: تا زمانی که ایمنی، قابلیت کنترل و حمایت عمومی تضمین نشده است، توسعه ابرهوش مصنوعی را متوقف کنید. بیانیه Ban on Superintelligent AI که در طی روزهای گذشته منتشر شده است، توسط بسیاری از افراد شناخته شده جهان، امضا شده است. اما بیانیه توقف توسعه ابرهوش مصنوعی چیست؟ و چرا موسسه آینده زندگی آن را منتشر کرده است؟

بیانیه توقف توسعه ابرهوش مصنوعی

بیانیه Ban on Superintelligent AI، یک هشدار جهانی درباره توسعه سیستم‌های ابرهوش مصنوعی (superintelligent AI) است. این بیانیه از تمامی آزمایشگاه‌ها و شرکت‌های هوش مصنوعی می‌خواهد تا پیشرفت و توسعه چنین سیستم‌هایی را تا زمانی که ایمنی، قابلیت کنترل و حمایت گسترده عمومی تضمین نشده است، متوقف کنند.

هدف اصلی این بیانیه ایجاد «دانش مشترک» و جلب توجه جامعه علمی و عمومی به خطرات بالقوه ناشی از ابرهوش مصنوعی، از جمله تهدیدهای اجتماعی، اقتصادی، اخلاقی و حتی امنیتی، است و بر ضرورت توسعه مسئولانه و ایمن این فناوری تأکید دارد.

پیشنهاد مطالعه: آشنایی با انواع هوش مصنوعی

پیشنهاد مطالعه: جنون مارک زاکربرگ برای رسیدن به ابرهوش مصنوعی

محتوای اصلی Ban on Superintelligent AI

بیانیه Ban on Superintelligent AI بر سه اصل اساسی تأکید دارد:

1. توقف توسعه ابرهوش مصنوعی: هرگونه تلاش برای ساخت سیستم‌های ابرهوش مصنوعی  که توانایی‌های شناختی انسان را پشت سر می‌گذارند، باید متوقف شود. احتمالا این بیانیه تمام شرکت‌های بزرگ هوش مصنوعی نظیر متا، اوپن ای آی، گوگل و حتی شرکت‌ ایلیا سوتسکیور یعنی SSI را مد نظر دارد که با جدیت به این سمت حرکت می‌کنند.

2. ایمنی و کنترل: ادامه توسعه تنها زمانی مجاز است که ایمنی سیستم‌ها و قابلیت کنترل کامل آن‌ها به طور قطع تضمین شده باشد.

3. پشتیبانی و اجماع عمومی: پیش از از سرگیری تحقیقات، لازم است حمایت گسترده عمومی و توافق علمی درباره ایمنی این فناوری حاصل شود.

این اصول نشان می‌دهند که هدف بیانیه صرفاً مخالفت با پیشرفت هوش مصنوعی نیست، بلکه تأکید بر توسعه مسئولانه و ایمن ابرهوش مصنوعی است تا از پیامدهای خطرناک احتمالی جلوگیری شود.

چه کسانی بیانیه توقف ابرهوش مصنوعی را امضا کرده‌اند؟

در حالی که بیانیه توقف توسعه ابرهوش مصنوعی تنها چند روز است که منتشر شده است، اما افراد شناخته‌شده و بزرگی آن را امضا کرده‌اند. تا به الان، بیش از ۳۰ هزار نفر که هر لحظه به تعداد آن‌ها اضافه می‌شود، Ban on Superintelligent AI را امضا کرده‌اند.

جفری هیتنون، پدرخوانده هوش مصنوعی و برنده جایزه نوبل، از جمله این افراد است. استیو وزنیاک، هم‌بنیان‌گذار اپل نیز از جمله امضاکنندگان این بیانیه است.

مارک بیل، مدیر پیشین استراتژی و سیاست‌گذاری هوش مصنوعی در وزارت دفاع آمریکا ضمن امضای بیانیه توقف توسعه ابرهو شمصنوعی نوشته است که :

«وقتی پژوهشگران هوش مصنوعی درباره خطر نابودی بشر هشدار می‌دهند و رهبران فناوری پناهگاه‌های آخرالزمانی می‌سازند، عقل سلیم حکم می‌کند که به این هشدارها گوش دهیم. ابرهوش مصنوعی بدون تدابیر حفاظتی مناسب می‌تواند نهایت خودبینی انسان را به نمایش بگذارد؛ قدرتی بدون قید و بند اخلاقی.»

یووال نوح هراری، نویسنده و استاد دانشگاه عبری اورشلیم نیز که از جمله امضا کنندگان Ban on Superintelligent AI است می‌گوید:

«ابرهوش مصنوعی احتمالاً ساختار بنیادی تمدن انسانی را دچار اختلال می‌کند و در عین حال کاملاً غیرضروری است. اگر تمرکز خود را بر توسعه ابزارهای هوش مصنوعی قابل کنترل بگذاریم که امروز به مردم واقعی کمک کنند، می‌توانیم مزایای شگفت‌انگیز هوش مصنوعی را به شکل ایمن‌تر و قابل اعتمادتر به دست آوریم.»

نحوه مشارکت و امضا بیانیه توقف ابرهوش مصنوعی

بیانیه Statement on Superintelligence در حال حاضر در یک وبسایت اختصاصی با آدرس superintelligence-statement.org قرار دارد و کاربران می‌توانند این بیانیه را امضا کنند. البته برای امضا باید ایمیل سازمانی یا آکادمیک داشته باشید.

آشنایی با موسسه آینده زندگی

مؤسسه آینده زندگی (Future of Life Institute) یک سازمان پژوهشی بین‌المللی است که بر اثرات فناوری‌های پیشرفته بر بشریت تمرکز دارد.

این مؤسسه با همکاری دانشمندان، سیاست‌گذاران و رهبران صنعتی، تلاش می‌کند راهکارهایی برای استفاده مسئولانه و ایمن از فناوری‌های نوظهور مانند هوش مصنوعی ارائه دهد و خطرات بالقوه آن‌ها را پیش‌بینی و کاهش دهد. هدف اصلی این مؤسسه ایجاد «دانش مشترک» و ارتقای آگاهی عمومی درباره پیامدهای اخلاقی، اجتماعی و امنیتی فناوری‌های پیشرفته است.

پیش از انتشار بیانیه اخیر Ban on Superintelligent AI، مؤسسه آینده زندگی در مارس ۲۰۲۳ بیانیه‌ای با عنوان «Pause Giant AI Experiments: An Open Letter» منتشر کرده بود.

در این بیانیه از آزمایشگاه‌های هوش مصنوعی خواسته شده بود تا توسعه مدل‌های بسیار بزرگ و پیشرفته هوش مصنوعی، مانند نسخه‌های بزرگ‌تر از GPT-4، حداقل برای ۶ ماه متوقف شود. هدف این توقف موقت، ارزیابی ایمنی، توسعه پروتکل‌های مشترک و جلوگیری از پیامدهای خطرناک احتمالی بود.

این بیانیه بیش از ۳۰,۰۰۰ امضا از جمله پژوهشگران برجسته مانند یوشوا بنجیو و استیو وازنیاک دریافت کرد و توجه جهانیان را به ضرورت ارزیابی و مدیریت ریسک‌های فوری فناوری هوش مصنوعی جلب کرد.

در نهایت

بیانیه مؤسسه آینده زندگی یا بیانیه ممنوعیت ابرهوش مصنوعی یک هشدار جهانی است که توجه به پیامدهای اخلاقی، اجتماعی و امنیتی هوش مصنوعی را ضروری می‌سازد. با مقایسه با بیانیه ۲۰۲۳، مشخص می‌شود که نگرانی‌ها از مدل‌های بزرگ هوش مصنوعی به سیستم‌های فراتر از هوش انسانی منتقل شده و اهمیت ایجاد چارچوب‌های ایمن و مسئولانه بیش از پیش آشکار است.