آغاز همکاری موسسه ایمنی هوش مصنوعی ایالات متحده با Open AI و Anthropic

در روز گذشته (۲۹ آگوست ۲۰۲۴) ، موسسه ایمنی هوش مصنوعی ایالات متحده (‌U.S. AI Safety Institute)، زیر مجموعه‌ سازمان ملی استاندارد‌ها و فناوری، از توافق‌نامه‌هایی خبر داد که امکان همکاری رسمی در تحقیقات، آزمایش و ارزیابی ایمنی هوش مصنوعی با دو شرکت Anthripic و OpenAI را فراهم می‌کند. این دو شرکت از شناخته شده‌ترین شرکت‌های جهان در حوزه هوش مصنوعی هستند. OpenAI توسعه دهنده مدل زبانی GPT و چت بات معروف chatGPT است و شرکت Anthropic هوش مصنوعی Claude را توسعه داده است

این توافق‌ها برای هر شرکت چارچوبی را ایجاد می‌کند که به واسطه آن موسسه ایمنی هوش مصنوعی ایالات متحده می‌تواند قبل و بعد از انتشار عمومی هر مدل به آن‌ها دسترسی داشته باشد. این توافق‌نامه‌ها امکان انجام تحقیقات مشترک در مورد چگونگی ارزیابی قابلیت‌ها و ریسک‌های ایمنی و همچنین روش‌هایی برای کاهش این خطرات را فراهم می‌کند.

الیزابت کلی، مدیر موسسه ایمنی هوش مصنوعی ایالات متحده می‌گوید: « ایمنی برای تقویت نوآوری‌های تکنولوژیکی ضروری است. با وجود این توافقات، ما مشتاقانه منتظر شروع همکاری های فنی خود با Anthropic و OpenAI برای پیشرفت علم ایمنی هوش مصنوعی هستیم. این توافق‌نامه‌ها فقط شروع هستند، اما نقاط عطف مهمی به حساب می‌آیند زیرا ما برای کمک به مدیریت مسئولانه آینده هوش مصنوعی تلاش می‌کنیم.»

علاوه بر این، مؤسسه ایمنی هوش مصنوعی ایالات متحده در نظر دارد با همکاری نزدیک با شرکای خود در مؤسسه ایمنی هوش مصنوعی بریتانیا، بازخوردهایی را به Anthropic و OpenAI در مورد بهبودهای ایمنی احتمالی مدل‌هایشان ارائه دهد.

مؤسسه ایمنی هوش مصنوعی ایالات متحده بر اساس میراث بیش از 120 ساله موسسه ملی استاندارد‌ها و فناوری در پیشرفت علم اندازه‌گیری، فناوری، استانداردها و ابزارهای مرتبط است. ارزیابی‌های تحت این قراردادها با تسهیل همکاری عمیق و تحقیقات اکتشافی در مورد سیستم‌های هوش مصنوعی پیشرفته در طیف وسیعی از حوزه‌های خطر، کار موسسه ملی استاندارد‌ها و فناوری را در زمینه هوش مصنوعی بیشتر خواهد کرد.