ادعای مشاور سابق: حتی خود OpenAI هم برای «هوش جامع مصنوعی» آمادگی ندارد

مایلز بروندج، مشاور ارشد توسعه در OpenAI AGI (هوش مصنوعی جامع با عملکرد سطح انسانی)، به تازگی خروج خود از استارتاپ را اعلام کرد و همچنین هشدار جدی داد که هنوز هیچکس برای AGI آماده نیست، حتی خود OpenAI.

Brundage که شش سال را صرف توسعه ابتکارات ایمنی هوش مصنوعی OpenAI کرده است، در پستی با عنوان “چرا OpenAI را ترک کردم و برنامه های من برای آینده چیست” می گوید.

نه OpenAI و نه هیچ آزمایشگاه دیگری برای AGI آماده نیست و نه جهان برای آن آماده است.

آمادگی برای هوش مصنوعی فراگیر

وی در ادامه در پست خود نوشت:

این که آیا شرکت و جهان در مسیر آماده شدن برای AGI هستند، تابعی پیچیده از نحوه اجرای فرهنگ ایمنی و امنیت در طول زمان، چگونگی تأثیر مقررات بر انگیزه‌های سازمانی، واقعیت‌های قابلیت‌های هوش مصنوعی و دشواری ایمن سازی آنها است. و عوامل مختلف دیگر هم چیز دیگری است.»

Brundage از محدودیت های OpenAI در آزادی تحقیق و آزمایش به عنوان یکی از دلایل خروج خود یاد کرد. او همچنین به اهمیت وجود افراد مستقل در بحث های مربوط به سیاست هوش مصنوعی اشاره کرد که بدون تعصب خاص اظهار نظر می کنند.

با این حال، Brundage آخرین عضو ارشد تیم امنیتی OpenAI است که استارتاپ را ترک کرده است. پیش از این، محقق برجسته Jan Lykke و Ilya Sotskur، یکی از بنیانگذاران OpenAI نیز این استارتاپ را ترک کردند. او همچنین استارتاپ هوش مصنوعی خود یعنی Sotscore را با تمرکز بر توسعه ایمن AGI تأسیس کرد.

نکته قابل توجه دیگری که برونداژ در پست خود به آن اشاره کرد، انحلال تیم “AGI Readiness” بود. OpenAI قبلاً تیم Superalignment را که بر کاهش خطرات بلند مدت هوش مصنوعی متمرکز بود منحل کرد.

با وجود اختلافات ذکر شده، Brundage ادعا می کند که OpenAI از کار آینده او با تأمین بودجه، اعتبارات API و دسترسی به مدل های اولیه پشتیبانی خواهد کرد.