باید به اندازه انرژی هسته‌ای مراقب هوش مصنوعی باشیم

کارمند سابق بخش ایمنی اوپن ای آی که اخیرا استعفا داده از رویکرد شرکت در خصوص ایمنی هوش مصنوعی انتقاد و استدلال می کند این فرهنگ پر سرعت مبتنی بر توسعه سریع، ریسک شکست را بالا می برد.

به گزارش خبر گزاری مهر به نقل ازرویترز، دیوید رابینسون در مقاله ای با عنوان «من از اوپن ای آی استعفا دادم زیرا فرهنگ معیوبی دارد» که در نشریه آتلانتیک منتشر شده، مدعی است شرکت های هوش مصنوعی از جمله اوپن ای آی به اندازه کافی محتاط نیستند و باید قبل از توسعه سیستم های توانمندتر بر کارشناسی و تحقیق ایمنی بیشتر تاکید کنند.

وی در این مقاله نوشته است: زمان آزمون و خطا تمام شده است. وی استدلال می کند سیستم های پیشرفته هوش مصنوعی نیاز به چهارچوب های ایمنی بیشتری مشابه آنچه در صنایع انرژی هسته ای و هوانوردی استفاده می شود، دارند.

رابینسون مدعی است اوپن ای آی به شدت به آنچه که استقرار تکرارشونده می نامد، متکی است و فقط زمانیکه چالش ها ظاهر می شوند سیستم ها را عرضه و اقدامات ایمنی را قدرتمندتر می کند.

این اظهار به گفتمان داخلی صنعت هوش مصنوعی درباره آنکه آیا شرکت های فناوری برای توسعه سیستم های قدرتمندتر به سرعت حرکت می کنند یا خیر، افزوده می شود. اوپن ای آی و آنتروپیک، دو شرکت رقیب پس از رویدادهایی که در آن اقدامات ایمنی کارآمد نبود یا سیستم های آزمایشی رفتار غیرمنتظره ای داشتند، با نظارت بیشتری روبرو شدند.

رابینسون سه سال و نیم در اوپن ای آی فعالیت و به تهیه پیش نویس چهارچوب آمادگی شرکت کرد وبر گزارش ایمنی ۱۲ مدل پیشرو نظارت داشت. وی در گزارش خود نوشته است: در حالی که شرکت با سرعت از یک عرضه به عرضه بعدی می‌رسد، نمی‌تواند به سطحی از دقت و مراقبتی که من معتقدم لازم است، دست پیدا کند.

سخنگوی اوپن ای آی در بیانیه‌ای گفت: ما اطمینان حاصل می‌کنیم که مدل‌هایمان از حد توانایی‌ای که می‌توانیم به‌طور ایمن مدیریت و محافظت کنیم، فراتر نرون؛ و هر زمان که لازم باشد سرعت را کاهش دهیم، آموزش مدل‌ها را متوقف می‌کنیم یا عرضه و استفاده از مدل‌ها را محدود می‌کنیم.

رابینسون همچنین هشدار داد که توانایی‌های هوش مصنوعی با سرعتی بیشتر از درک پژوهشگران از همسویی در حال پیشرفت است؛ حوزه‌ای که بر اطمینان از عملکرد سیستم‌های هوش مصنوعی مطابق با اهداف و ارزش‌های انسانی تمرکز دارد.

کد مطلب 6967024 شیوا سعیدی