ایرادهای ChatGPT را پیدا کنید و جایزه بگیرید
نقشه: ربات هوش مصنوعی گفتگوگر و نویسنده ChatGPT، هنوز آنقدر باهوش نیست که بتواند ایرادهای خودرا پیدا کند؛ بنابراین، شرکت سازنده آن برای درخواست کمک، به انسان ها روی آورده است.
به گزارش نقشه به نقل از ایسنا و به نقل از دیجیتال ترندز، شرکت OpenAI از یک برنامه پاداش برای یافتن ایرادهای ChatGPT پرده برداری و مردم را تشویق نموده است تا لطمه پذیری ها و ایردهای سیستم های هوش مصنوعی مانند ChatGPT و «GPT-۴» را شناسایی و گزارش کنند.
شرکت OpenAI در پست منتشرشده در وب سایت خود، جزییات این برنامه را تشریح و اعلام نمود که میزان پاداش برای گزارش های ارائه شده، از ۲۰۰ دلار برای یافته های کم شدت تا ۲۰ هزار دلار برای اکتشافات استثنایی، متغیر است.
این شرکت تحت حمایت شرکت مایکروسافت، عنوان نمود که آرزوی آنها، ابداع سیستم های هوش مصنوعی است که به نفع همه باشند. مسئولان شرکت OpenAI خطاب به پژوهشگران امنیتی که مشتاق مشارکت در این برنامه هستند، گفتند: اهمیت حیاتی امنیت را تشخیص داده و آنرا به عنوان یک تلاش مشترک می بینیم. شما با به اشتراک گذاشتن یافته های خود، نقش مهمی در ایمن تر کردن فناوری ما برای همه ایفا خواهید کرد.
از آنجا که روزبه روز افراد بیشتری از ChatGPT و سایر محصولات OpenAI استفاده می نمایند، این شرکت مشتاق است تا هر گونه مشکل بالقوه را به سرعت ردیابی کند، از عملکرد سیستم ها مطمئن شود و جلوی سوءاستفاده از هر گونه ضعف برای مقاصد شوم را بگیرد. بنابراین، OpenAI امیدوار است که از راه تعامل با جامعه فناوری بتواند هر مشکلی را قبل از تبدیل شدن به یک مشکل جدی تر حل کند.
این شرکت مستقر در کالیفرنیا، پیش تر با مشکل روبه رو شد و آن بروز نقصی بود که عناوین مکالمه های خصوصی تعدادی از کاربران را آشکار می کرد.
سم آلتمن، مدیرعامل OpenAI، بعد از حادثه ماه گذشته اظهار داشت که این اتفاق ناگوار در حفظ حریم خصوصی را یک مشکل مهم می داند و اضافه کرد: ما نسبت به این موضوع، احساس وحشتناکی داریم. این مشکل حالا رفع شده است.
این اشتباه زمانی به مشکل بزرگ تری برای OpenAI تبدیل شد که ایتالیا، نگرانی های جدی خودرا در مورد نقض حریم خصوصی ابراز کرد و تصمیم گرفت ChatGPT را قبل از انجام دادن تحقیقات کامل ممنوع کند. همچنین، مقامات ایتالیایی خواهان جزییات اقدامات OpenAI برای جلوگیری از تکرار شدن این مشکل هستند.
منبع: gomap.ir
این مطلب Go Map را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط در نقشه
نظرات بینندگان نقشه در مورد این مطلب