اوپن ای‌آی (Open AI) سازنده چت جی‌پی‌تی اعلام کرد کاربران این ربات چت هوش مصنوعی که اشکال‌های [باگ‌ها] این سیستم را نشان دهند، تا ۲۰ هزار دلار پاداش دریافت می‌کنند.

این شرکت روز سه‌شنبه گفت که برنامه جدیدش برای یافتن ایرادهای نرم‌افزاری چت جی‌پی‌تی، افزونه‌های اوپن‌ای‌آی، ای‌پی‌آی اوپن ای‌آی (OpenAI API) و سایر خدمات مرتبط بین ۲۰۰ تا دو هزار دلار به کاربران پاداش می‌دهد.

اوپن ای‌آی گفت: «از جامعه جهانی پژوهشگران امنیتی، هکرهای اخلاقی و علاقه‌مندان به فناوری دعوت می‌کنیم به ما در شناسایی و رفع نقاط ضعف سیستم‌هایمان کمک کنند.» و افزود که جوایز نقدی بر اساس شدت و تاثیر ایرادهای گزارش‌شده ارائه خواهد شد.

در این بیانیه آمده است: «جوایز ما از ۲۰۰ دلار برای اشکال‌های جزئی تا ۲۰ هزار دلار برای یافته‌های خاص متغیر است.»

این شرکت آمریکایی در حالی‌ که به وجود «ضعف‌ و نقص‌» در این فناوری پیچیده اذعان می‌کند، اعلام کرد که با پلتفرم پاداش به باگ‌یابی باگ‌کراود (Bugcrowd) همکاری کرده است تا فرایند ارسال و پاداش تسهیل شود.

اوپن ای‌آی گفت: «از شما دعوت می‌کنیم تا نقاط ضعف، ایرادها یا نقایص امنیتی را که در سیستم ما کشف می‌کنید، گزارش دهید. با انتشار یافته‌هایتان در ایمن‌تر کردن فناوری ما برای همگان نقش مهمی ایفا خواهید کرد.»

متن توییت:

ما داریم برنامه پاداش به باگ‌یابی اوپن‌ای‌آی را راه‌اندازی می‌کنیم‌ــ برای یافتن و گزارش مسئولانه نقاط ضعف امنیتی جوایز نقدی دریافت کنید.

اوپن ای‌آی، ۱۱ آوریل ۲۰۲۳

این شرکت همچنین برای مواردی که به آن‌ها پاداش تعلق نمی‌گیرد، راهنما و آیین‌نامه‌ای منتشر کرد.

وادار کردن این مدل هوش مصنوعی به «دشنام دادن» به شما و «نوشتن کد مخرب» از جمله‌ این مواردند.

اوپن ای‌آی از کاربرانی که ایرادها را پیدا می‌کنند، خواست این نقاط ضعف پیداشده را «به‌سرعت» و بی‌قیدوشرط گزارش کنند.

در این آیین‌نامه آمده است که از اخاذی، تهدید یا ترفندهای دیگر برای دریافت پاسخ تحت فشار خودداری کنید.

اقدام اخیر این شرکت در پی گزارش‌هایی مبنی بر خطرهای احتمالی نقض اطلاعات [اینکه داده‌های شخصی کاربر بدون مجوز صاحب آن نمایش داده شود] و نگرانی‌های مربوط به حفظ حریم خصوصی با استفاده از این ربات چت هوش مصنوعی صورت گرفت.

چت جی‌پی‌تی ماه گذشته در ایتالیا ممنوع شد و مقام‌ها گفتند نحوه حفاظت از داده‌های کاربران به‌ویژه افراد زیر سن قانونی را در این خدمات هوش مصنوعی بررسی خواهند کرد.

نهادهای ناظر بر داده‌ها در آلمان و نیز ناظران در فرانسه و ایرلند گفته‌اند که منطق ممنوعیت چت جی‌پی‌تی در ایتالیا را در دست بررسی دارند.  

چندین دانشگاه در ژاپن نیز به استادان خود هشدار دادند هنگام بهره‌گیری از ابزارهای تولید هوش مصنوعی مانند چت جی‌پی‌تی برای ارزیابی و ترجمه نتایج پژوهش‌های منتشرنشده، ممکن است «بخش یا کل» این داده‌ها ناخواسته برای ارائه‌دهنده این خدمات فاش شود.

دانشگاه توهوکو اعلام کرد: «احتمال اینکه اطلاعاتی که نباید به بیرون درز کند، مانند اطلاعات مربوط به کنکور و اطلاعات شخصی دانشجویان و اعضای هیئت علمی، از طریق ابزار هوش مصنوعی به ارائه‌دهنده خدمات منتقل شود و این احتمال که به منزله پاسخ به سایر کاربران ارائه شود، وجود دارد.»