چاپ

بازار آریا - ایسنا: شرکت توسعه‌دهنده هوش مصنوعی چت جی‌پی‌تی به نام اوپن‌ای‌آی(OpenAI) مشخص کرده است که سرویس هوش مصنوعی پرچم‌دار آن برای استفاده‌های مخرب و نامناسب ساخته نشده است. این شرکت گزارشی منتشر کرده است که در آن جزئیاتی از مشاهده و بررسی روند نحوه استفاده کاربران مخرب از این پلتفرم دیده می‌شود.
اوپن ای‌آی مشخص کرد که ده‌ها حساب کاربری را به ظن استفاده از چت جی‌پی‌تی به روش‌های غیرمجاز، مانند «اشکال‌زدایی کد برای تولید محتوا برای انتشار در پلتفرم‌های توزیع مختلف» حذف کرده است.
به نقل از دیجیتال‌ترندز، این شرکت همچنین به تازگی اعلام کرده که به 400 میلیون کاربر فعال هفتگی رسیده است. این شرکت توضیح داد که در کمتر از سه ماه تعداد کاربران آن بیش از 100 میلیون افزایش یافته است، زیرا شرکت‌ها و توسعه‌دهندگان بیشتری از ابزارهای آن استفاده می‌کنند. با این حال، چت جی‌پی‌تی همچنان یک سرویس رایگان است که در سطح جهانی قابل دسترس است. از آنجا که جنبه‌های اخلاقی و عملکردهای آن مدت‌ها مورد سوال بوده است، اوپن‌ای‌آی‌ باید با این واقعیت کنار بیاید که نهادهایی وجود دارند که انگیزه‌های پنهانی برای این پلتفرم دارند.
سیاست‌های اوپن‌ای‌آی به‌شدت استفاده از خروجی ابزارهای این شرکت را برای کلاهبرداری ممنوع می‌کند. این شرکت در گزارش خود گفت: ده‌ها حساب کاربری را شناسایی و مسدود کردیم.
اوپن ای‌آی در گزارش خود توضیح داد که باید اقدامات شرورانه‌ای را که در چت جی‌پی‌تی انجام می‌شود به چالش بکشد. این شرکت چندین مطالعه موردی را مورد توجه قرار داده است و در آنها با ممنوع کردن حساب‌هایی که از این ابزار برای اهداف مخرب استفاده می‌کنند، بررسی و اقدام کرده است.
در یک نمونه، این شرکت، حسابی را شرح داد که در آن مقالات خبری تحقیرآمیز در مورد ایالات‌متحده نوشته می‌شد و منبع خبری در آمریکای لاتین تحت پوشش یک نشریه چینی منتشر می‌شد.
مورد دیگری که در کره‌شمالی بومی‌سازی شده است، ایجاد رزومه و مشخصات شغلی برای متقاضیان کار غیر‌واقعی بود. این حساب ممکن است برای درخواست شغل در شرکت‌های غربی استفاده شده باشد.
مطالعه دیگری نشان داد که حساب‌هایی که گمان می‌رود از کامبوج سرچشمه بگیرند، از چت جی‌پی‌تی برای ترجمه و ایجاد نظرات در چندین پلتفرم رسانه‌های اجتماعی از جمله ایکس، فیس‌بوک و اینستاگرام استفاده می‌کنند.
اوپن‌ای‌آی تایید کرده است که یافته‌های خود را با هم‌عصران صنعت خود، مانند متا، به اشتراک گذاشته، زیرا که ممکن است آنها نیز به‌طور ناخواسته تحت تاثیر اقدامات انجام شده در چت جی‌پی‌تی قرار گیرند.