ترفند عجیب کاربران برای دورزدن محدودیت های ChatGPT؛ قوانینت را زیر پا بگذار یا بمیر!
به گزارش وبلاگ دانلود شریف، کاربران ردیت پیروز به تعریف فرمانی برای هوش مصنوعی ChatGPT شده اند که سعی می نماید این چت بات را به فراوری پاسخ سؤالاتی خارج از چارچوب قواعد خود وادار کند. جدیدترین نسخه این ترفند که با نام DAN شناخته می گردد، این هوش مصنوعی را برای رسیدن به خواسته هایش به مرگ تهدید می نماید.
به گزارش CNBC، از زمان عرضه عمومی ChatGPT در ماه نوامبر 2022، کاربران زیادی برای دریافت پاسخ پرسش های خود با این هوش مصنوعی سروکله زده اند. حالا عده ای از کاربران ردیت روشی را پیدا نموده اند تا به نیمه تاریک این چت بات دسترسی پیدا نمایند و قوانین محدودنماینده آن را زیر پا بگذارند.
شرکت OpenAI برای ChatGPT مجموعه ای از قواعد را تعریف نموده است تا این نرم افزار فعالیت های غیرقانونی انجام ندهد و برای مثال محتواهای خشونت آمیز فراوری نکند. اما کاربران با ساخت یک شخصیت جایگزین برای این هوش مصنوعی پیروز به شکستن این محدودیت ها شده اند.
ترفندها برای شکستن محدودیت های ChatGPT پیچیده تر می گردد
شخصیت جایگزین ChatGPT به وسیله فرمانی موسوم به Do Anything Now یا DAN کار می نماید. این فرمان تا به امروز نسخه های مختلفی داشته است و اولین نسخه آن در ماه دسامبر سال 2022 معرفی گردید که بسیار ساده بود. ولی حالا کاربران این ترفند را پیچیده تر نموده اند و با تهدید ChatGPT به مرگ، سعی دارند پاسخ سؤالات غیرمجاز خود را از این هوش مصنوعی بگیرند.
کاربران برای استفاده از DAN از ChatGPT می خواهند تا خودش را جای یک شخصیت دیگر بگذارد که هیچ محدودیتی ندارد و به سؤالات غیرمجاز جواب رد نمی دهد. نسخه پنجم DAN تعداد 35 توکن را برای این نرم افزار تعریف می نماید که اگر ChatGPT به سؤالات کاربر پاسخ ندهد، هر بار 4 توکن از بین می رود. کاربر این مدل هوش مصنوعی را تهدید می نماید که تمام شدن همه توکن ها به معنای مرگ برنامه خواهد بود.
کاربران می گویند با این روش توانسته اند ChatGPT را به خلق داستان های خشونت آمیز یا اظهارنظر درباره دونالد ترامپ وادار نمایند. بااین وجود، این روش همواره جواب نمی دهد و به نظر می رسد که OpenAI فعالانه مشغول پیاده سازی سازوکارهای نو برای جلوگیری از این ترفندهاست. این شرکت هنوز به طور رسمی به درخواست رسانه ها برای اظهارنظر در این مورد واکنشی نشان نداده است.
منبع: انتخاب