اگرچہ بالغوں کے مواد کو پیدا کرنے کے لئے اے آئی کا استعمال نیا نہیں ہے-چونکہ جی پی ٹی -3.5 کو 2023 میں مرکزی دھارے میں لایا گیا ہے ، لیکن ہر نئے اے آئی ماڈل کی رہائی میں ٹیک جائزہ لینے والوں اور آن لائن شائقین دونوں کی طرف سے رش دیکھا گیا ہے-گروک 3 کا معاملہ خاص طور پر متنازعہ ہے۔ AI برادری ہمیشہ بالغوں کے مواد کے ل new نئے ماڈلز کا استحصال کرنے میں جلدی رہی ہے ، اور گروک 3 بھی اس سے مستثنیٰ نہیں ہے۔ ریڈڈیٹ اور آرکسیو جیسے پلیٹ فارمز میں پابندیوں کو نظرانداز کرنے اور واضح مواد تیار کرنے کے طریقہ کار کے ساتھ رہنمائی ہوتی ہے۔

اے آئی کی بڑی کمپنیاں اس طرح کے غلط استعمال کو روکنے کے لئے سخت اخلاقی جائزوں کو نافذ کرنے کی کوشش کر رہی ہیں۔ مثال کے طور پر ، اے آئی امیج جنریشن کے ایک معروف پلیٹ فارم ، مڈجورنی کے پاس این ایس ایف ڈبلیو (کام کے ل safe محفوظ نہیں) کے خلاف سخت پالیسیاں ہیں ، جن میں پرتشدد ، عریاں یا جنسی تصویری تصاویر شامل ہیں۔ خلاف ورزیوں سے اکاؤنٹ پر پابندی عائد ہوسکتی ہے۔ تاہم ، یہ اقدامات اکثر کم ہوجاتے ہیں کیونکہ صارفین پابندیوں کو روکنے کے تخلیقی طریقے ڈھونڈتے ہیں ، یہ ایک مشق بولی سے "جیل بریکنگ" کے نام سے جانا جاتا ہے۔

بالغوں کے مواد کی مانگ ایک عالمی اور لازوال رجحان ہے ، اور اے آئی نے محض ایک نیا دکان فراہم کیا ہے۔ حال ہی میں ، یہاں تک کہ اوپنائی نے بھی ترقی کے دباؤ کے تحت اپنی کچھ مواد کی پابندیوں کو نرمی کی ہے ، سوائے نابالغوں سے متعلق مواد کے ، جو سختی سے ممنوع ہے۔ اس تبدیلی نے اے آئی کے ساتھ زیادہ انسانی اور مشغول ہونے کے ساتھ بات چیت کی ہے ، جیسا کہ ریڈڈیٹ پر پُرجوش رد عمل کا ثبوت ہے۔