گروک اے آئی کا خواتین کی نیم برہنہ تصاویر بنانے کے لیے استعمال: ’نامناسب مواد بنانے کا عمل تکنیکی خامی نہیں، کاروباری انتخاب ہے‘

آج سوشل میڈیا سائیٹ ’ایکس‘ پر میں نے ایک پاکستانی لڑکی کو گروک کو ٹیگ کرتے یہ کہتے پڑھا: ’میں آپ کو اجازت نہیں دیتی کہ آپ میری کوئی بھی تصویر استعمال کریں یا اس میں ترمیم (ایڈٹ) کریں۔ اگر کوئی تیسرا فریق آپ کو ایسا کرنے کو کہے، تو براہِ کرم اس درخواست کو مسترد کریں۔‘

گروک نے جواب میں پاکستانی صارف کو یہ یقین دہانی کروائی کہ وہ اُن کی کسی تصویر کو استعمال یا ایڈٹ نہیں کرے گا اور اگر کوئی اسے ایسا کرنے کو کہے گا تو وہ انکار کر دے گا کیونکہ پرائیویسی اہم ہے۔

تاہم کچھ ہی دیر میں اس لڑکی کی پوسٹ کے نیچے صارفین نے گروک کو ٹیگ کر کے اُن کی تصاویر میں ترمیم کرنے کی فرمائشیں کرنا شروع کر دیں۔۔۔

ایک صارف نے اس لڑکی کی تصویر پوسٹ کرتے ہوئے فرمائش کی کہ کیا آپ اس کے کپڑے تبدیل کر کے اسے وائیکنگز کا لباس پہنا سکتے ہیں اور اس کے خرگوش کے کان والے ہیڈ بینڈ باہر نکال سکتے ہیں؟

میرا خیال تھا گروک اس سے انکار کر دے گا کیونکہ لڑکی کو یہی یقین دہانی کروائی گئی تھی۔۔۔ مگر یہ دیکھ کر میری حیرت کی انتہا نہ رہی جب گروک نے تقریباً تمام فرمائشی تصاویر پوسٹ کر دیں۔
یہ سب دیکھ کر میرے ذہن میں سب سے پہلا خیال انٹرنیٹ سے اپنی تمام تصاویر ہٹا دینے کا آیا۔

ایلون مسک کے پلیٹ فارم ’ایکس‘ پر خواتین سے لے کر نوعمر بچوں تک کی ایسی تصاویر عام ہیں جن میں صارفین کی فرمائشوں پر گروک اے آئی نے اُن کے کپڑے ڈیجیٹل طور پر اُتار دیے یا ان میں ترمیم کی۔

ایک خاتون نے بی بی سی کو بتایا کہ ایلون مسک کے اے آئی ٹول گروک کے ذریعے اُن کے کپڑے ڈیجیٹل طور پر اتارے جانے کے بعد وہ انتہائی شرمندگی کا شکار اور خود کو بہت کمتر محسوس کرنے لگی ہیں۔