اے آئی کو 2024 میں ہونے والے انتخابات کے لیے خطرہ قرار دے دیا۔

اے آئی AI کو 2024 میں ہونے والے انتخابات کے لیے خطرہ قرار دے دیا۔

دیویندر سنگھ جدون ہندوستان میں فلم اور ٹیلی ویژن کے لیے مصنوعی ذہانت پر مبنی بصری اثرات اور صوتی کلون بنانے میں مصروف تھے، جب انہیں سیاست دانوں کی طرف سے کالیں آنے لگیں: کیا وہ اپنی انتخابی مہم کے لیے AI ویڈیوز، یا ڈیپ فیکس بنا سکتے ہیں؟

گزشتہ نومبر میں ان کی آبائی ریاست راجستھان میں زبردست مقابلہ ہونے والے مقامی انتخابات، اور اس سال مئی میں ہونے والے قومی انتخابات کے ساتھ، ان کی کمپنی، دی انڈین ڈیپ فیکر کے لیے یہ موقع زبردست ہے۔ لیکن جدون ہچکچا رہا تھا۔

30 سالہ جدون نے کہا، "ڈیپ فیکس بنانے کی ٹیکنالوجی اب بہت اچھی ہے، یہ بہت کم کوشش کے ساتھ تقریباً فوری طور پر کی جا سکتی ہے - اور لوگ یہ نہیں بتا سکتے کہ یہ اصلی ہے یا نقلی۔"

انہوں نے تھامسن رائٹرز فاؤنڈیشن کو بتایا، "ڈیپ فیکس کے بارے میں کوئی رہنما خطوط نہیں ہیں، اور یہ تشویشناک ہے، کیونکہ اس میں کسی شخص کے ووٹ ڈالنے کے طریقے پر اثر انداز ہونے کی صلاحیت موجود ہے۔"

ہندوستانی وزیر اعظم نریندر مودی کی علاقائی زبانوں میں گاتے ہوئے انسٹاگرام ریلز حال ہی میں وائرل ہوئی ہیں، جیسا کہ انڈونیشیا کے صدارتی امیدواروں پرابوو سوبیانتو اور انیس باسویدان کی روانی عربی میں بات کرنے کی ٹک ٹاک ویڈیوز ہیں۔

لیکن وہ سب AI کے ساتھ بنائے گئے تھے، اور بغیر کسی لیبل کے پوسٹ کیے گئے تھے۔

ٹیک ماہرین اور حکام کا کہنا ہے کہ بھارت، انڈونیشیا، بنگلہ دیش اور پاکستان میں آنے والے ہفتوں میں انتخابات ہونے کے ساتھ، سوشل میڈیا پلیٹ فارمز پر غلط معلومات پھیلی ہوئی ہیں، جس میں ڈیپ فیکس - ویڈیو یا آڈیو جو AI کا استعمال کرتے ہوئے بنائی گئی ہیں اور اسے مستند کے طور پر نشر کیا گیا ہے - خاص طور پر تشویشناک ہے، ٹیک ماہرین اور حکام کا کہنا ہے۔

ہندوستان میں، جہاں 900 ملین سے زیادہ لوگ ووٹ دینے کے اہل ہیں، مودی نے کہا ہے کہ ڈیپ فیک ویڈیوز ایک "بڑی تشویش" ہیں اور حکام نے سوشل میڈیا پلیٹ فارمز کو خبردار کیا ہے کہ وہ اپنی محفوظ بندرگاہ کی حیثیت کھو سکتے ہیں جو انہیں تیسرے فریق کی ذمہ داری سے بچاتا ہے۔ ان کی سائٹس پر پوسٹ کیا گیا مواد اگر وہ عمل نہیں کرتے ہیں۔

انڈونیشیا میں - جہاں 200 ملین سے زیادہ ووٹرز 14 فروری کو پولنگ میں جائیں گے - تینوں صدارتی امیدواروں اور ان کے ساتھیوں کی گہری جعلی تصاویر آن لائن گردش کر رہی ہیں، اور ان میں انتخابی نتائج پر اثر انداز ہونے کی صلاحیت ہے، نوریانتی جلی نے کہا، جو سوشل پر غلط معلومات کا مطالعہ کرتے ہیں۔ میڈیا

انہوں نے کہا، "غلط معلومات کے ساتھ ووٹروں کی مائیکرو ٹارگٹنگ سے لے کر اس پیمانے پر جھوٹی داستانوں کو پھیلانے تک اور صرف انسانی اداکاروں کے ذریعے حاصل نہیں کیا جا سکتا، یہ AI ٹولز ووٹروں کے تاثرات اور رویے کو نمایاں طور پر متاثر کر سکتے ہیں۔"

اوکلاہوما اسٹیٹ یونیورسٹی کے میڈیا اسکول کے اسسٹنٹ پروفیسر جلی نے مزید کہا، "ایسے ماحول میں جہاں غلط معلومات پہلے سے ہی پھیلی ہوئی ہیں، AI سے تیار کردہ مواد عوامی تاثر کو مزید خراب کر سکتا ہے اور ووٹنگ کے رویے کو متاثر کر سکتا ہے۔"

'سیاسی پروپیگنڈہ'

ڈیپ فیک امیجز اور ویڈیوز جنریٹیو AI ٹولز جیسے کہ مڈجرنی، اسٹیبل ڈفیوژن اور OpenAI کے Dall-E کے ذریعے منڈلائی گئیں، گزشتہ سال نیوزی لینڈ سے ترکی اور ارجنٹائن میں ہونے والے انتخابات سے قبل، نومبر میں امریکی صدارتی انتخابات پر ان کے اثرات کے بارے میں بڑھتے ہوئے خدشات کے ساتھ۔

امریکی غیر منافع بخش فریڈم ہاؤس نے ایک حالیہ رپورٹ میں کہا کہ AI غلط معلومات کی تخلیق اور پھیلاؤ کو تیز، سستا اور زیادہ موثر بناتا ہے۔

بنگلہ دیش میں - جہاں 7 جنوری کو ہونے والے انتخابات کے بعد وزیر اعظم شیخ حسینہ اپنی مسلسل چوتھی مدت کے لیے تیار ہیں - خواتین اپوزیشن سیاستدانوں کی بکنی میں رومین فرحانہ اور ایک سوئمنگ پول میں نپن رائے کی گہری جعلی ویڈیوز سامنے آئی ہیں۔

بنگلہ دیش کی جہانگیر نگر یونیورسٹی میں صحافت کے ایک اسسٹنٹ پروفیسر، جو سوشل میڈیا کا مطالعہ کرتے ہیں، سعید الزمان نے کہا کہ اگرچہ انہیں جلد ہی ختم کر دیا گیا تھا، لیکن وہ اب بھی گردش کر رہے ہیں، اور یہاں تک کہ ناقص معیار کا ڈیپ فیک مواد بھی لوگوں کو گمراہ کر رہا ہے۔

انہوں نے کہا، "بنگلہ دیش میں معلومات کی کم سطح اور ڈیجیٹل خواندگی کے پیش نظر، ڈیپ فیکس سیاسی پروپیگنڈے کے طاقتور کیریئر ثابت ہو سکتے ہیں اگر اسے مؤثر طریقے سے تیار کیا جائے اور ان کو تعینات کیا جائے۔"

"لیکن حکومت فکر مند نظر نہیں آتی۔"

وزارت اطلاعات نے تبصرہ کرنے کی درخواست کا جواب نہیں دیا۔

پاکستان میں، جہاں 8 فروری کو انتخابات ہونے والے ہیں، عمران خان، جو گزشتہ سال وزیر اعظم کے عہدے سے برطرف ہونے کے بعد سرکاری رازداری کے ایک مقدمے میں جیل میں ہیں، نے ایک آن لائن انتخابی ریلی سے خطاب کے لیے AI سے تیار کردہ تصویر اور صوتی کلون کا استعمال کیا۔ دسمبر، جس نے یوٹیوب پر 1.4 ملین سے زیادہ آراء حاصل کیں اور دسیوں ہزار لوگوں نے براہ راست شرکت کی۔

جب کہ پاکستان نے ایک AI قانون کا مسودہ تیار کیا ہے، ڈیجیٹل حقوق کے کارکنوں نے غلط معلومات کے خلاف محافظوں کی کمی، اور خواتین سمیت کمزور کمیونٹیز کے تحفظ کے لیے تنقید کی ہے۔

غیر منافع بخش ڈیجیٹل رائٹس فاؤنڈیشن کی شریک بانی نگہت داد نے کہا، "پاکستان میں انتخابات اور مجموعی جمہوری عمل کو جو خطرہ لاحق ہے، اس پر کافی زور نہیں دیا جا سکتا"۔

"ماضی میں، آن لائن پلیٹ فارمز پر غلط معلومات نے ووٹنگ کے رویے، پارٹی کی حمایت، اور یہاں تک کہ قانون سازی میں تبدیلی کو متاثر کیا ہے۔ مصنوعی میڈیا اس کو آسان بنا دے گا،" انہوں نے مزید کہا۔