پاکستان میں اے آئی ذمہ داری کا سنگین قانونی خلا ہے۔ ڈیجیٹل نظام تیزی سے پھیل رہے ہیں۔ نادرا کے بائیومیٹرک سسٹمز، سیف سٹی نگرانی نیٹ ورکس، اے آئی پر مبنی فلاحی پروگرامز، اور خودکار ٹیکس کمپلائنس ٹولز اب ریاست اور شہری کے تعلق کو بدل رہے ہیں۔ مگر ایک بنیادی قانونی مسئلہ موجود ہے۔ پاکستان میں مصنوعی ذہانت کی قانونی ذمہ داری کا کوئی واضح اور جامع فریم ورک موجود نہیں۔ اگر کوئی الگورتھم غلط فیصلہ کرے یا کسی شہری کو سہولت سے محروم کر دے، کسی بے گناہ شخص کو سیکیورٹی رسک قرار دے دے، یا خودکار نظام امتیازی سلوک پیدا کرے تو قانونی ذمہ داری کس پر عائد ہو گی؟
ڈیویلپر پر؟
سسٹم استعمال کرنے والا ادارہ پر؟
یا ریاست کے کندھے پر؟
اس سوال کا جواب خطرناک حد تک مبہم ہے۔
ہمارا مسئلہ احتساب کے بغیر الگورتھمک گورننس کا ہے۔ یورپی یونین کے اے آئی ایکٹ یا برطانیہ کے ڈیوٹی آف کئیر ماڈل کے برعکس، پاکستان میں اے آئی ایمپیکٹ اسیسمنٹ لازمی نہیں، الگورتھمک آڈٹس کا کوئی قانونی تقاضا نہیں کرتا، مصنوعی ذہانت استعمال کرنے والوں پر احتیاط کی آئینی ذمہ داری کی شرط موجود نہیں اور الگورتھمک نقصان کے خلاف موثر قانونی چارہ جوئی محدود ہے۔ آئینی حقوق کے تناظر میں خودکار نظاموں کے لیے واضح قانونی رہنمائی موجود نہیں اس کا نتیجہ ایک ایسا قانونی خلا ہے جہاں ٹیکنالوجی قانون سے تیز رفتار ہو چکی ہے، جبکہ شہریوں کو نقصان کی صورت میں موثر تحفظ کا قانونی حق حاصل نہیں۔ پاکستان کو یورپ یا برطانیہ کے ماڈلز نقل کرنے کی بجائے اپنی آئینی اقدار کے مطابق AI Liability Framework تیار کرنا ہو گا۔
”Constitutional Algorithmic Accountability“ درج ذیل بنیادی اصولوں پر مبنی ہو سکتی ہے :
انسانی نگرانی (Human Oversight)
کوئی بھی اہم قانونی فیصلہ صرف اے آئی کے ذریعہ نہ ہو۔
وضاحت کا حق (Explainability)
شہری کو معلوم ہونا چاہیے کہ اے آئی نے اس کے خلاف یا اس کے حق میں فیصلہ کیسے اور کیوں کر کیا۔
. Auditability
ہائی رسک اے آئی سسٹمز کے شفاف آڈٹ ریکارڈ لازمی ہوں
عدمِ امتیاز (Non۔ Discrimination)
مصنوعی ذہانت ایسے نتائج پیدا نہ کرے جو بلاجواز امتیازی ہوں۔
آئینی بالادستی
(Constitutional Supremacy)
آئے آئی کبھی بھی بنیادی حقوق خصوصاً آرٹیکل 4، 9، 14 اور 25 کو بائی پاس یا نظر انداز نہ کر سکے
فیصلے کو چیلنج کرنے کا حق (Reversibility)
شہری کو خودکار فیصلوں کو چیلنج اور تبدیل کروانے کا حق حاصل ہو۔
اس مقصد کے حصول کے لئے پاکستان ایک Four۔ Tier Liability Architecture تیار کر سکتا ہے :
– Developer Liability
ناقص ڈیزائن، جانبدار ڈیٹا یا حفاظتی غفلت کی ذمہ داری
– Deployer Liability
بغیر انسانی نگرانی کے ہائی رسک اے آئی کے استعمال پر ادارہ جاتی ذمہ داری
– Operator Liability
اے آئی کے براہِ راست انسانی استعمال میں غفلت کی ذمہ داری
– State Liability
جب حکومت خود اے آئی سسٹمز کے تحت بنیادی حقوق کی خلاف ورزی کرے تو ریاست پر بھی ذمہ داری عائد ہو سکے
اہم بات یہ ہے کہ جہاں Algorithmic Opacity شہری نقصان ثابت نہ کر سکے، وہاں ثبوت کا بوجھ اے آئی ڈیپلائر پر منتقل ہونا چاہیے (یہ بہت اہم موضوع ہے اس پر تفصیلی گفتگو کی ضرورت ہے ) مطلب جس اے آئی سسٹم میں خطرہ کا رجحان زیادہ ہو وہ سسٹمز سخت ذمہ داری کے زمرے میں شمار کئیے جائیں۔
پاکستان میں پولیسنگ، ویلفیئر، ٹیکسیشن اور ڈیجیٹل شناخت کے شعبوں میں اے آئی کے استعمال میں تیزی آ رہی ہے۔ آنے والے برسوں میں یہی الگورتھم لاکھوں شہریوں کے حقوق، سہولیات اور آزادیوں پر اثر انداز ہوں گے۔
ابھی ہمارے پاس موقع ہے کہ اے آئی میں احتساب شامل کریں، اس سے پہلے کہ یہ نظام اتنے مضبوط ہو جائیں کہ ان کی نگرانی مشکل ہو جائے۔
یہ جدت روکنے کی بات نہیں۔ یہ قانون کی حکمرانی کو محفوظ رکھنے کی بات ہے۔
کیا ہم آج آئینی اے آئی گورننس تشکیل دیں گے؟ یا کل بغیر احتساب کے الگورتھمک گورننس کے نتائج بھگتیں گے؟
