مصنوعی ذہانت کا تیسرا مرحلہ کیا ہے اور اسے ’انتہائی خطرناک‘ کیوں سمجھا جا رہا ہے؟

نومبر 2022 کے آخر میں اپنے آغاز کے بعد سے چیٹ جی پی ٹی، ایک ایسا چیٹ بوٹ جو مصنوعی ذہانت کا استعمال کرتے ہوئے سوالات کے جواب دیتا ہے یا صارفین کے مطالبے پر متن تیار کرتا ہے، تاریخ میں سب سے تیزی سے بڑھتی ہوئی انٹرنیٹ ایپلی کیشن بن گیا۔

صرف دو ماہ میں دس کروڑ فعال صارفین اس تک رسائی حاصل کر چکے ہیں۔ ٹیکنالوجی کی نگرانی کرنے والی کمپنی ’سینسر ٹاؤن‘ کے اعداد و شمار کے مطابق ٹک ٹاک کو اس سنگ میل تک پہنچنے میں نو مہینے لگے جبکہ انسٹاگرام کو ڈھائی سال کا عرصہ لگا۔

فروری میں اس ریکارڈ کے بارے میں بتانے والے یو بی ایس کے تجزیہ کاروں نے کہا ہے کہ ’20 برس سے ہم انٹرنیٹ کو ٹریک کر رہے ہیں، ہمیں اس سے زیادہ کسی انٹرنیٹ ایپلی کیشن کی تیز رفتار ترقی یاد نہیں۔‘

مصنوعی ذہانت پر تحقیق کرنے والی کمپنی ’اوپن اے آئی‘ کی جانب سے نومبر کے اواخر میں چیٹ جی پی ٹی کے نام سے ایک چیٹ باٹ لانچ کیا گیا تھا۔ اس کی مقبولیت نے ٹیکنالوجی کے اثرات کے بارے میں ہر قسم کی بحث اور قیاس آرائیوں کو جنم دیا۔

یہ اے آئی کی وہ شاخ ہے جو صارف کی ہدایات کے جواب میں موجودہ ڈیٹا (عام طور پر انٹرنیٹ سے لی جاتی ہے) سے اصل مواد تیار کرنے کے لیے وقف ہے۔

چیٹ جی پی ٹی دراصل کمپنی کی جانب سے مصنوعی ذہانت کی بنیاد پر بنائے سافٹ ویئرز میں تازہ ترین اضافہ ہے جسے کمپنی کی جانب سے جینرویٹو پری ٹرینڈ ٹرانسفورمر یا جی پی ٹی کہا جا رہا ہے۔

چیٹ جی پی ٹی سے اگر آپ کوئی بھی سوال پوچھیں تو یہ آپ کو اس حوالے سے ایک مفصل اور بہتر جواب دینے کی صلاحیت رکھتا ہے۔ چاہے آپ اس سے کوئی نظم لکھوائیں یا اپنے سکول کی اسائنمنٹ میں رہنمائی حاصل کریں، یہ سافٹ ویئر آپ کو اکثر مایوس نہیں کرے گا۔

اوپن اے آئی کا کہنا تھا کہ اس چیٹ فارمیٹ میں مصنوعی ذہانت کو ’سوالات پوچھنے، اپنی غلطی تسلیم کرنے، غلط سوچ کو چیلنج کرنے اور غیر مناسب سوالات کو مسترد کرنے کی بھی آزادی ہوتی ہے۔‘

مضمون، شاعری اور لطیفوں سے لے کر کمپیوٹر کوڈز تک اور ڈائیگرام، تصاویر، کسی بھی طرز کا آرٹ ورک اور بہت کچھ اس کے ذریعے تیار کیا جا سکتا ہے۔

اس کا دائرہ کار ان طلبا سے شروع ہو کر، جو انھیں اپنا ہوم ورک کرنے کے لیے اسے استعمال کرتے ہیں، ان سیاست دانوں تک بھی پھیلا ہوا ہے جو اپنی تقریریں اس کی مدد سے تیار کرتے ہیں۔

اس رجحان نے انسانی وسائل میں انقلاب برپا کر دیا ہے۔ ٹکینالوجی کی دنیا میں ’آئی بی ایم‘ جیسی بڑی کمپنیوں نے تقریباً آٹھ ہزار ملازمتوں کے خاتمے کا اعلان کیا ہے۔ اب وہ یہ کام مصنوعی ذہانت کی مدد سے لیں گے۔

سرمایہ کاری بینک گولڈمین سیکس کی ایک رپورٹ میں مارچ کے آخر میں اندازہ لگایا گیا تھا کہ مصنوعی ذہانت آج کل انسانی ملازمتوں کے ایک چوتھائی حصے کی جگہ لے سکتی ہے حالانکہ اس سے زیادہ پیداواری اور نئی ملازمتیں بھی پیدا ہوں گی۔

اگر یہ تمام تبدیلیاں آپ پر حاوی ہو جاتی ہیں تو اپنے آپ کو ایک ایسی حقیقت کے لیے تیار کریں جو اور بھی پریشان کن ہو سکتی ہے اور یہ ہے کہ اس کے تمام اثرات کے ساتھ جو ہم اب تجربہ کر رہے ہیں، وہ اے آئی کی ترقی کا صرف پہلا مرحلہ ہے۔

ماہرین کے مطابق دوسرا مرحلہ، بہت زیادہ انقلابی ہو گا اور جلد سامنے آ سکتا ہے جبکہ تیسرا اور آخری مرحلہ اتنا جدید ہے کہ یہ دنیا کو مکمل طور پر بدل دے گا، یہاں تک کہ انسانی وجود کی قیمت پر۔

تین مراحل

مصنوعی ذہانت کی ٹیکنالوجیز کی انسانی خصوصیات کو نقل کرنے کی صلاحیت کے لحاظ سے درجہ بندی کچھ یوں کی جاتی ہے:

1- تنگ مصنوعی ذہانت (ANI)

اے آئی کا سب سے بنیادی زمرہ اس کے مخفف سے زیادہ جانا جاتا ہے: ANI، مصنوعی تنگ ذہانت کے لیے۔

اس کا نام اس لیے رکھا گیا ہے کیونکہ یہ اپنے تخلیق کاروں کے ذریعے پہلے سے طے شدہ حد کے اندر دہرائے جانے والے کام کو انجام دیتے ہوئے ایک ہی کام پر توجہ مرکوز کرتا ہے۔

اے این آئی سسٹمز کو عام طور پر ایک بڑے ڈیٹا سیٹ (مثال کے طور پر انٹرنیٹ سے) کے ذریعے تربیت دی جاتی ہے اور وہ اس تربیت کی بنیاد پر فیصلے کر سکتے ہیں یا اقدامات اٹھا سکتے ہیں۔

اے این آئی انسانی ذہانت اور کارکردگی سے مماثل یا اس سے زیادہ ہو سکتا ہے لیکن صرف اس مخصوص علاقے میں جہاں یہ کام کرتا ہے۔

ایک مثال شطرنج کے پروگرام ہیں جو اے آئی استعمال کرتے ہیں، وہ اس ڈسپلن کے عالمی چیمپیئن کو شکست دینے کی صلاحیت رکھتے ہیں، لیکن دوسرے کام انجام نہیں دے سکتے۔

اسی لیے اسے ’کمزور اے آئی‘ بھی کہا جاتا ہے ۔

تمام پروگرام اور ٹولز جو آج اے آئی کا استعمال کرتے ہیں، یہاں تک کہ سب سے جدید اور پیچیدہ بھی اے این آئی کی شکلیں ہیں۔ اور یہ نظام ہر جگہ موجود ہیں۔

سمارٹ فونز ایسی ایپس سے بھرے ہوئے ہیں جو اس ٹیکنالوجی کا استعمال کرتے ہیں، جی پی ایس نقشوں سے لے کر جو آپ کو دنیا میں کہیں بھی تلاش کرنے یا موسم کا پتا لگانے، موسیقی اور ویڈیو پروگراموں تک جو آپ کے ذوق کو جانتے ہیں اور سفارشات کرتے ہیں۔

نیز ورچوئل اسسٹنٹ جیسے ’سری‘ اور ’الیکسا‘ اے این آئی کی شکلیں ہیں۔ گوگل سرچ انجن اور روبوٹ کی طرح جو آپ کے گھر کو صاف کرتے ہیں۔

کاروباری دنیا بھی اس ٹیکنالوجی کو بہت استعمال کرتی ہے۔ یہ کاروں کے اندرونی کمپیوٹرز میں، ہزاروں مصنوعات کی تیاری میں، مالیاتی دنیا میں اور یہاں تک کہ ہسپتالوں میں تشخیص کے لیے استعمال ہوتا ہے۔

اس سے بھی زیادہ نفیس نظام جیسے ڈرائیور کے بغیر کاریں (یا خود مختار گاڑیاں) اور مقبول چیٹ جی پی ٹی بھی اے این آئی کی شکلیں ہیں کیونکہ وہ اپنے پروگرامرز کی طرف سے پہلے سے طے شدہ حد سے باہر کام نہیں کر سکتے، اس لیے وہ خود فیصلے نہیں کر سکتے۔

ان میں انسانی ذہانت کی ایک خـصوصیت خود آگاہی بھی نہیں ہے۔

تاہم کچھ ماہرین کا خیال ہے کہ ایسے نظام جو خود بخود سیکھنے کے لیے پروگرام کیے گئے ہیں ( مشین لرننگ ) جیسے چیٹ جی پی ٹی یا آٹو جی پی ٹی (ایک ’خود مختار ایجنٹ‘ یا ’ذہین ایجنٹ‘ جو چیٹ جی پی ٹی سے معلومات کو کچھ ذیلی کاموں کو خود مختار طریقے سے انجام دینے کے لیے استعمال کرتا ہے ترقی کے اگلے مرحلے میں منتقل ہو سکتا ہے۔

2- مصنوعی جنرل انٹیلیجنس (AGI)

یہ مرحلہ، مصنوعی جنرل انٹیلیجنس، اس وقت تک پہنچتا ہے جب ایک مشین انسانی سطح پر علمی صلاحیتیں حاصل کر لیتی ہے۔

یعنی جب آپ کوئی بھی فکری کام انجام دے سکتے ہیں جو انسان کرتا ہے۔

یہ یقین ہے کہ ہم ترقی کی اس سطح تک پہنچنے کے دہانے پر ہیں، پچھلے مارچ میں 1000 سے زیادہ ٹیکنالوجی ماہرین نے اے آئی کمپنیوں سے کہا کہ وہ کم از کم چھ ماہ کے لیے تربیت بند کر دیں، وہ پروگرام جو جی پی ٹی-4 سے زیادہ طاقتور ہیں وہ چیٹ جی پی ٹی کا تازہ ترین ورژن ہیں۔

ایپل کے شریک بانی اسٹیو ووزنیاک، ٹیسلا اور ٹوئٹر کے ایلون مسک بھی شامل تھے، جنھوں نے ایک کھلے خط کے ذریعے خبردار کیا ہے کہ ’ذہانت کے ساتھ اے آئی نظام جو انسانوں سے مقابلہ کرتے ہیں، معاشرے اور انسانیت کے لیے گہرے خطرات لاحق ہوسکتے ہیں۔‘

غیر منفعتی فیوچر آف لائف انسٹی ٹیوٹ کے ذریعے شائع کردہ خط میں ماہرین نے کہا کہ اگر کمپنیاں اپنے پراجیکٹس کو فوری طور پر روکنے پر راضی نہیں ہوتی ہیں تو ’حکومتوں کو قدم اٹھانا چاہیے اور اس پر کچھ وقت کے لیے ایک پابندی عائد کرنی چاہیے تاکہ حفاظتی اقدامات کو ڈیزائن اور نافذ کیا جا سکے۔

اگرچہ یہ وہ چیز ہے جو کہ فی الحال نہیں ہوئی ہے، لیکن امریکہ کی حکومت نے اہم اے آئی کمپنیوں کے مالکان۔۔ الفابیٹ، اینتھروپک، مائیکروسافٹ، اور اوپن اے آئی – کو ذمہ دارانہ اختراع کو فروغ دینے کے لیے نئے اقدامات پر اتفاق کرنے کے لیے طلب کیا تھا۔

وائٹ ہاؤس نے 4 مئی کو ایک بیان میں کہا کہ ’اے آئی ہمارے وقت کی سب سے طاقتور ٹیکنالوجیز میں سے ایک ہے، لیکن اس کے پیش کردہ مواقع سے فائدہ اٹھانے کے لیے، ہمیں پہلے اس کے خطرات کو کم کرنا چاہیے۔‘

امریکی کانگریس نے اپنی طرف سے اوپن اے آئی کے سی ای او، سیم آلٹ مین کو منگل کو چیٹ جی پی ٹی کے بارے میں سوالات کے جوابات دینے کے لیے طلب کیا۔

سینیٹ کی سماعت کے دوران آلٹ مین نے کہا کہ یہ ’اہم‘ ہے کہ ان کی صنعت کو حکومت کے ذریعے کنٹرول کیا جائے کیونکہ اے آئی ’تیزی سے طاقتور‘ ہوتا جا رہا ہے۔

فیوچر آف لائف انسٹی ٹیوٹ کے پبلک پالیسی پر محقق کارلوس اگناسیو گوتیریز نے بی بی سی منڈو کو بتایا کہ اے آئی کے سامنے پیش آنے والے ایک بڑے چیلنج میں سے ایک یہ ہے کہ ’ماہرین کی کوئی ایسا ادارہ یا یونیورسٹی نہیں ہے جو یہ فیصلہ کرے کہ اسے کیسے ریگولیٹ کیا جائے۔

ماہرین کے خط میں، انھوں نے وضاحت کی کہ ان کے بنیادی خدشات کیا ہیں۔

انھوں نے یہ سوال اٹھایا کہ ’کیا ہمیں غیر انسانی ذہنوں کو تیار کرنا چاہیے جو آخر کار ہم سے زیادہ ذہین ہوں، ہم سے آگے نکل جائیں، ہمیں بے روزگار اور غیرمتعلقہ کر کے ہماری جگہ لے لے؟ انھوں نے یہ بھی پوچھا کہ ’کیا ہمیں اپنی تہذیب پر کنٹرول کھونے کا خطرہ مول لینا چاہیے؟

3- مصنوعی سپر انٹیلیجنس (ASI)

ان کمپیوٹر سائنس دانوں کی تشویش کا تعلق ایک اچھی طرح سے قائم نظریہ کے ساتھ ہے کہ جب ہم اے جی آئی تک پہنچیں گے، کچھ ہی دیر بعد ہم اس ٹیکنالوجی کی ترقی کے آخری مرحلے پر پہنچ جائیں گے: مصنوعی سپر انٹیلی جنس، جو اس وقت ہوتی ہے جب مصنوعی ذہانت انسان کو پیچھے چھوڑ دیتی ہے’۔

آکسفورڈ یونیورسٹی کے سکالر اور اے آئی کے ماہر نک بوسٹروم نے سپر انٹیلی جنس کی تعریف کچھ یوں کی ہے ’ایک ایسی عقل جو عملی طور پر ہر شعبے میں بہترین انسانی دماغ سے کہیں زیادہ ذہین ہے، بشمول سائنسی تخلیقی صلاحیت، عمومی حکمت اور سماجی مہارت۔‘

نظریہ یہ ہے کہ جب ایک مشین انسانوں کے برابر ذہانت حاصل کرتی ہے، تو اس کی اپنی خود مختار تعلیم کے ذریعے اس ذہانت کو تیزی سے بڑھانے کی صلاحیت اس کو اے ایس آئی تک پہنچنے کے لیے مختصر وقت میں ہم سے بہت آگے لے جائے گی۔

ان کے مطابق ’انسانوں کو انجینئر، نرس یا وکیل بننے کے لیے طویل عرصے تک تعلیم حاصل کرنی چاہیے۔ اے جی آئی کے ساتھ مسئلہ یہ ہے کہ یہ فوری طور پر قابل توسیع ہے۔‘

یہ ایک ایسے عمل کی بدولت ہے جسے ریکورسیو سیلف امپروومنٹ کہا جاتا ہے جو ایک اے آئی ایپلیکیشن کو ’مسلسل خود کو بہتر کرنے کی اجازت دیتی ہے، ایسے وقت میں جب ہم ایسا نہیں کر سکے۔‘

اگرچہ اس بارے میں کافی بحث جاری ہے کہ آیا کوئی مشین واقعی اس قسم کی وسیع ذہانت حاصل کر سکتی ہے جو انسان کے پاس ہوتی ہے- خاص طور پر جب بات جذباتی ذہانت کی ہو- یہ ان چیزوں میں سے ایک ہے جو سب سے زیادہ ان لوگوں کو پریشان کرتی ہے جو یہ سمجھتے ہیں کہ ہم اے جی آئی حاصل کرنے کے قریب ہیں۔

حال ہی میں نام نہاد ’مصنوعی ذہانت کے گاڈ فادر‘ جیفری ہنٹن، جو کہ اعصابی نیٹ ورکس اور گہری سیکھنے کی تحقیقات کے علمبردار ہیں جو مشینوں کو انسانوں کی طرح تجربے سے سیکھنے کی اجازت دیتے ہیں، نے بی بی سی کو انٹرویو دیتے ہوئے خبردار کیا کہ ہم اس سنگ میل کے بہت قریب ہو سکتے ہیں۔

75 برس کے جیفری ہنٹن جو حالیہ عرصے میں گوگل سے ریٹائر ہوئے تھے کا کہنا ہے کہ ’ابھی (مشینیں) ہم سے زیادہ ہوشیار نہیں ہیں، جہاں تک میں دیکھ سکتا ہوں، لیکن مجھے لگتا ہے کہ وہ جلد ہی ہو سکتی ہیں۔‘

یہ بھی پڑھیے

مصنوعی ذہانت کی وجہ سے ’30 کروڑ نوکریاں ختم ہو سکتی ہیں‘

’چیٹ بوٹس جلد ہی ہم سے زیادہ ذہین ہوں گے:‘ مصنوعی ذہانت کے ’گاڈ فادر‘ گوگل سے مستعفی

بلیک لیموئن: گوگل نے اس انجینیئر کو نوکری سے فارغ کر دیا جس نے مصنوعی ذہانت (اے آئی) کے احساسات کا مفروضہ پیش کیا تھا

معدومیت یا لافانی

اے ایس آئی کے تعلق سے عمومی طور پر فکر کے دو مکتبہ فکر کے لوگ شامل ہیں: کچھ وہ ہیں جن کا یہ ماننا ہے کہ یہ سپر انٹیلیجنس انسانیت کے لیے فائدہ مند ہوگی اور دوسرے وہ جو اس کے برعکس ہیں۔

اس کے خلاف جو ہیں ان میں مشہور برطانوی ماہر طبیعیات اسٹیفن ہاکنگ بھی شامل تھے، جن کا خیال تھا کہ انتہائی ذہین مشینیں ہمارے وجود کے لیے خطرہ ہیں۔

انھوں نے اپنی موت سے چار سال قبل 2014 میں بی بی سی کو بتایا تھا کہ ’مکمل مصنوعی ذہانت کی ترقی کا مطلب نسل انسانی کا خاتمہ ہو سکتا ہے۔‘

انھوں نے مزید کہا تھا کہ اس سطح کی ذہانت والی مشین ’خود ہی شروع ہو جائے گی اور بڑھتی ہوئی شرح سے خود کو نئے سرے سے ڈیزائن کرے گی۔‘

ان کی پیش گوئی کے مطابق ’انسان، جو سست حیاتیاتی ارتقا کی وجہ سے وہ صلاحیت نہیں رکھتے ہیں اور وہ مقابلہ کرنے کے قابل نہیں ہوں گے اور یوں وہ اس ٹیکنالوجی سے ہار جائیں گے۔‘

اے ایس آئی کے سب سے بڑے پرجوش افراد میں سے ایک امریکی مستقبل کے موجد اور مصنف رے کرزویل ہیں، جو گوگل کے ایک اے آئی محقق اور سیلیکون ویلی کی سنگچولیرٹی یونیورسٹی کے شریک بانی ہیں۔ سنگچولیرٹی اس دور کا دوسرا نام ہے جس میں مشینیں انتہائی ذہین بن جاتی ہیں۔

رے کروزویل کا خیال ہے کہ انسان اپنی حیاتیاتی رکاوٹوں کو دور کرنے ، ہماری زندگیوں اور ہماری دنیا کو بہتر بنانے کے لیے انتہائی ذہین اے آئی کا استعمال کر سکیں گے۔

سنہ 2015 میں انھوں نے یہاں تک پیش گوئی کی تھی کہ سال 2030 تک انسان نینو بوٹس یعنی انتہائی چھوٹے روبوٹس کی بدولت لافانی زندگی حاصل کرنے کے قابل ہو جائیں گے جو ہمارے جسم کے اندر کام کریں گے، وقت کے ساتھ ساتھ پیدا ہونے والی بیماریوں سمیت کسی بھی خرابی یا بیماری کا علاج کر سکیں گے۔

منگل کو کانگریس کو اپنے بیان میں اوپن اے آئی کے سیم آلٹ مین بھی اے آئی کی صلاحیت کے بارے میں پر امید تھے، انھوں نے کہا کہ یہ ’انسانیت کے سب سے بڑے چیلنجز ، جیسے موسمیاتی تبدیلی اور کینسر کا علاج‘ حل کر سکتا ہے۔

درمیان میں ہنٹن جیسے لوگ ہیں، جن کا ماننا ہے کہ اے آئی میں انسانیت کے لیے بہت زیادہ صلاحیت ہے، لیکن واضح ضابطوں اور حدود کے بغیر ترقی کی موجودہ رفتار پریشان کن ہے۔

نیویارک ٹائمز کو بھیجے گئے ایک بیان میں گوگل سے علیحدگی کا اعلان کرتے ہوئے، ہنٹن نے کہا کہ اب وہ اپنے کیے پر پچھتاوا ہے کیونکہ انھیں خدشہ ہے کہ ’بد عناصر‘ اے آئی کو ’بُرے کام‘ کرنے کے لیے استعمال کریں گے۔

بی بی سی کے استفشار پر انھوں نے ایک ’ڈراؤنے منظر‘ کی یہ مثال دی:

’مثال کے طور پر تصور کریں کہ کچھ برے اداکار جیسے، روسی صدر ولادیمیر پوتن نے روبوٹ کو اپنے ذیلی اہداف بنانے کی صلاحیت دینے کا فیصلہ کیا۔‘

مشینیں آخر کار ’ذیلی اہداف پیدا کر سکتی ہیں جیسے: ’مجھے زیادہ طاقت حاصل کرنے کی ضرورت ہے، جو ’وجود کا خطرہ‘ پیدا کرے گی۔

ایک ہی وقت میں، برطانوی-کینیڈین ماہر نے کہا کہ مختصر مدت میں، اے آئی خطرات سے زیادہ فوائد لائے گا، لہٰذا ’ہمیں اسے تیار کرنا بند نہیں کرنا چاہیے۔‘

سوال یہ ہے کہ اب جب کہ ہم نے دریافت کر لیا ہے کہ یہ چند برس پہلے کے مقابے میں بہتر کام کرتا ہے، تو ہم چیزوں کے طویل مدتی خطرات کو کم کرنے کے لیے کیا کرتے ہیں جو ہم سے زیادہ ہوشیار ہیں؟‘

گوتریز اس بات سے اتفاق کرتے ہیں کہ کلید ایک اے آئی گورننس سسٹم بنانا ہے اس سے پہلے کہ وہ ایک ایسی ذہانت تیار کرے جو اپنے فیصلے خود کر سکے۔

’اگر یہ ادارے بنائے گئے ہیں جن کا اپنا محرک ہے، جب ہم ان محرکات پر قابو نہیں رکھتے تو اس کا کیا مطلب ہے؟‘

ماہر نے نشاندہی کی کہ خطرہ صرف اتنا ہی نہیں ہے کہ کوئی اے جی آئی یا اے ایس آئی یا تو اپنی حوصلہ افزائی سے یا ’برے مقاصد‘ والے لوگوں کے زیر کنٹرول، جنگ شروع کر دے یا مالیاتی، پیداواری نظام، توانائی کے بنیادی ڈھانچے، نقل و حمل یا کسی دوسرے نظام میں ہیرا پھیری کرے، جو اب کمپیوٹرائزڈ ہے۔

انھوں نے خبردار کیا کہ ایک سپر انٹیلیجنس ہم پر بہت زیادہ لطیف طریقے سے غلبہ حاصل کر سکتی ہے۔

وہ کہتے ہیں کہ ’ایک ایسے مستقبل کا تصور کریں جہاں ایک ہستی کے پاس کرہ ارض کے ہر فرد اور ان کی عادات کے بارے میں اتنی معلومات ہوں، ہماری انٹرنیٹ کی تلاش کی بدولت، کہ وہ ہمیں ان طریقوں سے کنٹرول کر سکتی ہے جس کا ہمیں احساس بھی نہیں ہوتا۔‘

’سب سے برا منظر نامہ یہ نہیں ہے کہ انسان بمقابلہ روبوٹ کی جنگیں ہو رہی ہیں۔ سب سے بری بات یہ ہے کہ ہمیں یہ احساس نہیں ہے کہ ہمارے ساتھ ہیرا پھیری کی جا رہی ہے کیونکہ ہم سیارے کو ایک ایسی ہستی کے ساتھ بانٹ رہے ہیں جو ہم سے کہیں زیادہ ذہین ہے۔‘