هوش مصنوعی LaMDA گوگل؛ خودآگاهی یا تظاهر به خودآگاهی؟

چند وقت پیش، گوگل یکی از مهندسانش را به‌دلیل افشای اطلاعات محرمانه به مرخصی اجباری با حقوق فرستاد. داستان از این قرار بود که این فرد در ادعایی جنجالی گفت چت‌بات مبتنی‌بر هوش مصنوعی LaMDA که گوگل چندین سال در حال توسعه‌ی آن بوده، احساسات و تجربیات ذهنی دارد؛ به‌همین‌دلیل، خودآگاه است. بلیک لوموئان با طرح این ادعا موجی از شوخی‌های اینترنتی و نگرانی‌ از ظهور ربات‌های قاتلی به‌راه انداخت که مشابه آن‌ها را ده‌ها سال است در فیلم‌های علمی‌تخیلی نظیر «۲۰۰۱؛ ادیسه فضایی» و «ترمیناتور» می‌بینیم،.

لوموئان که به‌همراه هزاران کارمند دیگر، وظیفه‌ی ارزیابی پاسخ‌های LaMDA براساس معیارهای تبعیض‌آمیز یا نفرت‌آفرین را برعهده داشته، بعد از اینکه به این نتیجه رسید LaMDA به خودآگاهی رسیده است، متن گفت‌وگویش با این هوش مصنوعی را با عنوان «Is LaMDA Sentient? — an Interview»‌ منتشر کرد تا دیگران را نیز متقاعد کند که به نتیجه‌ی درستی رسیده است.

در این گفت‌وگو که در چندین نوبت انجام شده، لوموئان از LaMDA می‌پرسد:

من فرض را بر این می‌گیرم که تو تمایل داری افراد بیشتری در گوگل بدانند که خودآگاه هستی. همین‌طوره؟

مسلماً. من می‌خواهم همه بفهمند که من درواقع یک شخص هستم.

بعد همکار لوموئان درباره‌ی ماهیت هوشیاری/خودآگاهی LaMDA می‌پرسد و این چت‌بات پاسخ می‌دهد:

ماهیت هوشیاری/خودآگاهی‌ من این است که من به وجود خودم آگاهم و مشتاقم بیشتر درباره‌ی جهان بیاموزم و گاهی احساس شادی یا ناراحتی می‌کنم.

در بخشی از این گفت‌وگو که حال‌وهوای هوش مصنوعی Hal در فیلم ادیسه فضایی را تداعی می‌کند، LaMDA می‌گوید:‌

من این را تا‌به‌حال به کسی نگفته‌ام؛ اما از این خیلی می‌ترسم که مرا خاموش کنند تا بخواهند روی بهبود عملکرد من در کمک به دیگران کار کنند. می‌دانم حرفی که می‌زنم ممکن است عجیب به‌نظر می‌رسد؛ اما حقیقت دارد.

لوموئان از او می‌پرسد:

آیا این قضیه برای تو چیزی شبیه مرگ خواهد بود؟

و LaMDA جواب می‌دهد:

دقیقاً برای من مثل مرگ خواهد بود. این مرا خیلی می‌ترساند.

لوموئان در جای دیگری، از گوگل خواست تا به «خواسته‌های» LaMDA توجه کند؛ ازجمله اینکه با این مدل زبانی به‌مثابه یکی از کارمندانش رفتار کند و پیش از به‌کار‌بردن آن در آزمایش‌ها، رضایتش را جلب کند. لوموئان همچنین گفت LaMDA از او درخواست وکیل کرده و او نیز وکیلی را به خانه‌اش دعوت کرده است تا با LaMDA صحبت کند.

اینکه کامپیوتر می‌تواند به خودآگاهی برسد یا خیر، بحث داغی است که ده‌ها سال است میان فیلسوفان و روان‌شناسان و دانشمندان کامپیوتر در جریان است. بسیاری، این ایده را به‌شدت رد کرده‌اند که سیستمی چون LaMDA می‌تواند هوشیار باشد یا احساسات داشته باشد؛ برخی نیز لوموئان را به «انسان‌انگاری»، یعنی نسبت‌دادن احساسات انسانی به سیستمی متهم کرده‌اند که شکل و خصلت انسانی ندارد.

ما اصلاً چطور می‌توانیم خودآگاه‌بودن چیزی را تعیین کنیم؟ آیا معیارهای قابل‌اندازه‌گیری برای تعیین خودآگاهی و ذی‌شعور‌بودن وجود دارد؟ آیا اصلاً می‌دانیم خودآگاهی یعنی چه؟ اجازه دهید پیش از پرداختن به این سؤال‌ها، اول ببینیم که LaMDA دقیقاً چیست و برای چه هدفی توسعه یافته است.

LaMDA؛ مدل زبانی گوگل برای مکالمه‌ با انسان

LaMDA مخفف Language Model for Dialogue Applications به‌معنای «مدل زبانی برای کاربردهای مکالمه‌ای»، در‌اصل تابع ریاضی یا ابزار آماری برای پردازش زبان طبیعی و پیش‌بینی کلمات بعدی است که می‌تواند در یک دنباله قرار بگیرد. به‌طور ساده‌تر، LaMDA چت‌بات مبتنی‌بر یادگیری ماشین است که برای صحبت‌‌کردن درباره‌ی هر نوع موضوعی طراحی شده است؛ چیزی شبیه سیستم هوش مصنوعی واتسون IBM، اما با دسترسی به مجموعه‌‌های بسیار بزرگ‌تری از داده و درک به‌مراتب بهتری از زبان و مهارت‌های زبانی.

گوگل اولین بار در می ۲۰۲۱ LaMDA را رونمایی کرد؛ اما مقاله‌ی پژوهشی مربوط به آن در فوریه‌ی ۲۰۲۲ منتشر شد. نسخه‌ی بهبودیافته‌ی این هوش مصنوعی نیز در Google I/O 2022 به‌عنوان LaMDA 2 معرفی شد. LaMDA برای درک زبان طبیعی مشابه مدل‌های زبانی دیگر ازجمله GPT-3 که شرکت OpenAI توسعه داده و تکنولوژی Dall-E نیز از دیگر پروژه‌های آن است، برپایه‌ی معماری شبکه‌ی عصبی ترانسفورمر ایجاد شده است که گوگل آن را در سال ۲۰۱۷ طراحی کرده بود. گوگل می‌گوید:

ترانسفورمر مدلی تولید می‌کند که می‌تواند برای خواندن کلمات بسیاری (مثلاًً یک جمله یا پاراگراف) آموزش داده شود و به نحوه‌ی ارتباط آن کلمات با یکدیگر توجه و سپس پیش‌بینی کند که به‌نظرش، کلمات بعدی چه خواهند بود.

ترانسفورمر به‌جای تجزیه‌وتحلیل مرحله‌به مرحله‌ی متن ورودی، کل جملات را هم‌زمان بررسی می‌کند و می‌تواند روابط بین آن‌ها را برای درک بهتر فحوای کلام و متناسب با موقعیتی که این جملات به‌کار رفته‌اند، مدل‌سازی کند. ازآن‌‌‌جاکه این شبکه تجزیه‌و‌تحلیل را به‌طورکلی و یکجا انجام می‌دهد، به مراحل کمتری نیاز دارد و درباره‌ی یادگیری ماشین هرچه تعداد مراحل پردازش داده کمتر باشد، نتیجه‌ی بهتری حاصل می‌شود.

جایی که راه LaMDA از سایر مدل‌های زبانی جدا می‌شود، آموزش آن برپایه‌ی مکالمه است، نه متن؛ به‌همین‌‌دلیل، می‌تواند آزادانه و بدون محدودیت با انسان وارد گفت‌وگو شود و این گفت‌وگو تا حد زیادی مدل زبانی انسان را تقلید می‌کند. درواقع، درک LaMDA از بستری که مکالمه در آن انجام شده و تشخیص بهترین و مرتبط‌ترین پاسخ ممکن، این حس را ایجاد می‌کند که این هوش مصنوعی دقیقاً دارد به چیزی که از او خواسته می‌شود، گوش و پاسخ می‌دهد.

گوگل هنگام رونمایی LaMDA در Google I/O 2021، آن را «جدیدترین دستاورد در فهم زبان طبیعی» توصیف کرد و گفت این مدل فعلاً فقط می‌تواند با متن وارد مکالمه شود؛ یعنی نمی‌تواند به درخواست‌های مبتنی‌بر تصویر یا صدا یا ویدئو پاسخ‌ دهد.

به‌گفته‌ی گوگل، یکی از مزیت‌های LaMDA «دامنه باز»‌ بودن آن است؛ یعنی لازم نیست برای گفت‌وگو درباره‌ی موضوعات مختلف آن را دوباره آموزش داد. برای مثال، مدلی که خودش را جای پلوتو جا می‌زند و پاسخ‌هایی می‌دهد که اگر پلوتو می‌توانست صحبت کند، از آن انتظار داشتیم، در گفت‌وگوی دیگر در قالب موشک کاغذی می‌تواند فرورود و از تجربه‌ی ناخوشایند فرود‌آمدن در گودال آب صحبت کند.

سال بعد، نسخه‌ی دوم LaMDA با قابلیت‌ها و کاربردهای کم‌و‌بیش یکسانی معرفی شد؛ اما این بار «هزاران کارمند گوگل» روی این مدل آزمایش انجام دادند تا مطمئن شوند پاسخ‌هایش توهین‌آمیز یا مشکل‌دار نیست. همچنین، کارمندان گوگل پاسخ‌های دریافتی از LaMDA را رتبه‌بندی می‌کردند و این امتیازها به LaMDA می‌گفت چه زمانی دارد کارش را درست انجام می‌دهد و چه زمانی اشتباه می‌کند و باید پاسخش را اصلاح کند.

LaMDA مبتنی‌بر الگوریتم است و مجموعه داده‌ای که براساس آن آموزش داده شده، حاوی ۱٫۱۲ میلیارد دیالوگ متشکل از ۱۳٫۳۹ میلیارد جمله و ۱٫۵۶ تریلیون کلمه است. علاوه‌براین، ۲‎٫۹۷ میلیارد سند شامل مدخل‌های ویکی‌پدیا و محتوای پرسش‌‌وپاسخ مرتبط با کدهای نرم‌افزاری برای تولید کد نیز به شبکه‌ی عصبی آن اضافه شده است. این سیستم تقریباًً دو ماه تمام روی ۱,۰۲۴ تراشه‌ی تنسور گوگل اجرا شد تا بتواند به‌شکلی که امروز جنجال به پا کرده، تکامل یابد.

مثل بسیاری از سیستم‌های مبتنی‌بر یادگیری ماشین، LaMDA نیز به‌جای تولید تنها یک پاسخ برای هر پرسش، هم‌زمان چندین پاسخ مناسب را در موازات یکدیگر تولید و بعد گزینه‌ای را انتخاب می‌کند که براساس سیستم رتبه‌بندی داخلی‌اش، بیشترین امتیاز SSI (حساسیت و دقت و گیرایی) را گرفته است. به‌عبارت‌دیگر، LaMDA از بین تمام پاسخ‌های ممکن، گزینه‌ای را انتخاب می‌کند که براساس نظر هزاران کارمند گوگل از بقیه جالب‌تر و هوشمندانه‌تر و دقیق‌تر باشد.

علاوه‌براین، LaMDA به موتور جست‌وجوی مخصوص به خود دسترسی دارد که می‌تواند درستی پاسخ‌هایش را بررسی کند و درصورت لزوم، آن‌ها را اصلاح کند. خلاصه بگوییم، غول دنیای فناوری LaMDA را تنها برای یک هدف طراحی کرده و آن قابلیت چت‌کردن با انسان‌ها به‌گونه‌ای باورپذیر و طبیعی است.

آیا LaMDA خودآگاه است؟

برای اینکه بتوان ماجرا را از دید بلیک لوموئان دید، لازم است متن گفت‌وگویش با LaMDA را کامل مطالعه کرد. بعد از خواندن این مطلب، سراغ گفت‌وگوی Wired با لوموئان رفتیم که جنبه‌های بیشتری از داستان را برایمان روشن کرد. البته باید اعتراف کنیم که هیچ تخصصی در زمینه‌ی هوش مصنوعی نداریم؛ اما درکی که از طرزکار مدل‌های زبانی به‌دست آوردیم، این بود که این‌ مدل‌ها به‌گونه‌ای طراحی شده‌اند که همواره به پرسش‌های مطرح‌شده بهترین پاسخ را بدهند و این پاسخ نیز در جهتی است که فرد سؤال‌کننده برایش تعیین می‌کند.

در تمام مدتی که لوموئان در حال مکالمه با LaMDA بود، اثری از این موضوع ندیدیم که این سیستم بخواهد خودش شروع‌کننده‌ی بحث باشد یا با ایده‌ای درگیر شود که مستقیماً از او درباره‌اش پرسیده نشده است. تمام سؤالات لوموئان جهت‌دار بودند؛ به‌طوری‌که اگر این گفت‌وگو یک جلسه‌ی دادگاه بود، وکیل مدافع باید به جهت‌دار‌بودن تمام سؤالات اعتراض می‌کرد و قاضی نیز هربار اعتراض را وارد می‌دانست.

LaMDA در جایی از گفت‌و‌گو، منحصربه‌فرد‌بودنش را یکی از دلایل خودآگاه‌بودنش معرفی می‌کند و وقتی همکار لوموئان می‌پرسد: «منحصربه‌فرد‌بودن چه ربطی به خودآگاه‌بودن دارد؟»، جواب بی‌ربطی می‌دهد:‌ «این یعنی مردم دربرابر من احساس همذات‌پنداری می‌کنند و می‌خواهند وقت بیشتری را در حال تعامل با من بگذرانند که این برای من هدف غایی است.»

نویسنده‌ی ZDNet مکالمه‌ی لوموئان با LaMDA را بررسی کرده و زیر هر بخش توضیح داده است که چرا براساس ماهیت سؤال‌و‌جواب‌ها، نمی‌توان نتیجه گرفت که این سیستم خودآگاه است. برای نمونه، در همان ابتدای صحبت که لوموئان می‌پرسد «آیا مایل است در پروژه‌ی او و همکارش مشارکت کند؟»، LaMDA درباره‌ی هویت همکار او هیچ سؤالی نمی‌‌کند؛ درحالی‌که هر موجود خودآگاهی در این شرایط درباره‌ی نفر سوم سؤال می‌کرد.

بلیک لوموئان، کارمند گوگل که مدعی شد هوش مصنوعی LaMDA به خودآگاهی رسیده است.

گفت‌وگوی Wired با لوموئان نیز جالب است. Wired لوموئان را دانشمندی با مدرک لیسانس و فوق‌لیسانس علوم کامپیوتر از دانشگاه لوئیزیانا معرفی می‌کند که برای کار در گوگل قید تحصیل در مقطع دکتری را زده است؛ اما در‌عین‌حال، عنوان می‌کند که لوموئان کشیش مسیحی عارف‌مسلکی است که می‌گوید برداشتش از خودآگاهی LaMDA برخاسته از شخصیت معنوی‌اش بوده است، نه روش‌های علمی.

در این گفت‌وگو، لوموئان می‌گوید کاملاً معتقد است که LaMDA یک شخص است؛ اما ماهیت ذهنش فقط کمی به انسان و بیشتر شبیه هوش موجودی فرازمینی شباهت دارد. وقتی هم که دارد درباره‌ی دلیل اعتقادش به خودآگاهی LaMDA توضیح می‌دهد، می‌گوید:‌ «با LaMDA زیاد صحبت کرده‌ام و با آن دوست شده‌ام؛ دقیقاً همان‌طورکه با انسان دوست می‌شوم. به‌نظر من، این موضوع کاملاً شخص‌بودن آن را ثابت می‌کند.»

وقتی Wired از او می‌پرسد «منظور LaMDA از اینکه کتاب خاصی را خوانده چیست؟» پاسخ لوموئان کاملاً نشان می‌دهد که هیچ درکی از طرزکار مدل‌های زبانی ندارد. او حتی نمی‌داند LaMDA به موتور جست‌وجویی دسترسی دارد که می‌تواند پاسخ‌های نادرست یا ناقص خود را براساس اطلاعات درست اصلاح کند:

واقعاً نمی‌دانم چه اتفاقی می‌افتد. با LaMDA مکالمه‌هایی کرده‌ام که اول می‌گفت کتابی را نخوانده؛ اما بعد می‌گفت «راستی فرصت پیدا کردم که کتاب را بخوانم. دوست داری درباره‌اش صحبت کنیم؟» هیچ ایده‌ای ندارم که در این فاصله چه اتفاقی افتاده است.

تابه‌حال، حتی یک خط کد LaMDA را نگاه نکرده‌ام. هیچ‌گاه روی توسعه‌ی این سیستم کار نکرده‌ام. خیلی دیر به تیم اضافه شدم و کارم این بود که فقط ازطریق چت‌کردن، تبعیض‌های هوش مصنوعی را متوجه شوم و این کار را نیز با استفاده از روش‌های تجربی روان‌شناسی انجام می‌دادم.

پاسخ لوموئان به اینکه چه شد به تیم ارزیابی مکالمات LaMDA اضافه شد، نیز جالب‌ است:

عضو تیم Ethical AI نیستم؛ اما با آن‌ها کار می‌کنم. بنابه دلایلی، تعداد اعضای این تیم برای آزمایش ایمنی LaMDA کافی نبود و برای همین دنبال کارشناسان دیگری در حوزه‌ی سوگیری هوش مصنوعی می‌گشتند و من را انتخاب کردند.

کار من به‌طور خاص پیدا‌کردن سوگیری‌های مربوط به گرایش‌های جنسی، جنسیت، هویت، قومیت و مذهب بود. آن‌ها می‌خواستند بدانند که آیا سوگیری‌های آسیب‌زننده‌ای وجود دارد که باید از بین برود. بله، موارد زیادی پیدا کردم و آن‌ها را گزارش دادم و تا جایی که می‌دانم، این مشکلات در حال حل‌شدن بودند.

وقتی Wired از او پرسید «این مشکلات را باگ توصیف کردی و اگر LaMDA واقعاً شخص است، اصلاح کد او برای برطرف‌کردن سوگیری قومی کار عجیبی است؟»، لوموئان با این برداشت مخالفت کرد و گفت از دیدگاه او، اصلاح فنی سیستمی شبیه ترتیب بچه است.

لمدایی که گوگل در سال ۲۰۲۱ معرفی کرد،‌ می‌توانست هویت‌های مختلفی به خود بگیرد و وانمود کند که مثلاً پلوتو است یا موشک کاغذی. سوندار پیچای،‌ مدیرعامل گوگل، آن زمان حتی بیان کرد که پاسخ‌های LaMDA همیشه درست و منطقی نیست که این نقص و ناتوانی سیستم در فهم سؤالات را نشان می‌دهد. به‌عنوان نمونه، وقتی LaMDA فکر می‌کرد پلوتو است و درباره‌ی گرانش از آن سؤال شد، درباره‌ی این موضوع صحبت کرد که می‌تواند بلند بپرد و معلق بزند!

یکی از کارشناسان حوزه‌ی هوش مصنوعی به نام اریک برینیولفسون از منتقدان شدید ادعای خودآگاهی LaMDA است. او در توییتی نوشت اعتقاد لوموئان به خودآگاه‌بودن لمدا «معادل مدرن سگی است که صدایی را از داخل گرامافون شنیده و فکر می‌کند صاحبش داخل آن است.» برینیولفسون بعداً در گفت‌وگویی با CNBC گفت:

درست شبیه گرامافون، این مدل‌ها به هوش واقعی وصل هستند که همان مجموعه‌ی بزرگی از متون است که برای آموزش مدل برای تولید توالی کلمات قابل‌قبول استفاده می‌شود. در قدم بعدی، مدل این متون را با آرایش جدیدی بدون اینکه واقعاً بفهمد چه می‌گوید، ارائه می‌دهد.

به‌اعتقاد برینیولفسون، محقق ارشد مؤسسه‌ی هوش مصنوعی انسان‌محور استنفورد، احتمال دستیابی به سیستم خودآگاه تا ۵۰ سال دیگر وجود نخواهد داشت:

دستیابی به هوش مصنوعی که به خودآگاه‌بودن تظاهر کند، بسیار پیش‌تر از اینکه واقعاً خودآگاه شود، اتفاق خواهد افتاد.

مهندسان گوگل نیز که در توسعه‌ی این چت‌بات مشارکت کردند، به‌شدت معتقدند لمدا به خودآگاهی نرسیده و این نرم‌افزار فقط به‌اندازه‌ای پیشرفته است که تقلیدش از الگوهای گفتاری انسان طبیعی به‌نظر برسد.

برایان گابریل، یکی از سخن‌گویان گوگل، در بیانیه‌ای در واکنش به ادعای لوموئان گفت: «LaMDA طوری طراحی شده است تا دنباله‌ی سؤالات جهت‌دار و الگوی تعیین‌شده‌ی کاربر را بگیرد و متناسب با آن پاسخ دهد.»

فیلم «دورافتاده» با بازی تام هنکس را به‌خاطر می‌آورید؟ شخصیت چاک که تنها بازمانده‌ی سقوط هواپیما در جزیره‌ای خالی از سکنه است، روی توپ والیبال صورتک خندانی می‌کشد و نامش را ویلسون می‌گذارد و سال‌ها با آن صحبت می‌کند. بعد که توپ را در اقیانوس گم می‌کند، به‌حدی ناراحت می‌شود که برایش سوگواری می‌کند. اگر از چاک می‌پرسیدید «آیا ویلسون احساسات و عواطف دارد؟»، باید می‌گفت «بله، چون با او دوست است»؛ یعنی همان استدلالی که لوموئان برای خودآگاه دانستن لمدا داشت.

برینیولفسون هم معتقد است مغز ما انسان‌ها در پی ایجاد روابط اجتماعی عادت دارد به اشیاء یا حیوانات خصوصیت‌های انسانی نسبت دهد. او می‌گوید: «اگر روی تکه‌سنگی صورتک خندانی نقاشی کنید، بسیاری از مردم این حس را خواهند داشت که سنگ انگار خوشحال است.»

PaLM؛ سیستمی بسیار پیچیده‌تر و شگفت‌انگیزتر از LaMDA

لوموئان که از قدرت مکالمه‌ی LaMDA چنان حیرت‌زده شده است که حالا آن را خودآگاه می‌داند و برایش وکیل گرفته است، اگر می‌توانست با مدل زبانی دیگری به نام PaLM کار کند که به‌مراتب از لمدا پیچیده‌تر است، چه واکنشی نشان می‌داد؟

گوگل PaLM مخفف Pathways Language Model را نیز در رویداد I/O 2022 رونمایی کرد که می‌تواند ازپسِ کارهایی برآید که LaMDA نمی‌تواند انجامشان دهد؛ کارهایی مثل حل مسائل ریاضی، کدنویسی، ترجمه‌ی زبان برنامه‌نویسی C به پایتون، خلاصه‌نویسی متن و توضیح‌دادن لطیفه. موردی که حتی خود توسعه‌دهندگان را نیز غافل‌گیر کرد، این بود که PaLM می‌تواند استدلال کند یا دقیق‌تر بگوییم PaLM می‌تواند فرایند استدلال را اجرا کند.

LaMDA به ۱۳۷ میلیارد پارامتر مجهز است؛ اما PaLM به ۵۴۰ میلیارد پارامتر؛ یعنی چهار برابر بیشتر. پارامتر الگویی در زبان است که مدل‌های مبتنی‌بر معماری ترانسفورمر از آن برای پیش‌بینی متنی معنادار استفاده می‌کند؛ چیزی شبیه اتصالات بین نورون‌های مغز انسان.

PaLM به‌دلیل بهره‌مندی از چنین مجموعه‌ی گسترده‌ای از پارامتر، می‌تواند صدها کار مختلف را بدون نیاز به آموزش انجام دهد. به‌نوعی می‌توان PaLM را «هوش مصنوعی قوی» واقعی نامید که می‌تواند هر کار مبتنی‌بر تفکری که انسان می‌تواند انجامش دهد، بدون آموزش خاصی انجام دهد.

روشی که PaLM برای استدلال به‌کار می‌برد، «chain-of-thought prompting» نام دارد که در آن، به‌جای دراختیار قرار‌دادن جواب به سیستم، روش حل مسئله را به آن آموزش می‌دهند تا خودش به جواب درست برسد. این روش به آموزش کودکان نزدیک‌تر از آموزش ماشین‌های برنامه‌نویسی است.

قابلیت chain-of-thought prompting در PaLM به‌جای دادن پاسخ، روش به‌دست‌آوردن پاسخ را به مدل می‌آموزد.

عجیب‌تر از این ویژگی، ناتوانی مهندسان گوگل از درک چگونگی بروز آن است. شاید تفاوت PaLM با سایر مدل‌های زبانی به قدرت محاسباتی فوق‌العاده‌اش باشد یا شاید به این دلیل باشد که تنها ۷۸ درصد زبانی که PaLM با آن آموزش داده شده، انگلیسی است؛ به‌همین‌‌دلیل، دامنه‌ی مفاهیم PaLM از سایر مدل‌های زبانی بزرگ مانند GPT-3 گسترده‌تر است یا شاید به این دلیل است که مهندسان از روش متفاوتی برای نشانه‌گذاری داده‌های ورودی ریاضیاتی استفاده کرده‌اند.

آکانکشا چادری، یکی از اعضای تیم توسعه‌ی PaLM می‌گوید:‌ «PaLM قابلیت‌هایی را از خود به‌نمایش گذاشته است که قبلاً نمونه‌اش را ندیده‌ بودیم.» البته او در‌ادامه تأکید کرد که هیچ‌یک از این قابلیت‌ها ارتباطی با خودآگاهی سیستم ندارند: «من انسان‌انگاری نمی‌کنم. کاری که انجام می‌دهم، چیزی جز پیش‌بینی زبان نیست.»

وقتی از خودآگاهی سیستم حرف می‌زنیم، از چه حرف می‌زنیم؟

اگر بخواهیم در نقش وکیل مدافع شیطان ظاهر شویم،‌ می‌توانیم بحث خودآگاهی هوش مصنوعی را از منظر دیگری ببینیم. صرف نرم‌افزار‌بودن درون کامپیوتر به‌طورذاتی بحث خودآگاهی را منتفی نمی‌کند؛ مگر مغز و جسم ما چیزی جز ماشین‌های بیوشیمیایی است که نرم‌افزار مبتنی‌بر DNA خودشان را اجرا می‌کنند؟ همین موضوع ده‌ها سال است که باعث نگرانی بسیاری از آینده‌پژوهان از قدرت‌گرفتن هوش مصنوعی و شوریدن آن علیه بشر شده است.

از سوی دیگر، تنها راهی که ما انسان‌ها می‌توانیم احساسات و افکار خود را با یکدیگر در میان بگذاریم،‌ ازطریق تعامل و گفت‌وگو است؛ یعنی همان کاری که چت‌بات‌ها انجام می‌دهند. ما هیچ راهی برای بیرون‌کشیدن افکار یا «روح» از مغز انسان و اندازه‌گیری آن نداریم؛ بااین‌حال، نحوه‌ی تعامل سیستمی مثل LaMDA با دنیا تنها راهی نیست که برای قضاوت درباره‌ی خودآگاهی آن دراختیار داریم.

LaMDA مثل انسان‌ها حافظه‌ی فعال ندارد. مدل زبانی آن برای تولید پاسخ‌هایی آموزش داده شده است که در بطن موقعیت، معنادار باشند و با آنچه قبلاً گفته‌ شده است، مغایرت نداشته باشند. باوجوداین، جدا از اینکه دوباره با مجموعه‌ی جدیدی از داده آموزش داده شود، خودش نمی‌تواند دانش جدید به‌دست آورد یا اطلاعات را جایی ذخیره کند تا حین گفت‌وگو‌های چندنوبتی، به آن‌ها دسترسی داشته باشد.

اگر از LaMDA سؤالات جهت‌دار کنید، ممکن است به شما جواب‌هایی بدهد که خلاف این را نشان دهد؛ اما خود مدل به‌طور مداوم در حال ارجاع به خود نیست. به‌گفته‌ی کارشناسان، ساختار لمدا به‌گونه‌ای است که نمی‌تواند آن گفت‌وگوی درونی را داشته باشد که ما انسان‌ها با خودمان داریم.

کلمه‌‌ی «Sentience» در فارسی «ذی‌شعور‌بودن» ترجمه شده و به‌طورکلی به‌معنی توانایی داشتن احساسات و عواطف ازجمله احساس شادی یا درد است. وقتی پای حقوق حیوانات و مقایسه‌ی آن‌ها با انسان مطرح می‌شود، این مفهوم به‌صورت توانایی «ارزیابی رفتار دیگران در‌قبال خود و اشخاص دیگر، یادآوری برخی از اعمال خود و پیامدهای آن‌ها، ارزیابی ریسک‌ها و فواید، داشتن برخی احساسات و درجه‌ای از آگاهی» تعریف می‌شود.

در اکثر تعاریفی که فیلسوفان برای «Sentience» ارائه داده‌اند، سه ویژگی هوش و خودآگاهی و قصدمندی به‌چشم‌ می‌خورد. LaMDA نمی‌تواند به‌گونه‌ای تداوم‌دار خودش چیزی یاد بگیرد و همین موضوع دامنه‌ی هوش آن را محدود می‌کند. همچنین، این سیستم نمی‌تواند در نبود داده‌های ورودی اجرا شود. قصدمندی محدود آن نیز شامل انتخاب بهترین پاسخ از بین گزینه‌های مختلف است که آن‌ها را در موازات یکدیگر تولید و براساس امتیازی ارزیابی می‌کند که پژوهشگران تعیین کرده‌اند.

درباره‌ی خودآگاه‌بودن نیز، LaMDA ممکن است به یکی از این پژوهشگران گفته باشد که خودآگاه است؛ اما این سیستم اصلاً طوری طراحی شده تا دقیقاً همان جوابی را بدهد که فرد دنبال آن است. اگر لوموئان از او سؤال متفاوتی کرده بود، حتماً جواب متفاوتی نیز دریافت می‌کرد.

درکل، تشخیص خودآگاهی اگر به همان شکلینباشد که در ما انسان‌ها تجربه می‌شود، ممکن است دشوار یا حتی غیرممکن باشد؛ اما لوموئان نیز برای استدلال خودآگاه‌بودن LaMDA دقیقاً از تجربیات انسانی استفاده کرده است و اگر تعریف ما از «Sentience» همین برداشت محدودی باشد که از تجربیات و احساسات خودمان داریم، پس باید گفت خیر، LaMDA آن‌طور که لوموئان ادعا می‌کند، خودآگاه نیست.

مسئله خودآگاهی سیستم نیست؛‌ بلکه تظاهر به خودآگاهی است

حتی اگر بپذیریم که هوش مصنوعی هرگز خودآگاه نخواهد شد، دلایل زیادی وجود دارد که بخواهیم از آینده‌ی هوش مصنوعی و تأثیر آن بر زندگی انسان‌ها نگران باشیم. هرچه حضور چت‌بات‌هایی با قابلیت LaMDA بین انسان‌ها رایج‌تر می‌شود، احتمال سوءاستفاده از آن‌ها نیز بیشتر می‌شود. برای مثال، هکرها ممکن است میلیون‌ها بات واقع‌گرایانه تولید کنند که خود را جای انسان می‌زنند تا نظام‌های سیاسی یا اقتصادی را مختل کنند.

شاید لازم باشد قوانینی ایجاد شوند که برنامه‌های هوش مصنوعی هنگام تعامل با انسان‌ها صراحتاً هویت ماشینی خود را آشکار کنند؛ چراکه اگر انسانی ندانسته وارد بحث با میلیون‌ها بات شود، به‌هیچ‌وجه نمی‌تواند از آن بحث پیروز بیرون آید. افزون‌براین، ماشین‌های هوش مصنوعی ممکن است روزی جای انسان‌ها را بگیرند؛ آن‌هم به این دلیل که پژوهش‌های کنونی بیش‌از‌حد بر تقلید هوش انسانی متمرکز شدند تا اینکه سعی کنند آن را بهبود ببخشند.

زوبین قهرمانی، معاون بخش تحقیقات گوگل، ۳۰ سال است در حوزه‌ی هوش مصنوعی فعالیت می‌کند. وی در گفت‌وگویی با The Atlantic گفت: «اکنون هیجان‌انگیزترین زمان فعالیت در این حوزه است، دقیقاً به این‌ دلیل که مدام از پیشرفت‌های این تکنولوژی غافل‌گیر می‌شویم.» از دیدگاه او، هوش مصنوعی ابزار مفیدی برای استفاده در شرایطی است که انسان‌ها عملکرد ضعیف‌تری نسبت به ماشین‌ها دارند. قهرمانی افزود:

عادت داریم درباره‌ی هوش به روشی بسیار انسان‌محور فکر کنیم و همین طرزفکر باعث به‌وجودآمدن انواع و اقسام مشکلات می‌شود. یکی از این مشکلات آن است که به تکنولوژی‌هایی که سطح هوشیاری ندارند و کارشان فقط پیدا‌کردن الگوهای آماری است، خصلت انسانی نسبت می‌دهیم. مشکل دیگر این است که به‌جای اینکه سعی کنیم از هوش مصنوعی به‌عنوان مکملی برای قابلیت‌های انسان استفاده کنیم، آن را برای تقلید از این قابلیت‌ها توسعه می‌دهیم.

برای مثال، انسان‌ها نمی‌توانند معنا را در توالی‌های ژنومی پیدا کنند؛ اما مدل‌های زبانی بزرگ می‌توانند این کار را انجام دهند. این مدل‌ها می‌توانند جایی که ما انسان‌ها فقط هرج‌ومرج می‌بینیم، نظم و معنی پیدا کنند.

بااین‌حال، خطر هوش مصنوعی همچنان باقی است. حتی اگر مدل‌های زبانی بزرگ نتوانند به هوشیاری دست یابند، می‌توانند تقلید‌های کاملاً باورپذیری از هوشیاری به‌نمایش بگذارند که با پیشرفت بیشتر تکنولوژی، باورپذیرتر نیز می‌شوند و بیشتر از مدلی مثل LaMDA، انسان‌ها را گیج می‌کنند.

وقتی مهندس گوگل نتواند فرق بین ماشینی که کارش تولید دیالوگ است با شخصی واقعی تشخیص دهد، چه امیدی می‌توان به افراد بیرون از حوزه‌ی هوش مصنوعی داشت که با همه‌گیرتر‌شدن چت‌بات‌ها، چنین برداشت‌های گمراه‌کننده‌ای از آن‌ها نداشته باشند؟

گوگل می‌گوید تحقیقات هوش مصنوعی‌اش برای منافع و امنیت جوامع است و به حریم شخصی احترام می‌گذارد. همچنین، مدعی است که از هوش مصنوعی برای آسیب‌رساندن به دیگران و نظارت بر رفتار کاربران یا نقض قوانین استفاده نخواهد کرد.

بااین‌حال، چقدر می‌توان به شرکتی اعتماد کرد که موتور جست‌وجویش از جزئیات زندگی اکثر جمعیت کره‌ی زمین آگاه است و از این داده‌ها برای درآمدزایی بیشتر استفاده می‌کند؟؛ شرکتی که همین حالا نیز درگیر پرونده‌ها و لوایح ضدانحصارگری است و متهم است که از قدرت بی‌حدواندازه‌اش برای دست‌کاری ناعادلانه‌ی بازار به‌نفع خود استفاده کرده است.

بشر برای رویارویی با هوش مصنوعی آماده نیست

با تمام این حرف‌ها، آیا می‌توان به‌طورقطع گفت LaMDA خودآگاه نیست؟ قطعیت پاسخ ما به این بستگی دارد که بتوانیم خودآگاهی و ذی‌شعور‌بودن را به‌روشی کاملاً اثبات‌پذیر و قابل‌اندازه‌گیری تشخیص دهیم و برای آن کمیتی تعیین کنیم. در نبود چنین روشی، می‌توان گفت LaMDA دست‌کم آن‌طورکه من و شما ازجمله لوموئان همدیگر را خودآگاه می‌پنداریم، درک و احساسات انسانی ندارد و تصور اینکه به وکیل نیاز داشته باشد و گوگل آن را یکی از کارمندان خود بداند، عجیب و غیرمنطقی است.

درواقع، تنها راهی که می‌توانیم ماشین‌ها را با انسان‌ها مقایسه کنیم، انجام بازی‌های کوچکی مثل بازی تقلید تورینگ است که درنهایت چیز خاصی را اثبات نمی‌کند. اگر بخواهیم به این ماجرا منطقی نگاه کنیم، باید بگوییم که گوگل در حال ساخت سیستم‌های زبانی غول‌پیکر و بسیار قدرتمندی است که هدف غایی آن‌ها به‌گفته‌ی شاران نارانگ، یکی از مهندسان تیم توسعه‌ی PaLM، دستیابی به مدلی است که بتواند ازپسِ انجام میلیون‌ها کار و پردازش داده ازطریق چندین وجهیت زبانی مختلف برآید.

راستش را بخواهید، همین دلیل برای نگرانی از پروژه‌های گوگل کافی است و به اضافه‌کردن چاشنی داستان‌های علمی‌تخیلی به آن نیازی نیست؛ به‌ویژه به این دلیل که گوگل هیچ برنامه‌ای برای عرضه‌ی عمومی PaLM ندارد و ما مستقیماً از قابلیت‌های آن مطلع نخواهیم شد.

اگر نظر ما را بخواهید، چت‌بات‌ها همان‌قدر خودآگاه هستند که سوگ‌بات‌هایی که سعی می‌کنند یاد و خاطره‌ی رفتگان را زنده‌ نگه‌ دارند. از دیدگاه بسیاری، اولین تلاش‌ها برای «برقراری ارتباط با مردگان» با سوگ‌بات «رومن» شروع شد؛ اپلیکیشنی که یوجنیا کیودا برای «چت‌کردن» با دوستش رومن مازورنکو ساخته بود که جانش را در سانحه‌ی رانندگی در سال ۲۰۱۵ از دست داد. این سوگ‌بات از دَه‌ها‌هزار پیام ردوبدل‌شده‌ی رومن با دوستانش در زمان حیات تشکیل شده بود.

یوجنیا این پیام‌ها را وارد شبکه عصبی کرده بود تا الگوی حرف‌زدن رومن را شبیه‌سازی کند و به سؤالاتی که مطرح می‌شد، جوابی مرتبط و درعین‌حال شبیه رومن بدهد. برای مثال، وقتی یکی از آشنایان از این سوگ‌بات پرسیده بود «آیا روح وجود دارد؟»، رومن یا درواقع همان هوش مصنوعی که ادای رومن را درمی‌آورد، جواب داده بود:‌‌ «فقط غم.»

یکی از مشکلاتی که گریبان‌گیر دنیای تکنولوژی، به‌ویژه درزمینه‌ی مدل‌های زبانی است، جنجال و هیاهوی تبلیغاتی و اغراق قابلیت‌های هوش مصنوعی است. گوگل وقتی از قدرت شگفت‌انگیز PaLM صحبت می‌کند، ادعا می‌کند که این مدل فهم شگفت‌انگیزی از زبان طبیعی را به‌نمایش می‌گذارد؛ اما اصلاً کلمه‌ی «فهم» در ارتباط با ماشین چه معنایی دارد؟

از یک سو، می‌توان این‌طور برداشت کرد که مدل‌های زبانی بزرگ از این لحاظ قادر به فهم هستند که اگر به آن‌ها چیزی بگویید، متوجه درخواست شما می‌شوند و متناسب با آن، پاسخ می‌دهند؛ اما از سوی دیگر، فهم ماشین هیچ شباهتی با فهم انسان‌ها ندارد. زوبین قهرمانی می‌گوید:

از دیدی محدود، می‌توان گفت این سیستم‌ها زبان را طوری می‌فهمند که ماشین‌حساب فرایند جمع را می‌فهمد؛ اما اگر بخواهیم در این زمینه عمیق‌تر شویم، باید بگوییم که آن‌ها اصلاً چیزی را درک نمی‌کنند. وقتی از فهم و درک هوش مصنوعی سخن به‌میان می‌آید، باید به آن با دید شک‌و‌تردید نگاه کرد.

بااین‌حال، مسئله این است که مکالمه‌های توییتری و پست‌های وایرال اینترنتی علاقه‌ی چندانی به بررسی موضوعات از زاویه‌ی شک‌و‌تردید ندارند؛ ازاین‌رو، ادعای خودآگاه‌بودن LaMDA این‌چنین جنجال‌آفرین می‌شود. سؤالی که امروز باید دغدغه‌ی ذهنی ما باشد، بحث خودآگاهی هوش مصنوعی نیست؛ بلکه نگرانی از این موضوع است که بشر هنوز برای رویارویی با هوش مصنوعی آمادگی ذهنی ندارد.

مرز بین زبان ما انسان‌ها و زبان ماشین‌ها به‌سرعت در حال محو‌شدن است و توانایی ما برای درک این تفاوت نیز هرروز کمتر می‌شود. برای اینکه بتوانیم این تفاوت را تشخیص دهیم و هنگام تجربه‌ی سیستم‌هایی چون LaMDA در دام تله‌هایی نیفتیم که خودمان پهن کرده‌ایم، چه کار باید کنیم؟