دوپلکس، دستیار صوتی هوشمند گوگل با چالش‌هایی اجتماعی و اخلاقی

دوپلکس، دستیار صوتی هوشمند گوگل با چالش‌هایی اجتماعی و اخلاقی

دوپلکس، دستیار صوتی هوشمند گوگل با چالش‌هایی اجتماعی و اخلاقی

گوگل در جریان کنفرانس سالانه‌ی خود از هوش مصنوعی خود با قابلیت برقراری تماس مشابه یک انسان رونمایی کرد که بسیار متحیر کننده و شگفت انگیز بود، حال آنکه مشاهده‌ی هوش مصنوعی با چنین قدرتی کمی ترسناک نیز به نظر می‌رسد.چالش های دستیار صوتی هوشمند گوگل را بررسی میکنیم باعصر اطلاعات همراه باشید.  

امروزه با پیشرفت روزافزون فناوری، دیگر بر کسی پوشیده نیست که گوشی‌های موبایل تنها برای مکالمه نیستند و انواع کاربردها را می‌توان از آن‌ها انتظار داشت. در جدیدترین کاربردی که گوگل در مراسم Google IO 2018 از آن رونمایی کرد، گوشی هوشمند می‌تواند با استفاده از هوش مصنوعی به جای شما تماس بگیرد و وقت آرایشگاه بگیرد یا میز رستوران رزرو کند. دمویی که از این ربات با نام گوگل دوپلکس (Duplex) نمایش داده شد حیرت‌آور بود؛ هم از این جهت که صحبت کردن و صدای این ربات سخن‌گو بسیار شبیه انسان بود و هم از این جهت که این نگرانی را به وجود آورد که به زودی خطوط مکالمه‌ی تلفنی پر از ربات‌های غیرقابل تشخیص خواهد شد.

این دستیار صوتی گوگل به واقع از جهاتی می‌تواند بسیار نگران‌کننده باشد. تعامل انسان با ربات وقتی مشخص نیست که تماس‌گیرنده ربات است یا نه کار را بسیار سخت می‌کند و امکان اذیت و آزار را افزایش می‌دهد. وقتی هیچ رابطه‌ی انسانی بین شما و مثلا شخصی که برای شما رزرو میز را انجام می‌دهد وجود ندارد، شما می‌توانید به گوگل دوپلکس بگویید که مدام قرار بگذارد و به تعویق بیاندازد و… حتی احساس شرمندگی نکنید و درخواست‌های مکرر داشته باشید بدون این‌که خودتان یک «لطفا» بگویید.

حقیقت این است که ربات بودن دوپلکس واقعا قابل‌تشخیص نیست و در دمویی که گوگل اجرا کرد، شخص پاسخ‌دهنده واقعا متوجه ماهیت دوپلکس نشد. این دستیار صوتی مجهز به هوش مصنوعی می‌داند چطور به خوبی سؤال بپرسد، کجا مکث کند و حتی «مِن و مِن کردن» را هم بلد است و کاملا شبیه انسان صحبت می‌کند.

دوپلکس در همین مرحله که گوگل آن را آزمایشی می‌داند نیز دستاورد بزرگی به حساب می‌آید؛ اما چالش‌های اخلاقی و اجتماعی خاص خود را نیز به دنبال دارد.

مثلا، آیا گوگل وظیفه ندارد که مردم را از این‌که در حال مکالمه با یک ماشین هستند آگاه کند؟ آیا فناوری با شبیه‌سازی انسان باعث تردید ما در آن‌چه می‌بینیم و می‌شنویم نمی‌شود؟ سپردن تماس‌های خسته‌کننده به ربات از طرفی باعث تسهیل امور تماس‌گیرنده می‌شود؛ اما آیا کسانی که به این تماس‌ها پاسخ می‌دهند و اغلب حقوق کمی دریافت می‌کنند دچار رخوت پاسخگویی به ربات‌ها نخواهند شد؟

گوگل در مراسم رونمایی جزئیات چندانی از چگونگی کار این ربات ارائه نکرد؛ اما مطلبی که در بلاگ گوگل در مورد دوپلکس منتشر شده است اطلاعات خوبی را به دست می‌دهد. اول از همه این‌که دوپلکس یک ماشین گفتگوی هوشمند که بتواند در تمام زمینه‌ها گفتگو کند نیست. آن‌طور که محققان گوگل توضیح داده‌اند، این دستیار صوتی تنها در «حوزه‌های محدودی» می‌تواند گفتگو داشته باشد. در مورد آن‌چه که در هر حوزه گفته می‌شود نیز محدودیت‌هایی اعمال شده است. مثلا ربات پاسخ این سؤالات و صحبت‌ها را برای رزرو میز در رستوران در خود دارد: می‌خواهید میز رزرو کنید؟ چند نفر هستید؟ چه روزی؟ چه ساعتی؟ بسیار خوب، ممنون، خدانگهدار.

مارک ریدل، استادیار حوزه‌ی هوش مصنوعی در جورجیا تک و متخصص گفتگوی رایانه‌ای، در مصاحبه‌ای اذعان داشته است که فکر می‌کند دستیار صوتی گوگل بتواند در موقعیت‌های مشخص به خوبی کار کند؛ اما در مواردی که بحث از حوزه‌ی مورد نظر خارج شود مشکل به وجود خواهد آمد. به گفته‌ی وی در موارد این‌چنینی ترفندهای بسیاری برای پوشاندن ضعف فهمیدن یا برگرداندن بحث به حوزه‌ی قابل فهم برای ربات وجود دارد.

یکی از دموهای گوگل به خوبی نحوه‌ی کار این ترفندها را نشان داد. هوش مصنوعی در مواردی که کج‌فهمی به وجود آمد توانست با تکرار سؤال یا مطرح کردن آن به شکلی دیگر از پس کار بربیاید. گوگل در مطلبی که در بلاگ خود منتشر کرده است جزئیات ترفندهایی که دوپلکس استفاده می‌کند را شرح داده است. این ترفندها در سه دسته‌ جای می‌گیرند. اولین دسته شفاف‌سازی است؛ مثلا هفته‌ی دیگر، جمعه، هجدهم. دسته‌ی دوم اطمینان از برقراری تماس است؛ مثلا جمله‌ای مانند «صدای من را دارید؟» گفته می‌شود. دسته‌ی سوم قطع صحبت است. مثلا مادامی که طرف مقابل در حال خواندن یک شماره است، ربات صحبت وی را قطع کرده و از او می‌خواهد که از ابتدا شماره را بخواند.

باید در نظر داشته باشید که گوگل دوپلکس را یک پروژه‌ی آزمایشی می‌نامد و شاید هرگز شاهد عرضه‌ی آن نباشیم؛ اما در حال حاضر این دستیار صوتی از سه موقعیت پشتیبانی می‌کند. رزرو کردن میز غذا در رستوران، وقت گرفتن برای آرایشگاه و پرسش از مشاغل در خصوص زمان آزاد آن‌ها. دوپلکس قرار است جهت تست، در تابستان پیش‌رو در اختیار تعداد محدود و نامشخصی از کاربران قرار بگیرد.

نکته‌ی دیگر در مورد دوپلکس این است که به گفته‌ی گوگل، اگر مکالمه به طرق پیش‌بینی شده پیش نرود و دوپلکس متوجه شود که روند مکالمه طوری است که ادامه‌ی آن خارج از توانایی آن است، سیگنالی را به یک اپراتور انسان می‌فرستد تا او کار را بر عهده بگیرد. این اتفاق مشابه چیزی است که در ربات هوشمند فیسبوک نیز شاهد بودیم. در مورد ربات فیسبوک چون ربات توانایی پاسخ‌گویی چندانی نداشت حجم بالایی از درخواست‌ها را به اپراتورها منتقل می‌کرد و نهایتا فیسبوک سه ماه پیش آن را متوقف کرد.

مواردی که تا کنون مطرح شد تصویر شفاف‌تری از طرز کار دوپلکس به ما می‌دهد؛ اما نگرانی اصلی در مورد تأثیر استفاده ازدوپلکس و مسئولیتی است که گوگل در قبال آن دارد.

سؤال مهمی که پیش‌تر نیز به آن اشاره کردیم این است که آیا گوگل نباید این حق را برای طرف دیگر مکالمه قائل باشد که بداند در حال مکالمه با یک ربات است؟ گوگل در دو اظهار نظر مختلف دو پاسخ مثبت متفاوت به این سؤال داده است؛ یکی «احتمالا چنین است» و دیگر «قطعا همین طور است». این در حالی است که در مراسم رونمایی از این دستیار صوتی هرگز چنین مسئله‌ای مطرح نشد.

مسئله‌ای که در این خصوص وجود داد این است که چطور باید به طرف دیگر مکالمه گفته شود که در حال مکالمه با یک ربات است. اگر دستیار صوتی خیلی مستقیم در ابتدای مکالمه بگوید: «سلام، من یک ربات هستم»، احتمالا طرف مقابل تماس را قطع خواهد کرد. راهکارهای دیگر می‌توانند کاهش شباهت صدای ربات به صدای انسان و پخش نوعی صوت هنگام مکالمه باشند. گوگل می‌گوید امیدوار است بتواند قراردادهایی اجتماعی را در این خصوص در بین مردم جا بیاندازد که به واسطه‌ی آن‌ها مشخص شود که تماس‌گیرنده یک هوش مصنوعی است.

جانا برایسن، استادیار دانشگاه Bath که در حوزه‌ی اخلاق هوش مصنوعی مطالعه دارد، در مصاحبه‌ای گفته است که گوگل مسلما وظیفه دارد راهی برای فاش کردن هویت ربات خود پیدا کند؛ چرا که در غیر اینصورت بستر برای مزاحمت‌های تلفنی و تماس‌های آزاردهنده و خودکار فراهم خواهد بود و تبعات وحشتناکی به دنبال خواهد داشت.

رایسون همچنین معتقد است واگذار کردن این مسئولیت که شرکت سازنده کافی نیست و باید قوانینی در این خصوص برای حفاظت از مردم وضع شود. به گفته‌ی وی اگر قانونی وضع نشود، شاید گوگل خطا نرود، اما شرکت‌هایی که در جایگاه‌های پایین‌تری نسبت به گوگل قرار دارند قطعا از این فناوری سوء‌استفاده خواهند کرد.

الکسی مادریگال، یکی از تحلیل‌گران مجله‌ی آتلانتیک، در خصوص تبعات اجتماعی دوپلکس ابراز نگرانی کرده و نوشته است که برخوردهای عمومی و احوال‌پرسی‌های تلفنی باعث مجموعه‌ای از احترامات و اعتمادهای اجتماعی می‌شود. با رواج استفاده از ربات جهت برقراری تماس، یک گام دیگر به سمت حذف تعاملات اجتماعی خواهیم رفت.

از سوی دیگر استفاده از ربات ممکن است باعث بروز برخی رفتارهای ناهنجار شود. مثلا میزان ادب شخص پاسخ‌دهنده در صورتی که بداند با ربات صحبت می‌کند پایین خواهد آمد و ممکن است این رفتار در او نهادینه شود. به عنوان تماس گیرنده نیز وقتی ربات برای ما میز رزرو کند مسئولیت اجتماعی کمتری احساس خواهیم کرد و ممکن است اهمیتی نداشته باشد که در ساعت رزرو شده در رستوران حضور پیدا کنیم یا نه.

برایسن معتقد است گوگل با جلب توجه کاربران به سمت این نوع فناوری در حال ارائه‌ی خدمتی دیگر است. خدمتی که گوگل تنها ارائه‌کننده‌ی آن نیست و تنها شرکتی هم نخواهد بود که از آن بهره می‌برد. به اعتقاد او آن‌چه که اهمیت دارد آگاهی شهروندان است و ویدیوهای دموی گوگل در خصوص به‌کارگیری از این فناوری می‌توانند مؤثر باشند.

در مجموع باید گفت تا زمان عرضه‌ی یک فناوری این‌چنینی نگرانی‌های زیادی وجود دارد که باید در خصوص آن‌ها بحث و تبادل نظر شود.

منبع: