منبع: بنیاد طراحی تعامل (IxDF) · بازنویسی آزاد: سپنتا پویا با کمک هوش مصنوعی · مهر ۱۴۰۵ · زمان مطالعه: حدود ۱۰ دقیقه

هوش مصنوعی باریک (Narrow AI) چیست؟

💡 این متن «بازنویسی آزاد» است: ایده‌ها و مفاهیم مطلب اصلی با نگارش کاملاً مستقل فارسی و مثال‌های تازه بازگو شده‌اند و ترجمهٔ کلمه‌به‌کلمه نیست. بخش‌های افزودهٔ مترجم در جعبهٔ منبع مشخص شده‌اند. ترجمه و بازنویسی این متن با کمک هوش مصنوعی انجام شده است.

برنامهٔ شطرنجی که روی گوشی‌تان است، قهرمان جهان را شکست می‌دهد. همان برنامه اگر وسط بازی بپرسید «هوا بیرون چطور است؟»، هیچ جوابی ندارد. حتی نمی‌فهمد سؤالی پرسیده‌اید.

این تضاد، یعنی نبوغ در یک کار و هیچ در کار کناری، تعریف تقریباً همهٔ هوش مصنوعی‌ای است که امروز با آن سروکار داریم. اسمش هوش باریک است. برای طراح، مهم‌ترین چیز دربارهٔ آن این نیست که چقدر باهوش است. این است که مرز هوشش کجاست و کاربر آن مرز را از کجا بفهمد.

هوش مصنوعی باریک چیست؟

هوش مصنوعی باریک (Narrow AI)، که گاهی هوش ضعیف هم خوانده می‌شود، به سامانه‌هایی می‌گویند که برای یک کار مشخص یا مجموعه‌ای محدود از کارها ساخته شده‌اند. در همان محدوده می‌توانند بسیار دقیق باشند. بیرون از آن، دانش و مهارتشان را نمی‌توانند به کار دیگری منتقل کنند.

منبع، که بر پایهٔ ویدئوهای ایوانا تلیانو، طراح محصولات هوش مصنوعی، نوشته شده، این را در برابر هوش عمومی مصنوعی تعریف می‌کند. هوش عمومی سامانه‌ای فرضی است که هر کار فکری‌ای را که انسان می‌تواند، انجام دهد. تفاوت این دو را در مقالهٔ هوش عمومی در سه محور دامنه، یادگیری و انعطاف باز کرده‌ایم، و اینجا تکرارش نمی‌کنم.

یک نکتهٔ تاریخی که در منبع نیامده: واژه‌های «ضعیف» و «قوی» را جان سرل، فیلسوف آمریکایی، در سال ۱۹۸۰ رایج کرد. منظور او در اصل دربارهٔ ذهن بود. هوش مصنوعی قوی یعنی رایانه‌ای که واقعاً می‌فهمد. هوش ضعیف یعنی رایانه‌ای که فقط رفتار فهمیدن را شبیه‌سازی می‌کند. امروز این واژه‌ها بیشتر به گستردگی توانایی اشاره می‌کنند تا به فهم. منبع هم در پرسش‌وپاسخش همین تفاوت ظریف را می‌گوید: «باریک» روی تمرکز تأکید دارد و «ضعیف» روی محدود بودن توان شناختی در مقایسه با انسان.

نمونه‌هایی که هر روز می‌بینیم

منبع فهرستی از نمونه‌ها می‌آورد: دستیارهای صوتی، الگوریتم‌های پیشنهاد در سرویس‌های پخش، چت‌بات‌های پشتیبانی، تشخیص چهره و تحلیل تصویر پزشکی، کشف تقلب در بانک‌ها، ترجمهٔ ماشینی، و تشخیص اشیا در خودروهای خودران.

بیشتر هوش باریک امروز اما نامرئی است. فیلتر هرزنامه در ایمیل، پیش‌بینی واژهٔ بعدی روی صفحه‌کلید گوشی، تخمین زمان رسیدن در مسیریاب، و بریدن خودکار پس‌زمینه در عکس پرسنلی. هیچ‌کدام خودشان را «هوش مصنوعی» معرفی نمی‌کنند، و کاربر هم معمولاً فقط وقتی متوجهشان می‌شود که اشتباه می‌کنند.

نمودار بالای صفحه منطق همهٔ این‌ها را نشان می‌دهد. هر کدام یک ستون بلند روی کار خودش است. سامانه‌ای که چهره را بهتر از انسان تشخیص می‌دهد، نمی‌تواند یک جمله ترجمه کند. و هنوز کارهایی هستند، مثل رانندگی در برف سنگین در خیابانی ناآشنا، که هیچ ستونی برایشان به اندازهٔ انسان بلند نشده.

«باریک» را نباید با «کوچک» یا «ساده» اشتباه گرفت. سامانه‌ای که از روی تصویر رادیولوژی نشانه‌های بیماری را پیدا می‌کند، باریک است، ولی ساختنش سال‌ها کار و میلیون‌ها تصویر برچسب‌خورده لازم داشته. باریکی دربارهٔ دامنه است، نه دربارهٔ پیچیدگی. همین است که آن را برای طراح مهم می‌کند: هرچه سامانه در دامنه‌اش بهتر باشد، کاربر راحت‌تر فراموش می‌کند که دامنه‌ای در کار است.

پرسش جنجالی: مدل‌های زبانی باریک‌اند؟

این بخش افزودهٔ من است، چون منبع به این پرسش یک پاسخ یک‌خطی می‌دهد که به نظرم بحث بیشتری لازم دارد.

منبع در پرسش‌وپاسخ صفحه می‌گوید چت‌جی‌پی‌تی نمونه‌ای از هوش باریک است، چون در یک حوزه، یعنی پردازش زبان، تخصص دارد. این پاسخ از یک نظر درست است. مدل زبانی از جهان فقط متن را دیده و خودش نمی‌تواند در جهان عمل کند.

ولی از نظر دیگر، «باریک» توصیف دقیقی نیست. همان مدل شعر می‌گوید، کد می‌نویسد، ایمیل خلاصه می‌کند و مسئلهٔ ریاضی حل می‌کند. این‌ها کارهای کاملاً متفاوتی‌اند. شاید دقیق‌تر این باشد که بگوییم مدل‌های زبانی نه باریک‌اند و نه عمومی. پهن‌اند، ولی مرزشان صاف نیست.

پژوهشی در سال ۲۰۲۳ با همکاری دانشکدهٔ کسب‌وکار هاروارد و یک شرکت مشاوره اسم خوبی برای این وضعیت پیدا کرد: «مرز دندانه‌دار». پژوهشگرها به صدها مشاور کارهای مختلف دادند، با و بدون دسترسی به مدل زبانی. در کارهایی که داخل توانایی مدل بود، کسانی که از آن استفاده کردند سریع‌تر و بهتر کار کردند. در کاری که ظاهراً هم‌سطح بود ولی بیرون از توانایی مدل افتاده بود، همان‌ها بیشتر از گروه بدون مدل به جواب غلط رسیدند.

نکتهٔ طراحی همین است. مرزی که از بیرون دیده نمی‌شود، خطرناک‌تر از مرزی است که کوتاه ولی روشن است. برنامهٔ شطرنج هیچ‌وقت کسی را گول نمی‌زند که دربارهٔ هوا چیزی می‌داند. مدلی که دربارهٔ همه‌چیز با اطمینان حرف می‌زند، ممکن است بزند.

مرز توانایی را طراحی کنید

این بخش هم افزودهٔ من است و به نظرم مهم‌ترین درس هوش باریک برای طراح محصول است. هر سامانهٔ باریک سه ناحیه دارد و هر ناحیه رفتار رابط متفاوتی می‌خواهد. نمودار زیر آن را با یک اپ تشخیص گیاه از روی عکس نشان می‌دهد.

درون دامنه. ورودی شبیه همان چیزی است که سامانه با آن آموزش دیده. اینجا پاسخ مستقیم و مطمئن درست است. پرسیدن مدام «مطمئنید؟» فقط کاربر را خسته می‌کند.

روی لبه. ورودی کمی با داده‌های آموزش فرق دارد، مثلاً عکس تار است یا نور کم. اینجا سامانه‌های باریک بیشتر از همه خطا می‌کنند، و بدتر اینکه اغلب با همان اطمینان خطا می‌کنند. رابط باید تردید را نشان دهد. دو یا سه گزینه با درصد اطمینان بهتر از یک جواب قطعی است.

بیرون. ورودی اصلاً از جنس دامنه نیست. کسی عکس قارچ داده به اپی که گیاه آپارتمانی می‌شناسد. خطرناک‌ترین رفتار اینجا «حدس» است. قارچ اشتباه تشخیص‌داده‌شده ممکن است سمی باشد. رابط باید بتواند بگوید «این را نمی‌شناسم».

سالِما امرشی و همکارانش در مایکروسافت در سال ۲۰۱۹ هجده رهنمود برای تعامل انسان و هوش مصنوعی منتشر کردند. دو رهنمود اولشان دقیقاً همین است. روشن کنید سامانه چه کاری از دستش برمی‌آید، و روشن کنید آن کار را چقدر خوب انجام می‌دهد. راهنمای «آدم‌ها و هوش مصنوعی» گوگل هم در همان سال همین را از زاویهٔ انتظارسازی گفت. هر دو را در تعامل انسان و هوش مصنوعی بیشتر باز کرده‌ایم.

وقتی هوش باریک اشتباه می‌کند

این بخش هم افزودهٔ من است. هر سامانهٔ باریک دیر یا زود اشتباه می‌کند، حتی درون دامنه. پرسش این نیست که اشتباه می‌کند یا نه. پرسش این است که بعد از اشتباه چه اتفاقی می‌افتد.

اصلاح باید یک حرکت باشد. فیلتر هرزنامه‌ای که ایمیل مهمی را کنار گذاشته، باید دکمهٔ «هرزنامه نیست» را همان‌جا نشان دهد. صفحه‌کلیدی که واژهٔ فارسی را به واژهٔ دیگری «تصحیح» کرده، باید با یک لمس برگرداندن را ممکن کند. اگر اصلاح سخت‌تر از انجام دستی کار باشد، کاربر کم‌کم کل سامانه را خاموش می‌کند.

با اطمینان کم، اقدام نکنید. پیشنهاد دادن و انجام دادن دو چیز متفاوت‌اند. سامانه‌ای که مطمئن نیست، می‌تواند پیشنهاد بدهد و منتظر تأیید بماند. سامانه‌ای که خودش پول جابه‌جا می‌کند، پیام می‌فرستد یا فایل پاک می‌کند، باید آستانهٔ اطمینان بسیار بالاتری داشته باشد، یا اصلاً بدون تأیید کاربر کاری نکند.

اصلاح را به یادگیری تبدیل کنید، و این را بگویید. وقتی کاربر یک پیشنهاد را رد می‌کند، اگر سامانه از آن یاد می‌گیرد، یک جملهٔ کوتاه کافی است: «کمتر از این نوع پیشنهاد می‌دهیم». کاربری که ببیند اصلاحش اثر دارد، دوباره اصلاح می‌کند.

مراقب اعتماد بیش از حد باشید. خطر مقابل هم هست. راجا پاراسورامان و ویکتوریا رایلی در سال ۱۹۹۷ نشان دادند که آدم‌ها وقتی یک سامانهٔ خودکار چند بار درست کار کند، کم‌کم بررسی خروجی‌اش را کنار می‌گذارند. به این «سوگیری خودکارسازی» می‌گویند. سامانهٔ باریکی که نود و پنج درصد مواقع درست است، دقیقاً همان سامانه‌ای است که کاربر در پنج درصد باقی‌مانده به آن اعتماد می‌کند. برای تصمیم‌های پرهزینه، رابط باید گاهی عمداً کاربر را به بازبینی دعوت کند.

جاهایی که طراح از هوش باریک استفاده می‌کند

منبع دو فهرست دارد. فهرست اول کاربردهای هوش باریک در محصولی است که طراح می‌سازد.

شخصی‌سازی رابط، مثل پیشنهاد آهنگ و فیلم. پیش‌بینی رفتار، مثل فروشگاهی که کالاهای احتمالاً جذاب را جلوتر می‌چیند. پشتیبانی با چت‌بات، به شرطی که لحنش با برند بخواند. تشخیص تصویر در واقعیت افزوده، مثل اپی که در فروشگاه مسیر رسیدن به یک قفسه را نشان می‌دهد. و گزینش محتوا، مثل صفحهٔ نتیجهٔ جست‌وجو که برای یک فیلم ساعت نمایش و برای یک پرواز زمان‌بندی نشان می‌دهد.

فهرست دوم کاربرد هوش باریک در فرایند خود طراحی است. منبع از تحلیل داده‌های رفتاری برای تصمیم‌گیری شروع می‌کند. بعد خودکار کردن کارهای تکراری مثل تغییر اندازهٔ تصویر و برچسب‌زدن فایل‌ها را می‌آورد. تولید سریع چند نسخه برای نمونه‌سازی، پیش‌بینی روندهای بصری و فهم بریف‌های نوشته‌شده به زبان طبیعی هم در همین فهرست‌اند.

یک نکته دربارهٔ فهرست دوم. هر کدام از این ابزارها هم باریک‌اند و همان سه ناحیه را دارند. ابزاری که پس‌زمینهٔ عکس را خوب می‌بُرد، در عکسی با موی فرفری روی زمینهٔ شلوغ روی لبه است. طراحی که این را بداند، خروجی ابزار را بازبینی می‌کند. طراحی که نداند، خطای ابزار را به محصول می‌برد.

در بافت فارسی

مرز توانایی هر سامانه به داده‌ای بستگی دارد که با آن آموزش دیده. برای کاربر فارسی‌زبان، این مرز معمولاً جای دیگری است.

یک: گفتار فارسی هنوز روی لبه است. داده‌های صوتی فارسی از انگلیسی بسیار کمترند. تشخیص گفتار و صدای ساختگی فارسی خطای بیشتری دارند، به‌خصوص با نام‌های خاص و واژه‌های انگلیسی وسط جمله. اگر رابط صوتی فارسی می‌سازید، همیشه راه دیگری، مثل تایپ یا انتخاب از فهرست، کنارش بگذارید.

دو: متن محاوره‌ای و لهجه. فارسی نوشتاری و فارسی پیام‌رسان‌ها دو زبان‌اند. «میخوام بدونم کی میرسه» با «می‌خواهم بدانم کی می‌رسد» برای مدلی که با متن رسمی آموزش دیده، یکی نیست. پیام‌های پشتیبانی واقعی کاربرانتان را در آزمون مدل بگذارید، نه متن‌های تمیز.

سه: پیشنهاددهی بدون داده. سرویس تازه‌ای که هنوز کاربر کمی دارد، پیشنهادهای خوبی نمی‌دهد. این مشکل به «شروع سرد» معروف است. پنهانش نکنید. در هفته‌های اول، پیشنهادها را با عنوانی مثل «پرطرفدارها» نشان دهید، نه «مخصوص شما».

چهار: تشخیص تقلب و پیامک. سامانه‌های کشف تقلب بانکی باریک‌اند و گاهی تراکنش سالم را مشکوک می‌بینند. پیامکی که فقط می‌گوید «کارت شما مسدود شد»، کاربر را نگران و بی‌پناه می‌کند. پیامی که می‌گوید چرا، مثلاً خرید از شهری دیگر، و چطور رفعش کند، همان خطا را قابل‌تحمل می‌کند.

پنج: دامنهٔ آموزش را بگویید. مدلی که با عکس‌های پوست کاربران اروپایی آموزش دیده، روی پوست کاربران دیگر ممکن است ضعیف‌تر باشد. مدلی که با قیمت‌های بازار دیگری آموزش دیده، بازار ایران را نمی‌شناسد. اگر دامنهٔ آموزش با کاربر شما فرق دارد، او حق دارد بداند. این همان شفافیتی است که در هوش مصنوعی انسان‌محور از آن حرف زدیم.

جمع‌بندی

هوش مصنوعی باریک برای یک کار یا مجموعه‌ای محدود از کارها ساخته می‌شود. در همان محدوده می‌تواند از انسان بهتر باشد و بیرون از آن هیچ است. تقریباً همهٔ هوش مصنوعی امروز، از فیلتر هرزنامه تا تشخیص چهره، از این جنس است.

مدل‌های زبانی این تعریف را پیچیده کرده‌اند. پهن‌اند ولی مرز دندانه‌دار دارند. برای طراح، برچسب اهمیت کمتری دارد تا خود مرز. درون دامنه با اطمینان پاسخ دهید. روی لبه تردید را نشان دهید. بیرون از آن بگویید «نمی‌دانم».

اگر بخواهم یک پرسش بگذارم: سامانهٔ هوشمندی که در محصول شما هست، وقتی ورودی‌اش بیرون از دامنه است چه می‌کند، و کاربر از کجا می‌فهمد؟