منبع: بنیاد طراحی تعامل (IxDF) · بازنویسی آزاد: سپنتا پویا · مرداد ۱۴۰۵ · زمان مطالعه: حدود ۱۶ دقیقه

هوش مصنوعی (Artificial Intelligence) چیست؟

💡 این متن «بازنویسی آزاد» است: ایده‌ها و مفاهیم مطلب اصلی با نگارش کاملاً مستقل فارسی و مثال‌های تازه بازگو شده‌اند و ترجمهٔ کلمه‌به‌کلمه نیست. بخش‌های افزودهٔ مترجم در جعبهٔ منبع مشخص شده‌اند.

بیشتر بحث‌هایی که در تیم‌های محصول دربارهٔ هوش مصنوعی می‌شود، سر یک چیز گره می‌خورد: دو نفر یک اسم را می‌گویند و دو چیز کاملاً متفاوت در ذهن دارند. یکی به یک دسته‌بند محدود فکر می‌کند که نرخ خطایش را می‌شناسد، و دیگری به چیزی که قرار است «بفهمد». تصمیم‌هایی که از دل این بحث بیرون می‌آید، ناگزیر بد است.

تعریف

منبع تعریف متعارف را می‌آورد: هوش مصنوعی به سیستم‌های رایانه‌ای گفته می‌شود که کارهایی را انجام می‌دهند که معمولاً به هوش انسانی نیاز دارند — یادگیری، استدلال، و حل مسئله.

این تعریف کار می‌کند، اما یک خصوصیت دارد که بهتر است از اول بدانید: مرزش جابه‌جا می‌شود. تشخیص دست‌خط، ترجمهٔ ماشینی و پیشنهاد مسیر، هر سه در زمان خودشان نمونهٔ شاخص هوش مصنوعی بودند و امروز فقط «قابلیت» به حساب می‌آیند. هر چیزی که به‌اندازهٔ کافی خوب کار کند، از این تعریف بیرون می‌رود و اسم دیگری می‌گیرد.

برای ما که محصول می‌سازیم، نتیجهٔ عملی‌اش این است که «آیا این هوش مصنوعی است؟» پرسش بی‌حاصلی است. پرسش کارآمد این است: این سیستم چه چیزی را حدس می‌زند، و چقدر بد حدس می‌زند؟ هر چیزی که حدس می‌زند — هر قدر هم دقیق — یک نرخ خطا دارد، و آن نرخ خطا در رابط کاربری ظاهر می‌شود، نه در مستندات مدل.

سه چیزی که همه‌شان را «هوش مصنوعی» می‌نامیم

منبع سه سطح را از هم جدا می‌کند، و همین تفکیک بیشتر بحث‌های بی‌نتیجه را حل می‌کند:

• - هوش مصنوعی باریک (Narrow AI): برای یک کار مشخص ساخته شده و فقط همان را انجام می‌دهد. رتبه‌بندی یک فهرست، تشخیص تراکنش مشکوک، خواندن یک پلاک، دسته‌بندی یک تیکت پشتیبانی.
• - هوش مصنوعی مولد (Generative AI): بر پایهٔ الگوهایی که آموخته، محتوای تازه می‌سازد — متن، تصویر، کد.
• - هوش مصنوعی عمومی (General AI): سیستمی با توانایی در سطح انسان روی هر کاری. منبع تصریح می‌کند که این هنوز محقق نشده است.

تفاوت باریک و مولد از نظر طراحی از تفاوت هر دو با عمومی مهم‌تر است، و کمتر به آن توجه می‌شود. سیستم باریک یک پاسخ درست دارد که بیرون از سیستم قابل تعیین است؛ پس می‌توان دقتش را سنجید، آستانه گذاشت، و رابط را حول آن آستانه ساخت. سیستم مولد پاسخ درست ندارد — ده خروجی می‌دهد که همه قابل‌قبول‌اند و هیچ‌کدام «درست» نیست. پرسیدن «دقتش چند است؟» از یک سیستم مولد، پرسش بی‌معناست؛ پرسش درست این است که چه کسی این خروجی را تأیید می‌کند و بر چه معیاری.

و هوش مصنوعی عمومی، با اینکه محصول نیست، بی‌اثر نیست: انتظار کاربر را تعیین می‌کند. کسی که با تصور یک سیستم همه‌فهم سراغ یک دسته‌بند محدود می‌آید، پرسشی می‌پرسد که آن سیستم هرگز برایش ساخته نشده، پاسخ مطمئن را باور می‌کند، و بعد از نخستین شکست به کل محصول بی‌اعتماد می‌شود.

هفت ویژگی یک سیستم قابل‌اعتماد

مهم‌ترین چیزی که منبع به دست می‌دهد، یک فهرست است: هفت ویژگی که NIST (مؤسسهٔ ملی استانداردها و فناوری آمریکا) برای سیستم هوش مصنوعی قابل‌اعتماد برمی‌شمارد:

• - ۱. معتبر و قابل‌اتکا: کاری که وعده داده را درست انجام می‌دهد و رفتارش پایدار است.
• - ۲. ایمن: به کاربر یا محیط آسیب نمی‌رساند.
• - ۳. امن و تاب‌آور: در برابر سوءاستفاده مقاوم است و در شرایط غیرمنتظره فرو نمی‌ریزد.
• - ۴. پاسخ‌گو و شفاف: روشن است که چه کسی مسئول است و سیستم چه می‌کند.
• - ۵. توضیح‌پذیر و تفسیرپذیر: می‌توان گفت چرا به این نتیجه رسیده.
• - ۶. حافظ حریم خصوصی: دادهٔ شخصی را بیش از نیاز نمی‌گیرد و نگه نمی‌دارد.
• - ۷. منصف با سوگیری مدیریت‌شده: سوگیری زیان‌بار در آن شناسایی و کنترل شده است.

و راهبرد کلی که منبع پیش می‌گذارد، یک جمله است: شفافیت، تا جایی که کاربر را زیر جزئیات فنی خفه نکند. منبع همچنین چند مشکل مشخص و راه‌حلشان را فهرست می‌کند — از ترس و بدفهمی کاربر و نگرانی حریم خصوصی تا شکست سیستم، نبود پاسخ‌گویی، و تصمیم‌های غیرقابل‌توضیح — و برای هرکدام تدبیری مثل رضایت صریح، تعریف سنجه‌های موفقیت، آزمون سخت‌گیرانه، و متناسب‌سازی توضیح با نقش کاربر پیشنهاد می‌دهد.

اعتماد ویژگی مدل نیست؛ وعدهٔ رابط است

این بخش افزودهٔ مترجم است، و به‌نظرم مهم‌ترین چیزی است که از آن فهرست هفت‌گانه می‌توان بیرون کشید.

فهرست NIST معمولاً به‌عنوان یک سند مهندسی خوانده می‌شود — چیزی که تیم داده باید رعایتش کند. اما اگر یکی‌یکی مرورش کنید، می‌بینید شش مورد از هفت مورد، بعد از تمام‌شدن مدل تعیین می‌شوند. پاسخ‌گویی یعنی کاربر در لحظهٔ خطا به چه کسی می‌رسد و در چند قدم. شفافیت یعنی چه چیزی روی صفحه نوشته می‌شود. تاب‌آوری یعنی محصول در روزی که مدل در دسترس نیست چه نشان می‌دهد. توضیح‌پذیری یعنی کدام توضیح، برای کدام مخاطب. حریم خصوصی یعنی آیا کسی که «نه» می‌گوید هنوز می‌تواند از محصول استفاده کند.

هیچ‌یک از این‌ها با مدل بهتر حل نمی‌شود. یعنی جملهٔ «اعتماد را در نسخهٔ بعد درست می‌کنیم، فعلاً دقت را بالا ببریم» یک خطای دسته‌بندی است: دقت بالادست است و اعتماد پایین‌دست، و فقط دومی است که در دست طراح است و می‌تواند از دستش برود.

دو نتیجهٔ عملی از این بازخوانی می‌گیرم:

• - رضایت باید «قابل‌زیستن» باشد. اگر کاربری که اجازهٔ استفاده از داده‌اش را نمی‌دهد با محصولی روبه‌رو شود که کار نمی‌کند، آن رضایت از اول رضایت نبوده؛ باج‌گیری بوده. این دقیقاً همان مرزی است که در الگوهای فریبنده رد می‌شود، و بند ششم آن فهرست بی‌آن معنا ندارد.
• - توضیح یکی نیست، سه‌تاست. کاربر نهایی می‌خواهد بداند چه کاری بکند، بازبین می‌خواهد بداند بر چه پایه‌ای تصمیم گرفته شده، و حسابرس می‌خواهد بداند چه چیزی ثبت شده. یک متن واحد هیچ‌کدام را راضی نمی‌کند و معمولاً دومی و سومی کلاً فراموش می‌شوند.

و یک تنش واقعی هم در آن فهرست هست که منبع درست به آن اشاره می‌کند: بند ششم و بند هفتم همدیگر را می‌کشند. برای اینکه بفهمید سیستمتان دربارهٔ گروهی سوگیری دارد، باید بدانید چه کسی عضو آن گروه است — و این یعنی جمع‌آوری همان صفتی که حریم خصوصی می‌گوید جمع نکن. این تنش راه‌حل تمیز ندارد؛ فقط تصمیم آگاهانه دارد.

از سازنده به کارگردان

منبع در مقالهٔ همراهش نکتهٔ درستی دربارهٔ خودِ کار طراحی می‌گوید: نقش طراح از سازنده به کارگردان جابه‌جا می‌شود، و فهرست بلندی از کارهای عملی می‌دهد — مرتب‌کردن یادداشت‌های پژوهش، خوشه‌بندی مضمون‌ها، ساختن صورت‌بندی‌های مختلف از مسئله، تولید انبوه ایده، ساختن حالت‌های خطا و متن‌های جایگزین، و نوشتن پیش‌نویس یادداشت انتشار و مستندات.

چیزی که من به این تصویر اضافه می‌کنم این است: گلوگاه جابه‌جا شده، نه حذف. قبلاً ساختن سه گزینه گران بود، پس سه گزینه بازبینی می‌کردید؛ کمبود، کار غربال را برایتان انجام می‌داد. الان چهل گزینه در یک دقیقه می‌آید که همه‌شان محتمل‌اند و هیچ‌کدام پاسخ‌گو نیست، و هیچ چیزی جز خودتان غربالشان نمی‌کند. مهارتی که ارزش پیدا می‌کند، ساختن نیست؛ گفتن این است که پیش از دیدن گزینه‌ها، چه چیزی یک گزینه را درست می‌کند.

چهار بازبینی که در کار خودم مفید دیده‌ام:

• - ۱. سرمنشأ: این ادعا از کجا آمده و می‌توانم به منبعش برسم؟ اگر نه، ادعا نیست؛ لحن است.
• - ۲. غایب: چه چیزی نیست که یک آدم آشنا به این حوزه انتظار داشت باشد؟ خروجی مولد در حذف‌کردن بی‌صداست.
• - ۳. میانگین: این گزینه یک تصمیم است یا میانهٔ هر چیزی که تا امروز ساخته شده؟
• - ۴. هزینه: اگر این غلط باشد و منتشر شود، چه کسی هزینه‌اش را می‌دهد و آیا خودش می‌فهمد؟

بازبینی سوم آن است که تقریباً هیچ‌کس اجرا نمی‌کند، و ساختاری‌ترینشان است. خروجی مولد به مرکز توزیعی که از آن آموخته کشیده می‌شود؛ یعنی به‌طور ساختاری بی‌نقص و بی‌خصوصیت است. هیچ جلسهٔ بازبینی‌ای «این خوب است ولی هیچ تصمیمی در آن نیست» را به‌راحتی نمی‌گیرد، چون چیزی برای ایراد گرفتن وجود ندارد.

جایی که این ابزار در کار طراحی شکست می‌خورد

این بخش هم افزودهٔ مترجم است. منبع فهرست کاربردها را می‌دهد اما جای شکستشان را نه، و به‌نظرم چند مورد به‌قدری تکرارشونده‌اند که ارزش نام‌بردن دارند.

• - خلاصه‌سازی پژوهش، پرت را حذف می‌کند. ارزش سی مصاحبه در الگوی مشترکشان نیست — آن را از قبل حدس می‌زدید — بلکه در آن یک نفری است که کار عجیبی می‌کرد. و خلاصه‌ساز، دقیقاً به‌حکم کاری که می‌کند، همان یک نفر را دور می‌ریزد. اگر پژوهش کاربر را این‌طور خلاصه کنید، تأییدی برای فرض‌های خودتان می‌گیرید و اسمش را بینش می‌گذارید.
• - سوگیری خودکارسازی، بازبین را از کار می‌اندازد. وقتی نُه پیشنهاد پشت‌سرهم درست باشد، آدم دهمی را نگاه نمی‌کند. این ویژگی انسان است، نه بی‌دقتی: مدل ذهنی کاربر از ابزار به‌سرعت «قابل‌اعتماد» می‌شود و بازبینی به آیین تبدیل می‌شود. پس اگر طراحی شما به «کاربر خروجی را چک می‌کند» تکیه دارد، به چیزی تکیه کرده که با بهتر شدن مدل ضعیف‌تر می‌شود.
• - لحن مطمئن، مستقل از درستی است. یک سیستم زبانی وقتی نمی‌داند هم روان و محکم حرف می‌زند. تنها جایی که این را می‌شود جبران کرد رابط است — و راه جبرانش نوشتن «ممکن است خطا کند» زیر جعبه نیست، که همه یاد گرفته‌اند نادیده‌اش بگیرند.
• - و اختیار کاربر بی‌سر‌و‌صدا کم می‌شود. هر پیشنهاد پیش‌فرض، یک تصمیم را از کاربر می‌گیرد. این معاملهٔ بدی نیست، اما معامله است؛ و اگر جمع این پیش‌فرض‌ها را کسی حساب نکند، محصول در نهایت عاملیت را با راحتی عوض کرده بی‌آنکه یک بار تصمیم گرفته باشد.

در بافت فارسی: زبان کم‌منبع یک محدودیت طراحی است

و این بخش هم افزودهٔ مترجم است، چون منبع طبیعتاً از موضع زبان انگلیسی نوشته شده و فرض‌هایی دارد که برای ما برقرار نیست.

کیفیت نامتوازن، اطمینان یکسان. سهم فارسی از دادهٔ آموزشی کسری از سهم انگلیسی است. کیفیت خروجی پایین‌تر می‌آید؛ لحن مطمئن پایین نمی‌آید. نتیجهٔ عملی این است که عدد دقتی که در انگلیسی سنجیده‌اید به فارسی منتقل نمی‌شود — یا باید در فارسی جداگانه بسنجید، یا همان پاسخ را با قطعیت کمتری نشان دهید.

متن دوجهته. خروجی فارسی با اصطلاح لاتین و عدد و نشانی و قطعه‌کد در دلش می‌آید. وقتی این متن نشانه‌به‌نشانه در یک جعبهٔ راست‌به‌چپ جاری شود، خط در حین رندر جابه‌جا می‌شود و کاربر متنی را می‌بیند که مقابل چشمش می‌پرد. راه‌حلش این است که تا سطح جمله بافر کنید، نه نشانه، و هر رشتهٔ لاتین را جداسازی کنید. جاری‌سازی تدریجی در راست‌به‌چپ یک تصمیم طراحی است، نه یک بردِ رایگان در سرعت.

یک واژه، چند املا. «ی» و «ک» عربی و فارسی، نیم‌فاصله، و یک کلمه که به چهار شکل نوشته می‌شود. تطبیق و جست‌وجو و حذف تکراری‌ها بی‌صدا با کاربر اختلاف پیدا می‌کنند. این یک تصمیم پیش‌پردازش است که خودش را به شکل مسئلهٔ کیفیت نشان می‌دهد — و تیمی که دنبال اصلاح پرامپت می‌رود هرگز به آن نمی‌رسد و تا آخر مدل را متهم می‌کند.

بافت محلی غایب. قاعدهٔ بانکی، مقررات، شکل نشانی، تقویم. سیستم در این موارد سکوت نمی‌کند؛ از یک پیش‌فرض خارجی جواب می‌دهد و جواب به شکلی روان غلط است. و توجه کنید که «اطمینان» سیستم اینجا به کار نمی‌آید، چون اطمینان روی همان چیزی کالیبره شده که می‌داند و نمی‌تواند گزارش کند چه نمی‌داند. پس مرز را باید بر حسب موضوع گذاشت نه بر حسب عدد اطمینان: فهرستی از حوزه‌هایی که محصول در آن‌ها پاسخ نمی‌دهد و به آدم ارجاع می‌دهد.

یک نکتهٔ آخر که به دسترس‌پذیری وصل می‌شود: در بازار ما بخش بزرگی از کاربران روی گوشی ارزان و اینترنت بی‌کیفیت‌اند. قابلیتی که هر تعامل را به یک رفت‌و‌برگشت شبکه گره می‌زند، برای آن‌ها نه کند است، نه در دسترس. و طراحی انسان‌محور در این نقطه معنای ساده‌ای دارد: مسیر بدون آن قابلیت باید کامل بماند.

جمع‌بندی

• - هوش مصنوعی سیستمی است که کاری را می‌کند که معمولاً به هوش انسانی نیاز دارد — و مرز این تعریف مدام جابه‌جا می‌شود، پس پرسش کارآمد این است که سیستم چه چیزی را حدس می‌زند و چقدر بد.
• - سه لایه را باید از هم جدا کرد: باریک (یک کار، با پاسخ درست)، مولد (خروجی باز، بی پاسخ درست)، و عمومی (که محصول نیست اما انتظار کاربر را می‌سازد).
• - پرسیدن «دقتش چند است؟» از یک سیستم مولد بی‌معناست؛ پرسش درست این است که چه کسی خروجی را بر چه معیاری تأیید می‌کند.
• - NIST هفت ویژگی برای سیستم قابل‌اعتماد می‌شمارد، و شش تای آن‌ها بعد از تمام‌شدن مدل تعیین می‌شوند — یعنی دقت بالادست است و اعتماد پایین‌دست.
• - بند حریم خصوصی و بند انصاف همدیگر را می‌کشند؛ این تنش راه‌حل تمیز ندارد، فقط تصمیم آگاهانه دارد.
• - گلوگاه کار طراحی از تولید به داوری جابه‌جا شده، و بازبینی‌ای که هیچ‌کس اجرا نمی‌کند این است: این گزینه یک تصمیم است یا میانهٔ هر چیزی که تا امروز ساخته شده؟
• - خلاصه‌سازی پژوهش همان پرتی را حذف می‌کند که کل ارزش پژوهش بود، و طراحی‌ای که به «کاربر خروجی را چک می‌کند» تکیه کند، با بهتر شدن مدل ضعیف‌تر می‌شود.
• - و در فارسی: عدد دقت انگلیسی منتقل نمی‌شود، جاری‌سازی در راست‌به‌چپ تصمیم است نه بردِ رایگان، نرمال‌سازی املا پیش از مدل انجام می‌شود، و مرز دانش را باید بر حسب موضوع گذاشت نه بر حسب عدد اطمینان.