منبع: بنیاد طراحی تعامل (IxDF) · بازنویسی آزاد: سپنتا پویا · ترجمه: ۶ شهریور ۱۴۰۵ · زمان مطالعه: حدود ۱۰ دقیقه

هوش عمومی مصنوعی (General AI) چیست؟

💡 این متن «بازنویسی آزاد» است: ایده‌ها و مفاهیم مطلب اصلی با نگارش کاملاً مستقل فارسی و مثال‌های تازه بازگو شده‌اند و ترجمهٔ کلمه‌به‌کلمه نیست. بخش‌های افزودهٔ مترجم در جعبهٔ منبع مشخص شده‌اند.

سیستمی که شطرنج می‌برد، نمی‌تواند نان بخرد. سیستمی که ترجمه می‌کند، نمی‌تواند شطرنج بازی کند.

هوش عمومی مصنوعی همان چیزی است که این مرزها را ندارد — و هنوز وجود ندارد.

تعریف

هوش عمومی مصنوعی، شکلی نظری از هوش مصنوعی است که می‌تواند هر تکلیفی را با توانایی‌های شناختی شبیه انسان حل کند.

و شرح کاملش این است: توانایی فهمیدن و یادگرفتن و به‌کاربستن دانش در گسترهٔ وسیعی از تکلیف‌ها، به‌شکلی که سازگاری و همه‌کاره‌بودنِ ذاتی هوش انسانی را بازتاب دهد.

و کلیدواژه‌اش تعمیم است: هوش عمومی، هوشش را به چالش‌های متنوع و پیش‌بینی‌نشده تعمیم می‌دهد، بی آنکه برای هر تکلیف جداگانه برنامه‌نویسی شود.

در برابر هوش باریک

تفاوت این دو در سه محور است.

• - دامنه. هوش باریک در یک تکلیف یا مجموعه‌ای مشخص از تکلیف‌ها تخصص دارد. هوش عمومی می‌تواند هر تکلیف فکری‌ای را انجام دهد که انسان می‌تواند.
• - یادگیری. هوش باریک به تکلیف‌های از‌پیش‌تعریف‌شده محدود است و نمی‌تواند دانش را تعمیم دهد. هوش عمومی از تجربه یاد می‌گیرد و دانشش را در موقعیت‌های ناآشنا به‌کار می‌بندد.
• - انعطاف. هوش باریک به‌شدت تخصصی است و همه‌کارگی ندارد. هوش عمومی در حوزه‌های متنوع، سازگاری‌ای شبیه هوش انسانی نشان می‌دهد.

و نمونه‌های هوش باریک همان چیزهایی هستند که هر روز استفاده می‌کنیم: بازشناسی تصویر، پردازش زبان طبیعی، بازی‌کردن.

و تصویر فرضی هوش عمومی این است: موجودیتی که بی وقفه از بازشناسی گفتار به شطرنج و از آنجا به ترجمهٔ زبان و حتی فهم مفهوم‌های انتزاعی جابه‌جا می‌شود.

الان کجاییم

و اینجا باید صریح بود، چون بازار پر از ادعای برعکس است.

تا امروز، هوش عمومی وجود ندارد. و هیچ هوش قویِ واقعی‌ای هم وجود ندارد — سیستم‌های کنونی، حتی آن‌هایی که «هوش قوی» برچسب خورده‌اند، دقیق‌تر است اگر هوش باریکِ پیشرفته نامیده شوند.

و این شامل نمونه‌های مشهور هم می‌شود. اپن‌ای‌آی یک سازمان پژوهشی هوش مصنوعی است، نه یک هوش عمومی. و مدل‌های GPT نمونه‌های هوش تخصصی‌اند که زیر دستهٔ هوش باریک می‌نشینند.

و ChatGPT هم هوش عمومی نیست؛ برای تکلیف‌های مشخص مربوط به پردازش و تولید زبان طبیعی ساخته شده.

و دربارهٔ زمان‌بندی، پاسخ صادقانه این است که معلوم نیست. بعضی متخصص‌ها می‌گویند دهه‌ها فاصله داریم و بعضی آن را هدفی دورتر می‌دانند. رسیدن به آن به پیشرفت در فهم شناخت انسانی، پیشرفت فناوری، و حل نگرانی‌های اخلاقی و ایمنی وابسته است.

و حتی خاستگاه خود اصطلاح هم مبهم است: به تاریخ یا فرد مشخصی نسبت داده نمی‌شود و وقتی رواج گرفت که پژوهشگران به واژه‌ای برای این تمایز نیاز پیدا کردند.

چرا این تفکیک برای طراح مهم است

این بخش افزودهٔ من است، چون تفاوت هوش باریک و عمومی یک بحث فلسفی به‌نظر می‌رسد و در عمل یک تصمیم طراحی روزمره است.

وقتی می‌دانید سیستمی که با آن کار می‌کنید باریک است، سه چیز از آن نتیجه می‌گیرید.

یک: مرزش را باید نشان دهید. کاربری که فکر می‌کند با چیزی همه‌فهم طرف است، بیرون از دامنه هم از آن می‌پرسد — و پاسخ مطمئنِ غلط می‌گیرد.

دو: شکستش قابل‌پیش‌بینی است. هوش باریک در جاهای مشخصی خطا می‌کند، و همان‌ها را می‌شود از قبل طراحی کرد: مسیر بازگشت، تأیید انسانی، پیام روشن.

و سه: نباید وانمود کنید عمومی است. رابطی که مثل یک همکارِ همه‌چیزدان حرف می‌زند، انتظاری می‌سازد که محصول نمی‌تواند برآورده کند — و هزینه‌اش اعتماد است.

و همان‌طور که در چت‌بات نوشتم، بیشتر شکست‌های تجربهٔ کاربری در محصول‌های هوش مصنوعی، شکست انتظار است نه شکست مدل.

اگر بیاید، چه چیزی برای طراحی عوض می‌شود

و اگر روزی بیاید، اثرش بر کار طراحی در چند جهت مشخص خواهد بود.

• - ابزارهایی که پیش‌بینی می‌کنند. ابزاری که نه‌فقط ترجیح کاربر را می‌فهمد، بلکه نیازش را پیش‌بینی می‌کند، از تکرارهای طراحی یاد می‌گیرد و با روندهای در حال تغییر سازگار می‌شود.
• - رابط‌های سازگارشونده. تجربه‌هایی که فراتر از الگوهای از‌پیش‌تعریف‌شده می‌روند و به رفتار و ترجیح و فهم بافتی کاربر پیشدستانه پاسخ می‌دهند.
• - همکار، نه ابزار. هم‌کاری که بینش خلاقانه می‌دهد، عنصر طراحی پیشنهاد می‌کند، و حتی در جلسهٔ ایده‌پردازی شرکت می‌کند.
• - شخصی‌سازی عمیق‌تر. محصولی که پویا با ترجیح فردی سازگار می‌شود و با تعامل‌های کاربر یاد می‌گیرد و تغییر می‌کند.
• - رابط شهودی‌تر. فهم زبان طبیعی و پیش‌بینی قصد کاربر، به رابط‌هایی روان‌تر و پیشدستانه‌تر می‌رسد.
• - حل مسئلهٔ کل‌نگرتر. محصولی با توان عیب‌یابی پیشرفته.
• - هم‌گرایی با فناوری‌های نوظهور. واقعیت افزوده و مجازی و اینترنت اشیا، برای تجربه‌های غوطه‌ور و محیط‌های هوشمند.
• - و تقویت شناختی. از کمک در حل مسئلهٔ پیچیده تا افزایش خلاقیت.

و در کنار همهٔ این‌ها، یک وظیفهٔ تازه هم برای طراح می‌آید: آموزش کاربر دربارهٔ توانایی‌ها و محدودیت‌های این سیستم‌ها. رابط شفاف و کاربرپسند اینجا ضروری است، نه تزئینی.

پنج نگرانی اخلاقی

• - سوگیری و انصاف. این سیستم‌ها می‌توانند ناخواسته سوگیری‌های موجود در دادهٔ آموزشی را بازتولید کنند. طراح باید مطمئن شود آموزش روی دادهٔ متنوع و بازنماینده انجام شده تا سوگیری اجتماعی تقویت نشود.
• - حریم خصوصی. توانایی گستردهٔ این سیستم‌ها در فهم و تفسیر داده، مسئلهٔ حریم خصوصی می‌سازد. طراح باید میان نوآوری و حفاظت از حریم فرد توازن برقرار کند.
• - پاسخ‌گویی و شفافیت. وقتی سیستم خودمختار تصمیم می‌گیرد، تعیین مسئولیت سخت می‌شود. شفاف‌بودن مسیر رسیدن به نتیجه، شرط ساختن اعتماد است.
• - پیامدهای ناخواسته. سازگاری این سیستم‌ها، احتمال پیامد پیش‌بینی‌نشده را می‌آورد. طراح باید ریسک‌ها را پیش‌بینی و کم کند تا سیستم در مرزهای اخلاقی بماند.
• - اثر اجتماعی. این فناوری می‌تواند ساختارهای اجتماعی و اشتغال و دسترس‌پذیری و توازن قدرت را تغییر دهد.

هفت ویژگی هوش مصنوعی قابل‌اعتماد

و چارچوب ان‌آی‌اس‌تی — مؤسسهٔ ملی استانداردها و فناوری — هفت ویژگی را برای هوش مصنوعی قابل‌اعتماد فهرست می‌کند.

• - معتبر و قابل‌اتکا. نیاز کاربر را برآورده می‌کند و یکنواخت عمل می‌کند.
• - ایمن. هرگز نباید به کاربرش آسیب بزند.
• - امن و تاب‌آور. در شرایط نامساعد کار می‌کند و ایمن و آبرومندانه افت می‌کند.
• - پاسخ‌گو و شفاف. کاربر در طول چرخهٔ عمر سیستم اطلاعات می‌گیرد.
• - قابل‌توضیح و قابل‌تفسیر. نشان می‌دهد چطور کار می‌کند، با توضیحی متناسب با نقش و دانش و مهارت کاربر.
• - حریم‌محور. از آزادی و هویت و کرامت کاربر محافظت می‌کند.
• - منصف، با سوگیری زیان‌بار مهارشده. حذف تبعیض را دنبال می‌کند.

و ویژگی سوم عملی‌ترینشان است و کمتر از بقیه اجرا می‌شود. «افت آبرومندانه» یعنی وقتی سیستم مطمئن نیست، این را بگوید — نه اینکه با همان لحن مطمئن، پاسخ ضعیف‌تری بدهد.

و ویژگی پنجم قید مهمی دارد که اغلب حذف می‌شود: توضیح باید متناسب با کاربر باشد. نمایش وزن‌های مدل به یک کاربر عادی، شفافیت نیست؛ فقط شکل دیگری از ابهام است.

شفافیت، در عمل

و قاعدهٔ کلی‌اش این است: بهترین راه ساختن اعتماد، شفافیت حداکثری است — بی آنکه کاربر را زیر اطلاعات فنی دفن کنید.

و شکل اجرایی‌اش پنج چیز است:

• - منبع داده را روشن بگویید.
• - بگویید از چه اطلاعاتی از خود کاربر استفاده می‌شود.
• - بگویید سیستم چطور یاد می‌گیرد.
• - احتمال خطا را افشا کنید.
• - و دادهٔ شخصی را با رضایت کامل و مدل انتخاب‌آگاهانه جمع کنید.

و یک قاعدهٔ ششم هم هست که از همه سخت‌تر اجرا می‌شود: استفاده از محصول باید بدون دادن اطلاعات شخصی هم ممکن باشد.

در بافت فارسی

یک: واژه‌ها اینجا شلوغ‌ترند. در بازار ما «هوش مصنوعی» تقریباً به هر چیزی گفته می‌شود — از یک فیلتر ساده تا یک مدل زبانی.

و این یعنی کاربر شما احتمالاً انتظار غلطی از محصول دارد، پیش از آنکه اولین بار بازش کند. پس تعیین انتظار در همان صفحهٔ اول، اینجا کار بیشتری می‌خواهد.

دو: دسترسی به مدل‌های بزرگ اینجا ناپایدار است. تحریم و فیلترینگ و قطع سرویس باعث می‌شود محصولی که به یک سرویس بیرونی وابسته است، بی هشدار از کار بیفتد.

و همان‌طور که در جلوی صحنه و پشت صحنه نوشتم، کاربر این خرابی را به حساب شما می‌گذارد. پس حالت «سرویس در دسترس نیست» را از اول طراحی کنید، نه به‌عنوان استثنا.

سه: فارسی در این مدل‌ها زبان کم‌منبع است. کیفیت خروجی در فارسی معمولاً پایین‌تر از انگلیسی است، و خطاها هم شکل متفاوتی دارند.

پس اگر روی نمونه‌های انگلیسی آزمون کرده‌اید، چیزی را آزمون نکرده‌اید. ارزیابی باید روی متن فارسی واقعی کاربران انجام شود — با غلط املایی، فینگلیش، و لهجه.

چهار: «اعتماد» اینجا پیش‌فرض نیست. کاربری که به جمع‌آوری داده بدبین است، به سیستمی که «یاد می‌گیرد» بدبین‌تر است.

و درمانش همان قاعدهٔ ششم بالاست: راهی بگذارید که محصول بدون دادن اطلاعات شخصی هم کار کند. این بیشتر از هر متن اطمینان‌بخشی اعتماد می‌سازد.

پنج: خطای مطمئن، اینجا گران‌تر تمام می‌شود. در حوزه‌هایی مثل حقوق و پزشکی و مالیات، منابع فارسی معتبر کمتر در دسترس‌اند و کاربر راه کمتری برای راستی‌آزمایی دارد.

و به‌همین دلیل، نشان‌دادن منبع اینجا مهم‌تر از جاهای دیگر است — نه به‌عنوان ویژگی، بلکه به‌عنوان تنها راهی که کاربر می‌تواند خودش قضاوت کند.

جمع‌بندی

• - هوش عمومی مصنوعی شکلی نظری از هوش مصنوعی است که هر تکلیفی را با توانایی شناختی شبیه انسان حل می‌کند · کلیدواژه‌اش تعمیم بدون برنامه‌نویسی برای هر تکلیف است
• - سه تفاوت با هوش باریک: دامنه · یادگیری و تعمیم · و انعطاف
• - تا امروز وجود ندارد · سیستم‌های کنونی هوش باریکِ پیشرفته‌اند · اپن‌ای‌آی یک سازمان پژوهشی است و GPT و ChatGPT هوش باریک‌اند
• - زمان‌بندی‌اش نامعلوم است و خاستگاه خود اصطلاح هم به فرد یا تاریخ مشخصی نسبت داده نمی‌شود
• - برای طراح: مرز سیستم را نشان دهید · شکست قابل‌پیش‌بینی را از قبل طراحی کنید · و وانمود نکنید عمومی است
• - پنج نگرانی اخلاقی: سوگیری · حریم خصوصی · پاسخ‌گویی · پیامد ناخواسته · اثر اجتماعی
• - هفت ویژگی ان‌آی‌اس‌تی · و «افت آبرومندانه» یعنی سیستم وقتی مطمئن نیست، همین را بگوید
• - شفافیت: منبع داده · دادهٔ کاربر · نحوهٔ یادگیری · احتمال خطا · رضایت انتخاب‌آگاهانه · و امکان استفاده بدون دادن اطلاعات شخصی
• - و در فارسی: انتظار غلط پیش از باز‌شدن محصول · ناپایداری دسترسی · کم‌منبع‌بودن فارسی و لزوم ارزیابی روی متن واقعی · بدبینی پیش‌فرض · و گران‌تر بودن خطای مطمئن