هوش مصنوعی وجود ندارد

پیمان زمانی

وکیل دادگستری

آنچه امروز «هوش مصنوعی» نامیده می‌شود، در واقع هوش نیست، بلکه «تقلید هوش» است تقلیدی نسبتاً پیشرفته، اما هنوز بسیار دور از آن چیزی است که بتوان آن را «آگاهی» نامید.

چرا می‌گویم تقلید؟ زیرا این سامانه‌ها چیزی جز مجموعه‌ای از فرایندهای محاسباتی نیستند که با داده‌هایی کار می‌کنند که توسط انسان‌ها گردآوری و طبقه‌بندی شده‌ ، اهدافشان از پیش تعیین و نتایج عملکردشان نیز توسط انسان ارزیابی میگردد. حتی در مدل‌هایی که «خود تقویت‌ شونده» تلقی می‌شوند، جهت و ملاک پاداش از بیرون مشخص میگردد ؛ بنابراین نمی‌توان گفت استقلال شناختی واقعی دارند.

در اندیشه‌ی فریدریش هِگل، آگاهی در جریان تجربه پدید می‌آید: ذهن زمانی به شناخت دست می‌یابد که نتیجهٔ عمل خود را بسنجد و از فاصله ی میان خواسته و حاصل آگاه شود. از این منظر، سخن گفتن از «آگاهی» در مورد سامانه‌های تقلید هوش ، از لحاظ فلسفه‌ی ذهن مبنای محکم ندارد. آگاهی به معنای تمایزی است که ذهن میان خود و جهان قائل می‌شود، نوعی «خودارجاعی» که در ماشین‌ها دیده نمی‌شود.

اِوالد واسیلیویچ ایلنکوف که که سهم بزرگی در فهم و نحوه کار و شکل‌گیری هوش دارد در پژوهش‌های خود بر رشد ذهنی کودکان نابینا و ناشنوا نشان داد که تفکر انسانی بدون آموزش و ارتباط اجتماعی شکل نمی‌گیرد و یکی از ویژگی‌های اصلی هوش واقعی، توانایی رشد بر پایه‌ی تجربه‌ی شخصی و خودآموخته است.

زمانی که برای کودکان نابینا و ناشنوا، روش‌های آموزش از راه تعداد محدودی از مجراهای ادراکی طراحی شد، معلوم گردید که انسان تا چه حد نیازمند آموزش است. در واقع، چیزی در ما ذاتی نیست، جز شاید دو واکنش غریزی: مکیدن و گرفتن (چنگ زدن)

همه‌ی ویژگی‌های دیگر آموختنی‌اند.

اما هوش چگونه شکل می‌گیرد؟ ابتدا مدلی ذهنی از چیزی ساخته می‌شود. بر پایهٔ این مدل، هدف انتخاب می‌گردد؛ سپس برنامه‌ای برای رسیدن به آن هدف تنظیم می‌شود. انسان بر اساس آن برنامه عمل می‌کند، و در پایان نتیجه را با هدف اولیه مقایسه می‌کند. اختلاف میان آنچه خواسته بود و آنچه به‌دست آمده، سبب اصلاح مدل ذهنی می‌شود. این چرخه بازخوردی مداوم، همان چیزی است که به‌تدریج آگاهی می‌سازد.

از این ‌رو، وکلای دادگستری از رقابت با « تقلیدگر هوش » نترسند حتی اگر روزی فرایندهای مغز انسان به‌طور کامل شبیه‌سازی شود، نتیجه الزاماً آگاهی نخواهد بود. ادراک، اگر از تجربه جدا شود، تنها ثبت داده است، نه فهم معنا ان

تقلیدگر هوش از ابزارهای ادراکی متفاوتی استفاده نموده و جهان را به گونه‌ای دیگر دریافت می‌کند. به ‌این ‌سبب، درک آن از اساس با درک انسانی متفاوت است تقلیدگر هوش واکنش نشان می‌دهد، اما درک نمی‌کند؛ اطلاعات را پردازش می نماید، اما نسبت خود را با آن اطلاعات را نمی‌فهمد. تفاوت در نوع ارتباط با جهان است، بنابراین، سامانه‌های تقلیدگر هوش به انسان همان ‌قدر نیاز خواهد داشت که انسان به او دارد

خطاها و محدودیت‌های مدل‌های زبانی

مدل‌های زبانی بزرگ، که بر پایه‌ی تحلیل آماری متن‌ها کار می‌کنند، توانایی تولید جملات منسجم دارند، اما درکی از معنا ندارند.آن‌ها تنها بر اساس احتمال هم‌زمانی واژه‌ها عمل می‌کنند و در نتیجه، ممکن است متونی بسازند که ظاهری دقیق دارند ولی از نظر محتوایی نادرست‌اند.در برخی نمونه‌ها، حتی ارجاع‌هایی به منابعی داده‌اند که وجود خارجی نداشته است چنین نمونه‌هایی نشان می‌دهد که انسجام ظاهری نمی‌تواند جایگزین فهم شود. زیرا در ذهن انسان، معنا در بستر نیت و تجربه شکل می‌گیرد، در حالی ‌که در سامانه‌ی زبانی، جمله نتیجه‌ی محاسبه است.

اما این بدترین بخش ماجرا نیست.چیز ترسناک ‌تر این است که طبق پژوهش‌های دقیق افرادی که برای حل مسئله از این «تقلیدگرهای هوش» استفاده می‌کنند، به‌سرعت توانایی حل مسئله‌ی مستقل خود را از دست می‌دهند. برای نمونه، پزشکانی که برای تفسیر عکس‌های رادیولوژی یا MRI به سیستم‌های تشخیص الگو متکی می‌شوند، در عرض چند ماه خودشان به‌ مراتب ضعیف‌تر در شناسایی علائم می‌شوند. در یکی از پژوهش‌ها، مهارت همین متخصصان را شش ماه پس از قطع استفاده از هوش مصنوعی بررسی کردند؛ نتیجه: آن‌ها هنوز از سطح اولیه‌ی خود هم پایین‌تر بودند..

بنابراین، استفاده‌ی بی‌محابا از این «تقلیدگرهای هوش» از منظر فلسفی، علمی و اجتماعی خطرناک است.

تا زمانی که سامانه‌های مصنوعی فاقد درک قصد، نیت و اراده‌اند، نمی‌توانند جایگزین انسان یا وکیل شوند. بنیاد حقوق بر تفسیر، نیت و معنای انسانی استوار است و هیچ محاسبه‌ای، هر چقدر دقیق، نمی‌تواند جای آن را بگیرد.