پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[sonixax]

این استدلال منطقیِ در اینجا جز یک فکت دیگر، چیزی نیست. در هوش مصنوعی
این نوع از استدلال‌ها چندان به کار نمی‌آیند، چرا که در واقع نیاز ماشین این است
که تصمیم‌گیری کند. برای نمونه استدلال زیر را درنظر بگیرید:
اگر زمین نابود شود، انسان نیز نابود می‌شود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود.

همانطور که در اینجا می‌بینید، استدلالی که ساخته می‌شود بر اساس
گزاره‌های بنیادی‌ست که از پیش برای ماشین تعریف شده‌اند. لازم به ذکر
است که منطق گزاره‌ها در هوش مصنوعی بطور عملی در حال استفاده شدن
است و آنچه اینجا گفته‌ام، نه تئوری که در عمل در شکل‌های گوناگون
در حال وقوع است. از آنجا که ماشین هوشمند، منطقی را پیروی می‌کند که
سازنده‌‌اش آن را تعریف کرده است، بنابراین غیرمحتمل‌ترین شکل تهدید
توسط ماشین هوشمند، طغیانِ آن علیه انسان است.

داریوش جان کافیست اندکی این تعریف را دستکاری کرد :

اگر زمین نابود شود، انسان نیز نابود میشود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود
+
باید عوامل نابود کننده زمین را نابود یا مهار کرد تا زمین نابود نشود!

با یک شرط اضافی به راحتی میشود اکثریت مطلق انسانهای زمین را به دست ماشین کُشت باقی را هم تا سر حد بردگی تحت کنترل درآورد!!!!!

ولی هوش مصنوعی بسیار بسیار پیچیده تر از این تعریف ساده هستش! همین الان ما به انواعی از هوش مصنوعی دسترسی داریم که میتونه تصمیمهایی بر خلاف برنامه هایی که پیش برایش تعریف شده بگیرد. یا بهتر است بگویم میتواند بسته به شرایط از خود واکنش مناسب نشان دهد. منتها همه چیز به هدفی که تعریف شده بستگی دارد و خیلی وقت از مرحله ی برنامه از پیش تعریف شده گذشته ایم.
به طور مثال در جدید ترین تکنولوژی نظامی انگلیس، هدف انجام عملیات و سالم بازگشتن به پایگاه است! در این بین سعی میشود هیچ برنامه از پیش تعریف شده ای وجود نداشته باشد و تصمیمهای ماشین همگی بسته به شرایط خواهد بود.

حالا فرض کنید روزی هوش مصنوعی ساخته شود که هدفش! بقای خودش و پیشرفته تر شدن و مجهز تر شدنش به هر قیمتی باشد.

البته من مثل مهربد به داستان ترمیناتور و اینکه ماشین میزنه دخل بشر رو میاره عقیده ای ندارم و فقط خواستم این نکات رو یاد آوری کنم. چون ماشین هر چه قدر هم که باهوش باشد و هر چه قدر هم که سریع پردازش کند باز هم ساخته دست بشر است! همین عامل ساده باعث میشود ماشین همیشه یک قدم از انسان عقب تر باشد.