پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Dariush]

@Mehrbod
من مردم از خنده lol lol





به هوش مصنوعی امید هست، تا زمانی که الگوریتم بی طرف بمونه !!

درود راسل عزیز

مبرهن است که هوش مصنوعی پیروی منطق سازنده‌اش است و برای استدلال کاربردی نیازمند
گزاره‌های بنیادی‌ست ؛فکت‌ها، هر اندازه که گسترده باشند، تا گزاره‌های بنیادی تعریف‌شده
موجود نباشند، استدلالی که در آن یک تصمیم‌گیری نهایی موجود باشد هرگز بوجود نخواهد آمد.
مثال معروف و ساده‌ی همیشگی در مورد استدلال منطقی را درنظر بگیرید:

انسانها، دو پا دارند.
احمد انسان است.
بنابراین احمد دو پا دارد.

این استدلال منطقیِ در اینجا جز یک فکت دیگر، چیزی نیست. در هوش مصنوعی
این نوع از استدلال‌ها چندان به کار نمی‌آیند، چرا که در واقع نیاز ماشین این است
که تصمیم‌گیری کند. برای نمونه استدلال زیر را درنظر بگیرید:
اگر زمین نابود شود، انسان نیز نابود می‌شود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود.

همانطور که در اینجا می‌بینید، استدلالی که ساخته می‌شود بر اساس
گزاره‌های بنیادی‌ست که از پیش برای ماشین تعریف شده‌اند. لازم به ذکر
است که منطق گزاره‌ها در هوش مصنوعی بطور عملی در حال استفاده شدن
است و آنچه اینجا گفته‌ام، نه تئوری که در عمل در شکل‌های گوناگون
در حال وقوع است. از آنجا که ماشین هوشمند، منطقی را پیروی می‌کند که
سازنده‌‌اش آن را تعریف کرده است، بنابراین غیرمحتمل‌ترین شکل تهدید
توسط ماشین هوشمند، طغیانِ آن علیه انسان است.

همچنین لازم به ذکر است که هوشمندی یک ماشین در واقع همین است
که بتواند گزاره‌ها و فکت‌ها را پردازش کرده و آنها را تبدیل به دانش و ابزارهای
تصمیم‌گیری کند؛ وگرنه سرعت محاسبات هرچقدر هم افزایش پیدا کند
باز هم صرفا یک بستر پردازشی بیش نیست؛ کار نهایی را الگوریتم‌ها
و برنامه‌ها می‌کنند. بنابراین برای دست یافتن به ابرهوشواره‌ای که بتواند
داده‌های جهانی را پردازش کرده و آنها را تبدیل به دانش کند، دو راه داریم:

1- ساختن سخت‌افزارهایی که توانایی پردازش داده‌هایی بسیار بسیار
عظیم، در مقیاس میلیاردها برابر کل داده‌هایی که تاکنون بشر تولید کرده را
داشته باشند؛ فاصله‌ی ما با چنین سخت‌افزارهایی کم نیست، هرچند که
زیاد هم نیست! برای نمونه، کافی‌ست بدانید که گوگل تنها برای پردازش
ایندکس‌هایی که از صفحات وب برای جست‌وجو ساخته، صدها هزار سرور
قدرتمند در سراسر جهان دارد.

2- ساخت الگوریتم‌ها و برنامه‌های بهینه‌ای که با سخت‌افزارهای کنونی
توانایی پردازش داده‌های عظیم را داشته باشند؛ این همان کاری‌ست
که با شتابی بی‌مانند در حالِ پیگیری‌ست؛ ولی این بهینه‌سازی تا جایی
قابل دستیابی‌ست. ماهیت بسیاری از مسائل، آنچنان است که می‌توان
ثابت نمود که هیچ الگوریتم بهینه‌ای برای آن وجود ندارد(اینجا را می‌توانید
در این مورد مطالعه کنید).

بنابراین لازم است تفاوتی که میان هوشمندی و Performance هست را
متوجه باشیم. اینکه ما اکنون می‌توانیم ماشین‌هایی بسیار سریع
بسازیم، تفاوت زیادی با این دارد که بگوییم می‌توانیم ماشین‌هایی
بسازیم که بسیار هوشمند هستند.

با این تفاسیر، به گمان من یاغی شدنِ ابرهوشواره‌ها به گمان
تا حد زیادی توهم است. آنچه خطر واقعی‌تری‌ست، سوءاستفاده
از آنهاست. در این مورد من تا حد زیادی با مهربد هم‌نظر هستم.
با اینحال نباید فراموش کنیم که ابرهوشواره‌ها، که هنوز بدان دست
نیافته‌ایم، بسیار Hi Tech هستند و براحتی قابل وصول نیستند.
ساختن و بهره‌برداری از آنها توسط تبهکاران ِ تروریست، تقریبا
غیرممکن است، همانطور که دیدیم و می‌بینیم که بمب‌های هسته‌ای
که تکنولوژی بسیار ساده‌تری نسبت به ابرهوشواره‌های هستند
طی 70 سال اخیر، کسی نتوانسته است هنوز از آن استفاده‌ی
تبهکارانه بکند.

با اینحال، خطر تحت کنترل گرفتن شهروندان توسط دولت‌های مجهز
به این ابرهوشواره‌ها خطری بالقوه است. اما به نظر شما آیا این
خطری‌ست که از طرف تکنولوژی متوجه ماست یا اینکه مساله‌ای
سیاسی‌ست؟ به نظر من دومی و البته کمی هم اولی.