پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Nilftrondheim]

آنچه در فوکوشیما رخ داده یک رُخکرد (= fact) به شمار میرود و چیز نادرستی در این باره گفته نشده. پیشبینی دانشمندان فوکوشیما:

The Japanese Nuclear Commission had the following goals set in 2003: " The mean value of acute fatality risk by radiation exposure resultant from an accident of a nuclear installation to individuals of the public, who live in the vicinity of the site boundary of the nuclear installation, should not exceed the probability of about 1x10^6 per year (that is , at least 1 per million years)".

هنگامیکه فاجعه‌یِ فوکوشیما بجای ١ میلیون سال آنسوتر, تنها ٩ سال دیرتر (2011) رُخ داد.



--
آنچه از این نمونه برداشت شده بود:

جاییکه دانشمندان نمیتوانند پروژه‌های بسیار ساده‌تری همچون ساخت و محافظت از یک نیروگاه
اتمی را زیر کنترل ١٠٠% خود داشته باشند, کنترل و نیکی‌آزمایی ابرهوشواره‌ای (superintelligent) که
میلیاردها بار هوشمندتر از هوش همه‌یِ آدمهای زنده بر روی هم باشد, چیزی بجز خودفریبی نیست.

مهربد جان بعضی استدلال های شما را میبینم وسوسه میشوم راه پشت بام نزدیکترین آسمانخراش را در پیش بگیرم.


احتمال =/= زمان
حتی اگر احتمال هایپرنووا شدن ستاره ای نزدیک زمین یک بار در تریلیون سال باشد به این معنی نیست که همین فردا نمیتواند رخ دهد!


در ضمن AI صرفا مانند مواد رادیو اکتیو مخرب نیست و میتواند سازنده هم باشد. نزدیکترین پدیده به آن در حال حاضر ابرقدرت ها هستند. (G6, G20, etc)

[Nikzad Mehrazmanesh]

امیدوارم شوخی باشه

Robot Lives Matter (ASPCA Commercial) - YouTube

احتمال زیاد شوخیه . ولی در کامنت ها یه احمق هست که به خاطر صدمه به روبات عذاب وجدان داره!

[Nilftrondheim]

امیدوارم شوخی باشه

Robot Lives Matter (ASPCA Commercial) - YouTube

احتمال زیاد شوخیه . ولی در کامنت ها یه احمق هست که به خاطر صدمه به روبات عذاب وجدان داره!

خودش گفت شوخی کرده!


ویدیو های کامل کارهای بوستون داینمیکس (آمریکا) و فستو (آلمان) رو نبینید نصف عمرتون بر فناست.

[Russell]

@Mehrbod
من مردم از خنده lol lol





به هوش مصنوعی امید هست، تا زمانی که الگوریتم بی طرف بمونه !!

[Mehrbod]

@Mehrbod
من مردم از خنده lol lol
...

کنترل ابرهوشواره و تکینگی فندین (technological singularity) خودفریبی ناب است.

این هم برای خنده خوب بوده, ولی چیز پیچیده‌ای نداشته جز اینکه یک فرمان "repeat after me" این هوشواره داشته و چند تایی
آدم یاد گرفته‌اند با دستکاری هوشواره را به بازگویی آنچه دوست داشته‌اند وادارند. بیشتر از همه به درد همان "جامعه‌شناسی" میخورده است تا
چیز دیگر; گرچه این نکته‌یِ نازک را هم بایستی برانگاشت که چه اندازه دوراندیشی و پیشبینی سخت است و برای نمونه این همه کارمند بگوییم هوشمند
در Microsoft به مغزشان نرسیده که خب یک مشت بیکار هم فردا پیدا میشوند که از این فرمان کژبهره بگیرند. همین‌ها هم میخواهند ابرهوشواره بسازند.

[Dariush]

@Mehrbod
من مردم از خنده lol lol





به هوش مصنوعی امید هست، تا زمانی که الگوریتم بی طرف بمونه !!

درود راسل عزیز

مبرهن است که هوش مصنوعی پیروی منطق سازنده‌اش است و برای استدلال کاربردی نیازمند
گزاره‌های بنیادی‌ست ؛فکت‌ها، هر اندازه که گسترده باشند، تا گزاره‌های بنیادی تعریف‌شده
موجود نباشند، استدلالی که در آن یک تصمیم‌گیری نهایی موجود باشد هرگز بوجود نخواهد آمد.
مثال معروف و ساده‌ی همیشگی در مورد استدلال منطقی را درنظر بگیرید:

انسانها، دو پا دارند.
احمد انسان است.
بنابراین احمد دو پا دارد.

این استدلال منطقیِ در اینجا جز یک فکت دیگر، چیزی نیست. در هوش مصنوعی
این نوع از استدلال‌ها چندان به کار نمی‌آیند، چرا که در واقع نیاز ماشین این است
که تصمیم‌گیری کند. برای نمونه استدلال زیر را درنظر بگیرید:
اگر زمین نابود شود، انسان نیز نابود می‌شود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود.

همانطور که در اینجا می‌بینید، استدلالی که ساخته می‌شود بر اساس
گزاره‌های بنیادی‌ست که از پیش برای ماشین تعریف شده‌اند. لازم به ذکر
است که منطق گزاره‌ها در هوش مصنوعی بطور عملی در حال استفاده شدن
است و آنچه اینجا گفته‌ام، نه تئوری که در عمل در شکل‌های گوناگون
در حال وقوع است. از آنجا که ماشین هوشمند، منطقی را پیروی می‌کند که
سازنده‌‌اش آن را تعریف کرده است، بنابراین غیرمحتمل‌ترین شکل تهدید
توسط ماشین هوشمند، طغیانِ آن علیه انسان است.

همچنین لازم به ذکر است که هوشمندی یک ماشین در واقع همین است
که بتواند گزاره‌ها و فکت‌ها را پردازش کرده و آنها را تبدیل به دانش و ابزارهای
تصمیم‌گیری کند؛ وگرنه سرعت محاسبات هرچقدر هم افزایش پیدا کند
باز هم صرفا یک بستر پردازشی بیش نیست؛ کار نهایی را الگوریتم‌ها
و برنامه‌ها می‌کنند. بنابراین برای دست یافتن به ابرهوشواره‌ای که بتواند
داده‌های جهانی را پردازش کرده و آنها را تبدیل به دانش کند، دو راه داریم:

1- ساختن سخت‌افزارهایی که توانایی پردازش داده‌هایی بسیار بسیار
عظیم، در مقیاس میلیاردها برابر کل داده‌هایی که تاکنون بشر تولید کرده را
داشته باشند؛ فاصله‌ی ما با چنین سخت‌افزارهایی کم نیست، هرچند که
زیاد هم نیست! برای نمونه، کافی‌ست بدانید که گوگل تنها برای پردازش
ایندکس‌هایی که از صفحات وب برای جست‌وجو ساخته، صدها هزار سرور
قدرتمند در سراسر جهان دارد.

2- ساخت الگوریتم‌ها و برنامه‌های بهینه‌ای که با سخت‌افزارهای کنونی
توانایی پردازش داده‌های عظیم را داشته باشند؛ این همان کاری‌ست
که با شتابی بی‌مانند در حالِ پیگیری‌ست؛ ولی این بهینه‌سازی تا جایی
قابل دستیابی‌ست. ماهیت بسیاری از مسائل، آنچنان است که می‌توان
ثابت نمود که هیچ الگوریتم بهینه‌ای برای آن وجود ندارد(اینجا را می‌توانید
در این مورد مطالعه کنید).

بنابراین لازم است تفاوتی که میان هوشمندی و Performance هست را
متوجه باشیم. اینکه ما اکنون می‌توانیم ماشین‌هایی بسیار سریع
بسازیم، تفاوت زیادی با این دارد که بگوییم می‌توانیم ماشین‌هایی
بسازیم که بسیار هوشمند هستند.

با این تفاسیر، به گمان من یاغی شدنِ ابرهوشواره‌ها به گمان
تا حد زیادی توهم است. آنچه خطر واقعی‌تری‌ست، سوءاستفاده
از آنهاست. در این مورد من تا حد زیادی با مهربد هم‌نظر هستم.
با اینحال نباید فراموش کنیم که ابرهوشواره‌ها، که هنوز بدان دست
نیافته‌ایم، بسیار Hi Tech هستند و براحتی قابل وصول نیستند.
ساختن و بهره‌برداری از آنها توسط تبهکاران ِ تروریست، تقریبا
غیرممکن است، همانطور که دیدیم و می‌بینیم که بمب‌های هسته‌ای
که تکنولوژی بسیار ساده‌تری نسبت به ابرهوشواره‌های هستند
طی 70 سال اخیر، کسی نتوانسته است هنوز از آن استفاده‌ی
تبهکارانه بکند.

با اینحال، خطر تحت کنترل گرفتن شهروندان توسط دولت‌های مجهز
به این ابرهوشواره‌ها خطری بالقوه است. اما به نظر شما آیا این
خطری‌ست که از طرف تکنولوژی متوجه ماست یا اینکه مساله‌ای
سیاسی‌ست؟ به نظر من دومی و البته کمی هم اولی.

[sonixax]

این استدلال منطقیِ در اینجا جز یک فکت دیگر، چیزی نیست. در هوش مصنوعی
این نوع از استدلال‌ها چندان به کار نمی‌آیند، چرا که در واقع نیاز ماشین این است
که تصمیم‌گیری کند. برای نمونه استدلال زیر را درنظر بگیرید:
اگر زمین نابود شود، انسان نیز نابود می‌شود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود.

همانطور که در اینجا می‌بینید، استدلالی که ساخته می‌شود بر اساس
گزاره‌های بنیادی‌ست که از پیش برای ماشین تعریف شده‌اند. لازم به ذکر
است که منطق گزاره‌ها در هوش مصنوعی بطور عملی در حال استفاده شدن
است و آنچه اینجا گفته‌ام، نه تئوری که در عمل در شکل‌های گوناگون
در حال وقوع است. از آنجا که ماشین هوشمند، منطقی را پیروی می‌کند که
سازنده‌‌اش آن را تعریف کرده است، بنابراین غیرمحتمل‌ترین شکل تهدید
توسط ماشین هوشمند، طغیانِ آن علیه انسان است.

داریوش جان کافیست اندکی این تعریف را دستکاری کرد :

اگر زمین نابود شود، انسان نیز نابود میشود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود
+
باید عوامل نابود کننده زمین را نابود یا مهار کرد تا زمین نابود نشود!

با یک شرط اضافی به راحتی میشود اکثریت مطلق انسانهای زمین را به دست ماشین کُشت باقی را هم تا سر حد بردگی تحت کنترل درآورد!!!!!

ولی هوش مصنوعی بسیار بسیار پیچیده تر از این تعریف ساده هستش! همین الان ما به انواعی از هوش مصنوعی دسترسی داریم که میتونه تصمیمهایی بر خلاف برنامه هایی که پیش برایش تعریف شده بگیرد. یا بهتر است بگویم میتواند بسته به شرایط از خود واکنش مناسب نشان دهد. منتها همه چیز به هدفی که تعریف شده بستگی دارد و خیلی وقت از مرحله ی برنامه از پیش تعریف شده گذشته ایم.
به طور مثال در جدید ترین تکنولوژی نظامی انگلیس، هدف انجام عملیات و سالم بازگشتن به پایگاه است! در این بین سعی میشود هیچ برنامه از پیش تعریف شده ای وجود نداشته باشد و تصمیمهای ماشین همگی بسته به شرایط خواهد بود.

حالا فرض کنید روزی هوش مصنوعی ساخته شود که هدفش! بقای خودش و پیشرفته تر شدن و مجهز تر شدنش به هر قیمتی باشد.

البته من مثل مهربد به داستان ترمیناتور و اینکه ماشین میزنه دخل بشر رو میاره عقیده ای ندارم و فقط خواستم این نکات رو یاد آوری کنم. چون ماشین هر چه قدر هم که باهوش باشد و هر چه قدر هم که سریع پردازش کند باز هم ساخته دست بشر است! همین عامل ساده باعث میشود ماشین همیشه یک قدم از انسان عقب تر باشد.

[Transcendence]

یکی از ویژگی های سیستم تکنولوژی تغییر دائمی می باشد .و این در حقیقت باعث عدم ثبات و رنج آدمی می شود.ما انسان ها در

برابر تغییر یک ظرفیت محدود ذهنی و روانی و جسمی داریم. تغییرات با سرعت و شتاب بالایی اتفاق می افتد و محیط پیرامون ما

دچار تغییر می شود لیکن پروسه سازگاری انسان با محیط زمان بر می باشد .و زمانی که با یک شرایط یا موقعیتی انسان سازگار

شد دوبار یک تغییر دیگر و یک عدم سازگاری دیگر و یک عدم ثبات دیگر پیش می آید و دوباره باید شخص خود را با شرایط

جدید سازگار کند .گویی آدمی همیشه از جامعه عقب می باشد .مشگل زمانی حادتر می شود که این تغییرات بنیادین تر باشد ناچارا

احتیاج به تغییراتی بنیادین در فکر و روان شخص لازم میآید. خواه ناخواه رنج روانی و جسمی برای این سازگاری های بنیادین

بیشتر و سخت تر و طولانی تر خواهد بود.

مسلما گروهی از انسان ها هستند که همیشه با شرایط به سرعت سازگار می شوند گروهی از نخبگان هستند که همیشه در آینده

زندگی می کنند ولی این شامل حال اکثریت نمی شود.

[Dariush]

داریوش جان کافیست اندکی این تعریف را دستکاری کرد :

اگر زمین نابود شود، انسان نیز نابود میشود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود
+
باید عوامل نابود کننده زمین را نابود یا مهار کرد تا زمین نابود نشود!

با یک شرط اضافی به راحتی میشود اکثریت مطلق انسانهای زمین را به دست ماشین کُشت باقی را هم تا سر حد بردگی تحت کنترل درآورد!!!!!

ولی هوش مصنوعی بسیار بسیار پیچیده تر از این تعریف ساده هستش! همین الان ما به انواعی از هوش مصنوعی دسترسی داریم که میتونه تصمیمهایی بر خلاف برنامه هایی که پیش برایش تعریف شده بگیرد. یا بهتر است بگویم میتواند بسته به شرایط از خود واکنش مناسب نشان دهد. منتها همه چیز به هدفی که تعریف شده بستگی دارد و خیلی وقت از مرحله ی برنامه از پیش تعریف شده گذشته ایم.
به طور مثال در جدید ترین تکنولوژی نظامی انگلیس، هدف انجام عملیات و سالم بازگشتن به پایگاه است! در این بین سعی میشود هیچ برنامه از پیش تعریف شده ای وجود نداشته باشد و تصمیمهای ماشین همگی بسته به شرایط خواهد بود.

حالا فرض کنید روزی هوش مصنوعی ساخته شود که هدفش! بقای خودش و پیشرفته تر شدن و مجهز تر شدنش به هر قیمتی باشد.

البته من مثل مهربد به داستان ترمیناتور و اینکه ماشین میزنه دخل بشر رو میاره عقیده ای ندارم و فقط خواستم این نکات رو یاد آوری کنم. چون ماشین هر چه قدر هم که باهوش باشد و هر چه قدر هم که سریع پردازش کند باز هم ساخته دست بشر است! همین عامل ساده باعث میشود ماشین همیشه یک قدم از انسان عقب تر باشد.

ما داریم در مورد ماشینی (یا ماشین‌هایی) سخن می‌گوییم که توانایی تصمیم‌گیری‌های
بسیار کلان و در ابعاد جهانی یا کشوری را دارند! در اینجا قطعیت کامل بسیار اهمیت
دارد. با گزاره‌هایی که می‌توانند «تا حدی درست» باشند، هرگز قطعیت بدست نمی‌آید.

مساله‌ی دیگر این است که پیچیدگی پدیده‌هایی که باید برای موجود هوشمندی
که قرار است در سطح جهانی تصمیم‌گیری کند ثابت نیست و بطور فزاینده و با
شتابی سرسام‌آور رو به افزایش است.

ما هنوز ابزارهایی که بتواند در دنیای اینترنت یک هوشمند کل باشد را نداریم!
این همه تقلایی که برای دستیابی به ساختار یکپارچه اسناد وب می‌شود،
هیچکدام هنوز به نتیجه‌ای قابل توجه نرسیده‌اند. همه‌ی اینها نشان می‌دهند
که در جهان واقعیت ما چه اندازه تا رسیدن به یک «عقل کل مصنوعی» فاصله
داریم. فاصله آنقدر هست به نظرم که می‌توانیم عملا به غیر ممکن بودن‌اش
معتقد باشیم.

[Mehrbod]

ما هنوز ابزارهایی که بتواند در دنیای اینترنت یک هوشمند کل باشد را نداریم!
این همه تقلایی که برای دستیابی به ساختار یکپارچه اسناد وب می‌شود،
هیچکدام هنوز به نتیجه‌ای قابل توجه نرسیده‌اند. همه‌ی اینها نشان می‌دهند
که در جهان واقعیت ما چه اندازه تا رسیدن به یک «عقل کل مصنوعی» فاصله
داریم. فاصله آنقدر هست به نظرم که می‌توانیم عملا به غیر ممکن بودن‌اش
معتقد باشیم.

دویست سال پیش باور اینکه یک روز یک "چیزی" بتواند با آدم شترنگ بازی کند و او را ببرد ناشدنی بود, امروز به واقعیت پیوسته.

و چرا این همه راهِ دور؟ تا همین بیست سال پیش باور اینکه رایانه‌ها بتوانند گفته‌‌هایِ آدم را
بگیرند science-fiction بود, ولی امروز میبینم Google Now با چه دقّت باورنکردنی‌ای دارد همین کار را میکند.

همگان هم که با روند رو به پیشرفت مترجم‌ها آگاهی دارند, جوریکه Google Translate دارد کم
کم به اندازه‌یِ یک کودک نوزبان سخنوری میکند و هتّا زبان‌ها مرده‌ای چون لاتین را هم میداند.

آیا اینکه با ترکیب همه‌یِ اینها و همراه با پیشرفت تصاعدی و روزافزون و دستادست سخت‌افزارها و
نرم‌افزارها, تا همین چند دهه‌یِ دیگر رایانه‌ها به هوش آدمی دست بیابند این اندازه دور از باور است؟

خب برای نمونه, چه چیزی پیش روی دانشمندان را گرفته که بسادگی "دست به مونتاژ" کورکورانه نزنند؟ همانجور که میشود
مغز موش را بی اینکه بدانند چگونه کار میکنندبا سیلیکون و الکترون همانند‌سازی کنند, خب کم کم میتوانند مغز بزرگتری را هم مونتاژ کنند.


تکینگی فندین زمانی رخ میدهد که نخستین هوشواره‌ای پدید بیاید که بتواند خود خودش را به اندازه‌یِ یک جو هم که شده, بهتر
بسازد[/b]. از این بازه به آنسو, در کمتر از چند روز یا هتّا ساعت, ابرهوشواره‌ای پدید خواهد آمد که از همه‌یِ بشریت روی هم بیشتر هوشمند باشد.


در همه‌یِ اینها نیز, انگیزه‌یِ بسیار بالایی از هر سو برای پدید آوردن هوشواره دیده میشود.

ب.ن. در یک سو, دست‌اندرکاران Wallstreet که هم سرمایه‌یِ بالایی دارند هم نیاز بالایی برای هوشمندتر سازی تراکنش‌هایِ
خود, تا به اینجا ابررایانه‌هایِ شگرف و نرم‌افزارهای بسیار خوبی نوآوری کرده‌اند و از سرمایه‌گذاری‌هایِ میلیاردی باکی ندارند.

دولت‌ها برای ستیز با تروریسم و کنترل جامعه و بهکرد اقتصادی و هزاران هزار پرسمان دیگر نیازمند تصمیم‌گیری‌هایِ هر چه بهتر و دقیق‌تر‌ و ازینرو,
ماشینیزه شده‌تر اند و چندین دهه‌ای میشود که با انگیزه‌یِ (طبیعی) بالا و با دادن بودجه‌هایِ کلان راه را برای پیدایش هوشواره‌ها هموار کرده‌اند.

و سرانجام نیز, بیشمار دانشمند و پژوهشگر و دانشجو و کسان دیگر هستند که به رایگان و تنها برای سرگرمی و
برآوردن نیازهای ِ جانشین خود در این زمینه‌ها و همانند آن میپژوهند و هر روز آجری بیشتر به پیکره‌یِ این ساختمان می‌افزایند.
این همه‌یِ پروژه‌هایِ گسترده‌یِ open source, این همه نیروهای رایگان که در راه نامجویی و سرگرمی و ... در زمینه‌هایِ هوشواره‌ها و بهکرد
الگوریتم‌ها و پدید آوردن زبان‌هایِ برنامه‌نویسی ترازبالاتر و بهینه‌تر و .. و ... میپژوهند و یافته‌هایِ خود را به اشتراک و سنجش میگذارند,
همه‌یِ اینها در چرخه‌ای بسته از خورد و بازخورد میباشند که در این زمینه نیز, در پیشرفتی روزاروز و روزافزون میباشند.

پس این سخن که هوشواره‌ها نتوانند به اندازه‌یِ آدمی هرگز هوشمند بشوند چیزی بجز یک خودگول‌زنی
آدم‌بزرگ‌پندارانه نمیتواند باشد, چه که هر چه باشد دانشمندان و فندسالاران تا به امروز بارها بار نشان داده‌اند که در زمینه‌هایِ تکنیکی از پس
بزرگترین و سخت‌ترین ِ مشکلات هم میتوانند بربیایند و همانند‌سازی یک مغز هوشمند, ازینرو, گرچه بسیار دشوار, ولی به هیچ روی کاری ناشو نیست.