پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[sonixax]

گرفتاری چیست, آیا میگویید ساخت هوشواره‌ای که به اندازه‌یِ آدم هوشمند باشد ناشدنی است؟

باری دیگر, گرفتاری چیست, آیا میگویید هرگز نمیتوان هوشواره‌ای درست کرد که به اندازه‌یِ آدم هوشمند باشد؟

خیر!
من میگویم ساخت هوش مصنوعی که به اندازه انسان باهوش باشد و به اندازه هیتلر و خمینی و استالین و ... پلید ناشدنیست!

نمونه‌یِ شترنگ در دنباله‌یِ کارهایی‌ست که رایانه‌ها میتوانند انجام دهند, نه چراغ جادو. اینکه رایانه‌ها امروز میتوانند بخوانند,
بنویسند, ترجمه بکنند, شترنگ بازی کنند, راهیابی کنند و ... همه کارهایی میباشند که تا دویست سال پیش باورناپذیر
بودند, پس به دنبال اینکه همین روند برون‌یافته (extrapolated) و گفته شود که رایانه‌ها میتوانند
تصمیم‌هایِ باز بزرگتری نیز بگیرند و کارهای باز پیچیده‌تری نیز انجام دهند, یک فرجام‌‌یابی خردپذیر خواهد بود.

آن رایانه هوشمند فرضی خود به خود که به وجود نمی آید ؟ باید توسط انسان ساخته شود!
پس همواره راهی برای متوقف کردنش وجود خواهد داشت! از طرفی ساخت چنان رایانه ای توسط تنها و تنها یک نفر قطعن ناشدنیست!
گرفتاری اینجاست! یعنی به فرض که ما بتوانیم چنان چیزی بسازیم، هرگز وارد مرحله ای نخواهیم شد که بخواهیم چیزی بسازیم که موجودیت خودمان را به خطر بیندازد.

معنی هوش اینجا هوش در بستر آگاهی ست. وگرنه هوش را تعریف که میشود کرد که هیچ، صد سالی ست که اندازه گیری هم شده.

خوب آگاهی چیست ؟
به نظر من استفاده از واژه آگاهی تنها نوعی خود فریبی دانشیک است! یک چیزی تو مایه های روح. که میگویند فلان اثر هنری چون توسط انسان کشیده نشده پس روح ندارد و فاقد ارزش هر قدر هم که خفن پفن باشد!
هر جایی که اندکی هوش وجود داشته باشد، به اندازه و نسبت همان هوش هم آگاهی وجود دارد چرا که میتواند به وقایع پاسخ دهد پس آگاه است.
زامبی های بازی کامپیوتری، به اندازه قدرت موتور و هوش مصنوعی بازی آگاهی دارند هرچند که عمرشان با بستن بازی یا خاموش کردن کامپیوتر تمام میشود.

[Russell]

خوب آگاهی چیست ؟
به نظر من استفاده از واژه آگاهی تنها نوعی خود فریبی دانشیک است! یک چیزی تو مایه های روح. که میگویند فلان اثر هنری چون توسط انسان کشیده نشده پس روح ندارد و فاقد ارزش هر قدر هم که خفن پفن باشد!
هر جایی که اندکی هوش وجود داشته باشد، به اندازه و نسبت همان هوش هم آگاهی وجود دارد چرا که میتواند به وقایع پاسخ دهد پس آگاه است.
زامبی های بازی کامپیوتری، به اندازه قدرت موتور و هوش مصنوعی بازی آگاهی دارند هرچند که عمرشان با بستن بازی یا خاموش کردن کامپیوتر تمام میشود.

آگاهی اگرچه چیزی غیرقابل درک باشد و مطالعه دانشیک آن ممکن نباشد یک چیز واقعیست، حالا طبیعی یا ماورالطبیعی. اینکه ما بخواهیم یک پدیده را تا سر حد فریب خودمان شبیه سازی کنیم و بعد که خودمان خودمان را فریب دادیم بگوییم فرقی بین اصل و بدل آن چیز نیست حقیقتا مضحک است. زمانی هم بود که درک درستی از ساختار اتمی ماده وجود نداشت و مثلا دما را میشد بعنوان خاصیتی ترمودینامیک تعریف و استفاده کرد بدون اینکه درکی از چرایی ادراک سابجکتیو ما از دما داشت.

اگر آگاهی محدود به نوع انسانی آن نباشد، این اتفاقا دلیلی ست بر اینکه هنر (که تعریف آن به آگاهی و تجریه‌یِ انسانی گره خورده) چیزی بیشتر از سلیقه است. من ستیز شما و مهربد را با اصالت هنر و ادعای اینکه تصاویر ماشینی امروز حقیقتا خلق اثر هنری هستند درک نمیکنم. امیر در تاپیک ویژه‌ای که درباره‌یِ هنر زد این ماجرا را به خوبی توضیح داد. بنظر من میرسد، اینکه یک عده هنرمندنما میخواهند نام ادرار را هنر بگذارند باید باعث شود تا ذهن دانشمحور از ایده‌یِ سلیقه‌ای بودن هنر فاصله بگیرند، نه اینکه به آن بپیوندند.

[Mehrbod]

ویدویی از کشف یک تیره‌ی‌ِ دست‌نخورده‌ی و به دور از شهرمندی مانده‌ی آمازونی:

Aislados: Tribu Zoé tribe (part 1) - YouTube

برخی از ادّعای پوچی که درباره‌ی زندگی نخستینیان میشود در این یک ساعت فیلم‌برداری و بازنمایی زندگی این تیره, بروشنی پوچ گشته‌اند:

۱. در تیره‌های نخستینی بیشتر از ۴۰ سال (گاهی ۲۰ سال!) نمی‌زیسته‌اند: به پیرزن ۸۰ ساله که جوان‌تر از زن ۶۰ ساله‌ی امروزین میماند نگاه شود.

۲. نخستینیان در برابر جانوران گوشت‌خوار دد بی‌دفاع بوده و در ترس همیشگی به سر میبرده‌اند: بسنده است کس نیم نگاهی به زندگی اینان بیاندازد تا سر در بیاورد چه کسی در "ترس" همیشگی, آنهم از بیکاری و سیه‌روزی و نداشتن اجاره خانه به سر میبرد!!

۳. زندگی نخستینیان هرکس برای خودش بوده و یارو از یک سنّی رد میشده از گرسنگی و نزاری و نبود یاری جان میداده است: به همکاری دوسویه و برستودنی میان هموندان این تیره نگریسته شود!

۴. در زندگی نخستینیان چماق و زورگویی بیداد میکرده است: زندگی بی اندازه آشتی‌آمیز و نبود هرگونه "رئیس" و بالاسر در این تیره‌ی آمازونی خود گواهی آشکار از این ژاژخایی.

۵. در زندگی نخستینی زنان ستم میدیده‌اند و زور میشنفته‌اند: به برابری شگفت‌انگیز! و چندهمسری مرد با چند زن و زن با چند مرد نگریسته شود.

[Transcendence]

خوب شاید این ها در بین همه تیره ها نبوده باشه(ممکن است که قبایل وحشی هم بوده باشند)...از یک نمونه که نمی شه نتیجه گرفت که زندگی نخستینی ها با طبیعت در یک

هارمونی کاملی بوده است...به غیر از این، انچه که من از فیلم دیدم وجود منابع غذایی سرشار ومنابع ابی به نسبت جمعیت کم هست که این ها می تونه عواملی باشه که جنگ

و ستیز و ...کاهش بده .
(البته این نمونه می تواند مثال نقصی برای ادعای کلی انها مبنی بر توحش و ترس و میانگین طول عمر 25 سال و...نخستینی ها باشه)

از طرف دیگر شاید کسانی که از توحش و ترس و..نخستینی ها صحبت می کنند به نوعی تحت تاثیر تصوری باشند که ما از انسان در صده های اخیر داشته ایم(جنگ ها و خونریزی

هاو ..)و این تصور را با چند درجه شدت به انسان های نخستینی هم تعمیم داده باشند.(بلاخره ما خودمون رو از اون ها اخلاقی تر و متمدن تر به حساب می اوریم و اگر ما انسان

های متمدن این گونه خونریز هستیم پس نخستینی ها باید به مراتب خونریزتر و اهل انسان کشی بیشتری بوده باشند).

از طرف دیگه ایده بازگشت به زندگی نخستینی ،فقط یک جابجایی فیزیکی نباید باشه..درحقیقت این مردم(نخستینی های این ویدیو) زبان ،فکر ،ایین و ذهن وروان خاص

خودشان رو دارند (که در پیوند با هارمونی بین انها و طبیعت است)..نمی شود از مردمی که زبانی مدرن(پست مدرن)و ذهن و روانی مدرن دارندتوقع داشت که در صورت

بازگشت (که به نظر بیشتر فیزیکی و یک واکنش به سیستم می باشد)،همان هارمونی نخستینی های موجود در این ویدیو را به وجود اورند.

[Transcendence]

اینجا یک نامه هست که فکر کنم نکات خیلی مهمی در اون وجود داره .

Autonomous Weapons: an Open Letter from AI & Robotics Researchers

Autonomous weapons select and engage targets without human intervention. They might include, for example, armed quadcopters that can search for and eliminate people meeting certain pre-defined criteria, but do not include cruise missiles or remotely piloted drones for which humans make all targeting decisions. Artificial Intelligence (AI) technology has reached a point where the deployment of such systems is — practically if not legally — feasible within years, not decades, and the stakes are high: autonomous weapons have been described as the third revolution in warfare, after gunpowder and nuclear arms
Many arguments have been made for and against autonomous weapons, for example that replacing human soldiers by machines is good by reducing casualties for the owner but bad by thereby lowering the threshold for going to battle. The key question for humanity today is whether to start a global AI arms race or to prevent it from starting. If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow. Unlike nuclear weapons, they require no costly or hard-to-obtain raw materials, so they will become ubiquitous and cheap for all significant military powers to mass-produce. It will only be a matter of time until they appear on the black market and in the hands of terrorists, dictators wishing to better control their populace, warlords wishing to perpetrate ethnic cleansing, etc. Autonomous weapons are ideal for tasks such as assassinations, destabilizing nations, subduing populations and selectively killing a particular ethnic group. We therefore believe that a military AI arms race would not be beneficial for humanity. There are many ways in which AI can make battlefields safer for humans, especially civilians, without creating new tools for killing people
Just as most chemists and biologists have no interest in building chemical or biological weapons, most AI researchers have no interest in building AI weapons — and do not want others to tarnish their field by doing so, potentially creating a major public backlash against AI that curtails its future societal benefits. Indeed, chemists and biologists have broadly supported international agreements that have successfully prohibited chemical and biological weapons, just as most physicists supported the treaties banning space-based nuclear weapons and blinding laser weapons

In summary, we believe that AI has great potential to benefit humanity in many ways, and that the goal of the field should be to do so. Starting a military AI arms race is a bad idea, and should be prevented by a ban on offensive autonomous weapons beyond meaningful human control

افرادی مثل استیون هاوکینک و دنیل دنت و نوام چامسکی و... این نامه را امضا کردن.
FLI - Future of Life Institute | Open Letter on Autonomous Weapons

[Transcendence]

اسپاگتی بیامرزد پیامبران رو ،فکر کنم این فیوچریست ها ژن پیامبری دارند.
همه چی درست می شه ، دلنگرانی نداره،تکنولوژی بزرگ ،توکلت به تکنولوژی باشه.

درنوشته های پیامبران مدرن پیشگویی شده که پس از چند دهه نابسامانی ناگهان تکنولوژی رحمتش ما را در بر خواهد گرفت

و ما به بهشت می رویم .
ذهنمون رو (روح مان را)از بدنمان جدا می کنیم و توی این فضای مجازی upload می کنیم . و جاودانه در اون جا

زندگی می کنیم ، آزاد و رها از همه محدودیت های مادی ، هرجا که بخواهیم می توانیم با یک اشاره حرکت کنیم ،دیگه زمان و

مکان معنایی نداره.هرچی بخوای سریع برات آماده می شه .اصلا همه اون موقع بیدار می شن همه دانا می شن همه زیبا می شن.مثلا

شما فرض کن می خوای سکس کنی ، یه کس ردیف برات ایکی ثانیه ای آماده می شه .تازه یه بند هم می تونی بکنی آبت هم بند

نمی آید.به به چه دنیای زیبایی ،چه امیدواری قشنگی .

این است رحمت تکنولوژی ،باشد که سپاسگزار باشید.ما شما فیوچریست ها رونفرستادیم مگر بشارت دهنده و بیم دهنده ، و هر آن کس

که ایمان آورد به خودش نیکی کرده است .
(راست گفت تکنولوژی بزرگ و بلند مرتبه)

[Rustin]

بعضی‌ها سخت شیفته قدما هستند و بعضی دیگر به شدت هواخواه تجدد می‌باشند؛ فقط عدهٔ معدودی هستند که می‌توانند حد وسط را نگاه‌ دارند؛ نه آرای درست قدما را به دور می‌اندازند و نه اختراعات صحیح نوین را مسخره می‌کنند. فرانسیس بیکن

[Mehrbod]

بعضی‌ها سخت شیفته قدما هستند و بعضی دیگر به شدت هواخواه تجدد می‌باشند؛ فقط عدهٔ معدودی هستند که می‌توانند حد وسط را نگاه‌ دارند؛ نه آرای درست قدما را به دور می‌اندازند و نه اختراعات صحیح نوین را مسخره می‌کنند. فرانسیس بیکن

اینجا سخن تنها این نبوده که آیا کهنه‌گرایی (سنّت) بهتر است یا نوین‌گرایی (modernism), بساکه سخن بیشتر از همه این بوده که آیا
پیشرفت تکنولوژی با روند کنونی خود دورنمایی خواستنی برای آدمی دربر دارد یا نه, که پاسخ به آن از کمابیش هر نگاه, نه بوده است.

پس اینکه کسی بگوید آنوری‌ها فندپرست و اینوری فندگریز‌اند و راه میانه از همه بهتر است گرچه در جای خود درست, ولی پیوندی به اینکه
آیا نمونه‌وار تکنولوژی سرانجام روبات‌هایِ هوشمندتر از آدمی میسازد یا ابزارهای شستشوی مغزی چه اندازه پیشرفته میشوند دیگر نخواهد داشت.

[Transcendence]

احساس می کنم که مسئله تکنولوژی ،بیشتر غربی است تا شرقی...فکر کنم یک جایی تد کازینسکی از ثبات فرهنگ های شرقی مثل چین و ثبات فرهنگ اسلامی صحبت کرده بود.

[Mehrbod]

احساس می کنم که مسئله تکنولوژی ،بیشتر غربی است تا شرقی...فکر کنم یک جایی تد کازینسکی از ثبات فرهنگ های شرقی مثل چین و ثبات فرهنگ اسلامی صحبت کرده بود.

فرهنگ چیزی بیشتر از آموزه‌ها و رفتارهای فراگیر میان شماری از مردم نیست و فرهنگ‌هایِ امروزین, هتّا شرقی‌ترین آن در سایه‌یِ تکنولوژی می‌بالند
و جاییکه ستیزی میان فرهنگ و تکنولوژی باشد, تکنولوژی همواره برنده است و چرایی آن از «گزینش طبیعی / natural selection» ریشه میگیرد.


برای نمونه, فرهنگ خاوری چیزی مانند ژاپن را دارد که کوشیده رسم و آیین‌هایِ کهن را با تکنولوژی بیامیزد و تا اندازه‌‌یِ خوب و هتّا بامزّه‌ای هم
در این زمینه کامیاب بوده است, ولی در هر چهره‌ای برآیند آن این است که آیین تنها و تنها تا زمانی بجا میماند که در ستیز با "تکنولوژی" و "پیشرفت"
نباشد و اگر باشد, خود به خود نیست خواهد شد. ازینرو, در بدترین چهره‌یِ خود, فرهنگ یک فاکتور دست و پاگیر و کند کننده است و در
بهترین چهره‌یِ خود یک فاکتور شتابدهنده و تند کننده. برای نمونه فرهنگ‌هایی که ریسک‌پذیر‌اند (آمریکایی) نوآوری و پیشرفت‌هایِ آنچنانی دارند
ولی بجایش آسیب بالایی هم بجا میگذارند, فرهنگ‌هایی که ولی ریسک‌گریز و گام-خُرد‌ اند (آلمانی) پیشرفت آهسته‌ ولی پیوسته‌تر دارند.



پس باری دیگر, پُرسْمان تکنولوژی اینجا این بوده که خب این iPhone‌ها و این روبات‌ها و این ابزارهایی که برای کنترل و
خواندن مغز ساخته میشوند و این چاپگرهای 3D و دیگر ابزارها چه دورنمایی دربر دارند و آینده‌یِ آدمی را
چگونه رقم خواهند زد, و بسیار کمتر اینکه کدام فرهنگ و کدام نگاه, شرقی یا غربی, بهتر و بدتر است.


سرانجام اینکه, آنچه از کازینسکی آورده‌اید سخنی بسیار بدخوانده شده است, به گمان بسیار بالا شما به بخشی
از نوشته‌هایِ کازینسکی اشاره میکنید که به چرایی پیدایش تکنولوژی‌هایِ نوین پرداخته است و اینکه
چرا پس از صدها هزاران سال که در سرتاسر زمین نیازی به هیچکدام از تکنولوژی‌ها نوین
نمیرفته و دیده نمیشده, در غرب ناگهان نخستین رگه‌هایِ آن پدیدار شده‌اند, که در
حقیقت پرسشی‌ست که خود کازینسکی نیز پاسخ آنرا بدرستی نمیداند چنانکه خود وی نیز اشاره میکند, و
تاریخ‌شناسان نیز تفسیر‌هایِ بسیار گوناگون و دگرستیز ازآن دارند و رویهمرفته کسی بخوبی و درستی نمیداند چرا.