من بهت پیشنهاد میکنم پس این نوشتار بالارو بخونی
volition
ترزبانی[11] که من شاید بکنم میشه "
دلخواست[12]" یا "دلخواه"
بخش نخست نوشتار فلسفیه بیشتر
برای همین رشته ات که گفتی
پیشبینیِ دلخواستِ تو یک فرایند بسیار دشوارتر از اونیه که میاندیشی, هتا برای خودت
بهش اینجوری بنگر, تو زمانی هستی که میخواهی رشتهیِ دانشگاهیگتو بگزینی در زندگی
اینجا تو در حقیقت داری "دلخواست" آیندهیِ خودتو پیشمیبینی
یعنی میگی, "اگر من این رشته رو بخومی, چند سال دیگر از گزینش ام شاد خواهد بود, پس دلخواست
برونیافته[13] (extrapolated) من در آیندهیِ نه چندان دور با خواندن این رشته
میهمخواند[14]"
به سخن کوتاهتر, زمانیکه رشتتو گزیدی
دلخواست خودتو برونیاباندهای
و این در حقیقت بزرگترین مشکل Friendly AI هم هست
زیرا همانجور که تو امروز شاید ببینی چیزیکه برونیافته بودی و میاندیشیدی شادت ات کنه در زندگی اونی که میخواستی نبوده
هیچ راهی برای برنامهریز FIA نیست که همینو برای بشریت بکنه
Coherent یا "چسبیده" در اینجا به دلخواست برونیافتهیِ همهیِ مردمان
زندهای[15] میگه که در یک
پهنهای[16] بیشتر از همه چسبیده باشند.
پس چیزیکو تو نمیتونی هتا برای خودت ببرونیابی, برونیابیش برای بشریت نزدیک به ناممکنه