درست میفرمائید دوست عزیز. اولین بار فکر میکنم Nick Bostrom این مسئله را فراگیر کرد.
فرا از مقالات جذاب ایشان کتاب Super-intelligence را بخوانید.