2001年頃 Eliezer Yudkowsky がフレンドリーAIという概念を提唱して、高度なAIをどのようにコントロールするかの学問分野が創設された。2014年にスチュアート・ラッセルがアライメントという言葉を機械知能研究所に提案しアライメントという単語が使われ始めた。2023年激動の時代でもうすぐにAGIができるかもしれないと言われている。人類にとって最も重要な時代が近づいている。ユートピアか絶滅か。それはアライメント研究やAGIガバナンスの成否にかかっている。