Popis
Přejeme si budoucnost, v níž se lidská a strojová inteligence navzájem posilují. Má-li nastat, musí jedna i druhá inteligence svému protějšku náležitě rozumět. Představa, že AI vycvičíme do té míry, že nám porozumí, a pak se prostě stáhneme a budeme doufat, že nás stroj začne respektovat, není zárukou úspěchu ani bezpečí.
Musíme se snažit pochopit, před jaké výzvy nás AI postaví – byť z dřívějška nemáme zkušenosti, které by nám zaručily, že situaci chápeme správně. A se zdoláváním tohoto nebetyčného úkolu musíme navíc zvládnout četné obtíže, před nimiž náš druh stojí již dnes.
