인공지능의 어두운 그림자

소개

최근 AI가 사회의 대부분의 영역에서 놀라운 신기술로 등장하고 있으며, 모든 강력한 기술과 마찬가지로 사회의 지속 발전을 위하여 AI의 잠재력을 신중하게 고민하고 활용해야 하는 시점이다. 그러나 AI가 가져다줄 장미빛 전망에 가리워져 고급 AI가 초래할 수 있는 재앙적이거나 종말적인 위험이 어떻게 일어날지 또는 어떻게 대처해야 하는지에 대해서는 제한된 정보만이 제공되고 있다. 이 주제에 대한 다수의 자료가 존재하지만, 이들 자료들은 종종 다양한 논문에 흩어져 있거나 특정 위험에 중점을 둔 특정한 독자를 대상으로 하는 것이 일반적이다. 이 책에서는 인공지능이 갖는 잠재적 재앙적 AI 위험의 주요 원천을 크게 두가지 범주로 나누어 설명한다. 첫째는 AI모델이 기본적으로 지니는 내재적인 취약성(Intrinsic Vulnerability)으로 인한 위험이 그것이다. 사람의 지능을 포함 어떠한 지능이든 고유의 내재적인 취약점은 있게 마련이며 인공지능 역시 몇 가지 내재적 취약성을 가지며 그로...