인공지능 안전성에 주목하라

김창익 (지은이) 

딥러닝이란 이름의 새로운 인공지능 기술이 세상에 본격적으로 모습을 드러낸 지 10년이 지났으며 인간사회에 엄청난 변화와 혁신을 가져다 줄 것을 우리 모두 믿어 의심치 않는다. 하지만 동시에 우리는 이들 인공지능시스템들이 공격받기 쉽고 때로는 우리의 의도와는 다르게 작동하기도 한다는 사실도 점점 인지하고 있는 중이다. 도로의 정지신호 (stop sign)에 낙서를 추가하면 자율주행차에 탑재된 인공지능 분류기로 하여금 그것은 정지 신호가 아닌 것으로 판단하게 하여 승객의 안전을 위협할 수도 있고 양성 피부 병변을 찍은 영상을 악성 병변을 가진 영상으로 인식하게 하여 의료보험 사기에 이용할 수도 있다. 미국 법정에서 사용되는 위험진단 프로그램은 특정 인종에 대한 편견을 보이기도 하며 회사의 직원 선발 프로그램은 여성에 대한 바이어스를 나타내기도 한다. 온라인 AI 챗봇은, 사용자의 기분을 상하게 하고 사회적으로 부정적인 영향을 미치는 음란하고 인종 차별적이며 성차별 적인 콘텐츠를 생산하기도 한다. 더욱이 AI 시스템들은 개인 정보나 기업정보의 보호에 대한 취약성을 가지기도 한다. 해커들은 지문과 같은 개인 입력데이터를 재구성하기 위해 AI모델에 의해 생성되는 특징벡터를 이용할 수도 있는데 이러한 취약점은 사람들로 하여금 AI시스템을 믿고 사용하기 힘들게 만들고 나아가 심각한 경제적 손실 및 보안문제를 일으킬 수도 있다. 특히 사회기반 시설이나 사람의 안녕과 건강에 밀접한 작업들에 대해서는 부적절하고, 견고하지 않으며, 불안전한 결정과 동작을 하는 AI의 사용이 적극 제한되어야 한다. 이러한 안전과 신뢰성에 대한 우려는 결국 AI가 널리 확산되고 더 많은 경제적 가치를 창출하는데 있어서 큰 장애가 되고 있으며, 따라서 어떻게 안전하고 신뢰가능한 AI를 구축할 것인가에 대한 물음이 학계와 산업계에 있어서 화두가 된 상태이다. 그렇다면 인공지능의 이점을 실현하면서도 사람과 사회에 매우 위협적인 결과를 가져올 수도 있는 시나리오들을 어떻게 해결할 수 있을까? 간단히 말해서, 우리는 어떻게 안전하고 신뢰할 수 있는 (safe and reliable) 인공지능을 구현할 수 있을까?

이 책은 기본적으로 인공지능의 안전성에 대해 최소한의 지식을 갖고 있을 필요가 있는 국방, 의료, 자율주행, 금융, 법집행 분야의 관계자들을 염두하고 쓰여진 것이다. 내가 사용하는 인공지능이 인공지능 고유의 취약성을 노리는 악의적 공격에 견디어 낼 수 있는지, 과연 인공지능의 판단을 어디까지 믿고 의지할 수 있을지, 개발의도와는 다르게 전혀 생각지도 못했던 방향으로 사회에, 지구환경에 악영향을 미치는 것은 아닌지 본격화되는 인공지능 시대에 모두가 관심을 기울여야할 주제이다. 가급적 피상적인 개념의 설명이나 관련 기술동향의 나열에 그치지 않고 최소한의 기술적 이해를 원하는 독자들을 대상으로 가능한 한 수식의 사용을 자제하면서도 최대한 기본적인 개념을 이해할 수 있도록 노력하였다. 그런 이유로 남겨진 몇몇 수식은 작은 열정만으로도 충분히 이해하고 넘어갈 수 있도록 친절하게 설명을 하고자 했으나 수식에 노이로제가 있는 독자라면 그냥 건너뛰어도 큰 무리는 없을 것이다. 이미 우리 삶에 깊숙이 들어온 AI의 기본 원리를 넘어서 AI 안전성이 앞으로 우리의 삶에 어떤 영향을 끼치게 될 지 궁금하다면 누구나 이 책의 독자가 될 수 있을 것이다.

인류세

얼 C. 엘리스 (지은이) | 김용진, 박범순 (옮긴이)

현재 과학계에서 인간과 물질에 대한 새로운 철학적 논쟁을 불러일으키는 ‘인류세’에 관해 간략하고도 알기 쉽게 설명해주는 입문서이다. 저자 얼 C. 엘리스는 인류세실무단의 위원이자 생태학자로, 인류세가 왜 그토록 광범위하게 영향력을 발휘하게 되었는지, 인간의 역사와 지구의 역사의 상관관계를 지질학적·생태학적·고고학적·철학적 차원에서 입체적으로 살펴보고 인류세에 관한 폭넓은 질문을 제기한다.

인류세는 이 순간에도 진화중인 패러다임으로서, 기존 과학을 재정립하고 인류애를 고취시키며 인간에 의해 변화된 지구에서 살아간다는 의미를 탐구하고 삶의 정치를 강조한다. 이 책은 지구의 풍경을 그리는 데 있어 우리의 역할이 무엇인지에 대한 공론의 장을 마련해주며, 인류세가 우리의 미래에 어떤 결과를 초래할지를 다방면으로 톺아본다. 아울러 카이스트 인류세연구센터에 소속된 역자들은 전문성을 살려 과학적 지식의 이해를 돕는 적확한 텍스트를 제공한다.

지구와 충돌하지 않고 착륙하는 방법

브뤼노 라투르 (지은이) | 박범순 (옮긴이)

프랑스의 철학자이자 사회학자인 브뤼노 라투르는 기후 위기뿐 아니라 점점 심화되는 불평등, 대규모의 규제 완화, 악몽이 되어가는 세계화로 인해 지구에 각종 위기가 엄습하는 이 시기를 신기후체제(New Climatic Regime)라 선언하며, 그에 적합한 정치적 도전이 필요하다고 주장한다.

세계나 국가를 향한 정치가 아니라 지구를 향하는 정치를 해야 한다는 것이다. 지구는 더 이상 인간의 활동을 위해 무한한 자원을 공급하는 자원의 보고가 아니다. 오히려 이 행성의 운명에 직접적으로 관여하는 행위자 중 하나이다. 그렇기에 오늘날 정치의 가장 큰 과제는 지구와 충돌하지 않고 착륙하는 방법을 찾아내야 한다는 것이다.

라투르는 세계화의 종말, 새로운 터전을 찾아 이주하는 난민들, 기후변화에 직면한 국민국가의 한계 등을 고려하며, 최근 50여 년간의 정치적 지형을 분석하고 우리 사회가 이대로 괜찮은 것인지 의문을 제기한다.

호흡공동체

전치형, 김성은, 김희원, 강미량 (지은이) 

세가지 공기재난(미세먼지, 코로나19, 폭염)이 한국사회를 숨막히게 하고 있다. 당연한 삶의 배경이던 공기는 공들여 관리해야 할 삶의 조건이 되었다. 『호흡공동체: 미세먼지, 코로나19, 폭염에 응답하는 과학과 정치』는 한국사회라는 ‘호흡공동체’를 조율하고 회복하기 위한 공공의 과학과 정치를 제안하는 책이다.

안심하고 숨쉴 공간이 점점 좁아지고 함부로 호흡을 나눌 수 없게 된 지금, 과학기술사회학자이자 ‘과학과 사회를 잇는 미드필더’로 널리 알려진 전치형 교수를 필두로 카이스트 인류세연구센터 소속의 신진 연구자들이 힘을 합쳐 광화문 광장에서 무더위 쉼터까지 공기재난의 현장을 탐사했다.

방대한 데이터와 자료를 바탕으로 공기재난에 맞서는 한국사회를 과학의 눈으로 해설한 이 책은 르포와 과학 스토리텔링의 경계를 넘나들며 새로운 과학 글쓰기의 전범을 보여주는 동시에 독자들의 뇌리에 ‘호흡공동체’라는 의제를 각인할 예리한 사회비평서다.