알고리즘 윤리가 연일 화두로 떠오르고 있다. “머릿속까지 들여다보는 알고리즘, 인간을 마음대로 조종할 수도” “알고리즘, 미국을 무너뜨리다” “뜬금없는 유튜브 알고리즘에 피로감” “광고 퍼붓는 알고리즘, 노리는 건 결국 당신 지갑” “검색창에 CEO 치면 주로 남자, 알고리즘의 편향성 막아야” “알고리즘에 지배당한 인생, 자유의지대로 살고 있나?” “허점 드러난 AI 알고리즘… 포털 뉴스, 택시앱 이어 챗봇까지 논란” 등등 2021년 새해 주요 언론사 헤드라인을 장식한 기사 제목들만 봐도 그렇다. AI 알고리즘 기반 온라인 서비스의 사회적 영향력이 증대함에 따라 여론의 양극화, 확증편향, 차별 등 역기능에 대한 우려가 현실로 나타나고 있는 것이다.

독일 카이저슬라우테른 공과대학 사회정보학 교수이자 독일연방의회 인공지능조사위원회 위원인 카트리나 츠바이크의 신간 《무자비한 알고리즘-왜 인공지능에도 윤리가 필요할까》는 알고리즘, 빅데이터, 컴퓨터지능, 머신러닝 등 정보기술에 관한 총체적이고 통합적인 시각에 기초해 알고리즘의 기술적 토대를 설명함과 동시에 알고리즘의 투명성과 인공지능의 사회적 책임을 촉구하는 책이다. 저자는 책에서 흔히 가치중립적이라고 생각하는 기계 규칙인 ‘머신러닝 알고리즘’이 실제로는 많은 수작업을 요하며 인간이 변수를 조절할 수 있다는 점, 정확하고 객관적이라 생각한 데이터가 실은 충분하지 않고 오류나 차별이 끼어드는 경우가 그간 얼마나 많았었는지를 상세히 보여준다. 특히 인간과 관련된 알고리즘 기반 의사결정 시스템이 막대한 손해잠재력을 지니고 있다는 점을 지적하며 사용자의 개입과 감시가 필요하다고 역설한다.

책에는 최신의 과학 기술 원리와 용어 등이 등장하지만, 저자는 신입생을 대상으로 강의하듯 대중의 눈높이에 맞춰 알고리즘이란 무엇인지, 어떻게 작동하는지, 어떤 이유로 우려를 불러일으키는지 설명한다. 일상에 밀착된 예시, 흥미로운 비유와 유머를 적절히 동원해 친절하게 설명할 뿐 아니라 인공지능을 의인화한 캐릭터 카이가 등장하는 아기자기한 삽화가 곁들여져 독자의 이해를 돕는다. 책은 세 부분으로 구성된다. 1부는 자연과학적인 인식 방법들을 제시하고, 인공지능 시스템을 만들기 위한 도구상자를 안내한다. 2부에서는 ‘정보학의 ABC’, 즉 알고리즘Algorithm, 빅데이터Big Data, 컴퓨터지능Computer intelligence 그리고 이것들이 서로 어떻게 연관되는지를 살핀다. 이어 3부에서는 어떤 부분에 인간이 개입해 윤리를 고려해야 할지, 그리고 이 과정을 어떻게 바람직하게 진행할 수 있을지를 다룬다.

뉴스 추천, 상품 추천 광고, 내비게이션, 검색어 자동완성, 번역기, 암 진단 시스템, 자율주행자동차…… 인공지능은 이제 우리 일상에 깊숙이 들어와 우리 인간들에 대해, 인간들과 더불어, 인간들을 위해 결정을 내리고 있다. 이쯤에서 책은 우리에게 질문을 던진다. 과연 기계가 인간에 대해 인간보다 더 나은 선택과 판단을 할 수 있을까? 또 우리는 그것을 원할까? 거대 소셜미디어 기업에 나를 ‘데이터 덩어리’로 바치고 싶지 않다면, 특정 이념단체나 권력기관에 선동되어 꼭두각시 인형처럼 움직이고 싶지 않다면, 그리고 기계에 나에 대한 판단을 온전히 맡기지 싶지 않다면 이 책의 일독을 권한다. 인간이 더 인간다워질 때, 인공지능과의 공존도 가능해질 수 있는 법이다.