생각조종자들

이 책은 개별화(개인화) 서비스가 사회에 어떤 영향을 미치는지 긍정적인 부분보다는 부정적인 부분에 대해 얘기함으로써 이러한 서비스가 '당신의 의사결정을 설계하는 위험한 집단'(부제)이 되지 않도록 예방하자는 관점에서 기술되었다고 본다. 어느새 구글, 페이스북, 아마존 등 대표적인 사이트뿐 아니라 다양한 인터넷 사이트에서 나의 웹사이트에서의 행동을 분석하고 이를 기반으로 개별화된 컨텐츠를 추천함으로써 내가 어떤 내용을 볼 것인지에 대한 의사결정에 영향을 미치고 있다. 하지만 이 의사결정에 대한 기준들이 점점 더 모호해지기 때문에 나도 모르는 사이에 나의 생각의 틀이 이러한 시스템에 의해 점차 변형될 수 있다는 것을 알고 개별화된 서비스를 받아들일 필요가 있다.

온라인 정치시민단체의 선구자인 '무브온'의 창립 초기에서부터 이 단체에 깊숙이 관여해온 저자(엘리 프레이저)는 인터넷이 가진 무한한 가능성을 누구보다 잘 알고 있으며 그 혜택을 가장 많이 경험하기도 했다. 하지만 오랜 활동을 통해 인터넷이 얼마나 대중을 쉽게 조종할 수 있는 무기인지를 뼈저리게 느끼게 된다. 그리고 이 위험한 무기를 장악한 자들이 대중의 생각까지 마음대로 조작할 수 있다는 무서운 진실에 눈 뜨게 된다. 이후 과연 이 생각 조종자들의 손아귀에서 벗어나 내 생각을 온전히 내가 만들어가기 위한 방법이 무엇일까 고민하게 되면서 이 책을 집필했다.  (저자 소개 중에서)
 
전반부에서는 개인화/맞춤형/개별화 등 사용자의 성향, 취미, 관심 등에 맞춰서 정보를 제공하는 서비스가 어떻게 발전되어 왔는지 짧고도 긴(?) 역사의 흐름에 대해 설명해주고 있다.

그리고, 나머지 부분들은 기술자들이 개발한 프로그램에 의해서 많은 사람들의 생각이 한쪽으로 치우쳐지게 되는 현상에 대한 우려를 여러가지 사례를 통해 전달하고 있다. 편리성이라는 이점을 얻기 위해 우린 자신의 사생활 정보를 기꺼이 내주고, 대신 편향된 정보를 얻고 점점 더 제한적인 정보를 제공받게 되어 그것이 전부인 줄 착각하고 살아가게 될지도 모른다는 것이다.

특히 검색 엔진과 뉴스 포탈 같은 곳에서 이러한 개별화 Filter들이 많이 적용되다 보니, 다양한 관점의 이야기를 듣고 사고의 범위를 넓히면서 창의적인 생각을 할 기회가 줄어든다는 것이다.

스티브 잡스는 구글이나 MS는 지나치게 기술 중심으로 접근하여 인문학적인 사고를 하지 않는다고 비판했지만, 애플이나 페이스북 조차도 사회와 사람을 이해하는 부분에 있어서 시각이 제한적이기는 마찬가지이고 최고경영자의 생각대로 사회와 사람을 움직이고 싶어한 것은 아닌가라는 생각을 했다. 드넓은 세상과 복잡한 인간사회를 제대로 이해하고 이를 포괄적으로 어우르는 사업을 한다는 것은 쉽지 않은 일이니까...

저자는 페이스북 보다는 트위터를 좀 더 긍정적으로 보고 있다. 왜냐하면 적어도 트위터는 페이스북 보다는 보여지는 내용이 어떻게 선택되는지에 대해서 투명한 논리를 제공하고 있기 때문이다. 그래서일까 나도 트위터를 페이스북 보다는 덜 부담스럽게 쓰고 있다.

IT가 단순히 사회의 다양한 기능을 지원하는 도구에서 사회의 흐름을 바꾸고, 사람의 생각과 행동을 좌지우지할 수 있는 영향력까지 가진 소통의 도구가 됨에 따라 기술을 개발하고 적용하는 사람들이 편리함, 재미 등에만 집중할 것이 아니라 이로 인해 사람들의 생각, 사회에 미치는 영향 등도 생각해야 할 때가 된 것이다. 따라서 저자는 책 마무리에서 개발자가 좀 더 폭넓은 시각을 갖고 기술을 개발해야 한다고 마무리하고 있다.

아직까지는 이러한 기술이 적용되고 있는 서비스가 일부일 수도 있지만, 어느 순간에 이것이 급속하게 확산되면 사람들은 이해할 수 없는 프로그램에 의해 좌우되고 인간이 기계를 통제하지 못하는 영화같은 현상이 벌어지지 않을까 하는 두려움도 생긴다.

IT업계에 몸담고 있고, 특히 개인화/개별화와 같은 주제를 다루고 있는 입장에서 사업성만 생각할 것이 아니라 공익성 또한 함께 생각해야 할 것 같다. 

새로운 세대의 인터넷 필터가 당신이 좋아하는 것을 살펴본다. 당신이 실제로 무슨 일을 했는지, 당신과 같은 사람이 무엇을 좋아하는지 살펴보고 추론한다. 예측 엔진들은 끊임없이 당신이 누구인지, 이제 무엇을 하려고 하고 또 할 것인지에 대한 이론을 만들어내고 다듬는다. 이를 통해 우리 각각에 대한 유일한 정보의 바다를 만든다. 우리가 온라인에서 정보와 아이디어를 맞닥뜨리는 방법 자체를 근본적으로 변화시키는 이런 현상을 나는 ‘필터 버블 filter bubble’이라고 부르고자 한다. - 본문 중에서

개별화 필터 때문에 우리가 제대로 세상을 보지 못하는 이유가 또 있다. 필터 버블은 지도에 대한 우리의 생각을 바꿔 버린다. 더욱 거북스러운 사실은 지도상의 빈 칸을 지워 버림으로써 ‘아직 모르는 곳’ 이라고 알려진 곳을 ‘아예 모르는 곳’ 으로 바꿔버린다는 것이다. - 본문 중에서

"사이버 시대의 가장 힘든 문제인 동시에 가장 매력적인 문제는 당신이 계획하지 않았던 곳으로 생각이 갈 수 있도록 네트워크에 간혹 기어를 추가하는 것이다. 기계를 터치하기만 하면 원래의 주제로 돌아간다. 우리가 때때로 합리성을 뛰어넘고, 우리의 생각이 꿈속에서처럼 여기저기 넘나들고 탈바꿈하기 위해서는 도움이 필요하다. 이 때 알고리즘이 진실로 도움이 되려면 애매모호한 태도를 취하고, 상식적인 범위를 벗어난 사람처럼 작동되어야 한다" - 예일대 교수 데이비드 겔런터, 본문 중에서

"그들은 세상이 자신들의 생각과는 달리 엉뚱한 방향으로 가고 있다고 생각되면, 자신들이 잘못되었으니 다시 생각해보자고 하기보다는 나머지 세상 사람들이 잘못되었다고 말할 가능성이 더 크다" - 스탠퍼드대 테리위노그래드 교수(페이지와 브린 지도교수), 본문 중에서

"우리가 알고 있는 웹은 위협받고 있다. 웹에서 가장 성공적인 일부 기업들은 원칙에서 벗어나고 있다. 대형 소셜 네트워크 사이트들은 그들이 확보한 사용자 정보에 담을 쌓고 있다. 독재 정권은 물론 민주적 정부조차도 국민의 온라인 행동 양태를 감시하고 있다. 이는 인권에 대한 중대한 위협이다. 웹 사용자들이 이런 경향을 그대로 방치한다면 웹은 파편화된 섬으로 나눠질 수도 있다." - 팀 버너스리(WWW제작자) 2010, 본문 중에서

개별화는 우리를 빈민가 도시로 몰고 갈 것이다. 최악의 경우 필터 버블은 우리를 정보의 울타리에 가둬, 나머지 온라인 세계에 존재하는 엄청난 가능성을 탐험하지 못하도록 막을 것이다. - 본문 중에서

인터넷광고단체(IAB)는 사용자에게 어떻게 개별화하는지 공개하지 않으면 개별화 광고에 대해 사용자가 반발해 이에 대한 입법화를 요구하게 될 것이라고 예상했다. ...(중략)… 컨텐츠 제공자들도 개별화 기술을 구체화할 때, 이런 안전장치도 함께 구체화하도록 해야 한다. - 본문 중에서

개별화 문제가 더 잘 알려져서 소비자들이 새로운 주제를 잘 소개해주는 시스템을 선택하게 되면, 이런 선택이 장기적으로 좋은 조치일 것이다. 아마 우리가 원하는 것은 사람들에게 새로운 주제와 생각을 잘 소개하는 좋은 시스템에게 줄 '세레디피티 상'을 만드는 것이 아닐까?  - 본문 중에서