2017년 9월 7일 목요일

새로운 정보를 접할 때의 우리의 자세


친구들과의 술자리에서 무슨 얘기를 하다가 친구가 페이스북 연구진이 인공지능 채팅봇 연구 도중에 자기들끼리 자체 언어를 개발해서 대화를 하는 것을 보고 도중에 셧다운 시켰다는 기사를 봤다고 했다. 뭔가… 소름이 돋는다. 그러면서 우리는 와 조만간 로봇이 인간을 뛰어넘어 인간을 지배하는 세상이 오지 않겠냐 했지만, 옆에 친구가 근데 아직 나의 Siri가 말귀를 못 알아처먹는 걸 보니 그런날은 한참 멀었을 거라고 한다ㅎ ( 아… )
그러고 어느날 페이스북을 하다가 문득 그 내용이 궁금해서 찾아 봤다.
그렇다. 실제로 그런 기사가 있었다.











자극적인 내용의 사이비 기사



“인공지능, 목적 이루려 스스로 언어 개발…사람은 이해못해”
내용에는 “인간의 언어체계와 상이한 자신들의 협상용 언어를 스스로 만들어 인간 언어에서 벗어나는 현상을 경험하고, 연구 모델을 수정해야 하는 상황에 직면했다” 라는 내용이 있었다. 하지만 친구가 얘기했던 자기들끼리 ‘대화’라던가 통제할 수 없어서 ‘셧 다운’ 시켰다던가 하는 내용은 찾아보기 힘들었다.
심지어 위의 기사도 꽤나 이슈가 됐었는지 많은 인공지능 전문가들이 이 글을 비판한 내용들을 찾아볼 수 있었다.

“언어라고 할 수는 없다. 각각의 개별 언어 속에서 공통으로 '추출'할 수 있는 언어의 패턴일 뿐이며, 이를 언어로 봐주는 것은 순전히 관찰자의 감정이입과 혼동의 결과다. 위의 기사는 독자를 근거 없는 불안에 사로잡히게 한다.” 
[출처] AI 시대에서 살아남기 - http://aisurvive.tistory.com/123
아래의 the Science Life의 편집장이라는 분은 원문을 찾아보기 까지 했다… ( 이 정도는 해줘야 신뢰가 간다! )

“결국 연구자들은 일반적인 협상을 위한 기계 학습의 결과를 논문의 형태로 발표한 것인데, 이를 인용하는 기사에서는 기계가 스스로 새로운 언어를 개발해서 인간의 통제를 벗어났다는 뉘앙스의 기사로 재생산이 된 것입니다.” 
[출처] 과학이 있는 삶 - http://thesciencelife.com/archives/253

정말 이 SNS를 통하여 확대 재생산 및 재확산 되어 뿌려지는 정보들이 넘쳐나는 듯 하다. 읽고 싶게 만드는 제목, 공유하고 싶게 만드는 자극적인 내용들이 요즘 들어 유난히 많이 쏟아지는 것 같다고 느껴진다. 문득 이런 생각이 들었다. ‘기자들이 조회수 높이는 제목, 공유 수를 늘릴 수 있는 글쓰기 방식 같은 교육을 받는게 분명해...’
이러한 정보들을 받아들이고 판단하는데 있어서 나 자신이 어떻게 사고하는지 돌아볼 필요가 있었다. 내가 겪었던 많은 사람들과 나 자신도 처음 접하는 정보에 대해 아래와 같은 심리학적 특성을 보이는 것 같다.

사고가 처음 접한 정보에서 크게 벗어나지 못하고 영향을 받게 되는 ‘앵커링 효과’ (사람들은 어떤 판단을 하게 될 때 최초 습득한 정보가 기준이 되어 그 기준과 조건에서 크게 벗어나지 못하는 경향이 있는데 이를 행동경제학에서 ‘앵커링 효과’라고 한다.)
그러한 정보를 바탕으로 의견을 피력하게 되고 행동하게 되면 그 짓(?)을 계속 하려는 모양새를 보이는 ‘일관성의 법칙’ ( 사람들이 지금까지 행동해 온 것과 일관되게 보이도록 행동 하려하는 맹목적인 욕구가 있고 이러한 욕구는 인간 행동을 결정짓는 가장 중요한 동기이며, 경우에 따라서는 그런 사람들로 하여금 스스로 이익에 반하는 행동을 하게 만드는 것을 심리학에서 ‘일관성’, ‘일관성의 법칙’이라고들 한다. )

그리고 ‘이거는 이거다’, ‘이거는 이거지!’ 라고 자신도 모르게 카테고리화(?) 하게 되는 ‘포지셔닝’ ( 사람들은 와인에 대해 잘 몰라도 프랑스 와인이 좋은 거라 생각하기 쉽고, 껌은 자일리톨이 이에 좋다 라고 생각하기 쉽다. 이를 심리학 마케팅(?)에서 ‘포지셔닝’이라고 한다. )
어깨넘어 알고 있는 심리학적 특성만 언급해 보았는데,
어떤 정보를 얻고자 할 때, 또는 어떤 정보를 얻었을 때 처음 접하게 되는 정보가 사실이든 사실이 아니든 의도하지 않아도 행동과 판단에 큰 영향을 미치게 된다. 즉, 어떠한 기준과 판단이 없기 때문에 처음 습득하게 되는 정보를 바탕으로 사고를 하게 되는 특성을 잘 이해하고 스스로 돌아볼 필요가 있다.

예를 들어, 처음 내가 친구에게 들었던 페이스북 연구진들이 채팅 봇 연구 중 당황했다던 스토리가 진짜가 아닌 사이비 인 것이다. 막말로 “내 친구 아는 언니가 설현이랑 동창이였는데 중학교 때 담배피고 장난 아니였데”라는 식의 이야기를 듣게 된다면 어떻게 될까. 사람은 저도 모르게 친한 지인이 (꼭 친하지도 않더라도) 하는 얘기에 어떠한 비판적 사고 없이 정보를 받아들이거나 맞장구를 치고 사실에 대한 검증 없이 믿게 되는 것이다. 특히 이런 류의 이야기 중 아주 자극적이고 나의 삶에 영향을 끼칠 수 있는 정보일수록 더욱 잘 받아들이고 기억에 잘 남게 되는 특징이 있다. 그래서 사람들은 SNS며, 기사며 내가 아는 내용을 더욱더 자극적이고 관심을 유도하기 위해 정보를 확대 재생산 하는 것이다.

친구의 그런 자극적인 이야기를 들으며 당장 오늘 내일 인간이 이해할 수 없는 언어로 자기들끼리 소통하는 로봇이 나오게 되고 인간에게 어떤 영향을 끼치게 될지 알 수 없어서 뭔가 굉장히 위협적이고 불안했지만, 알고보니 실상은 “실험 설계에서 벗어나 버려서 두번째 모델은 수정했다” 정도의 내용이였던 것이다…
모든 정보는 그것이 좋은 이야기든 나쁜 이야기든 한 면만 보고 섣부른 판단을 해서는 안되며, 제공된 증거와 추론을 검사하고, 사실들에 대해 판정을 내리는 과정을 거치는 비판적 사고가 필요하다.