인스타그램이 알고리즘을 걷어내겠다고 발표했습니다. 알고리즘의 폐해를 지적한 페이스북 페이퍼를 염두에 둔 결정입니다. 알려졌다시피 인스타그램의 알고리즘은 10대들의 정신건강에 위험하다는 것이 내부 논문 등을 통해 밝혀졌습니다. 인스타그램을 일약 비즈니스와 마케팅의 최우선 후보로 만들어줬던 알고리즘의 시대는 이렇게 1세대를 마감하게 됐습니다.

국내에선 카카오가 뉴스 배열 알고리즘을 포기하겠다고 했습니다. 내년 1월이면 알고리즘 기반으로 운영되던 다음앱의 뉴스탭에서 알고리즘이 큐레이션하는 결과를 더이상 볼 수 없게 됩니다. 네이버 뉴스의 My뉴스에서도 알고리즘 배열이 언제까지 지속될 수 있을지 예측하기 어려운 상황입니다. 이렇게 알고리즘은 사용자들의 불신의 대상으로 전락하면서 조금씩 힘을 잃어가는 분위기입니다. 특히 알고리즘이 사용자들의 삶에 실질적 영향을 많이 미치는 영역일수록 그 불신의 정도는 커져가고 있습니다. 이를 저는 알고리즘 불신의 시대라고 부르고 싶습니다.

불과 수년 전까지만 하더라도 적잖은 사용자들은 알고리즘에 찬사를 보냈습니다. 2019년 8월 한국언론진흥재단의 보고서(오세욱) '포털 등의 알고리즘 배열 전환 이후 모바일 뉴스 이용 행태’를 보면, 전문적인 사람이 편집한 기사 배열 방식보다 알고리즘 기사 배열을 더 신뢰한다는 응답이 70%를 차지했습니다. 특히 투명성 항목과 관련해서는 84.7%가 알고리즘이 더 낫다고 평했습니다. 이처럼 알고리즘에 대한 선호 경향이 강하게 나타났던 것이 불과 2년 전의 일입니다. 그러나 현재는 기사 배열 등에서 불신과 편향의 원인으로 알고리즘이 지목되고 있습니다.

사실 알고리즘은 애초부터 완벽할 수 없었습니다. 어떤 가치를 구현하고 어떤 문제를 효율적으로 해결하기 위해 설계됐는가가 알고리즘의 작동원리에 투영되기 때문입니다. 인간의 의도가 반영되고 편향이 개입되기 때문에 100%란 존재할 수 없었던 것이죠. 하지만 사람들은 알고리즘이 100% 완벽하길 기대했습니다. 보다 투명하고 보다 공정하길 기대했습니다. '알고리즘 불신'은 인간의 기대와 기계의 한계 간 불일치에서 비롯된 것이라 할 수 있을 겁니다.

알고리즘의 블랙박스
미디어는 이미 우리 일상을 잠식한 것도 모자라 현실과 다를 바 없는 가치를 지닌 가상 공간이다. 자동화 기술의 문제와 대안을 진짜 알고리즘 전문가에게 듣는다.

알고리즘 불신은 인간의 기대와 기계의 한계간 불일치에서 비롯

원인을 살피기 위해 2014년의 조셉 시몬스와 케이드 메시의 논문을 살펴보겠습니다. 이들 연구자들은 '알고리즘 불신'을 테스트하기 위해 작은 실험을 설계했습니다. 참가자들에게 'MBA 입학 데이터'를 제공하고 MBA 과정을 사람들이 얼마나 잘 수행했을 것으로 보이늕지 예측해보라고 했습니다. 정확하게 예측한 참가자에겐 소정의 상금도 주겠다고 했습니다. 참가자에겐 옵션이 있었는데요. 자신이 예측한 추정치를 제출하거나 혹은 알고리즘이 예측한 추정치를 제출할 수 있었습니다. 쉽게 말해 자신을 믿을 것이냐 알고리즘을 믿을 것이냐에 대한 선택권이 주어진 것이죠. 심지어 일부 알고리즘에 대해서는 이전의 예측 정확도가 표시되기까지 했습니다.

결과는 어땠을까요? 특정 알고리즘의 과거 예측 정확도를 확인했음에도 참가자들은 알고리즘에 베팅하지 않았습니다. 심지어 알고리즘의 우월성을 보여줬음에도 사람들은 알고리즘을 선택하지 않았습니다. 연구자들은 그 이유를 물었습니다. "인간은 연습과 실수로부터 학습하는데 있어 모델(알고리즘)보다 더 우월했기 때문"이라고 했습니다. 알고리즘도 실수를 통해 더 개선될 수 있는 특성을 보유하고 있었음에도 그들은 알고리즘을 믿지 않았습니다. 자신의 직관과 능력을 더 신뢰한 것입니다.

이 과정에서 참가자들은 알고리즘의 작동방식과 그것의 작은 오류를 확인할 수 있었습니다. 작은 오류임에도 불구하고 참가자들은 알고리즘을 믿지 않은 것입니다. 예측도 측면에서 인간보다 더 높은 정확성을 보여줄 정도로 미미한 오류임에도 그들은 알고리즘에 베팅을 하지 않았던 셈입니다.

100% 완벽 아니면 알고리즘을 믿지 않는다

이 결과가 상징하는 메시지는 명확합니다. 사람들은 알고리즘이 100% 완벽하길 기대한다는 사실입니다. 분명 인간보다 높은 성과와 결과를 보여주고 있음에도 100%가 아니라면 알고리즘을 믿지 않습니다. 이들 연구진은 이를 '알고리즘 혐오'라고까지 했습니다.

다음앱의 뉴스나 네이버의 My뉴스, 인스타그램의 배열 알고리즘은 동일 결과치를 놓고 인간의 그것과 비교평가를 했다면 여러 분야에서 더 높은 퍼포먼스를 보였을 겁니다. 하지만 사람들은 강한 불신의 신호를 보내고 있습니다. 바로 알고리즘 개입이 풀어야 할 중요한 숙제인 셈입니다.

흥미로운 사실은 그 이후에 발견됩니다. 이들 연구진은 알고리즘에 대해 인간의 통제권을 일부 부여하는 실험을 진행했습니다. 그때 다수의 응답은 "알고리즘을 사용하는 게 더 좋겠군요"였습니다. 이것이 무엇을 의미할까요? 현재의 사회적 압력으로 인해 알고리즘의 위상과 입지가 축소될 수밖에 없을 겁니다. 랜덤이든 최신순이든 단순 배열로 바뀔 것입니다. 하지만 이 상태로 오래 지속되지는 않을 겁니다.  메세이 교수가 "알고리즘이 존재하는 이유를 더 잘 이해할 때까지 아무 것도 처방할 수 없습니다"고 말한 것처럼 알고리즘의 효율과 한계를 명확히 이해하기 전까지만 유효할 것입니다. 그것의 비효율 그리고 기대 이하의 상업적 성과는 알고리즘을 다시 불러내게 될 것입니다.

알고리즘에 의한 배열이 다시금 우리 앞에 펼쳐진다면, 인간의 제어권과 조화를 이룬 모습이 아닐까 합니다. 인간에 의해 부분적으로 통제되는 모습으로, 협업의 일정 수준에서 전제되는 유형으로 나아가지 않을까 합니다. 이미 페이스북 알고리즘에 대한 비판의 대안으로 사용자 선택권의 확대가 꾸준히 논의된 바 있습니다. 하지만 여전히 실현이 되진 않고 있습니다. 설명가능한 알고리즘에 인간의 제어권이 개입될 수 있는 형태의 알고리즘이라면 지금과 같은 '알고리즘 불신', '알고리즘 혐오'는 완화될 수 있지 않을까 합니다.

기자나 알고리즘 설계자나 주어진 책임의 무게가 그리 다르진 않은 듯합니다.


더 읽어볼 거리

알고리즘 - 미디어고토사(Mediagotosa)
미디어 등에 적용된 알고리즘에 대한 분석 및 흐름을 소개합니다.