바로 어제, 중국사이버공간청(CAC)이 '인터넷정보 서비스 알고리즘 종합 관리강화에 관한 지침'을 발표했습니다. 실제 확정된 것은 지난 9월 17일의 일입니다. 이 지침을 바탕으로 향후 3년간 구체적인 안을 구축하는 작업에 돌입할 것이라고 합니다.

국내 상황에 비교해 주목할 만한 포인트는 대부분 '알고리즘 생태계 규범의 발전 촉진'에 포함돼 있습니다. 번역된 전문을 그대로 긁어오면 아래와 같습니다.(번역기를 사용했기에 오역이 있을 수 있습니다.)

  1. 알고리즘의 올바른 방향을 설정 : 사회주의 핵심 가치를 홍보하고 알고리즘을 적용할 때 올바른 정치 방향, 여론 지향, 가지 지향을 고수해야 한다. (긍정적 에너지의 보급)
  2. 개방적이고 투명한 알고리즘을 촉진 : 기업이 알고리즘의 기본 원칙, 최적화 목표, 의사결정 기준 및 기타 정보를 적시에 합리적이고 효과적인 방식으로 공개하도록 감독하고 촉구하며 알고리즘 결과를 설명하고 불만을 제기할 수 있는 경로를 명확하게 하며 사회적 의심을 없애고 홍보함으로써 건강한 알고리즘의 개발을 촉진한다.
  3. 알고리즘의 혁신과 개발을 장려 : 알고리즘 혁신 능력을 향상하고 알고리즘 연구 개발을 적극적으로 수행하며 알고리즘과 사회 및 경제 분야의 심층 통합을 지원한다.
  4. 알고리즘 남용의 위험을 방지한다 : 알고리즘을 사용해 여론에 간섭하고 경쟁자를 억압하고 네티즌의 권익을 침해하는 것을 방지하고, 이것의 남용이 사상이나 경제발전 및 사회관리를 침해해서는 안된다.
알고리즘의 종류와 작동 원리
https://www.academia.edu/42907575/The_Nooscope_Manifested_Artificial_Intelligence_as_Instrument_of_Knowledge_Extractivism 2018년 어딘가에서 발표했던 자료인데, 기억이 잘 나질 않네요. 일단 미디어고토사에도 올려둡니다. 알고리즘의 정의 로렌스 레식 하버드 로스쿨 교수는 “코드는 사이버 공간의 법”이라고 했다. 인터넷이 코드에 의해 건축되고 코드의 통제를 받으며 코드에 의해 인터넷의 일상이

국내 알고리즘 투명성 논의와 관련해 주목할 점

저는 2가지를 주목하고 싶습니다.

  • 알고리즘과 정치의 관계 : 저는 자주 알고리즘은 코드 권력이라는 표현을 사용해 왔습니다. 알고리즘은 사회 그리고 정치와 분리되기 어렵고, 그 자체가 하나의 권력으로서 기능할 수 있다는 점 때문입니다. 사용자가 보는 듯, 읽는 것, 소비하는 것 모든 분야를 통제할 수 있기에 '책임성'은 늘 중요한 문제일 수밖에 없죠. 중국은 이러한 알고리즘 권력이 자신들의 근본 사상 특히 '시진핑 신시대 중국 특색 사회주의 사상'을 침범해서는 안된다는 점을 명확히 하고 있습니다.  자유로운 개발을 보장하겠지만 그것의 최종 범주가 중국 특색 사회주의 사상을 벗어나서는 안된다고 가이드라인을 세운 것입니다. 이는 곧 이 사상에 포함된 '하나의 중국' 정책과 공간당의 지도력을 알고리즘이 침해하거나 훼손해서는 안된다는 메시지이기도 할 겁니다. 알고리즘을 통해 사회와 정치 질서의 혁신과 개편을 모색한다면 방치하지 않겠다는 의미이기도 할 겁니다.
  • 알고리즘 투명성의 범주 : 국내에서도 알고리즘 투명성에 대한 다양한 논의들이 오가고 있습니다. 핵심은 투명성의 범주에 있다고 할 겁니다. 중국 정부는 알고리즘 투명성을 위해 공개의 범위를 어느 정도 명확히 하고 있습니다. 기본 원칙, 최적화의 목표, 의사결정 기준, 기타 정보의 적시/합리적 공개 등입니다. 여기에 덧붙여 알고리즘 설명성의 강화도 못 박고 있습니다. 조금더 눈에 띄는 대목은 사용자가 불만 등을 제기할 수 있는 경로를 명확하게 명시하라고까지 제시했습니다. 현재 국내 논의 수준에서 알고리즘 투명성과 공개가 대부분 소스 코드 중심으로 집중되고 있는 것과는 조금은 결이 다르다고 할 것입니다. 아마 기타 정보에는 인풋이나 아웃풋 데이터의 공개가 포함돼 있을 확률이 높긴 하겠지만 꽤나 명료한 지침을 제시하고 있는 것이 눈길을 끕니다. 특히 알고리즘의 최적화 목표나 의사결정 기준은 알고리즘 설계자들 사이에서만 오가는 감춰진 정보일 가능성이 높은데요. 이를 투명하게 공개하게 함으로써 '무엇을 위한 알고리즘인가'를 사용자들이 이해하도록 조치하고 있습니다. 이 잣대를 국내 뉴스 배열 알고리즘이나 영상 추천 알고리즘에 적용한다면 알고리즘 작동 로직에 대한 적잖은 오해들이 풀려나갈 수도 있지 않을까 합니다.

요약 : 알고리즘은 사회주의 사상 넘봐선 안된다

[번역] 기자가 알고리즘을 체계적으로 비판할 수 있는 방법
알고리즘 비판을 염두에 두고 있는 기자들에게 저는 이 논문이 그 힌트를 제공할 뿐 아니라 구체적인 방법론을 제시

중국의 알고리즘 거버넌스 지침은 중국의 사회주의 사상을 강력하게 견지하는 원칙 하에서 사용자의 권익을 보장하되, 나머지의 개발은 전세계적 경쟁력을 갖추도록 돕겠다는 것으로 보입니다. 알고리즘을 통해 사회주의 사상의 훼손을 넘보지 말라는 경고를 보내면서 자유로운 개발을 촉진하겠다는 의도죠. 대신 해당 알고리즘이 이 원칙을 잘 준수하는지 감독은 강력하게 하겠다는 의지도 내보이고 있습니다.

유럽권 알고리즘 책임성 논의와 비교하면서 읽어 볼 가치가 있어 간략하게 정리해봤습니다.