인공지능은 왜 정치적일 수밖에 없는가 — 마크 코켈버그

이전부터 과학기술과 관련된 여러 책을 읽어왔다. 과학과 기술 그 자체뿐만 아니라, 과학기술이 사회에 미치는 영향과 그 과정에서 발생하는 가치판단의 문제에도 관심이 있었다. 그런 점에서 마크 코켈버그의 『인공지능은 왜 정치적일 수밖에 없는가』라는 제목은 자연스럽게 나의 흥미를 끌었다. 정치를 이야기할 때 이제는 기술을 함께 생각해야 한다. 오늘날 사회 현상과 정치적 문제를 이해하기 위해서는 과학기술을 빼놓을 수 없으며, 반대로 기술의 발전을 이해하는 데에도 정치적·사회적 맥락을 고려해야 한다. 결국 세상에서 일어나는 일들을 제대로 바라보기 위해서는 정치철학, 과학기술철학, 윤리학을 함께 살펴볼 필요가 있다.

정치철학에서는 자유, 평등, 정의, 민주주의, 권력, 규율, 감시 등의 주제를 다룬다. 그리고 과학기술의 발전은 이러한 문제들과 밀접하게 연결되어 있다. 새로운 기술이 등장하면 우리의 자유와 권리는 어떻게 달라지는가? 기술은 사회적 불평등을 줄이는가, 아니면 오히려 강화하는가? 기술을 통제하고 활용할 수 있는 권한은 누구에게 주어지는가? 이러한 질문을 따라가다 보면 과학기술의 발전은 단순히 기술적 성취의 문제가 아니라, 우리가 어떤 사회에서 살아갈 것인가에 관한 문제이기도 하다는 사실을 알 수 있다. 이 책은 현대 사회에 큰 영향을 미치고 있는 인공지능을 중심으로, 과학기술을 정치철학의 관점에서 바라보며 다양한 질문을 던진다.

인공지능은 이미 우리 사회 곳곳에 들어와 있다. 소셜 미디어의 추천 알고리즘부터 정보 검색, 의사결정 지원 시스템에 이르기까지 인공지능은 우리가 무엇을 보고, 어떤 정보를 접하며, 무엇을 선택하는지에 영향을 미친다. 그렇다면 우리는 과연 얼마나 자유롭게 판단하고 결정하고 있는 것일까? 물론 인공지능이 우리의 선택을 직접 강제하는 것은 아니다. 하지만 추천 시스템과 개인화된 콘텐츠는 특정한 정보에 더 자주 노출되도록 하거나, 특정한 행동을 유도할 수 있다. 이러한 영향이 반복되면 우리가 스스로 내렸다고 생각하는 결정조차 기술적 환경에 의해 상당 부분 형성되었을 가능성이 있다. 그렇다면 자유로운 의사결정이란 무엇이며, 기술은 어디까지 우리의 선택에 개입할 수 있는 것일까?

인공지능의 발전은 감시와 사생활 침해의 문제와도 연결된다. 인공지능을 학습시키고 활용하기 위해서는 대량의 데이터가 필요하며, 이 데이터를 수집하고 분석하는 과정에서 개인의 행동과 취향, 생활 패턴 등이 추적될 수 있다. 데이터 수집이 처음부터 감시를 목적으로 이루어지는 것은 아니더라도, 수집된 정보가 활용되는 방식에 따라 개인의 사생활과 자유가 침해될 가능성은 존재한다. 또한 머신러닝 시스템은 학습 데이터와 설계 방식에 따라 편향을 재생산하거나 강화할 수 있다. 겉으로는 객관적인 데이터와 알고리즘을 이용해 판단하는 것처럼 보이지만, 그 결과가 반드시 공정하거나 중립적인 것은 아니다. 오히려 기술적 판단이라는 외형 때문에 그 안에 포함된 편향과 가치판단이 쉽게 드러나지 않을 수도 있다.

이전에 소개했던 여러 책에서도 살펴보았듯이, 과학기술의 발전이 언제나 사회 전체의 진보로 이어지는 것은 아니다. 관련 글 1(https://steemit.com/krbook/@beoped/3vpnfam), 관련 글 2(https://steemit.com/krbook/@beoped/3qah79-ai)에서 다루었던 문제들과도 연결된다. 자동화와 디지털화는 생산성을 높이고 새로운 기회를 제공하지만, 동시에 사회경제적 불평등을 심화하거나 기존의 차별을 재생산할 수 있다. 네트워크 기술 역시 생산과 분배를 더욱 효율적으로 만들 수 있지만, 그 과정에서 발생하는 이익이 모든 사람에게 공평하게 돌아가는 것은 아니다.

결국 중요한 것은 기술이 얼마나 발전했는가만이 아니라, 그 기술을 누가 소유하고 통제하며 그 혜택과 비용을 누가 부담하는가 하는 문제다. 인공지능은 개인의 역량을 강화하는 수단이 될 수도 있다. 이전에는 많은 시간과 전문성이 필요했던 작업을 더 쉽게 수행할 수 있게 해주고, 개인이 가진 지식과 능력을 확장하는 데 도움을 줄 수 있다. 하지만 동시에 다른 사람과 사회, 나아가 자연환경에 영향을 미치는 인간의 힘을 더욱 크게 만들기도 한다. 기술을 활용할 수 있는 사람과 그렇지 못한 사람 사이의 격차가 벌어질 수도 있고, 기술을 통제하는 소수에게 권력이 집중될 수도 있다.

이처럼 인공지능은 단순히 인간의 능력을 확장하는 도구에 머물지 않는다. 사회의 권력관계와 자원의 분배, 개인과 집단 사이의 관계에도 영향을 미친다. 바로 이 지점에서 인공지능은 정치적인 문제가 된다.

이러한 문제는 민주주의와도 직접적으로 연결된다. 인공지능은 유권자에게 제공되는 정보를 개인별로 조정하거나, 허위 정보와 조작된 콘텐츠를 대량으로 생산하는 데 이용될 수 있다. 이는 시민들이 공적인 문제를 판단하고 토론하는 환경에 영향을 줄 수 있다. 더 나아가 기술의 도입과 활용에 관한 결정이 소수의 기업이나 권력자에게 집중된다면, 기술의 혜택을 누리는 사람과 그로 인해 영향을 받는 사람 사이에 큰 불균형이 생길 수도 있다.

기술이 사회에 미치는 부정적인 영향이 충분히 고려되지 않거나, 그러한 영향에 대한 책임을 묻기 어려운 상황에서는 기술을 통제하고 활용할 수 있는 주체의 권력이 더욱 강화될 가능성이 있다. 따라서 인공지능은 신자유주의적 자본주의나 권위주의를 비롯해 다양한 정치·경제 체제와 이데올로기를 뒷받침하는 수단으로 활용될 수 있다. 중요한 것은 인공지능 자체가 특정한 정치적 입장을 갖고 있다는 뜻이 아니라, 인공지능의 설계와 도입, 활용을 둘러싼 선택들이 이미 사회적 가치와 권력관계에 깊이 관여하고 있다는 점이다.

이렇듯 인공지능을 비롯한 과학기술은 정치와 분리해서 생각하기 어렵다. 기술은 우리가 살아가는 사회의 구조와 관계를 바꾸며, 그 변화는 다시 인간의 자유와 권리, 평등과 정의에 영향을 미친다. 따라서 과학기술의 발전을 논할 때는 기술적으로 무엇이 가능한지만 물을 것이 아니라, 그것이 어떤 사회를 만들어가며 그 과정에서 누가 이익을 얻고 누가 소외되는지도 함께 물어야 한다.

앞으로 수십 년, 혹은 수백 년 뒤에 등장할 과학기술은 인류 사회를 어떤 모습으로 바꾸어 놓을까? 그리고 그 변화가 어떤 방향으로 이루어질지는 기술의 발전만으로 결정되는 것일까, 아니면 지금 우리가 내리는 정치적·사회적 선택에도 달려 있는 것일까? 어쩌면 미래 사회의 모습은 기술이 얼마나 발전하느냐뿐만 아니라, 우리가 그 기술을 어떤 가치에 따라 개발하고 활용할 것인지에 따라서도 달라질 것이다.