[독서일기] 새로운 질서steemCreated with Sketch.

in #kr • 19 days ago

Screenshot_20261102_180633.jpg
이미지 출처: 네이버 글감 검색

저자 : 헨리 키신저, 에릭 슈밋, 크레이그 먼디




"AI 이후의 생존 전략"

AI를 인간답게 만들 것인가, 우리가 AI를 닮아갈 것인가?

정치, 경제, 과학의 거인들이 통찰한 인공지능 시대 멸종과 공존의 시나리오




원서는 2024년 발간된 "Genesis: Artificial Intelligence, Hope, and the Human Spirit"

동일 저자들이 2023년에 발간한 책 "AI 이후의 세계"에 이어 유사한 주제로 또 발간된 책이다.

헨리 키신저는 2023년 11월, 100세를 일기로 생을 마감했다.

이 책은 헨리 키신저 사망 후 출간된 그의 유작이다.




저자들은 '새로운 시대에 기계 기술과 공생하며 살게 될 인간종 호모 테크니쿠스의 출현'을 예견한다.





아래부터는 책을 읽으며 기록해 둔 본문의 문장들 중 일부



기술 발전은 양날의 검으로, 그 편익과 해악은 인류가 그것을 어떻게 이용하기로 결정할지에 달렸다.

AI는 무수한 면에서 핵분열과 다르다.

그러나 우리가 이 신기술을 잠재적으로 파괴적인 목적이 아닌 더욱 생산적인 목적을 이루기 위해 사용할 거라는 추정은 상당히 큰 오류다.




AI가 제기하는 가장 큰 위험이란 그것을 이해했다고 지나치게 서둘러 혹은 단호하게 선언하는 것이다.




많은 이들이(대중이나 전문가나) 모두 이 새로운 AI 시대가 품은 중요한 측면을 여전히 간과한다.

새로운 AI의 존재와 그에 대한 인류의 대응이 정말 많은 것을 변화시킬 수 있다는 사실 말이다.




오늘날 기술은 이미 그 기술의 발명가들이 예측하지 못한 방식으로 기능하며, 이 패턴은 지속될 것이다.




인간이 생각하기 위해 학습하듯이 기계는 추론하기 위해 훈련한다.

훈련이 없으면 추론도 할 수 없다.




오늘날 AI 시대에 우리는 새롭고 유독 어려운 도전 과제에 직면했다.

바로 설명이 없는 정보다.

(...) 일부 AI 시스템은 '블랙박스'로 언급되기도 한다.

간단히 말해 머신러닝으로 훈련된 모델은 인간이 새로운 발견(모델의 출력값)을 알게 해주지만, 그 발견이 이루어진 방법(모델의 내부 과정)을 이해하게 허용하지는 않는다.




AI가 속도, 다양성, 규모, 해상도에서 인간 뇌를 추월하여 인간이 지금까지 그려온 지능의 위계를 재편할 거라고 확신한다.




AI가 물리적 실체를 갖추면 인류는 통제권을 AI에 대폭 이양하게 될 것이다.




개방되고 분산되었든 아니면 폐쇄적이고 집중되었든 어느 시점엔가 AGI로 운용되는 컴퓨터들이 네트워크로 연결될 수 있다.

전문가인 AI 에이전트가 주제를 넘나들면서 서로에게 의견을 구하고 제시하며 가상의 상황에서조차 '대화'를 할 것이다.

이러한 상호작용에 사용되는 언어는 컴퓨터가 스스로 설계할 것이다.




문제는 누구도 AI의 작동 원리를 정확히 모른다는 점이다.




AI가 인간이 종래에 상상하지 못한 결정을 내린다면, 그것을 정정하거나 무시할 근거가 인간에게는 없다.




군사 전략의 재조정부터 외교술의 재편에 이르기까지 AI는 세계 질서를 결정짓는 요인이 될 것이다.

두려움도 선호도 없는 AI는 전략적 의사결정에 객관성이라는 새로운 가능성을 선사한다.

하지만 그 객관성은 전쟁주의자와 평화주의자 모두 이용하므로 힘이 책임감 있게 행사되려면 반드시 인간 지혜의 주관성을 보존해야 한다.




AI가 구동하는 무기는 유례없이 정확할 것이다.

기계는 적은 불확실성과 무제한의 영향력으로 인간을 고도로 정확하게 사살하는 능력을 보유하게 될 것이다.

잠재적으로 얼마나 파괴할지는 오직 인간과 기계의 의지와 제약에 달렸다.

그렇다면 AI 시대의 전쟁은 대체로 적의 역량이 아니라 적의 의도가 무엇인지, 전략을 잘 적용했는지에 대한 평가로 귀결될 것이다.

핵 시대에 우리는 이미 어떤 의미에서 그러한 단계에 진입했다.




다가올 시대에는 구각 시민권보다 종파가 정체성과 충성심의 더 유의미한 원천으로 증명될 수 있다.

기업 동맹이 지배하든 느슨한 종교 집단으로 분산되든, 미래에 각 집단이 제 것이라 주장하고 다툴 새로운 '영토'는 투지가 아니라 개별 사용자의 충성도를 나타내는 디지털 기기가 될 것이다.




AI에게 우리가 더는 하지 않아도 되는 일을 대신 하게 지시할 수 있으며, 바로 그렇기 때문에 우리는 원하는 일을 할 수 있다.

풍요에 적응하는 일은 아마도 영구적인 과제라기보다 전환의 문제다.

시간이 흐르면 인간은 아마도 새로운 방식으로, 혹은 AI의 동반자로서 인내하며 노력하기로 선택하여, 퇴보를 피하고 사상가와 행동가로서 뛰어난 역량을 발휘할 것이다.




실로 AI 덕분에 의학이 치료 중심에서 예방 중심으로 전환하여 아예 치료할 필요가 줄어들리라 크게 기대된다.




우리는 AI와 융합됨으로써 생물학이 우리에게 준 계산 능력을 수백만 배나 증대시킬 것이다.

그 결과로 우리의 지능과 의식은 상상할 수 없을 만큼 크게 확대될 것이다.

이 사건이 바로 '특이점'이다. - 레이 커즈와일



​2026.11.02.