AI 이후의 세계

 

'AI 이후의 세계'를 읽고 정리한 내용을 공유합니다.

이 책을 선택한 이유

최근 Chat GPT의 경영진 교체 등의 이슈가 있어 관심이 가던 중 무엇 때문에 이 기술을 가진 외국의 한 기업의 경영진 교체가 이렇게 이슈가 되고 중요하게 다루는지, 이 기술로 다가올 미래는 어떠한지 궁금하여 읽게 되었습니다.

 

[출처 : 교보문고]

책 소개

인간과 기계의 협응

인쇄기가 인간의 생각을 활발히 유통했다면, 생성형 인공지능은 인간의 생각을 정제하고 정련한다. 그 과정에서 지식과 이해 사이에 틈이 벌어지는데, 이런 변화에 잘 대응하려면 ‘인간의 사고’, 그리고 ‘인간과 기계의 협응’이라는 개념이 새롭게 정의돼야 한다. 이는 인공지능 시대에 가장 중요한 숙제다.

인간의 능력을 시험하는 AI 시스템

복잡한 AI 시스템은 결과를 도출하기만 할 뿐 어떤 이유나 과정으로 그에 이르렀는지는 설명하지 않는다. 따라서 각 표현체의 요소가 구체적으로 어떤 출처에서 비롯됐고 어떤 이유로 형성됐는지는 알 수 없다. 이 학습형 기계가 어떻게 지식을 저장하고, 정제하고, 인출하는지도 역시 알 수 없다. 그래서 머신러닝에 얽힌 미스터리는 언제가 될지 모를 미래까지 인간의 인지 능력을 시험할 것이다.

마냥 믿을 수 없는 챗GPT

AI가 만드는 모델의 답변이 일견 완벽하므로 그 결과물을 과신하는 경향이 나타날 것이다. 이미 우리는 AI에 비하면 미개한 컴퓨터 프로그램에 의존하는 ‘자동화 편향’ 문제를 겪는 중인데 챗GPT는 이럴 더 강화할 전망이다. 또한, 챗GPT의 답변에는 인용문이 존재하지 않아서 진실과 허위 정보를 분간하기 어렵다. 이미 인터넷에는 악의적으로 날조된 ‘사실’이 대량으로 살포되고 있는데 챗GPT는 이 인터넷을 현재에도 미래에도 학습 자료로 사용할 것이다. 챗GPT는 질문에 답하도록 설계됐기 때문에, 조리 있는 답변을 제시하기 위해 간혹 없는 사실을 만들어 내기도 하기 때문이다.

 

지식 왜곡의 위험성

챗GPT에 동일한 질문을 입력해도 시간이 지나면 답이 달라질 수 있다. 현재 챗GPT가 학습에 사용하는 정보 기반은 일정한 시점에 고정되어 있다. 그러나 조만간 개발자들이 새로운 입력을 받을 수 있게 한다면 결국 챗GPT는 끊임없이 투입되는 실시간 정보를 소비할 것이다. 그러면 모델의 시의성과 정확성이 커지는 대신 사용자는 빠른 변화 때문에 결과의 변동 폭이 커지는 현상을 감수해야 한다. 인간이 작성한 텍스트만 아니라 생성형 AI의 변화무쌍한 출력물까지 모델의 학습 자료가 된다면 기존에 인간이 보유한 지식이 왜곡될 수도 있다.

무의식적 편향 완화 연습

우리는 사람들이 생성형 AI의 상호작용성에 선뜻 의문을 제기하도록 정교한 변증법을 속히 마련해야 한다. 그렇게 의문을 던지는 목적은 단순히 AI의 답변을 정당화하거나 설명하기 위해서가 아니라 조사하기 위함이다. 우리는 연합된 회의주의하에서 AI를 체계적으로 검사해 그 답변이 과연 온전히 믿을 만한지, 혹은 어디까지 믿을 만한지 판단하는 능력을 길러야 한다. 그러자면 우리의 무의식적 편향을 의식적으로 완화하며 엄격히 훈련하고 부단히 연습해야 한다.

강력한 원칙의 필요성

강력한 도덕적·전략적 지도체계가 필수다. 원칙이 없으면 인류는 전제 혹은 무질서, 즉 무제한적 권력의 지배 혹은 허무주의적 자유라는 위험에 처할 수 있다. 또한, 도덕적·지성적 기초가 탄탄히 잡히지 않으면 통치에 활용되는 기계가 인간성을 증진하긴커녕 지배하면서 우리를 영영 함정에 빠뜨릴 것이다. 따라서 우리는 임박한 미래를 손안에 둬야 한다. AI를 신뢰하려면 그 정확성과 안전성, AI와 인간의 목적 일치성, AI 운용자의 책임감이 개선돼야 하며 기계가 여전히 주체가 아닌 객체로 남게 하여 우리의 인간성을 보전해야 한다. 특히 교육 및 직업 체계에서 인간만이 유일하게 종합적 판단을 내릴 수 있는 도덕적·심리적·전략적 존재라는 인식이 유지돼야 한다.

 

 

 

이 책은 급속도로 발전하고 있는 AI 기술에 대해 우려를 나타내며
어떠한 방향으로 이 기술을 받아들이고 통제해야 할지 알려주고 있습니다.
이전 시대에서 정보의 유통부터 철학적인 접근을 통해
기술과 인간의 근원적 부분에서 설명을 시작하며
앞으로 어떻게 균형을 맞춰 나가야 할지 방향을 제시하고 있습니다.
AI 발전과 이에 따른 인간의 책임감과 방향성에 대해
저자의 생각을 더 깊이 알고 싶은 사람에게 추천합니다.

 

 

미래 변화와 관련된 책을 청랑이 추천합니다.

 

1%를 읽는 힘